A FCC apresentou uma penalidade de $6 milhões para o indivíduo que empregou tecnologia de clonagem de voz para imitar o presidente Biden em uma sequência de ligações automáticas ilegais durante as primárias de New Hampshire. Embora o foco se concentre nas chamadas automáticas em vez da IA, a agência está evidentemente a posicionar isto como uma medida de precaução para dissuadir outros potenciais fraudadores de alta tecnologia.

Lembremo-nos de Janeiro, quando numerosos eleitores de New Hampshire receberam telefonemas supostamente do presidente, desaconselhando a votação nas próximas primárias. Isto foi uma invenção – uma réplica da voz do Presidente Biden, criada com recurso a tecnologia prontamente disponível que surgiu nos últimos anos.

Embora a criação de vozes falsas já seja viável há muito tempo, as plataformas generativas de IA tornaram isso extremamente fácil: vários serviços oferecem vozes replicadas com restrições mínimas. Criar a sua própria voz de Biden é agora uma tarefa trivial, exigindo apenas um ou dois minutos dos seus discursos, facilmente acessíveis online.

No entanto, o que é explicitamente proibido pelo FCC e várias agências de aplicação da lei estão utilizando essa voz fabricada de Biden para suprimir os eleitores por meio de ligações automáticas ilegais.

“Agiremos de forma rápida e decisiva para garantir que os malfeitores não possam usar as redes de telecomunicações dos EUA para facilitar o uso indevido da tecnologia generativa de IA para interferir nas eleições, fraudar consumidores ou comprometer dados confidenciais”, afirmou Loyaan Egal, chefe do Gabinete de Execução da FCC.

O principal culpado, o “consultor político” Steve Kramer, juntamente com a duvidosa Life Corporation e os serviços de empresas de telecomunicações questionáveis como a Lingo, anteriormente acusadas de chamadas automáticas ilegais, supostamente violaram várias regras. No entanto, atualmente não há processos criminais contra eles ou seus cúmplices devido à autoridade limitada da FCC, sendo necessária a colaboração com as autoridades locais ou federais.

Embora a multa proposta de $6 milhões pareça substancial, o montante real pago é muitas vezes inferior por vários motivos. Kramer deve agora abordar as alegações, enquanto ações separadas estão sendo movidas contra Lingo e suas afiliadas, potencialmente resultando em multas ou licenças revogadas.

Após o incidente, as vozes geradas por IA foram oficialmente consideradas ilegais para uso em chamadas automáticas em fevereiro, conforme solicitado pelo caso, o que levou a FCC a categorizá-las sensatamente como “artificiais”.

Confira o outro Notícias sobre IA e eventos de tecnologia certos aqui no AIfuturize!