La FCC a proposé une amende de $6 millions à l'individu qui a utilisé la technologie de clonage vocal pour imiter le président Biden lors d'une séquence d'appels automatisés illégaux lors d'une primaire du New Hampshire. Bien que l’accent soit mis sur les appels automatisés plutôt que sur l’IA, l’agence le positionne évidemment comme une mesure de prudence pour dissuader d’autres fraudeurs potentiels de haute technologie.

Rappelez-vous le mois de janvier, lorsque de nombreux électeurs du New Hampshire ont reçu des appels prétendument du président, déconseillant de voter lors des prochaines primaires. Il s’agissait d’une fabrication – une réplique vocale du président Biden conçue à l’aide d’une technologie facilement disponible qui s’est développée ces dernières années.

Bien que la création de fausses voix soit réalisable depuis longtemps, les plates-formes d’IA générative ont rendu cela remarquablement simple : de nombreux services proposent des voix répliquées avec un minimum de restrictions. Créer votre propre voix Biden est désormais une tâche triviale, ne nécessitant qu’une minute ou deux de ses discours, facilement accessibles en ligne.

Cependant, ce qui est explicitement interdit par le FCC et plusieurs organismes chargés de l’application des lois utilisent cette voix fabriquée de Biden pour supprimer les électeurs au moyen d’appels automatisés illégaux.

"Nous agirons rapidement et de manière décisive pour garantir que les mauvais acteurs ne puissent pas utiliser les réseaux de télécommunications américains pour faciliter l'utilisation abusive de la technologie de l'IA générative afin d'interférer avec les élections, frauder les consommateurs ou compromettre les données sensibles", a déclaré Loyaan Egal, chef du bureau d'application de la FCC.

Le principal coupable, le « consultant politique » Steve Kramer, aux côtés de la douteuse Life Corporation et des services d'entreprises de télécommunications douteuses comme Lingo, précédemment accusées d'appels automatisés illégaux, aurait violé plusieurs règles. Néanmoins, aucune procédure pénale n'est actuellement engagée contre eux ou leurs complices en raison de l'autorité limitée de la FCC, nécessitant une collaboration avec les forces de l'ordre locales ou fédérales.

Même si l'amende proposée, de 1,4 million de dollars, semble substantielle, le montant réel payé est souvent inférieur pour diverses raisons. Kramer doit maintenant répondre à ces allégations, tandis que des actions distinctes sont engagées contre Lingo et ses sociétés affiliées, pouvant entraîner des amendes ou la révocation de licences.

À la suite de l’incident, les voix générées par l’IA ont été officiellement jugées illégales pour une utilisation dans les appels automatisés en février, comme l’a motivé l’affaire, ce qui a incité la FCC à les classer judicieusement comme « artificielles ».

Découvrez l'autre Actualités sur l'IA et événements technologiques ici dans AIfuturize!