FCC telah mengajukan denda sebesar $6 juta bagi individu yang menggunakan teknologi kloning suara untuk meniru Presiden Biden dalam serangkaian robocall yang melanggar hukum selama pemilihan pendahuluan di New Hampshire. Meskipun fokusnya lebih mengarah pada robocall dibandingkan AI, agensi ini jelas memposisikan hal ini sebagai tindakan peringatan untuk mencegah potensi penipu teknologi tinggi lainnya.

Ingatlah pada bulan Januari, ketika banyak pemilih di New Hampshire menerima telepon yang konon dari presiden, yang menyarankan agar tidak memberikan suara pada pemilihan pendahuluan mendatang. Ini adalah sebuah rekayasa—replikasi suara Presiden Biden yang dibuat menggunakan teknologi yang tersedia dan telah meningkat pesat dalam beberapa tahun terakhir.

Meskipun membuat suara palsu sudah lama bisa dilakukan, platform AI generatif telah membuatnya sangat mudah: Banyak layanan menawarkan suara yang direplikasi dengan batasan minimal. Menyusun suara Biden Anda sendiri kini menjadi tugas yang mudah, hanya memerlukan satu atau dua menit pidatonya dan dapat diakses secara online.

Namun, apa yang secara tegas dilarang oleh FCC dan beberapa lembaga penegak hukum memanfaatkan suara Biden yang dibuat-buat ini untuk menekan pemilih melalui robocall ilegal.

“Kami akan bertindak cepat dan tegas untuk memastikan bahwa pelaku kejahatan tidak dapat menggunakan jaringan telekomunikasi AS untuk memfasilitasi penyalahgunaan teknologi AI generatif untuk mengganggu pemilu, menipu konsumen, atau membahayakan data sensitif,” kata Loyaan Egal, kepala Biro Penegakan FCC.

Pelaku utama “konsultan politik” Steve Kramer, bersama dengan Life Corporation yang meragukan dan layanan perusahaan telekomunikasi yang dipertanyakan seperti Lingo, yang sebelumnya didakwa melakukan robocall ilegal, diduga telah melanggar beberapa aturan. Meskipun demikian, saat ini tidak ada proses pidana terhadap mereka atau kaki tangan mereka karena kewenangan FCC yang terbatas, sehingga memerlukan kolaborasi dengan penegak hukum lokal atau federal.

Meskipun usulan denda sebesar $6 juta tampak besar, jumlah sebenarnya yang dibayarkan seringkali lebih rendah karena berbagai alasan. Kramer sekarang harus mengatasi tuduhan tersebut, sementara tindakan terpisah sedang dilakukan terhadap Lingo dan afiliasinya, yang berpotensi mengakibatkan denda atau pencabutan lisensi.

Setelah insiden tersebut, suara-suara yang dihasilkan oleh AI secara resmi dianggap ilegal untuk digunakan dalam robocall pada bulan Februari, seperti yang dipicu oleh kasus tersebut, sehingga mendorong FCC untuk mengkategorikannya sebagai “buatan”.

Lihat yang lain berita AI dan peristiwa teknologi dengan benar di sini di AIfuturize!