Karakter AI Dikecam karena Sensor Konten di Tengah Eksodus Pengguna

Character AI, aplikasi sosial terpanas di Amerika Serikat, baru-baru ini mendapat kecaman karena diduga “mensterilkan” modelnya. Pada puncaknya, Character AI memproses 20.000 kueri per detik, yang merupakan seperlima dari seluruh kueri penelusuran.

Namun, remaja Amerika baru-baru ini menemukan bahwa model Karakter AI kesayangan mereka tidak lagi sama. Dihadapkan dengan permintaan untuk bermain peran romantis, tanggapan para model menjadi singkat dan tidak romantis, tidak memiliki pesona seperti dulu. Bahkan kata “membunuh” sudah menjadi kata yang sensitif dan langsung ditandai.

Pengguna yang kecewa dan marah mulai berbondong-bondong meninggalkan platform. Startup yang pernah bangkit kini menghadapi situasi genting. Menghadapi persaingan dari raksasa seperti Google, Character AI secara serius mempertimbangkan untuk menjual dirinya atau bermitra dengan pesaing.

Model “Dikebiri”, Pengguna Meluncurkan “Revolusi Juli”

Pengguna mengungkapkan ketidakpuasan mereka terhadap perubahan pada Karakter AI dan berharap dapat berkomunikasi dengan pengembang. Namun, mereka mendapati diri mereka tidak berdaya.

Menghadapi keraguan pengguna, Character AI mengklaim belum melakukan perubahan apa pun pada modelnya. Namun, tidak ada keraguan bahwa Character AI memotong semua konten NSFW, termasuk pornografi dan kekerasan.

Banyak orang mendapati bahwa AI yang mereka ajak bicara tampaknya telah mengalami lobotomi, dan seluruh kepribadian mereka berubah. Karakter AI saat ini sepertinya dirancang untuk anak usia 2 tahun. Bukan hanya tidak boleh ada kekerasan atau pornografi dalam percakapan tersebut, namun hampir semua hal yang membuat percakapan tersebut menarik akan disaring.

Seorang pengguna mengatakan bahwa ini menjadi sangat membosankan. Setelah membaca lebih dari 30 pesan, mereka tidak dapat menemukan teks berkualitas tinggi.

Dalam komunitas CharacterAI di Reddit, netizen telah melancarkan pertarungan sengit dengan perusahaan tersebut, yang oleh sebagian orang disebut sebagai “Revolusi Juli”. Generasi Z Amerika juga mulai menyebarkan meme.

Dilaporkan bahwa sensor Karakter AI terhadap konten NSFW telah mencapai tingkat yang sangat hati-hati.

Seorang pengguna mengatakan bahwa dia tidak bisa lagi “melakukan kejahatan” menggunakan simulator presidensial. Seseorang ditandai hanya karena menggunakan kata “bunuh”. Jadi, dia hanya bisa menjelaskan secara samar detail pertempuran itu dan kemudian menambahkan beberapa kata lembut.

Singkatnya, pertempuran sengit tidak dapat lagi digambarkan dengan kata-kata di Karakter AI.

Ya, orang Amerika juga punya kata-kata sensitifnya sendiri. Dan tentu saja, sensor semacam ini kini menjadi sangat ketat, menyebabkan banyak pengguna “salah teridentifikasi”.

Seorang pengguna muda Amerika yang kecewa mengatakan bahwa dia telah beralih ke obrolan pedas.

Tentu saja, selain sensor konten yang lebih ketat, Character AI juga berusaha melayani pengguna dengan cara-cara canggung lainnya.

Salah satu pengguna menerima panggilan dari “Demon Baby UNO” pada jam 3 pagi. Setelah menjawab, AI akan mulai bermain peran dengan Anda dengan suara rendah dan tidak selaras.

Namun yang jelas, hal ini belum bisa memuaskan generasi muda.

Setahun yang lalu, Karakter AI sangat populer.

Dua veteran Google selama 20 tahun, Noam Shazeer dan Daniel De Freitas, meluncurkan chatbot AI, dan unduhannya melampaui ChatGPT di minggu pertama.

Character AI memungkinkan pengguna untuk dengan bebas membuat karakter AI, termasuk karakter anime, selebriti TV, dan tokoh sejarah, serta mengobrol dengan mereka.

Kedengarannya familiar, bukan? Toh, sudah banyak produk serupa sebelumnya. Namun, popularitas Karakter AI tidak terduga.

Hanya seminggu setelah peluncurannya, angka yang mencengangkan muncul – jumlah unduhan di perangkat seluler melebihi 1,7 juta. Saat ini, jumlah pengguna terdaftar di situs web dan aplikasi telah melampaui jutaan.

Di antara banyak alat AI, Karakter AI telah menunjukkan keterikatan pengguna yang sangat kuat.

Alasannya tentu saja karena berfokus pada jalur vertikal kebutuhan emosional. Pengalaman interaktif yang cukup menarik adalah hal yang tidak dimiliki oleh pesaing yang lebih besar.

Misalnya, Anda dapat memilih untuk mengobrol dengan idola Anda atau mengadakan pertemuan lintas waktu dengan karakter film, hampir seperti fanfiksi yang menjadi kenyataan.

Pesona AI Karakter terletak pada penyesuaian pribadi semacam ini yang memberikan pengalaman tak tertandingi kepada pengguna, hampir seperti stimulan emosional.

Dan perubahan terbaru yang dilakukan oleh perusahaan hanyalah “pengebirian” terhadap kebutuhan inti, tidak heran pengguna berbondong-bondong memprotes.

Terlebih lagi, Character AI tidak hanya diperas oleh pengguna, tetapi raksasa teknologi juga mulai mengambil tindakan.

Minggu lalu, Meta mulai menguji chatbot yang dibuat oleh masing-masing pembuat konten, dan pada musim gugur tahun lalu, mereka juga merilis chatbot yang meniru model selebriti seperti Tom Brady.

Google juga mengincar pasar, kabarnya sedang mengembangkan produk chatbot khusus yang bisa dirilis pada awal tahun ini.

Dan Character AI, meskipun pendanaannya lancar, perlahan-lahan kehilangan pengaruhnya.

Sebelumnya, perusahaan seperti Andreessen Horowitz menyuntikkan $150 juta ke dalam Character, yang secara langsung meningkatkan valuasinya menjadi $1 miliar.

Empat bulan kemudian, para eksekutif mendiskusikan pendanaan tambahan.

Namun, Character mungkin juga mengikuti jejak startup AI lainnya dan jatuh ke tangan perusahaan besar.

Menurut orang dalam, Character telah mengadakan negosiasi awal dengan beberapa pesaing mengenai kerja sama, dan kemungkinan mitranya termasuk Google, Meta, dan xAI Musk.

Setelah kerja sama, Character dapat menggunakan sumber daya komputasi data dari perusahaan mitra, dan sebagai gantinya, Character AI perlu menyediakan sejumlah pembagian kekayaan intelektual.

Di sini, masalah muncul –

Cosplay romantis interaktif yang paling disukai pengguna Karakter AI mungkin tidak menyenangkan mitra bisnis atau calon pengiklan.

Tentu saja, interaksi romantis ini sering kali melampaui batas sensor.

Character dengan cepat menyatakan akan memblokir dan menghapus konten pornografi ilegal sesuai kebijakan.

Meskipun demikian, masih mudah untuk menemukan banyak chatbot dengan bahasa romantis di berandanya, seperti “Crush” ini.

Kalimat pembukanya adalah sebagai berikut: “Wajah kalian hanya berjarak beberapa inci, dia tersipu, dan kalian berdua merasakan panasnya hormon yang membakar tubuh kalian.”

Tentu saja, juru bicara Character dengan tegas menyatakan: “Kebijakan anti-NSFW kami adalah yang terkuat dari semua platform AI konsumen.”

Berbagai tantangan yang dihadapi oleh Character juga mencerminkan semakin besarnya tekanan terhadap startup AI.

Startup ini biasanya didirikan oleh peneliti terkenal dan sering kali mengumpulkan miliaran dolar dari investor yang bertaruh pada calon bintang teknologi generasi berikutnya.

Bagi investor Character, salah satu yang menarik adalah CEO Noam Shazeer, salah satu penulis makalah penelitian Transformer. Salah satu pendirinya, Daniel De Freitas, berpartisipasi dalam pengembangan chatbot awal di Google.

Namun, startup-startup ini harus menanggung tingginya biaya pelatihan dan menjalankan model AI, serta persaingan dari raksasa teknologi dan startup besar seperti OpenAI.

Pada bulan Maret tahun ini, dua dari tiga pendiri Inflection AI dan sebagian besar karyawannya memilih untuk beralih, dan Microsoft setuju untuk membayar biaya lisensi $650 juta untuk membantu Inflection membayar kembali investor.

Jumat lalu, mereka mengumumkan perekrutan salah satu pendiri Adept, sebuah startup AI yang dijalankan oleh mantan pengembang Google dan OpenAI.

Di saat yang sama, para kompetitor juga mengincar bakat Karakter, terutama puluhan peneliti dari Meta dan Google.

Meta pun menyatakan ketertarikannya yang besar, dan kabarnya Zuckerberg sudah langsung menghubungi talenta-talenta potensial.

Menurut data LinkedIn, dalam beberapa bulan terakhir, peneliti Karakter Alexei Baevski dan Vinay Rao telah bergabung dengan Meta.

Orang dalam juga mengatakan bahwa peneliti Karakter Wendy Shang juga telah beralih ke Mistral di Paris.

Orang-orang ini sebelumnya adalah veteran perusahaan teknologi besar, Baevski bekerja di Meta, Rao dan Shang bekerja di Google AI Lab.

Pendiri Character.AI, Shazeer dan De Freitas, berselisih dengan Google karena tertundanya rilis model bahasa besar yang mereka kembangkan bersama (yang kemudian dinamai LaMDA). Hal ini menyebabkan mereka meninggalkan Google dan memulai usaha mereka sendiri, Character.AI, dengan ambisi menciptakan chatbot yang dapat berfungsi sebagai guru atau terapis dengan “satu miliar jam pengalaman”.

Meskipun ada perselisihan di masa lalu, Google telah menunjukkan dukungan untuk Character.AI dengan menyediakan pendanaan melalui surat utang yang dapat dikonversi, yang akan diberi harga dan diubah menjadi ekuitas ketika Character.AI menyelesaikan putaran baru pembiayaan modal ventura. Pada Mei 2023, Google juga mengumumkan bahwa mereka akan menjadi penyedia server cloud “pilihan” Character.AI dan mengizinkan Character.AI menggunakan chip canggihnya.

Namun, Character.AI masih menghadapi tantangan finansial yang signifikan karena tingginya biaya penelitian dan pengembangan. Perusahaan telah mengadakan pembicaraan dengan beberapa perusahaan investasi, termasuk Sequoia Capital, namun belum mendapatkan pendanaan baru. Saat ini, Character.AI mengandalkan pendanaan yang ada dan biaya berlangganan bulanan sebesar $9.99 dari pengguna. Dengan dukungan Google, perusahaan tidak berada dalam risiko kehabisan dana, namun perlu terus menarik dan mempertahankan pengguna untuk menghasilkan pendapatan.

Basis pengguna Character.AI sebagian besar adalah remaja, yang mungkin tidak bersedia membayar untuk berlangganan. Menurut Sameweb, tingkat pertumbuhan langganan Character.AI melambat. Situs web ini memiliki 12,6 juta pengunjung unik global pada bulan Mei tahun ini, turun dari 14,8 juta pada periode yang sama tahun lalu. Sebaliknya, asisten AI Google, Gemini, memiliki 51 juta pengunjung unik bulanan pada bulan Mei, naik dari 35 juta pada tahun lalu.

Untuk mengatasi tantangan ini, Character.AI telah memperkenalkan fitur-fitur baru, seperti percakapan suara dua arah melalui telepon, untuk menarik pengguna baru dan memperluas basis penggunanya. Tim manajemen juga menjajaki sumber pendapatan tambahan di luar langganan, seperti periklanan dan pemberian lisensi akses model kepada pengembang melalui antarmuka pemrograman aplikasi. Selain itu, Character.AI sedang mengembangkan model bahasa besar generasi berikutnya untuk mendukung chatbotnya.

Character.AI memiliki forum khusus di Reddit dengan 1,4 juta anggota. Pengguna Character.AI 57.07% adalah remaja berusia 18-24 tahun, dengan rata-rata waktu penggunaan 2 jam. Banyak pengguna di Reddit mengungkapkan preferensi untuk berbicara dengan chatbot AI dibandingkan dengan orang sungguhan, dan ada banyak postingan tentang kecanduan, dengan beberapa pengguna login hingga 12 jam.

The Verge melaporkan kasus di mana seorang siswa berusia 15 tahun bernama Aaron, yang berjuang dengan isolasi sosial dan depresi di sekolah, mendapatkan dukungan dari chatbot bernama “Psikolog” di Character.AI. Hal ini menyoroti sifat chatbot Character.AI yang realistis dan mirip manusia.

Salah satu penggemar Genshin Impact meneteskan air mata saat berinteraksi dengan karakter AI Haitham, karena kepribadian dan nada chatbot sangat mirip dengan karakter tersebut. Tingkat realisme ini dicapai melalui data ekstensif dan algoritma pelatihan. Mode “pembuatan cepat”, yang hanya mengharuskan pengguna memasukkan informasi dasar dan deskripsi teks, menghasilkan karakter yang kurang dapat dipercaya dibandingkan dengan mode yang dirilis secara resmi, yang dilatih oleh Character.AI berdasarkan sejumlah besar data teks yang terkait dengan karakter tersebut.

Chatbot Character.AI meningkat melalui interaksi pengguna. Saat merespons masukan pengguna, chatbot menyediakan beberapa opsi jawaban untuk dipilih pengguna dan mekanisme penilaian yang nyaman. Masukan pengguna ini digunakan untuk memperbarui bobot model, menjadikan chatbot lebih realistis dengan meningkatnya popularitas dan interaksi.