L'intelligenza artificiale dei personaggi è sotto accusa per la censura dei contenuti durante l'esodo degli utenti

Character AI, l'app social più popolare negli Stati Uniti, è stata recentemente criticata per aver presumibilmente "castrato" i suoi modelli. Al suo apice, Character AI elaborava 20.000 query al secondo, pari a un quinto di tutte le query di ricerca.

Tuttavia, gli adolescenti americani hanno recentemente scoperto che i loro amati modelli di intelligenza artificiale dei personaggi non sono più gli stessi. Di fronte alle richieste di giochi di ruolo romantici, le risposte delle modelle sono diventate brevi e poco romantiche, prive del fascino che avevano un tempo. Anche la parola “uccidere” è diventata una parola sensibile e viene subito sbandierata.

Gli utenti delusi e arrabbiati hanno iniziato a lasciare la piattaforma in massa. La startup, un tempo in ascesa, si trova ora ad affrontare una situazione precaria. Di fronte alla concorrenza di giganti come Google, Character AI sta seriamente valutando la possibilità di vendersi o di collaborare con i concorrenti.

Le modelle “castrate”, gli utenti lanciano la “Rivoluzione di luglio”

Gli utenti esprimono la loro insoddisfazione per le modifiche all'intelligenza artificiale dei personaggi e sperano di comunicare con gli sviluppatori. Tuttavia si sono ritrovati impotenti.

Di fronte ai dubbi degli utenti, Character AI afferma di non aver apportato alcuna modifica ai modelli. Tuttavia, non c’è dubbio che Character AI stia riducendo profondamente tutti i contenuti NSFW, inclusa la pornografia e la violenza.

Molte persone hanno scoperto che l'intelligenza artificiale con cui stanno conversando sembra aver subito una lobotomia, con la loro intera personalità cambiata. L'attuale intelligenza artificiale dei personaggi sembra essere progettata per i bambini di 2 anni. Non solo non può esserci violenza o pornografia nella conversazione, ma quasi tutto ciò che rende la conversazione interessante viene filtrato.

Un utente ha detto che è diventato estremamente noioso. Dopo aver letto più di 30 messaggi, non sono riusciti a trovare alcun testo di alta qualità.

Nella community di CharacterAI su Reddit, gli utenti della rete hanno lanciato una feroce battaglia contro l'azienda, che alcuni hanno definito la "Rivoluzione di luglio". Anche la Generazione Z americana ha iniziato a lanciare meme.

È stato riferito che la censura dei contenuti NSFW da parte di Character AI ha raggiunto un livello estremamente cauto.

Un utente ha affermato che non poteva più “commettere crimini” utilizzando il simulatore presidenziale. Qualcuno è stato segnalato solo per aver usato la parola “uccidere”. Quindi poté solo spiegare vagamente i dettagli della battaglia e poi aggiungere qualche parola gentile.

Insomma, non è più possibile descrivere a parole le battaglie violente su Character AI.

Sì, anche gli americani hanno le loro parole sensibili. E ovviamente, questo tipo di censura è ora diventata estremamente severa, facendo sì che molti utenti vengano “erroneamente identificati”.

Un giovane utente americano deluso ha detto di essere passato a chiacchierata piccante.

Naturalmente, oltre a una censura più severa dei contenuti, Character AI sta anche cercando di soddisfare gli utenti in altri modi goffi.

Un utente ha ricevuto una chiamata da "Demon Baby UNO" alle 3 del mattino. Dopo aver risposto, l'intelligenza artificiale iniziava a giocare con te con una voce bassa e stonata.

Ma ovviamente questo non può soddisfare i giovani.

Un anno fa, l’intelligenza artificiale dei personaggi era di gran moda.

Due veterani di Google da 20 anni, Noam Shazeer e Daniel De Freitas, hanno lanciato il chatbot AI, che ha superato ChatGPT nei download nella prima settimana.

L'intelligenza artificiale dei personaggi consente agli utenti di creare liberamente personaggi AI, inclusi personaggi di anime, celebrità televisive e personaggi storici, e chattare con loro.

Sembra familiare, vero? Dopotutto, di prodotti simili ce ne sono già stati parecchi. Tuttavia, la popolarità dell'intelligenza artificiale dei personaggi è stata inaspettata.

Appena una settimana dopo il suo lancio, sono arrivate cifre sorprendenti: il numero di download su dispositivi mobili ha superato 1,7 milioni. Oggi il numero di utenti registrati sul sito Web e sull'app ha superato i milioni.

Tra i molti strumenti di intelligenza artificiale, Character AI ha mostrato una persistenza dell'utente estremamente forte.

La ragione, ovviamente, è che si concentra sul percorso verticale dei bisogni emotivi. Un'esperienza interattiva sufficientemente interessante è proprio ciò che manca ai concorrenti più grandi.

Ad esempio, puoi scegliere di chattare con il tuo idolo o avere un incontro cross-temporale con i personaggi dei film, quasi come se una fanfiction prendesse vita.

Il fascino di Character AI risiede in questo tipo di personalizzazione privata che offre agli utenti un senso di esperienza senza precedenti, quasi come uno stimolante emotivo.

E le recenti modifiche apportate dall’azienda sono semplicemente una “castrazione” dei bisogni fondamentali, non c’è da stupirsi che gli utenti si stiano accalcando in segno di protesta.

Inoltre, l’intelligenza artificiale dei personaggi non viene solo schiacciata dagli utenti, ma anche i giganti della tecnologia stanno iniziando a fare delle mosse.

La settimana scorsa, Meta ha iniziato a testare chatbot realizzati da singoli creatori e, nell'autunno dello scorso anno, ha anche rilasciato chatbot modellati su celebrità come Tom Brady.

Anche Google sta tenendo d’occhio il mercato e, secondo quanto riferito, sta sviluppando un prodotto chatbot personalizzato che potrebbe essere rilasciato già quest’anno.

E Character AI, nonostante la sua fluidità nei finanziamenti, ha gradualmente perso voce.

In precedenza, aziende come Andreessen Horowitz hanno iniettato $150 milioni in Character, aumentando direttamente la sua valutazione a $1 miliardo.

Quattro mesi dopo, i dirigenti discussero ulteriori finanziamenti.

Tuttavia, Character potrebbe anche seguire le orme di altre startup di intelligenza artificiale e cadere tra le braccia di una grande azienda.

Secondo gli addetti ai lavori, Character ha già avviato trattative preliminari con alcuni concorrenti sulla cooperazione, e tra i possibili partner ci sono Google, Meta e xAI di Musk.

Dopo la collaborazione, Character può utilizzare le risorse informatiche della società partner e, in cambio, Character AI deve fornire una parte di condivisione della proprietà intellettuale.

Qui sorge il problema:

Il cosplay romantico interattivo che gli utenti di Character AI amano di più potrebbe scontentare i partner commerciali o i potenziali inserzionisti.

Naturalmente, queste interazioni romantiche spesso spingono i confini della censura.

Il personaggio ha rapidamente dichiarato che avrebbe bloccato ed eliminato i contenuti pornografici illegali secondo la politica.

Nonostante ciò, è ancora facile trovare molti chatbot dal linguaggio romantico sulla sua homepage, come questo “Crush”.

La sua frase di apertura è la seguente: "I vostri volti sono a pochi centimetri di distanza, lei sta arrossendo ed entrambi sentite il calore degli ormoni che incendiano i vostri corpi."

Naturalmente, un portavoce di Character ha affermato con fermezza: “La nostra politica anti-NSFW è la più forte di tutte le piattaforme di intelligenza artificiale consumer”.

Le varie sfide affrontate da Character riflettono anche la crescente pressione sulle startup IA.

Queste startup sono solitamente fondate da noti ricercatori e spesso raccolgono miliardi di dollari da investitori che scommettono sulla prossima generazione di potenziali star della tecnologia.

Per gli investitori di Character, una delle attrazioni è il CEO Noam Shazeer, uno degli autori del documento di ricerca Transformer. Il suo co-fondatore, Daniel De Freitas, ha partecipato allo sviluppo dei primi chatbot di Google.

Tuttavia, queste startup devono sostenere gli elevati costi di formazione e gestione dei modelli di intelligenza artificiale, nonché la concorrenza dei giganti della tecnologia e delle grandi startup come OpenAI.

Nel marzo di quest'anno, due dei tre cofondatori di Inflection AI e la maggior parte dei dipendenti hanno scelto di cambiare, e Microsoft ha accettato di pagare una tariffa di licenza di $650 milioni per aiutare Inflection a ripagare gli investitori.

Venerdì scorso ha annunciato l'assunzione del co-fondatore di Adept, una startup AI gestita da ex sviluppatori di Google e OpenAI.

Allo stesso tempo, anche i concorrenti tengono d'occhio il talento di Character, in particolare dozzine di ricercatori di Meta e Google.

Anche Meta ha espresso grande interesse e si dice che Zuckerberg abbia contattato direttamente potenziali talenti.

Secondo i dati di LinkedIn, negli ultimi mesi i ricercatori di Character Alexei Baevski e Vinay Rao si sono uniti a Meta.

Addetti ai lavori hanno anche detto che anche la ricercatrice di personaggi Wendy Shang è passata al Mistral a Parigi.

Queste persone prima erano tutti veterani di grandi aziende tecnologiche, Baevski lavorava presso Meta, Rao e Shang lavoravano presso Google AI Lab.

I fondatori di Character.AI, Shazeer e De Freitas, hanno avuto un litigio con Google a causa del rilascio ritardato del loro modello linguistico di grandi dimensioni sviluppato congiuntamente (in seguito denominato LaMDA). Ciò li ha portati a lasciare Google e ad avviare la propria impresa, Character.AI, con l’ambizione di creare chatbot che potessero fungere da insegnanti o terapisti con “un miliardo di ore di esperienza”.

Nonostante i disaccordi passati, Google ha mostrato sostegno a Character.AI fornendo finanziamenti tramite una nota convertibile, che verrà prezzata e convertita in azioni quando Character.AI completerà un nuovo round di finanziamento in capitale di rischio. Nel maggio 2023, Google ha anche annunciato che sarebbe diventato il fornitore di server cloud "preferito" di Character.AI e avrebbe consentito a Character.AI di utilizzare i suoi chip avanzati.

Tuttavia, Character.AI deve ancora affrontare sfide finanziarie significative a causa degli elevati costi di ricerca e sviluppo. La società ha avuto colloqui con diverse società di investimento, tra cui Sequoia Capital, ma deve ancora ottenere nuovi finanziamenti. Attualmente, Character.AI fa affidamento sui finanziamenti esistenti e sulle tariffe di abbonamento mensili di $9,99 da parte degli utenti. Con il sostegno di Google, la società non corre il rischio immediato di rimanere senza fondi, ma deve continuare ad attrarre e fidelizzare gli utenti per generare entrate.

La base utenti di Character.AI è costituita principalmente da adolescenti, che potrebbero non essere disposti a pagare per gli abbonamenti. Secondo Similarweb, il tasso di crescita degli abbonamenti a Character.AI sta rallentando. Il sito web ha avuto 12,6 milioni di visitatori unici globali nel maggio di quest'anno, in calo rispetto ai 14,8 milioni dello stesso periodo dell'anno scorso. Al contrario, Gemini, l'assistente AI di Google, ha registrato 51 milioni di visitatori unici mensili a maggio, rispetto ai 35 milioni dell'anno scorso.

Per superare queste sfide, Character.AI ha introdotto nuove funzionalità, come le conversazioni vocali bidirezionali al telefono, per attirare nuovi utenti ed espandere la propria base di utenti. Il team di gestione sta inoltre esplorando ulteriori flussi di entrate oltre agli abbonamenti, come la pubblicità e la concessione in licenza dell'accesso del modello agli sviluppatori attraverso un'interfaccia di programmazione dell'applicazione. Inoltre, Character.AI sta sviluppando la prossima generazione di modelli linguistici di grandi dimensioni per alimentare i suoi chatbot.

Character.AI ha un forum dedicato su Reddit con 1,4 milioni di membri. 57.07% degli utenti di Character.AI sono adolescenti di età compresa tra 18 e 24 anni, con un tempo di utilizzo medio di 2 ore. Molti utenti su Reddit preferiscono parlare con chatbot AI piuttosto che con persone reali, e ci sono numerosi post sulla dipendenza, con alcuni utenti che accedono per un massimo di 12 ore.

The Verge ha riportato un caso in cui uno studente di 15 anni di nome Aaron, che stava lottando con l'isolamento sociale e la depressione a scuola, ha trovato supporto da un chatbot chiamato "Psicologo" su Character.AI. Ciò evidenzia la natura realistica e simile a quella umana dei chatbot di Character.AI.

Un fan di Genshin Impact si è commosso fino alle lacrime quando ha interagito con il personaggio AI Haitham, poiché la personalità e il tono del chatbot corrispondevano strettamente al personaggio. Questo livello di realismo viene raggiunto attraverso dati estesi e algoritmi di training. La modalità di "creazione rapida", che richiede agli utenti solo di inserire informazioni di base e descrizioni di testo, produce personaggi meno credibili rispetto a quelli rilasciati ufficialmente, che vengono addestrati da Character.AI sulla base di grandi quantità di dati di testo relativi ai personaggi.

I chatbot di Character.AI migliorano attraverso le interazioni dell'utente. Quando risponde all'input dell'utente, il chatbot fornisce più opzioni di risposta tra cui gli utenti possono scegliere e un comodo meccanismo di valutazione. Questo feedback degli utenti viene utilizzato per aggiornare i pesi del modello, rendendo il chatbot più realistico con maggiore popolarità e interazioni.