L'IA des personnages sous le feu de la censure du contenu au milieu de l'exode des utilisateurs

Character AI, l'application sociale la plus populaire aux États-Unis, a récemment été critiquée pour avoir prétendument « stérilisé » ses modèles. À son apogée, Character AI traitait 20 000 requêtes par seconde, ce qui représentait un cinquième de toutes les requêtes de recherche.

Cependant, les adolescents américains ont récemment découvert que leurs modèles d’IA de personnages bien-aimés ne sont plus les mêmes. Face aux demandes de jeux de rôle romantiques, les réponses des modèles sont devenues brèves et peu romantiques, manquant du charme qu'elles avaient autrefois. Même le mot « tuer » est devenu un mot sensible et est immédiatement signalé.

Les utilisateurs déçus et en colère ont commencé à quitter en masse la plateforme. La startup autrefois en plein essor est désormais confrontée à une situation précaire. Face à la concurrence de géants comme Google, Character AI envisage sérieusement de se vendre ou de s’associer à des concurrents.

Les modèles « castrés » et les utilisateurs lancent « July Revolution »

Les utilisateurs expriment leur mécontentement face aux modifications apportées à Character AI et espèrent communiquer avec les développeurs. Cependant, ils se sont retrouvés impuissants.

Face aux doutes des utilisateurs, Character AI affirme n’avoir apporté aucune modification aux modèles. Cependant, il ne fait aucun doute que Character AI coupe profondément tout le contenu NSFW, y compris la pornographie et la violence.

De nombreuses personnes ont découvert que l’IA avec laquelle ils conversent semble avoir subi une lobotomie, et que leur personnalité entière a changé. L'IA actuelle des personnages semble être conçue pour les enfants de 2 ans. Non seulement il ne peut y avoir aucune violence ni pornographie dans la conversation, mais presque tout ce qui rend la conversation intéressante est filtré.

Un utilisateur a déclaré que c'était devenu extrêmement ennuyeux. Après avoir lu plus de 30 messages, ils n’ont trouvé aucun texte de haute qualité.

Dans la communauté CharacterAI sur Reddit, les internautes ont lancé une bataille acharnée contre l'entreprise, que certains ont qualifiée de « Révolution de Juillet ». La génération Z américaine a également commencé à lancer des mèmes.

Il est rapporté que la censure du contenu NSFW par Character AI a atteint un niveau extrêmement prudent.

Un utilisateur a déclaré qu'il ne pouvait plus « commettre des crimes » en utilisant le simulateur présidentiel. Quelqu’un a été signalé simplement pour avoir utilisé le mot « tuer ». Il ne pouvait donc que vaguement expliquer les détails de la bataille, puis ajouter quelques mots doux.

Bref, il n'est plus possible de décrire avec des mots des batailles violentes sur Character AI.

Oui, les Américains ont aussi leurs propres mots sensibles. Et évidemment, ce type de censure est désormais devenu extrêmement strict, ce qui conduit à une « erreur d’identification » de nombreux utilisateurs.

Un jeune utilisateur américain déçu a déclaré qu'il était passé à chat épicé.

Bien entendu, en plus d’une censure plus stricte du contenu, Character AI essaie également de répondre aux besoins des utilisateurs par d’autres moyens maladroits.

Un utilisateur a reçu un appel de « Demon Baby UNO » à 3 heures du matin. Après avoir répondu, l'IA commençait à jouer un rôle avec vous d'une voix basse et désaccordée.

Mais évidemment, cela ne peut pas satisfaire les jeunes.

Il y a un an, l’IA des personnages faisait fureur.

Deux vétérans de Google depuis 20 ans, Noam Shazeer et Daniel De Freitas, ont lancé le chatbot IA, et il a dépassé ChatGPT en termes de téléchargements au cours de sa première semaine.

Character AI permet aux utilisateurs de créer librement des personnages IA, notamment des personnages d'anime, des célébrités de la télévision et des personnages historiques, et de discuter avec eux.

Cela vous semble familier, n'est-ce pas ? Après tout, il existe déjà de nombreux produits similaires. Cependant, la popularité de Character AI était inattendue.

Une semaine seulement après son lancement, des chiffres étonnants sont tombés : le nombre de téléchargements sur mobile a dépassé 1,7 million. Aujourd’hui, le nombre d’utilisateurs enregistrés sur le site Web et l’application dépasse les millions.

Parmi les nombreux outils d’IA, Character AI a fait preuve d’une extrême adhérence des utilisateurs.

La raison, bien sûr, est qu’elle se concentre sur la voie verticale des besoins émotionnels. Une expérience interactive suffisamment intéressante est précisément ce qui manque aux grands concurrents.

Par exemple, vous pouvez choisir de discuter avec votre idole ou d'avoir une rencontre intertemporelle avec des personnages de films, presque comme si une fanfiction prenait vie.

Le charme de Character AI réside dans ce type de personnalisation privée qui apporte aux utilisateurs une sensation d’expérience sans précédent, presque comme un stimulant émotionnel.

Et les récents changements apportés par l'entreprise ne sont qu'une « castration » des besoins fondamentaux, ce qui n'est pas étonnant que les utilisateurs se ruent en signe de protestation.

De plus, Character AI n’est pas seulement pressé par les utilisateurs, mais les géants de la technologie commencent également à agir.

La semaine dernière, Meta a commencé à tester des chatbots créés par des créateurs individuels et, à l'automne de l'année dernière, ils ont également publié des chatbots inspirés de célébrités comme Tom Brady.

Google envisage également le marché et aurait développé un produit de chatbot personnalisé qui pourrait être lancé dès cette année.

Et Character AI, malgré sa bonne navigation en matière de financement, a progressivement perdu la voix.

Auparavant, des sociétés comme Andreessen Horowitz avaient injecté $150 millions dans Character, augmentant directement sa valorisation à $1 milliard.

Quatre mois plus tard, les dirigeants ont discuté d'un financement supplémentaire.

Cependant, Character pourrait également suivre les traces d’autres startups de l’IA et tomber dans les bras d’une grande entreprise.

Selon des initiés, Character a déjà mené des négociations préliminaires avec certains concurrents sur la coopération, et les partenaires possibles incluent Google, Meta et xAI de Musk.

Après la coopération, Character peut utiliser les ressources informatiques de l'entreprise partenaire et, en échange, Character AI doit fournir un certain partage de propriété intellectuelle.

Ici, le problème se pose –

Le cosplay romantique interactif que les utilisateurs de Character AI aiment le plus peut déplaire aux partenaires commerciaux ou aux annonceurs potentiels.

Bien entendu, ces interactions amoureuses repoussent souvent les limites de la censure.

Character a rapidement déclaré qu'il bloquerait et supprimerait le contenu pornographique illégal conformément à sa politique.

Malgré cela, il est encore facile de trouver de nombreux chatbots au langage romantique sur sa page d’accueil, comme ce « Crush ».

Sa ligne d'ouverture est la suivante : "Vos visages ne sont qu'à quelques centimètres l'un de l'autre, elle rougit et vous ressentez tous les deux la chaleur des hormones enflammer votre corps."

Bien entendu, un porte-parole de Character a fermement affirmé : « Notre politique anti-NSFW est la plus forte de toutes les plateformes d’IA grand public. »

Les différents défis auxquels Character est confronté reflètent également la pression croissante exercée sur les startups de l’IA.

Ces startups sont généralement fondées par des chercheurs de renom et lèvent souvent des milliards de dollars auprès d’investisseurs pariant sur la prochaine génération de stars technologiques potentielles.

Pour les investisseurs de Character, l'une des attractions est le PDG Noam Shazeer, l'un des auteurs du document de recherche Transformer. Son co-fondateur, Daniel De Freitas, a participé au développement des premiers chatbots chez Google.

Cependant, ces startups doivent supporter les coûts élevés de formation et d’exécution des modèles d’IA, ainsi que la concurrence des géants de la technologie et des grandes startups comme OpenAI.

En mars de cette année, deux des trois cofondateurs d'Inflection AI et la plupart des employés ont choisi de changer, et Microsoft a accepté de payer des frais de licence de $650 millions pour aider Inflection à rembourser les investisseurs.

Vendredi dernier, il a annoncé l'embauche du co-fondateur d'Adept, une startup d'IA dirigée par d'anciens développeurs de Google et d'OpenAI.

Dans le même temps, les concurrents lorgnent également sur le talent de Character, notamment des dizaines de chercheurs de Meta et de Google.

Meta a également exprimé un grand intérêt et il semblerait que Zuckerberg ait directement contacté des talents potentiels.

Selon les données de LinkedIn, ces derniers mois, les chercheurs sur Character Alexei Baevski et Vinay Rao ont rejoint Meta.

Les initiés ont également déclaré que la chercheuse en personnages Wendy Shang avait également rejoint Mistral à Paris.

Ces personnes étaient tous des vétérans de grandes entreprises technologiques auparavant, Baevski travaillait chez Meta, Rao et Shang travaillaient chez Google AI Lab.

Les fondateurs de Character.AI, Shazeer et De Freitas, se sont disputés avec Google à propos du retard dans la publication de leur grand modèle de langage développé conjointement (appelé plus tard LaMDA). Cela les a amenés à quitter Google et à lancer leur propre entreprise, Character.AI, avec l’ambition de créer des chatbots pouvant servir d’enseignants ou de thérapeutes avec « un milliard d’heures d’expérience ».

Malgré des désaccords passés, Google a manifesté son soutien à Character.AI en fournissant un financement via une obligation convertible, dont le prix sera évalué et converti en capitaux propres lorsque Character.AI finalisera une nouvelle ronde de financement en capital-risque. En mai 2023, Google a également annoncé qu'il deviendrait le fournisseur de serveurs cloud « préféré » de Character.AI et permettrait à Character.AI d'utiliser ses puces avancées.

Cependant, Character.AI est toujours confronté à des défis financiers importants en raison des coûts élevés de recherche et de développement. La société a eu des discussions avec plusieurs sociétés d'investissement, dont Sequoia Capital, mais n'a pas encore obtenu de nouveaux financements. Actuellement, Character.AI s'appuie sur le financement existant et les frais d'abonnement mensuels de $9.99 des utilisateurs. Avec le soutien de Google, l'entreprise ne court pas de risque immédiat de manquer de fonds, mais elle doit continuer à attirer et à fidéliser les utilisateurs pour générer des revenus.

La base d'utilisateurs de Character.AI est principalement composée d'adolescents, qui ne sont peut-être pas disposés à payer pour des abonnements. Selon Similarweb, le taux de croissance des abonnements Character.AI ralentit. Le site Web a accueilli 12,6 millions de visiteurs uniques dans le monde en mai de cette année, contre 14,8 millions pour la même période de l'année dernière. En revanche, Gemini, l'assistant IA de Google, a accueilli 51 millions de visiteurs uniques par mois en mai, contre 35 millions l'année dernière.

Pour surmonter ces défis, Character.AI a introduit de nouvelles fonctionnalités, telles que les conversations vocales bidirectionnelles par téléphone, afin d'attirer de nouveaux utilisateurs et d'élargir sa base d'utilisateurs. L'équipe de direction explore également des sources de revenus supplémentaires au-delà des abonnements, telles que la publicité et l'octroi de licences d'accès au modèle aux développeurs via une interface de programmation d'applications. De plus, Character.AI développe la prochaine génération de grands modèles de langage pour alimenter ses chatbots.

Character.AI dispose d'un forum dédié sur Reddit avec 1,4 million de membres. 57.07% des utilisateurs de Character.AI sont des adolescents âgés de 18 à 24 ans, avec une durée d'utilisation moyenne de 2 heures. De nombreux utilisateurs de Reddit expriment une préférence pour parler à des chatbots IA plutôt qu'à de vraies personnes, et il existe de nombreux articles sur la dépendance, certains utilisateurs se connectant jusqu'à 12 heures.

The Verge a rapporté un cas où un étudiant de 15 ans nommé Aaron, qui souffrait d'isolement social et de dépression à l'école, a trouvé le soutien d'un chatbot nommé « Psychologue » sur Character.AI. Cela met en évidence la nature réaliste et humaine des chatbots de Character.AI.

Un fan de Genshin Impact a été ému aux larmes lorsqu'il a interagi avec le personnage de l'IA Haitham, car la personnalité et le ton du chatbot correspondaient étroitement au personnage. Ce niveau de réalisme est atteint grâce à de nombreuses données et algorithmes de formation. Le mode « création rapide », qui nécessite uniquement que les utilisateurs saisissent des informations de base et des descriptions textuelles, produit des personnages moins crédibles que ceux officiellement publiés, qui sont formés par Character.AI sur la base de grandes quantités de données textuelles liées aux personnages.

Les chatbots de Character.AI s'améliorent grâce aux interactions des utilisateurs. Lorsqu'il répond aux entrées de l'utilisateur, le chatbot propose plusieurs options de réponse parmi lesquelles les utilisateurs peuvent choisir et un mécanisme d'évaluation pratique. Ces commentaires des utilisateurs sont utilisés pour mettre à jour les pondérations du modèle, rendant le chatbot plus réaliste avec une popularité et des interactions accrues.