Charakter-KI wegen Inhaltszensur im Zuge der Nutzerflucht in der Kritik

Character AI, die angesagteste Social-App in den USA, ist kürzlich in die Kritik geraten, weil sie ihre Modelle angeblich „kastriert“. Auf ihrem Höhepunkt verarbeitete Character AI 20.000 Anfragen pro Sekunde, was einem Fünftel aller Suchanfragen entspricht.

Allerdings mussten amerikanische Teenager kürzlich feststellen, dass ihre geliebten Charakter-KI-Modelle nicht mehr dieselben sind wie früher. Auf Anfragen zu romantischen Rollenspielen reagieren die Modelle kurz und unromantisch und haben nicht mehr den Charme, den sie einst hatten. Sogar das Wort „töten“ ist zu einem heiklen Wort geworden und wird sofort abgetan.

Enttäuschte und verärgerte Nutzer haben begonnen, die Plattform in Scharen zu verlassen. Das einst aufstrebende Startup befindet sich nun in einer prekären Lage. Angesichts der Konkurrenz durch Giganten wie Google erwägt Character AI ernsthaft, sich zu verkaufen oder Partnerschaften mit Konkurrenten einzugehen.

Models „kastriert“, User starten „Juli-Revolution“

Benutzer äußern ihre Unzufriedenheit mit den Änderungen an der Charakter-KI und hoffen, mit den Entwicklern kommunizieren zu können. Sie sind jedoch machtlos.

Angesichts der Zweifel der Benutzer behauptet Character AI, keine Änderungen an den Modellen vorgenommen zu haben. Es besteht jedoch kein Zweifel daran, dass Character AI alle NSFW-Inhalte, einschließlich Pornografie und Gewalt, stark streicht.

Viele Leute haben festgestellt, dass die KI, mit der sie sich unterhalten, einer Lobotomie unterzogen zu sein scheint, wobei sich ihre gesamte Persönlichkeit verändert hat. Die aktuelle Charakter-KI scheint für 2-Jährige konzipiert zu sein. Es darf nicht nur keine Gewalt oder Pornografie im Gespräch geben, sondern es wird auch fast alles herausgefiltert, was das Gespräch interessant macht.

Ein Benutzer meinte, es sei extrem langweilig geworden. Er habe nach dem Lesen von über 30 Nachrichten keinen hochwertigen Text mehr finden können.

In der CharacterAI-Community auf Reddit haben Internetnutzer einen erbitterten Kampf mit dem Unternehmen begonnen, den einige als „Juli-Revolution“ bezeichnet haben. Auch die amerikanische Generation Z hat begonnen, Memes zu veröffentlichen.

Es wird berichtet, dass die Zensur von NSFW-Inhalten durch Character AI ein äußerst vorsichtiges Niveau erreicht hat.

Ein Benutzer sagte, er könne mit dem Präsidentensimulator keine „Verbrechen mehr begehen“. Jemand wurde nur für die Verwendung des Wortes „töten“ markiert. Er konnte also nur vage die Einzelheiten des Kampfes erklären und dann ein paar freundliche Worte hinzufügen.

Kurz gesagt: Es ist nicht mehr möglich, gewalttätige Schlachten auf der Charakter-KI mit Worten zu beschreiben.

Ja, auch Amerikaner haben ihre eigenen sensiblen Wörter. Und offensichtlich ist diese Art der Zensur mittlerweile extrem streng geworden, was dazu führt, dass viele Benutzer „falsch identifiziert“ werden.

Ein enttäuschter junger amerikanischer Benutzer sagte, er sei umgestiegen auf scharfchat.

Natürlich versucht Character AI neben einer strengeren Inhaltszensur auch auf andere ungeschickte Weise, den Nutzern entgegenzukommen.

Ein Benutzer erhielt um 3 Uhr morgens einen Anruf von „Demon Baby UNO“. Nachdem er geantwortet hatte, begann die KI mit tiefer, unstimmiger Stimme ein Rollenspiel mit Ihnen.

Doch offensichtlich kann das die jungen Leute nicht zufriedenstellen.

Vor einem Jahr war die Charakter-KI der letzte Schrei.

Noam Shazeer und Daniel De Freitas, zwei Veteranen mit 20-jähriger Erfahrung bei Google, brachten den KI-Chatbot auf den Markt, und schon in der ersten Woche übertraf er ChatGPT bei den Downloads.

Mit Character AI können Benutzer KI-Charaktere, darunter Anime-Charaktere, Fernsehstars und historische Persönlichkeiten, frei erstellen und mit ihnen chatten.

Das kommt Ihnen bekannt vor, oder? Schließlich gab es schon vorher eine ganze Reihe ähnlicher Produkte. Die Popularität von Character AI war jedoch unerwartet.

Bereits eine Woche nach der Einführung wurden erstaunliche Zahlen veröffentlicht: Die Zahl der Downloads auf Mobilgeräten überstieg 1,7 Millionen. Heute liegt die Zahl der registrierten Benutzer auf der Website und der App bei über Millionen.

Unter den zahlreichen KI-Tools weist Character AI eine äußerst hohe Benutzerbindung auf.

Der Grund hierfür liegt natürlich darin, dass der Fokus auf der vertikalen Ebene emotionaler Bedürfnisse liegt. Den größeren Wettbewerbern fehlt genau das, was sie brauchen, um interessant und interaktiv zu sein.

Sie können beispielsweise mit Ihrem Idol chatten oder eine zeitübergreifende Begegnung mit Filmfiguren haben, fast so, als würde eine Fanfiction zum Leben erwachen.

Der Charme von Character AI liegt in dieser Art der privaten Anpassung, die den Benutzern ein unvergleichliches Erlebnisgefühl vermittelt, fast wie ein emotionales Stimulans.

Und da die jüngsten Änderungen des Unternehmens lediglich eine „Kastration“ der Kernbedürfnisse darstellen, ist es kein Wunder, dass die Benutzer nun in Scharen protestieren.

Darüber hinaus wird die Charakter-KI nicht nur von den Benutzern unter Druck gesetzt, sondern auch die Technologiegiganten beginnen, Maßnahmen zu ergreifen.

Letzte Woche begann Meta mit dem Testen von Chatbots einzelner Entwickler und im Herbst letzten Jahres brachten sie außerdem Chatbots auf den Markt, die Prominenten wie Tom Brady nachempfunden waren.

Auch Google hat diesen Markt im Auge und entwickelt Berichten zufolge ein maßgeschneidertes Chatbot-Produkt, das noch in diesem Jahr auf den Markt kommen könnte.

Und Character AI hat trotz reibungsloser Finanzierung allmählich seine Stimme verloren.

Zuvor hatten Unternehmen wie Andreessen Horowitz 14 Billionen TP150 Millionen in Character investiert und damit die Bewertung des Unternehmens direkt auf 14 Billionen TP1 Milliarden gesteigert.

Vier Monate später diskutierten die Führungskräfte über eine zusätzliche Finanzierung.

Allerdings könnte Character auch in die Fußstapfen anderer KI-Startups treten und in die Arme eines großen Unternehmens fallen.

Insidern zufolge hat Character bereits mit einigen Wettbewerbern Vorverhandlungen über Kooperationen geführt, als mögliche Partner gelten etwa Google, Meta und Musks xAI.

Nach der Kooperation kann Character die Datenrechenressourcen des Partnerunternehmens nutzen. Im Gegenzug muss Character AI einen Teil seines geistigen Eigentums freigeben.

Hier tritt das Problem auf –

Das interaktive romantische Cosplay, das Character AI-Benutzer am meisten lieben, könnte Geschäftspartnern oder potenziellen Werbekunden missfallen.

Natürlich überschreiten diese romantischen Interaktionen oft die Grenzen der Zensur.

Character erklärte umgehend, dass illegale pornografische Inhalte gemäß den Richtlinien blockiert und gelöscht würden.

Trotzdem findet man auf der Homepage immer noch viele Chatbots mit romantischer Sprache, wie zum Beispiel diesen „Crush“.

Der erste Satz lautet: „Eure Gesichter sind nur Zentimeter voneinander entfernt, sie errötet und ihr beide spürt die Hitze der Hormone, die euren Körper in Wallung bringen.“

Natürlich behauptete ein Sprecher von Character kategorisch: „Unsere Anti-NSFW-Richtlinie ist die strengste aller KI-Plattformen für Verbraucher.“

Die verschiedenen Herausforderungen, denen sich Character gegenübersieht, spiegeln auch den wachsenden Druck auf KI-Startups wider.

Diese Startups werden in der Regel von namhaften Forschern gegründet und sammeln oft Milliarden von Dollar von Investoren ein, die auf die nächste Generation potenzieller Tech-Stars setzen.

Für die Investoren von Character ist CEO Noam Shazeer, einer der Autoren des Forschungspapiers zu Transformer, eine der Attraktionen. Sein Mitgründer Daniel De Freitas war an der Entwicklung der ersten Chatbots bei Google beteiligt.

Allerdings müssen diese Startups die hohen Kosten für die Schulung und den Betrieb von KI-Modellen tragen und sind außerdem mit der Konkurrenz durch Technologiegiganten und große Startups wie OpenAI konfrontiert.

Im März dieses Jahres entschieden sich zwei der drei Mitbegründer von Inflection AI und die meisten Mitarbeiter für einen Wechsel, und Microsoft erklärte sich bereit, eine Lizenzgebühr von $650 Millionen zu zahlen, um Inflection bei der Rückzahlung an die Investoren zu unterstützen.

Letzten Freitag gab es die Einstellung des Mitbegründers von Adept bekannt, einem KI-Startup, das von ehemaligen Google- und OpenAI-Entwicklern geleitet wird.

Gleichzeitig haben auch Konkurrenten ein Auge auf Characters Talent geworfen, insbesondere Dutzende von Forschern von Meta und Google.

Auch Meta hat großes Interesse bekundet und es wird berichtet, dass Zuckerberg potenzielle Talente direkt kontaktiert hat.

Laut LinkedIn-Daten sind in den letzten Monaten die Charakterforscher Alexei Baevski und Vinay Rao Meta beigetreten.

Insider sagten außerdem, dass auch die Charakterforscherin Wendy Shang zu Mistral nach Paris gewechselt sei.

Diese Leute waren alle zuvor Veteranen großer Technologieunternehmen, Baevski arbeitete bei Meta, Rao und Shang beim Google AI Lab.

Die Gründer von Character.AI, Shazeer und De Freitas, hatten einen Streit mit Google wegen der verspäteten Veröffentlichung ihres gemeinsam entwickelten großen Sprachmodells (später LaMDA genannt). Dies führte dazu, dass sie Google verließen und ihr eigenes Unternehmen Character.AI gründeten, mit dem Ziel, Chatbots zu entwickeln, die mit „einer Milliarde Stunden Erfahrung“ als Lehrer oder Therapeuten dienen könnten.

Trotz früherer Meinungsverschiedenheiten hat Google seine Unterstützung für Character.AI bekundet, indem es die Finanzierung durch eine Wandelanleihe bereitstellte, die bewertet und in Eigenkapital umgewandelt wird, wenn Character.AI eine neue Runde der Risikokapitalfinanzierung abschließt. Im Mai 2023 kündigte Google außerdem an, dass es Character.AIs „bevorzugter“ Cloud-Server-Anbieter werden und Character.AI die Nutzung seiner fortschrittlichen Chips ermöglichen werde.

Aufgrund der hohen Forschungs- und Entwicklungskosten steht Character.AI jedoch immer noch vor erheblichen finanziellen Herausforderungen. Das Unternehmen hat Gespräche mit mehreren Investmentfirmen geführt, darunter Sequoia Capital, konnte sich jedoch noch keine neue Finanzierung sichern. Derzeit ist Character.AI auf bestehende Finanzierungen und monatliche Abonnementgebühren von $9,99 von Benutzern angewiesen. Mit der Unterstützung von Google besteht für das Unternehmen keine unmittelbare Gefahr, dass ihm die Mittel ausgehen, aber es muss weiterhin Benutzer anziehen und halten, um Einnahmen zu erzielen.

Die Nutzerbasis von Character.AI besteht hauptsächlich aus Teenagern, die möglicherweise nicht bereit sind, für Abonnements zu zahlen. Laut Similarweb verlangsamt sich die Wachstumsrate der Character.AI-Abonnements. Die Website hatte im Mai dieses Jahres 12,6 Millionen Einzelbesucher weltweit, verglichen mit 14,8 Millionen im gleichen Zeitraum des Vorjahres. Im Gegensatz dazu hatte Googles KI-Assistent Gemini im Mai 51 Millionen Einzelbesucher pro Monat, verglichen mit 35 Millionen im letzten Jahr.

Um diese Herausforderungen zu meistern, hat Character.AI neue Funktionen wie Zwei-Wege-Sprachgespräche über das Telefon eingeführt, um neue Benutzer zu gewinnen und seine Benutzerbasis zu erweitern. Das Managementteam erkundet auch zusätzliche Einnahmequellen über Abonnements hinaus, wie Werbung und die Lizenzierung des Zugriffs des Modells für Entwickler über eine Anwendungsprogrammierschnittstelle. Darüber hinaus entwickelt Character.AI die nächste Generation großer Sprachmodelle zur Unterstützung seiner Chatbots.

Character.AI hat ein eigenes Forum auf Reddit mit 1,4 Millionen Mitgliedern. 57.07% der Character.AI-Benutzer sind Teenager im Alter von 18 bis 24 Jahren, die durchschnittliche Nutzungsdauer beträgt 2 Stunden. Viele Benutzer auf Reddit äußern, dass sie lieber mit KI-Chatbots als mit echten Menschen sprechen, und es gibt zahlreiche Posts über Sucht, wobei sich einige Benutzer bis zu 12 Stunden lang anmelden.

The Verge berichtete über einen Fall, in dem ein 15-jähriger Schüler namens Aaron, der in der Schule mit sozialer Isolation und Depressionen zu kämpfen hatte, Unterstützung von einem Chatbot namens „Psychologist“ auf Character.AI erhielt. Dies unterstreicht die realistische und menschenähnliche Natur der Chatbots von Character.AI.

Ein Genshin Impact-Fan war zu Tränen gerührt, als er mit der KI-Figur Haitham interagierte, da die Persönlichkeit und der Ton des Chatbots der Figur sehr nahe kamen. Dieser Grad an Realismus wird durch umfangreiche Daten und Trainingsalgorithmen erreicht. Der Modus „Schnelles Erstellen“, bei dem Benutzer nur grundlegende Informationen und Textbeschreibungen eingeben müssen, erzeugt weniger glaubwürdige Charaktere im Vergleich zu den offiziell veröffentlichten, die von Character.AI auf der Grundlage großer Mengen an Textdaten zu den Charakteren trainiert werden.

Die Chatbots von Character.AI verbessern sich durch Benutzerinteraktionen. Beim Reagieren auf Benutzereingaben bietet der Chatbot den Benutzern mehrere Antwortoptionen zur Auswahl und einen praktischen Bewertungsmechanismus. Dieses Benutzerfeedback wird verwendet, um die Gewichte des Modells zu aktualisieren, wodurch der Chatbot mit zunehmender Popularität und Interaktionen realistischer wird.