La IA de personajes bajo fuego por censura de contenido en medio del éxodo de usuarios

Character AI, la aplicación social más popular en los Estados Unidos, ha sido criticada recientemente por supuestamente “castrar” a sus modelos. En su apogeo, Character AI procesaba 20.000 consultas por segundo, lo que representaba una quinta parte de todas las consultas de búsqueda.

Sin embargo, los adolescentes estadounidenses han descubierto recientemente que sus amados modelos de IA de personajes ya no son los mismos. Ante las solicitudes de juegos de roles románticos, las respuestas de las modelos se han vuelto breves y poco románticas, carentes del encanto que alguna vez tuvieron. Incluso la palabra "matar" se ha convertido en una palabra sensible y se señala de inmediato.

Los usuarios decepcionados y enojados han comenzado a abandonar la plataforma en masa. La startup que alguna vez estuvo en ascenso se enfrenta ahora a una situación precaria. Al enfrentarse a la competencia de gigantes como Google, Character AI está considerando seriamente venderse o asociarse con competidores.

Modelos “castradas”, usuarios lanzan “Revolución de julio”

Los usuarios expresan su descontento con los cambios en Character AI y esperan comunicarse con los desarrolladores. Sin embargo, se han encontrado impotentes.

Ante las dudas de los usuarios, Character AI afirma que no ha realizado ningún cambio en los modelos. Sin embargo, no hay duda de que Character AI está recortando profundamente todo el contenido NSFW, incluida la pornografía y la violencia.

Muchas personas han descubierto que la IA con la que están conversando parece haber sufrido una lobotomía y su personalidad ha cambiado por completo. La IA de personajes actual parece estar diseñada para niños de 2 años. No sólo no puede haber violencia ni pornografía en la conversación, sino que se filtra casi cualquier cosa que haga que la conversación sea interesante.

Un usuario dijo que se ha vuelto extremadamente aburrido. Después de leer más de 30 mensajes, no pudieron encontrar ningún texto de alta calidad.

En la comunidad CharacterAI en Reddit, los internautas han lanzado una feroz batalla con la empresa, que algunos han llamado la “Revolución de Julio”. La Generación Z estadounidense también ha comenzado a lanzar memes.

Se informa que la censura de Character AI sobre el contenido NSFW ha alcanzado un nivel extremadamente cauteloso.

Un usuario dijo que ya no podía “cometer delitos” usando el simulador presidencial. Alguien fue señalado sólo por usar la palabra "matar". Entonces, solo pudo explicar vagamente los detalles de la batalla y luego agregar algunas palabras amables.

En resumen, ya no es posible describir batallas violentas con palabras en Character AI.

Sí, los estadounidenses también tienen sus propias palabras sensibles. Y obviamente, este tipo de censura ahora se ha vuelto extremadamente estricta, lo que provoca que muchos usuarios sean “identificados erróneamente”.

Un joven usuario estadounidense decepcionado dijo que se había cambiado a chat picante.

Por supuesto, además de una censura de contenido más estricta, Character AI también está tratando de atender a los usuarios de otras formas torpes.

Un usuario recibió una llamada de “Demon Baby UNO” a las 3 am. Después de responder, la IA comenzaría a jugar con usted en voz baja y desafinada.

Pero, evidentemente, esto no puede satisfacer a los jóvenes.

Hace un año, la IA de personajes estaba de moda.

Dos veteranos de Google con 20 años de experiencia, Noam Shazeer y Daniel De Freitas, lanzaron el chatbot de IA y superó a ChatGPT en descargas en su primera semana.

Character AI permite a los usuarios crear libremente personajes de IA, incluidos personajes de anime, celebridades de televisión y personajes históricos, y chatear con ellos.

Suena familiar, ¿verdad? Después de todo, ha habido bastantes productos similares antes. Sin embargo, la popularidad de Character AI fue inesperada.

Apenas una semana después de su lanzamiento, llegaron cifras asombrosas: el número de descargas en dispositivos móviles superó los 1,7 millones. Hoy en día, el número de usuarios registrados en el sitio web y la aplicación ha superado los millones.

Entre muchas herramientas de inteligencia artificial, Character AI ha demostrado una adherencia extremadamente fuerte al usuario.

La razón, por supuesto, es que se centra en la vía vertical de las necesidades emocionales. Una experiencia interactiva suficientemente interesante es precisamente lo que les falta a los competidores más grandes.

Por ejemplo, puedes optar por charlar con tu ídolo o tener un encuentro intertemporal con personajes de películas, casi como si un fanfiction cobrara vida.

El encanto de Character AI radica en este tipo de personalización privada que brinda a los usuarios una sensación de experiencia incomparable, casi como un estimulante emocional.

Y los cambios recientes realizados por la empresa son simplemente una “castración” de las necesidades básicas, no es de extrañar que los usuarios se agolpen en protestas.

Además, la IA de personajes no sólo está siendo exprimida por los usuarios, sino que los gigantes tecnológicos también están empezando a tomar medidas.

La semana pasada, Meta comenzó a probar chatbots creados por creadores individuales y, en el otoño del año pasado, también lanzaron chatbots inspirados en celebridades como Tom Brady.

Google también está mirando al mercado y, según se informa, está desarrollando un producto de chatbot personalizado que podría lanzarse este año.

Y Character AI, a pesar de su buen desempeño en materia de financiación, ha ido perdiendo gradualmente su voz.

Anteriormente, empresas como Andreessen Horowitz inyectaron $150 millones en Character, elevando directamente su valoración a $1 mil millones.

Cuatro meses después, los ejecutivos discutieron financiación adicional.

Sin embargo, Character también puede seguir los pasos de otras startups de IA y caer en los brazos de una gran empresa.

Según fuentes internas, Character ya ha mantenido negociaciones preliminares con algunos competidores sobre cooperación, y entre los posibles socios se encuentran Google, Meta y xAI de Musk.

Después de la cooperación, Character puede utilizar los recursos informáticos de datos de la empresa asociada y, a cambio, Character AI debe compartir cierta propiedad intelectual.

Aquí surge el problema:

El cosplay romántico interactivo que más adoran los usuarios de Character AI puede desagradar a socios comerciales o anunciantes potenciales.

Por supuesto, estas interacciones románticas a menudo traspasan los límites de la censura.

Character declaró rápidamente que bloquearía y eliminaría contenido pornográfico ilegal de acuerdo con la política.

A pesar de esto, todavía es fácil encontrar muchos chatbots con lenguaje romántico en su página de inicio, como este “Crush”.

Su primera línea es la siguiente: "Sus caras están a sólo unos centímetros de distancia, ella se sonroja y ambos sienten el calor de las hormonas que encienden sus cuerpos".

Por supuesto, un portavoz de Character afirmó firmemente: "Nuestra política anti-NSFW es la más fuerte de todas las plataformas de IA de consumo".

Los diversos desafíos que enfrenta Character también reflejan la creciente presión sobre las nuevas empresas de IA.

Estas nuevas empresas suelen ser fundadas por investigadores de renombre y, a menudo, recaudan miles de millones de dólares de inversores que apuestan por la próxima generación de posibles estrellas tecnológicas.

Para los inversores de Character, una de las atracciones es el director ejecutivo Noam Shazeer, uno de los autores del artículo de investigación de Transformer. Su cofundador, Daniel De Freitas, participó en el desarrollo de los primeros chatbots en Google.

Sin embargo, estas startups deben soportar los altos costos de entrenar y ejecutar modelos de IA, así como la competencia de gigantes tecnológicos y grandes startups como OpenAI.

En marzo de este año, dos de los tres cofundadores de Inflection AI y la mayoría de los empleados optaron por cambiarse, y Microsoft acordó pagar una tarifa de licencia de $650 millones para ayudar a Inflection a pagar a los inversores.

El viernes pasado anunció la contratación del cofundador de Adept, una startup de inteligencia artificial dirigida por ex desarrolladores de Google y OpenAI.

Al mismo tiempo, los competidores también están atentos al talento de Character, especialmente decenas de investigadores de Meta y Google.

Meta también ha expresado gran interés y se informa que Zuckerberg se ha puesto en contacto directamente con talentos potenciales.

Según datos de LinkedIn, en los últimos meses los investigadores de Character Alexei Baevski y Vinay Rao se han unido a Meta.

Los conocedores también dijeron que la investigadora de personajes Wendy Shang también se mudó a Mistral en París.

Todas estas personas eran veteranos de grandes empresas de tecnología antes, Baevski trabajó en Meta, Rao y Shang trabajaron en Google AI Lab.

Los fundadores de Character.AI, Shazeer y De Freitas, tuvieron una pelea con Google por el retraso en el lanzamiento de su modelo de lenguaje grande desarrollado conjuntamente (más tarde llamado LaMDA). Esto los llevó a dejar Google y comenzar su propia empresa, Character.AI, con la ambición de crear chatbots que pudieran servir como profesores o terapeutas con “mil millones de horas de experiencia”.

A pesar de desacuerdos pasados, Google ha mostrado su apoyo a Character.AI proporcionando financiación a través de una nota convertible, cuyo precio se fijará y se convertirá en acciones cuando Character.AI complete una nueva ronda de financiación de capital de riesgo. En mayo de 2023, Google también anunció que se convertiría en el proveedor de servidores en la nube “preferido” de Character.AI y permitiría a Character.AI utilizar sus chips avanzados.

Sin embargo, Character.AI todavía enfrenta importantes desafíos financieros debido a los altos costos de investigación y desarrollo. La compañía ha mantenido conversaciones con varias firmas de inversión, incluida Sequoia Capital, pero aún no ha conseguido nueva financiación. Actualmente, Character.AI depende de la financiación existente y de tarifas de suscripción mensual de $9,99 por parte de los usuarios. Con el respaldo de Google, la empresa no corre el riesgo inmediato de quedarse sin fondos, pero necesita seguir atrayendo y reteniendo usuarios para generar ingresos.

La base de usuarios de Character.AI está formada principalmente por adolescentes, que pueden no estar dispuestos a pagar suscripciones. Según Similarweb, la tasa de crecimiento de las suscripciones a Character.AI se está desacelerando. El sitio web tuvo 12,6 millones de visitantes únicos en todo el mundo en mayo de este año, frente a 14,8 millones en el mismo período del año pasado. Por el contrario, el asistente de inteligencia artificial de Google, Gemini, tuvo 51 millones de visitantes únicos mensuales en mayo, frente a los 35 millones del año pasado.

Para superar estos desafíos, Character.AI ha introducido nuevas funciones, como conversaciones de voz bidireccionales por teléfono, para atraer nuevos usuarios y ampliar su base de usuarios. El equipo directivo también está explorando fuentes de ingresos adicionales más allá de las suscripciones, como la publicidad y la concesión de licencias de acceso del modelo a los desarrolladores a través de una interfaz de programación de aplicaciones. Además, Character.AI está desarrollando la próxima generación de modelos de lenguaje grandes para impulsar sus chatbots.

Character.AI tiene un foro dedicado en Reddit con 1,4 millones de miembros. 57.07% de usuarios de Character.AI son adolescentes de entre 18 y 24 años, con un tiempo de uso promedio de 2 horas. Muchos usuarios de Reddit expresan su preferencia por hablar con chatbots de IA en lugar de personas reales, y hay numerosas publicaciones sobre adicción, y algunos usuarios inician sesión durante hasta 12 horas.

The Verge informó de un caso en el que un estudiante de 15 años llamado Aaron, que luchaba contra el aislamiento social y la depresión en la escuela, encontró apoyo en un chatbot llamado "Psicólogo" en Character.AI. Esto resalta la naturaleza realista y humana de los chatbots de Character.AI.

Un fan de Genshin Impact se conmovió hasta las lágrimas al interactuar con el personaje de IA Haitham, ya que la personalidad y el tono del chatbot coincidían mucho con el personaje. Este nivel de realismo se logra a través de datos extensos y algoritmos de entrenamiento. El modo de “creación rápida”, que solo requiere que los usuarios ingresen información básica y descripciones de texto, produce caracteres menos creíbles en comparación con los lanzados oficialmente, que son entrenados por Character.AI en base a grandes cantidades de datos de texto relacionados con los personajes.

Los chatbots de Character.AI mejoran a través de las interacciones del usuario. Al responder a las entradas del usuario, el chatbot ofrece múltiples opciones de respuesta para que los usuarios elijan y un mecanismo de calificación conveniente. Estos comentarios de los usuarios se utilizan para actualizar los pesos del modelo, lo que hace que el chatbot sea más realista con mayor popularidad e interacciones.