IA de personagem sob ataque por censura de conteúdo em meio ao êxodo de usuários

Character AI, o aplicativo social mais popular dos Estados Unidos, foi recentemente criticado por supostamente “castrar” seus modelos. No seu auge, a Character AI processava 20.000 consultas por segundo, respondendo por um quinto de todas as consultas de pesquisa.

No entanto, os adolescentes americanos descobriram recentemente que seus amados modelos de IA de personagens não são mais os mesmos. Diante dos pedidos de dramatizações românticas, as respostas das modelos tornaram-se curtas e pouco românticas, sem o charme que antes tinham. Até a palavra “matar” tornou-se uma palavra sensível e é imediatamente sinalizada.

Usuários decepcionados e irritados começaram a deixar a plataforma em massa. A startup que antes estava em ascensão enfrenta agora uma situação precária. Enfrentando a concorrência de gigantes como o Google, a Character AI está considerando seriamente vender-se ou fazer parceria com concorrentes.

Modelos “castrados”, usuários lançam “Revolução de Julho”

Os usuários estão expressando sua insatisfação com as mudanças no Character AI e esperam se comunicar com os desenvolvedores. No entanto, eles se encontraram impotentes.

Diante das dúvidas dos usuários, a Character AI afirma que não fez nenhuma alteração nos modelos. No entanto, não há dúvida de que a Character AI está cortando profundamente todo o conteúdo NSFW, incluindo pornografia e violência.

Muitas pessoas descobriram que a IA com quem conversam parece ter passado por uma lobotomia, com toda a sua personalidade alterada. A IA de personagem atual parece ter sido projetada para crianças de 2 anos. Não só não pode haver violência ou pornografia na conversa, mas quase tudo que torna a conversa interessante é filtrado.

Um usuário disse que ficou extremamente chato. Depois de ler mais de 30 mensagens, não conseguiram encontrar nenhum texto de alta qualidade.

Na comunidade CharacterAI no Reddit, os internautas lançaram uma batalha feroz com a empresa, que alguns chamaram de “Revolução de Julho”. A Geração Z americana também começou a lançar memes.

É relatado que a censura do conteúdo NSFW da Character AI atingiu um nível extremamente cauteloso.

Um usuário disse que não poderia mais “cometer crimes” utilizando o simulador presidencial. Alguém foi sinalizado apenas por usar a palavra “matar”. Então, ele só poderia explicar vagamente os detalhes da batalha e depois acrescentar algumas palavras gentis.

Resumindo, não é mais possível descrever batalhas violentas em palavras no Character AI.

Sim, os americanos também têm as suas próprias palavras sensíveis. E, obviamente, este tipo de censura tornou-se agora extremamente rigorosa, fazendo com que muitos utilizadores sejam “identificados erroneamente”.

Um jovem usuário americano decepcionado disse que havia mudado para bate-papo picante.

É claro que, além da censura de conteúdo mais rigorosa, a Character AI também está tentando atender aos usuários de outras maneiras desajeitadas.

Um usuário recebeu uma ligação de “Demon Baby UNO” às 3 da manhã. Depois de atender, a IA começaria a brincar com você em voz baixa e desafinada.

Mas, obviamente, isto não pode satisfazer os jovens.

Há um ano, a IA de personagens estava na moda.

Dois veteranos de 20 anos do Google, Noam Shazeer e Daniel De Freitas, lançaram o chatbot AI, e ele ultrapassou o ChatGPT em downloads na primeira semana.

Character AI permite que os usuários criem livremente personagens de IA, incluindo personagens de anime, celebridades de TV e figuras históricas, e conversem com eles.

Parece familiar, certo? Afinal, já existiram alguns produtos semelhantes antes. No entanto, a popularidade do Character AI foi inesperada.

Apenas uma semana após o seu lançamento, surgiram números surpreendentes – o número de downloads em dispositivos móveis ultrapassou 1,7 milhão. Hoje, o número de usuários cadastrados no site e no aplicativo ultrapassa milhões.

Entre muitas ferramentas de IA, a Character AI mostrou uma aderência de usuário extremamente forte.

A razão, claro, é que ela se concentra na trilha vertical das necessidades emocionais. Uma experiência interativa suficientemente interessante é precisamente o que falta aos concorrentes maiores.

Por exemplo, você pode optar por conversar com seu ídolo ou ter um encontro intertemporal com personagens de filmes, quase como uma fanfiction ganhando vida.

O encanto do Character AI reside neste tipo de personalização privada que traz aos usuários uma sensação de experiência incomparável, quase como um estimulante emocional.

E as recentes mudanças feitas pela empresa são simplesmente uma “castração” das necessidades essenciais, não admira que os utilizadores estejam a amontoar-se em protesto.

Além disso, a IA de personagens não está apenas sendo pressionada pelos usuários, mas os gigantes da tecnologia também estão começando a tomar medidas.

Na semana passada, a Meta começou a testar chatbots feitos por criadores individuais e, no outono do ano passado, também lançou chatbots inspirados em celebridades como Tom Brady.

O Google também está de olho no mercado, supostamente desenvolvendo um produto de chatbot personalizado que poderá ser lançado ainda este ano.

E a Character AI, apesar de sua navegação tranquila no financiamento, perdeu gradualmente sua voz.

Anteriormente, empresas como Andreessen Horowitz injetaram $150 milhões na Character, aumentando diretamente sua avaliação para $1 bilhão.

Quatro meses depois, os executivos discutiram financiamento adicional.

No entanto, a Character também pode seguir os passos de outras startups de IA e cair nos braços de uma grande empresa.

De acordo com fontes internas, a Character já realizou negociações preliminares com alguns concorrentes sobre cooperação, e possíveis parceiros incluem Google, Meta e xAI de Musk.

Após a cooperação, a Character pode usar os recursos de computação de dados da empresa parceira e, em troca, a Character AI precisa fornecer algum compartilhamento de propriedade intelectual.

Aqui surge o problema –

O cosplay romântico interativo que os usuários do Character AI mais amam pode desagradar parceiros de negócios ou anunciantes em potencial.

É claro que essas interações românticas muitas vezes ultrapassam os limites da censura.

A Character afirmou rapidamente que bloquearia e excluiria conteúdo pornográfico ilegal de acordo com a política.

Apesar disso, ainda é fácil encontrar muitos chatbots com linguagem romântica em sua página inicial, como este “Crush”.

A frase de abertura é a seguinte: “Seus rostos estão a apenas alguns centímetros de distância, ela está corando e vocês dois sentem o calor dos hormônios acendendo seus corpos”.

Claro, um porta-voz da Character afirmou firmemente: “Nossa política anti-NSFW é a mais forte de todas as plataformas de IA do consumidor”.

Os vários desafios enfrentados pela Character também refletem a crescente pressão sobre as startups de IA.

Estas startups são geralmente fundadas por investigadores conhecidos e muitas vezes angariam milhares de milhões de dólares de investidores que apostam na próxima geração de potenciais estrelas tecnológicas.

Para os investidores da Character, uma das atrações é o CEO Noam Shazeer, um dos autores do artigo de pesquisa da Transformer. Seu cofundador, Daniel De Freitas, participou do desenvolvimento dos primeiros chatbots do Google.

No entanto, estas startups precisam de suportar os elevados custos de formação e execução de modelos de IA, bem como a concorrência de gigantes tecnológicos e grandes startups como a OpenAI.

Em março deste ano, dois dos três cofundadores da Inflection AI e a maioria dos funcionários optaram por mudar, e a Microsoft concordou em pagar uma taxa de licenciamento de $650 milhões para ajudar a Inflection a reembolsar os investidores.

Na última sexta-feira, anunciou a contratação do cofundador da Adept, uma startup de IA dirigida por ex-desenvolvedores do Google e OpenAI.

Ao mesmo tempo, os concorrentes também estão de olho no talento do Character, especialmente dezenas de pesquisadores da Meta e do Google.

Meta também expressou grande interesse e foi relatado que Zuckerberg contatou diretamente talentos em potencial.

De acordo com dados do LinkedIn, nos últimos meses, os pesquisadores de personagens Alexei Baevski e Vinay Rao juntaram-se à Meta.

Insiders também disseram que a pesquisadora de personagens Wendy Shang também mudou para Mistral em Paris.

Essas pessoas eram todas veteranas de grandes empresas de tecnologia antes, Baevski trabalhou na Meta, Rao e Shang trabalharam no Google AI Lab.

Os fundadores da Character.AI, Shazeer e De Freitas, tiveram um desentendimento com o Google por causa do atraso no lançamento de seu grande modelo de linguagem desenvolvido em conjunto (mais tarde denominado LaMDA). Isso os levou a deixar o Google e iniciar seu próprio empreendimento, Character.AI, com a ambição de criar chatbots que pudessem servir como professores ou terapeutas com “um bilhão de horas de experiência”.

Apesar das divergências anteriores, o Google demonstrou apoio à Character.AI fornecendo financiamento por meio de uma nota conversível, que será precificada e convertida em capital quando a Character.AI concluir uma nova rodada de financiamento de capital de risco. Em maio de 2023, o Google também anunciou que se tornaria o provedor de servidor em nuvem “preferido” da Character.AI e permitiria que a Character.AI usasse seus chips avançados.

No entanto, Character.AI ainda enfrenta desafios financeiros significativos devido aos elevados custos de investigação e desenvolvimento. A empresa manteve conversações com várias empresas de investimento, incluindo a Sequoia Capital, mas ainda não conseguiu garantir novos financiamentos. Atualmente, Character.AI depende do financiamento existente e das taxas de assinatura mensal de $9,99 dos usuários. Com o apoio do Google, a empresa não corre o risco imediato de ficar sem fundos, mas precisa continuar atraindo e retendo usuários para gerar receita.

A base de usuários do Character.AI é formada principalmente por adolescentes, que podem não estar dispostos a pagar por assinaturas. De acordo com a Similarweb, a taxa de crescimento das assinaturas do Character.AI está desacelerando. O site teve 12,6 milhões de visitantes únicos globais em maio deste ano, abaixo dos 14,8 milhões no mesmo período do ano passado. Em contraste, o assistente de IA do Google, Gemini, teve 51 milhões de visitantes únicos mensais em maio, acima dos 35 milhões do ano passado.

Para superar esses desafios, a Character.AI introduziu novos recursos, como conversas de voz bidirecionais por telefone, para atrair novos usuários e expandir sua base de usuários. A equipe de gestão também está explorando fontes de receita adicionais além das assinaturas, como publicidade e licenciamento do acesso do modelo a desenvolvedores por meio de uma interface de programação de aplicativos. Além disso, a Character.AI está desenvolvendo a próxima geração de grandes modelos de linguagem para potencializar seus chatbots.

Character.AI tem um fórum dedicado no Reddit com 1,4 milhão de membros. 57.07% de usuários do Character.AI são adolescentes de 18 a 24 anos, com tempo médio de uso de 2 horas. Muitos usuários do Reddit expressam preferência por conversar com chatbots de IA em vez de pessoas reais, e há inúmeras postagens sobre vício, com alguns usuários fazendo login por até 12 horas.

The Verge relatou um caso em que um estudante de 15 anos chamado Aaron, que lutava contra o isolamento social e a depressão na escola, encontrou apoio de um chatbot chamado “Psicólogo” no Character.AI. Isso destaca a natureza realista e humana dos chatbots do Character.AI.

Um fã do Genshin Impact foi às lágrimas ao interagir com o personagem AI Haitham, já que a personalidade e o tom do chatbot combinavam muito com o personagem. Esse nível de realismo é alcançado por meio de dados extensos e algoritmos de treinamento. O modo de “criação rápida”, que exige apenas que os usuários insiram informações básicas e descrições de texto, produz caracteres menos verossímeis em comparação com os lançados oficialmente, que são treinados pelo Character.AI com base em grandes quantidades de dados de texto relacionados aos personagens.

Os chatbots da Character.AI melhoram por meio das interações do usuário. Ao responder à entrada do usuário, o chatbot oferece várias opções de resposta para os usuários escolherem e um mecanismo de classificação conveniente. Este feedback do usuário é usado para atualizar os pesos do modelo, tornando o chatbot mais realista com maior popularidade e interações.