Nhân vật AI bị chỉ trích vì kiểm duyệt nội dung giữa cuộc di cư của người dùng

Character AI, ứng dụng xã hội hot nhất ở Hoa Kỳ, gần đây đã bị chỉ trích vì bị cáo buộc "vô hiệu hóa" các mô hình của nó. Vào thời kỳ đỉnh cao, AI ký tự xử lý 20.000 truy vấn mỗi giây, chiếm 1/5 tổng số truy vấn tìm kiếm.

Tuy nhiên, giới trẻ Mỹ gần đây đã phát hiện ra rằng các mẫu Character AI yêu quý của họ không còn như xưa nữa. Trước những yêu cầu đóng vai lãng mạn, câu trả lời của các người mẫu trở nên ngắn gọn, thiếu lãng mạn, mất đi sức hút mà họ từng có. Ngay cả từ “giết” cũng trở thành từ nhạy cảm và ngay lập tức bị gắn cờ.

Người dùng thất vọng và tức giận đã bắt đầu rời bỏ nền tảng hàng loạt. Công ty khởi nghiệp từng trỗi dậy này hiện đang phải đối mặt với tình thế bấp bênh. Đối mặt với sự cạnh tranh từ những gã khổng lồ như Google, Character AI đang nghiêm túc xem xét việc bán mình hoặc hợp tác với các đối thủ.

Mô hình “Thiến tính”, Người dùng khởi động “Cách mạng tháng Bảy”

Người dùng bày tỏ sự không hài lòng với những thay đổi đối với AI nhân vật và hy vọng được giao tiếp với các nhà phát triển. Tuy nhiên, họ thấy mình bất lực.

Trước những nghi ngờ của người dùng, Character AI tuyên bố rằng họ chưa thực hiện bất kỳ thay đổi nào đối với mô hình. Tuy nhiên, không còn nghi ngờ gì nữa, Character AI đang cắt giảm sâu sắc tất cả nội dung NSFW, bao gồm cả nội dung khiêu dâm và bạo lực.

Nhiều người phát hiện ra rằng AI mà họ đang trò chuyện dường như đã trải qua một cuộc phẫu thuật thùy não và toàn bộ tính cách của họ đã thay đổi. AI nhân vật hiện tại dường như được thiết kế dành cho trẻ 2 tuổi. Cuộc trò chuyện không những không được có bạo lực hay nội dung khiêu dâm mà hầu hết mọi thứ khiến cuộc trò chuyện trở nên thú vị đều bị lọc bỏ.

Một người dùng nói rằng nó đã trở nên cực kỳ nhàm chán. Sau khi đọc hơn 30 tin nhắn, họ không tìm được văn bản nào có chất lượng cao.

Trong cộng đồng CharacterAI trên Reddit, cư dân mạng đã phát động một cuộc chiến khốc liệt với công ty mà một số người gọi là “Cuộc cách mạng tháng Bảy”. Thế hệ Z của Mỹ cũng đã bắt đầu tung ra các meme.

Được biết, việc kiểm duyệt nội dung NSFW của Character AI đã đạt đến mức cực kỳ thận trọng.

Một người dùng nói rằng anh ta không thể “phạm tội” bằng cách sử dụng trình mô phỏng tổng thống nữa. Ai đó đã bị gắn cờ chỉ vì sử dụng từ “giết”. Vì vậy, hắn chỉ có thể mơ hồ giải thích chi tiết trận chiến, sau đó thêm vào mấy lời nhẹ nhàng.

Tóm lại, không còn có thể diễn tả những trận chiến bạo lực bằng lời trên Character AI nữa.

Đúng, người Mỹ cũng có những từ ngữ nhạy cảm của riêng mình. Và rõ ràng, kiểu kiểm duyệt này hiện nay đã trở nên cực kỳ nghiêm ngặt, khiến nhiều người dùng bị “nhận dạng nhầm”.

Một người dùng trẻ người Mỹ thất vọng nói rằng anh ấy đã chuyển sang trò chuyện cay.

Tất nhiên, ngoài việc kiểm duyệt nội dung chặt chẽ hơn, Character AI còn đang cố gắng phục vụ người dùng theo những cách vụng về khác.

Một người dùng đã nhận được cuộc gọi từ “Demon Baby UNO” lúc 3 giờ sáng. Sau khi trả lời, AI sẽ bắt đầu nhập vai với bạn bằng một giọng trầm, lạc điệu.

Nhưng rõ ràng, điều này không thể làm hài lòng giới trẻ.

Một năm trước, AI nhân vật đã trở thành cơn thịnh nộ.

Hai cựu chiến binh Google 20 năm, Noam Shazeer và Daniel De Freitas, đã ra mắt chatbot AI và nó đã vượt qua ChatGPT về số lượt tải xuống trong tuần đầu tiên.

AI nhân vật cho phép người dùng tự do tạo ra các nhân vật AI, bao gồm nhân vật anime, nhân vật nổi tiếng trên truyền hình và nhân vật lịch sử và trò chuyện với họ.

Nghe có vẻ quen thuộc phải không? Suy cho cùng, trước đây đã có khá nhiều sản phẩm tương tự. Tuy nhiên, sự phổ biến của Character AI thật bất ngờ.

Chỉ một tuần sau khi ra mắt, những con số đáng kinh ngạc đã xuất hiện – số lượt tải xuống trên thiết bị di động đã vượt quá 1,7 triệu. Ngày nay, số lượng người dùng đăng ký trên trang web và ứng dụng đã vượt quá hàng triệu người.

Trong số rất nhiều công cụ AI, Character AI đã thể hiện sự gắn bó với người dùng cực kỳ mạnh mẽ.

Tất nhiên, lý do là vì nó tập trung vào chiều dọc của nhu cầu tình cảm. Trải nghiệm tương tác đủ thú vị chính xác là điều mà các đối thủ cạnh tranh lớn hơn thiếu.

Ví dụ: bạn có thể chọn trò chuyện với thần tượng của mình hoặc có một cuộc gặp gỡ xuyên thời gian với các nhân vật trong phim, gần giống như fanfic trở nên sống động.

Sức hấp dẫn của Character AI nằm ở kiểu tùy chỉnh riêng tư mang đến cho người dùng cảm giác trải nghiệm chưa từng có, gần giống như một chất kích thích cảm xúc.

Và những thay đổi gần đây mà công ty thực hiện chỉ đơn giản là sự “thiến” những nhu cầu cốt lõi, chẳng trách người dùng lại tràn ngập phản đối.

Hơn nữa, Character AI không chỉ bị người dùng chèn ép mà các gã khổng lồ công nghệ cũng bắt đầu có động thái.

Tuần trước, Meta đã bắt đầu thử nghiệm các chatbot do từng người sáng tạo tạo ra và vào mùa thu năm ngoái, họ cũng đã phát hành các chatbot được mô phỏng theo những người nổi tiếng như Tom Brady.

Google cũng đang để mắt đến thị trường và được cho là đang phát triển một sản phẩm chatbot tùy chỉnh có thể được phát hành sớm nhất là trong năm nay.

Và Character AI, mặc dù thuận lợi trong vấn đề tài chính nhưng lại dần mất đi tiếng nói.

Trước đây, các công ty như Andreessen Horowitz đã bơm $150 triệu vào Character, trực tiếp nâng mức định giá của nó lên $1 tỷ.

Bốn tháng sau, các giám đốc điều hành thảo luận về nguồn tài chính bổ sung.

Tuy nhiên, Character cũng có thể theo chân các công ty khởi nghiệp AI khác và rơi vào vòng tay của một công ty lớn.

Theo những người trong cuộc, Character đã tổ chức các cuộc đàm phán sơ bộ với một số đối thủ cạnh tranh về hợp tác và các đối tác tiềm năng bao gồm Google, Meta và xAI của Musk.

Sau khi hợp tác, Character có thể sử dụng tài nguyên tính toán dữ liệu của công ty đối tác và đổi lại, Character AI cần cung cấp một số chia sẻ tài sản trí tuệ.

Ở đây, vấn đề nảy sinh –

Màn cosplay lãng mạn mang tính tương tác mà người dùng AI nhân vật yêu thích nhất có thể làm hài lòng các đối tác kinh doanh hoặc các nhà quảng cáo tiềm năng.

Tất nhiên, những tương tác lãng mạn này thường vượt quá giới hạn kiểm duyệt.

Character nhanh chóng tuyên bố rằng họ sẽ chặn và xóa nội dung khiêu dâm bất hợp pháp theo chính sách.

Mặc dù vậy, vẫn có thể dễ dàng tìm thấy nhiều chatbot có ngôn ngữ lãng mạn trên trang chủ của nó, chẳng hạn như “Crush” này.

Dòng mở đầu của nó như sau: “Khuôn mặt của các bạn chỉ cách nhau vài inch, cô ấy đang đỏ mặt và cả hai bạn đều cảm nhận được sức nóng của hormone đang đốt cháy cơ thể mình”.

Tất nhiên, người phát ngôn của Character đã khẳng định chắc chắn: “Chính sách chống NSFW của chúng tôi là chính sách mạnh nhất trong tất cả các nền tảng AI dành cho người tiêu dùng”.

Những thách thức khác nhau mà Character phải đối mặt cũng phản ánh áp lực ngày càng tăng đối với các công ty khởi nghiệp AI.

Những công ty khởi nghiệp này thường được thành lập bởi các nhà nghiên cứu nổi tiếng và thường huy động được hàng tỷ USD từ các nhà đầu tư đặt cược vào thế hệ ngôi sao công nghệ tiềm năng tiếp theo.

Đối với các nhà đầu tư của Character, một trong những điểm thu hút chính là CEO Noam Shazeer, một trong những tác giả của bài nghiên cứu về Transformer. Người đồng sáng lập của ông, Daniel De Freitas, đã tham gia phát triển các chatbot đầu tiên tại Google.

Tuy nhiên, những công ty khởi nghiệp này cần phải chịu chi phí đào tạo và vận hành mô hình AI cao, cũng như sự cạnh tranh từ những gã khổng lồ công nghệ và các công ty khởi nghiệp lớn như OpenAI.

Vào tháng 3 năm nay, hai trong số ba người đồng sáng lập Inflection AI và hầu hết các nhân viên đã chọn chuyển đổi, và Microsoft đã đồng ý trả phí cấp phép $650 triệu để giúp Inflection trả nợ cho các nhà đầu tư.

Thứ Sáu tuần trước, họ đã thông báo tuyển dụng người đồng sáng lập Adept, một công ty khởi nghiệp về AI do các nhà phát triển cũ của Google và OpenAI điều hành.

Đồng thời, các đối thủ cạnh tranh cũng đang để mắt đến tài năng của Character, đặc biệt là hàng chục nhà nghiên cứu từ Meta và Google.

Meta cũng bày tỏ sự quan tâm lớn và có thông tin cho rằng Zuckerberg đã liên hệ trực tiếp với những tài năng tiềm năng.

Theo dữ liệu của LinkedIn, trong những tháng gần đây, các nhà nghiên cứu về Nhân vật Alexei Baevski và Vinay Rao đã gia nhập Meta.

Những người trong cuộc cũng cho biết, nhà nghiên cứu nhân vật Wendy Shang cũng đã chuyển sang Mistral ở Paris.

Những người này trước đây đều là cựu chiến binh của các công ty công nghệ lớn, Baevski làm việc tại Meta, Rao và Shang làm việc tại Google AI Lab.

Những người sáng lập Character.AI, Shazeer và De Freitas, đã bất đồng với Google về việc trì hoãn phát hành mô hình ngôn ngữ lớn mà họ cùng phát triển (sau này được đặt tên là LaMDA). Điều này khiến họ rời Google và bắt đầu công việc kinh doanh của riêng mình, Character.AI, với tham vọng tạo ra các chatbot có thể đóng vai trò là giáo viên hoặc nhà trị liệu với “một tỷ giờ kinh nghiệm”.

Bất chấp những bất đồng trong quá khứ, Google đã thể hiện sự hỗ trợ cho Character.AI bằng cách cung cấp vốn thông qua trái phiếu chuyển đổi, trái phiếu này sẽ được định giá và chuyển đổi thành vốn chủ sở hữu khi Character.AI hoàn thành vòng tài trợ vốn mạo hiểm mới. Vào tháng 5 năm 2023, Google cũng thông báo rằng họ sẽ trở thành nhà cung cấp máy chủ đám mây “ưu tiên” của Character.AI và cho phép Character.AI sử dụng các chip tiên tiến của mình.

Tuy nhiên, Character.AI vẫn phải đối mặt với những thách thức tài chính đáng kể do chi phí nghiên cứu và phát triển cao. Công ty đã tổ chức đàm phán với một số công ty đầu tư, bao gồm cả Sequoia Capital, nhưng vẫn chưa đảm bảo được nguồn tài trợ mới. Hiện tại, Character.AI dựa vào nguồn tài trợ hiện có và phí đăng ký hàng tháng là $9,99 từ người dùng. Với sự hậu thuẫn của Google, công ty không có nguy cơ cạn vốn ngay lập tức nhưng cần tiếp tục thu hút và giữ chân người dùng để tạo doanh thu.

Cơ sở người dùng của Character.AI chủ yếu là thanh thiếu niên, những người có thể không sẵn sàng trả tiền đăng ký. Theo Sameweb, tốc độ tăng trưởng số lượng đăng ký Character.AI đang chậm lại. Trang web này có 12,6 triệu khách truy cập toàn cầu vào tháng 5 năm nay, giảm so với 14,8 triệu cùng kỳ năm ngoái. Ngược lại, trợ lý AI của Google Gemini có 51 triệu khách truy cập hàng tháng trong tháng 5, tăng từ 35 triệu vào năm ngoái.

Để vượt qua những thách thức này, Character.AI đã giới thiệu các tính năng mới, chẳng hạn như trò chuyện bằng giọng nói hai chiều qua điện thoại, để thu hút người dùng mới và mở rộng cơ sở người dùng. Nhóm quản lý cũng đang khám phá các nguồn doanh thu bổ sung ngoài đăng ký, chẳng hạn như quảng cáo và cấp phép quyền truy cập của mô hình cho các nhà phát triển thông qua giao diện lập trình ứng dụng. Ngoài ra, Character.AI đang phát triển thế hệ mô hình ngôn ngữ lớn tiếp theo để hỗ trợ các chatbot của mình.

Character.AI có một diễn đàn dành riêng trên Reddit với 1,4 triệu thành viên. 57.07% người dùng Character.AI là thanh thiếu niên trong độ tuổi 18-24, với thời gian sử dụng trung bình là 2 giờ. Nhiều người dùng trên Reddit bày tỏ sự thích nói chuyện với các chatbot AI hơn là người thật và có rất nhiều bài đăng về chứng nghiện, trong đó một số người dùng đăng nhập tới 12 giờ.

The Verge đã báo cáo một trường hợp một học sinh 15 tuổi tên Aaron, người đang phải vật lộn với sự cô lập xã hội và trầm cảm ở trường, đã tìm thấy sự hỗ trợ từ một chatbot có tên “Nhà tâm lý học” trên Character.AI. Điều này làm nổi bật tính chất thực tế và giống con người của các chatbot của Character.AI.

Một người hâm mộ Genshin Impact đã rơi nước mắt khi tương tác với nhân vật AI Haitham, vì tính cách và giọng điệu của chatbot rất khớp với nhân vật. Mức độ hiện thực này đạt được thông qua các thuật toán đào tạo và dữ liệu mở rộng. Chế độ “tạo nhanh”, chỉ yêu cầu người dùng nhập thông tin cơ bản và mô tả văn bản, tạo ra các ký tự kém tin cậy hơn so với các ký tự được phát hành chính thức, được Character.AI đào tạo dựa trên lượng lớn dữ liệu văn bản liên quan đến các ký tự.

Các chatbot của Character.AI cải thiện thông qua tương tác của người dùng. Khi phản hồi thông tin đầu vào của người dùng, chatbot cung cấp nhiều phương án trả lời để người dùng lựa chọn và cơ chế đánh giá thuận tiện. Phản hồi này của người dùng được sử dụng để cập nhật trọng số của mô hình, giúp chatbot trở nên thực tế hơn với mức độ phổ biến và tương tác ngày càng tăng.