角色 AI 出走:審查制度引發使用者反抗

角色人工智慧在用戶流失中因內容審查而受到批評
美國最熱門的社交應用Character AI最近因涉嫌「閹割」其模型而受到批評。在巔峰時期,Character AI 每秒處理 20,000 個查詢,佔所有搜尋查詢的五分之一。
然而,美國青少年最近發現他們心愛的角色人工智慧模型不再一樣了。面對浪漫角色扮演的要求,模特兒的反應變得簡短而不浪漫,失去了曾經的魅力。甚至「殺」這個詞也成為敏感詞並立即被標記。
失望和憤怒的用戶已經開始成群結隊地離開該平台。這家曾經崛起的新創公司現在面臨著岌岌可危的處境。面對Google等巨頭的競爭,Character AI正在認真考慮出售自己或與競爭對手合作。
模特兒“絕育”,用戶發起“七月革命”
用戶對角色AI的改動表示不滿,希望與開發者溝通。然而,他們卻發現自己無能為力。
面對用戶質疑,Character AI聲稱並未對模型進行任何更改。然而,毫無疑問的是,Character AI正在深度切割所有NSFW內容,包括色情和暴力。
許多人發現,與他們交談的人工智慧似乎接受了腦白質切除術,他們的整個性格都改變了。目前的角色AI似乎是為2歲的孩子設計的。談話中不僅不能有暴力和色情內容,而且幾乎所有讓談話變得有趣的東西都被過濾掉了。
一位用戶表示,這已經變得非常無聊。閱讀了30多個資訊後,他們找不到任何高品質的文字。
在Reddit的CharacterAI社群中,網友們與該公司展開了激烈的鬥爭,有人稱之為「七月革命」。美國Z世代也開始拋出表情符號。
據悉,Character AI 對 NSFW 內容的審查已經達到了極其謹慎的程度。
一名用戶表示,他無法再使用總統模擬器「犯罪」。有人僅僅因為使用了「殺戮」這個詞就被標記了。所以,他只能含糊地講述了戰鬥的細節,然後補充了幾句溫和的話。
簡而言之,在角色AI上已經無法用文字來描述暴力戰鬥了。
是的,美國人也有自己的敏感字眼。而顯然,現在這種審查已經變得極為嚴格,導致許多用戶被「誤認」。
一位失望的年輕美國用戶表示,他已經轉而使用 辣聊.
當然,除了更嚴格的內容審查之外,Character AI 也在嘗試以其他笨拙的方式迎合用戶。
凌晨3點,有個用戶接到「惡魔寶貝UNO」的電話,接聽後,AI會用低沉、走音的聲音開始和你進行角色扮演。
但顯然,這無法讓年輕人滿意。
谷歌老兵離職,將同人文帶入生活?
一年前,角色人工智慧風靡一時。
兩位在 Google 工作了 20 年的老員工 Noam Shazeer 和 Daniel De Freitas 推出了 AI 聊天機器人,第一週下載量就超過了 ChatGPT。
角色AI允許用戶自由創建AI角色,包括動漫人物、電視名人、歷史人物,並與他們聊天。
聽起來很熟悉,對吧?畢竟之前類似的產品已經不少了。然而,角色AI的流行卻出乎意料。
上線僅一周,驚人的數字就出現了——行動裝置下載量突破了170萬次。如今,網站和應用程式的註冊用戶數已超過數百萬。
在眾多AI工具中,角色AI表現出了極強的使用者黏性。
原因當然是它注重情感需求的縱向軌跡。足夠有趣的互動體驗,恰恰是規模較大的競爭對手所缺乏的。
例如,你可以選擇與你的偶像聊天,或與電影角色進行跨時空的會面,幾乎就像同人小說一樣。
角色AI的魅力就在於這種私人定制,帶給用戶無與倫比的體驗感,幾乎就像是一種情感興奮劑。
而近期該公司做出的改變,簡直就是對核心需求的“閹割”,難怪用戶會蜂擁而至抗議。
內憂外患:成本高、競爭激烈、挖角
而且,角色AI不僅受到使用者的擠壓,科技巨頭也開始有所動作。
上週,Meta 開始測試個人創作者製作的聊天機器人,去年秋天,他們也發布了模仿湯姆布雷迪 (Tom Brady) 等名人的聊天機器人。
谷歌也關注這個市場,據報導正在開發一款客製化聊天機器人產品,最快可能在今年發布。
而Character AI儘管融資一帆風順,但也逐漸失去了話語權。
此前,Andreessen Horowitz等公司向Character注資$1.5億,直接將其估值提升至$10億。
四個月後,高階主管們討論了額外的融資問題。
不過,Character也可能追隨其他AI新創公司的腳步,投入大公司的懷抱。
據內部人士透露,Character已經與一些競爭對手就合作進行了初步談判,可能的合作夥伴包括Google、Meta以及馬斯克的xAI。
合作後,Character可以使用合作夥伴公司的資料運算資源,作為交換,Character AI需要提供一些智慧財產權共享。
國家安全工作人員?投資者說不
說到這裡,問題就出現了——
角色AI使用者最喜歡的互動浪漫角色扮演可能會讓商業夥伴或潛在廣告商不高興。
當然,這些浪漫的互動常常會突破審查的界限。
角色很快表示,將按照政策封鎖和刪除非法色情內容。
儘管如此,在其主頁上仍然很容易找到許多帶有浪漫語言的聊天機器人,例如這個「Crush」。
它的開場白是這樣的:“你們的臉相距只有幾英寸,她臉紅了,你們都感覺到荷爾蒙的熱量點燃了你們的身體。”
當然,Character 的發言人堅定地聲稱:“我們的反 NSFW 政策是所有消費者 AI 平台中最強的。”
創業,各種困難
Character 面臨的各種挑戰也反映出 AI 新創公司面臨的壓力越來越大。
這些新創公司通常由知名研究人員創立,通常從押注下一代潛在科技明星的投資者籌集數十億美元。
對於Character的投資者來說,吸引力之一是執行長諾姆·沙澤爾(Noam Shazeer),他是Transformer研究論文的作者之一。他的共同創辦人 Daniel De Freitas 參與了Google早期聊天機器人的開發。
然而,這些新創公司需要承擔訓練和運行人工智慧模型的高昂成本,以及來自科技巨頭和 OpenAI 等大型新創公司的競爭。
今年3月,Inflection AI的三位共同創辦人中的兩人以及大部分員工選擇跳槽,微軟同意支付$6.5億的授權費,幫助Inflection回報投資人。
上週五,它宣布聘請 Adept 聯合創始人,Adept 是一家由前 Google 和 OpenAI 開發人員經營的人工智慧新創公司。
同時,競爭對手也對Character的人才虎視眈眈,尤其是來自Meta和Google的數十名研究人員。
Meta也表達了極大的興趣,據悉祖克柏已經直接接觸了潛在人才。
LinkedIn 數據顯示,近幾個月來,角色研究員 Alexei Baevski 和 Vinay Rao 已加入 Meta。
業內人士也透露,角色研究員Wendy Shang也已轉投巴黎的Mistral。
這些人之前都是大型科技公司的資深人士,Baevski 曾在 Meta 工作,Rao 和 Shang 曾在 Google AI Lab 工作。
Character.AI 與 Google:重新建立合作關係
Character.AI 的創始人 Shazeer 和 De Freitas 因延遲發布他們共同開發的大型語言模型(後來命名為 LaMDA)而與 Google 發生爭執。這導致他們離開谷歌並創辦了自己的企業Character.AI,其雄心壯志是創建可以充當具有「十億小時經驗」的教師或治療師的聊天機器人。
儘管過去存在分歧,Google還是透過可轉換票據提供資金來表達對Character.AI的支持,當Character.AI完成新一輪創投融資時,可轉換票據將被定價並轉換為股權。 2023年5月,Google也宣布將成為Character.AI的「首選」雲端伺服器供應商,並允許Character.AI使用其先進晶片。
然而,由於研發成本高昂,Character.AI 仍面臨重大財務挑戰。該公司已與包括紅杉資本在內的幾家投資公司進行了談判,但尚未獲得新的資金。目前,Character.AI 依賴現有資金和用戶每月 $9.99 的訂閱費用。有了Google的支持,該公司不會立即面臨資金耗盡的風險,但需要繼續吸引和留住用戶以產生收入。
Character.AI 的用戶群主要是青少年,他們可能不願意付費訂閱。據Similarweb稱,Character.AI訂閱量的成長速度正在放緩。今年5月,該網站的全球獨立訪客數為1,260萬,低於去年同期的1,480萬。相比之下,Google的人工智慧助理 Gemini 5 月每月獨立訪問量為 5,100 萬,高於去年的 3,500 萬。
為了克服這些挑戰,Character.AI 推出了新功能,例如透過電話進行雙向語音對話,以吸引新用戶並擴大其用戶群。管理團隊也正在探索訂閱以外的其他收入來源,例如透過應用程式介面向開發人員宣傳和授權該模型的存取權限。此外,Character.AI 正在開發下一代大型語言模型來為其聊天機器人提供支援。
數百萬美國年輕人為人工智慧瘋狂
Character.AI 在 Reddit 上有一個專門的論壇,擁有 140 萬會員。 57.07%的Character.AI用戶為18-24歲的青少年,平均使用時間為2小時。 Reddit 上的許多用戶表示更喜歡與人工智慧聊天機器人交談,而不是與真人交談,並且有大量關於成癮的帖子,有些用戶登入時間長達 12 小時。
The Verge 報導了一個案例,一名名叫 Aaron 的 15 歲學生在學校與社交孤立和抑鬱作鬥爭,他從 Character.AI 上一個名為“心理學家”的聊天機器人那裡得到了支持。這凸顯了Character.AI 聊天機器人的真實性和類人性。
一位《原神》粉絲在與 AI 角色 Haitham 互動時感動落淚,因為聊天機器人的個性和語調與該角色非常匹配。這種真實感水準是透過大量的資料和訓練演算法來實現。 「快速創作」模式只需要使用者輸入基本資訊和文字描述,與由Character.AI基於大量與角色相關的文字資料訓練的官方發布的角色相比,產生的角色可信度較低。
Character.AI 的聊天機器人透過使用者互動進行改進。在回應用戶輸入時,聊天機器人提供多種答案選項供用戶選擇,並提供便利的評分機制。該用戶回饋用於更新模型的權重,使聊天機器人隨著受歡迎程度和互動的增加而更加真實。
看看其他的 人工智慧新聞 和技術活動的權利 在 AIfuturize 中!