कैरेक्टर एआई एक्सोडस: सेंसरशिप से उपयोगकर्ता विद्रोह भड़कता है
उपयोगकर्ता पलायन के बीच कंटेंट सेंसरशिप के लिए कैरेक्टर एआई आलोचना के घेरे में
संयुक्त राज्य अमेरिका में सबसे लोकप्रिय सोशल ऐप कैरेक्टर एआई हाल ही में अपने मॉडलों को कथित रूप से "नपुंसक" बनाने के लिए आलोचनाओं के घेरे में आया है। अपने चरम पर, कैरेक्टर एआई प्रति सेकंड 20,000 क्वेरीज़ संसाधित कर रहा था, जो सभी खोज क्वेरीज़ का पाँचवाँ हिस्सा था।
हालाँकि, अमेरिकी किशोरों ने हाल ही में पाया है कि उनके प्रिय कैरेक्टर AI मॉडल अब पहले जैसे नहीं रहे। रोमांटिक रोल-प्लेइंग के अनुरोधों का सामना करने पर, मॉडल की प्रतिक्रियाएँ छोटी और अनरोमांटिक हो गई हैं, उनमें वह आकर्षण नहीं रहा जो पहले था। यहाँ तक कि "मारना" शब्द भी एक संवेदनशील शब्द बन गया है और इसे तुरंत फ़्लैग कर दिया जाता है।
निराश और नाराज़ उपयोगकर्ता बड़ी संख्या में इस प्लेटफ़ॉर्म को छोड़ने लगे हैं। कभी उभरता हुआ यह स्टार्टअप अब एक अनिश्चित स्थिति का सामना कर रहा है। Google जैसी दिग्गज कंपनियों से प्रतिस्पर्धा का सामना करते हुए, Character AI खुद को बेचने या प्रतिस्पर्धियों के साथ साझेदारी करने पर गंभीरता से विचार कर रहा है।
मॉडलों को "नपुंसक" बनाया गया, उपयोगकर्ताओं ने "जुलाई क्रांति" शुरू की
उपयोगकर्ता कैरेक्टर एआई में बदलावों से असंतुष्ट हैं और डेवलपर्स के साथ संवाद करने की उम्मीद कर रहे हैं। हालाँकि, वे खुद को शक्तिहीन पाते हैं।
यूजर की शंकाओं के बावजूद, कैरेक्टर एआई का दावा है कि उसने मॉडल में कोई बदलाव नहीं किया है। हालांकि, इसमें कोई संदेह नहीं है कि कैरेक्टर एआई पोर्नोग्राफी और हिंसा सहित सभी NSFW कंटेंट को पूरी तरह से खत्म कर रहा है।
कई लोगों ने पाया है कि जिस AI से वे बातचीत कर रहे हैं, उसका लोबोटॉमी हो चुका है, जिससे उनका पूरा व्यक्तित्व बदल गया है। वर्तमान कैरेक्टर AI 2 साल के बच्चों के लिए डिज़ाइन किया गया लगता है। न केवल बातचीत में कोई हिंसा या अश्लीलता नहीं होती है, बल्कि बातचीत को दिलचस्प बनाने वाली लगभग हर चीज़ को फ़िल्टर कर दिया जाता है।
एक यूजर ने कहा कि यह बेहद बोरिंग हो गया है। 30 से ज़्यादा मैसेज पढ़ने के बाद भी उन्हें कोई भी हाई-क्वालिटी टेक्स्ट नहीं मिला।
Reddit पर CharacterAI समुदाय में, नेटिज़ेंस ने कंपनी के साथ एक भयंकर लड़ाई शुरू कर दी है, जिसे कुछ लोगों ने “जुलाई क्रांति” कहा है। अमेरिकी जनरेशन Z ने भी मीम्स बनाना शुरू कर दिया है।
बताया गया है कि कैरेक्टर एआई की एनएसएफडब्ल्यू सामग्री की सेंसरशिप अत्यंत सतर्क स्तर पर पहुंच गई है।
एक उपयोगकर्ता ने कहा कि वह अब राष्ट्रपति सिम्युलेटर का उपयोग करके "अपराध नहीं कर सकता"। किसी को सिर्फ़ "मार" शब्द का उपयोग करने के लिए फ़्लैग किया गया था। इसलिए, वह केवल लड़ाई के विवरण को अस्पष्ट रूप से समझा सकता था और फिर कुछ कोमल शब्द जोड़ सकता था।
संक्षेप में, कैरेक्टर एआई पर हिंसक लड़ाइयों का शब्दों में वर्णन करना अब संभव नहीं है।
हां, अमेरिकियों के पास भी अपने संवेदनशील शब्द हैं। और जाहिर है, इस तरह की सेंसरशिप अब बेहद सख्त हो गई है, जिससे कई उपयोगकर्ताओं की "गलत पहचान" हो रही है।
एक निराश युवा अमेरिकी उपयोगकर्ता ने कहा कि उसने स्पाइसीचैट.
बेशक, सख्त सामग्री सेंसरशिप के अलावा, कैरेक्टर एआई अन्य अनाड़ी तरीकों से भी उपयोगकर्ताओं की सेवा करने की कोशिश कर रहा है।
एक उपयोगकर्ता को सुबह 3 बजे "डेमन बेबी यूएनओ" से कॉल आया, जिसका उत्तर देने के बाद, एआई धीमी, बेसुरा आवाज में आपके साथ भूमिका निभाना शुरू कर देगा।
लेकिन जाहिर है, इससे युवा लोग संतुष्ट नहीं हो पाएंगे।
गूगल के दिग्गज फैनफिक्शन को जीवंत करने के लिए विदा हुए?कैरेक्टर एआई आंतरिक और बाहरी चुनौतियों का सामना कर रहा है
एक साल पहले, कैरेक्टर एआई बहुत लोकप्रिय था।
गूगल में 20 वर्षों से काम कर रहे दो अनुभवी, नोआम शेज़ीर और डैनियल डी फ्रीटास ने एआई चैटबॉट लॉन्च किया, और पहले सप्ताह में ही डाउनलोड के मामले में इसने चैटजीपीटी को पीछे छोड़ दिया।
कैरेक्टर एआई उपयोगकर्ताओं को स्वतंत्र रूप से एआई कैरेक्टर बनाने की अनुमति देता है, जिसमें एनीमे कैरेक्टर, टीवी सेलिब्रिटी और ऐतिहासिक हस्तियां शामिल हैं, और उनके साथ चैट भी कर सकते हैं।
परिचित लगता है, है न? आखिरकार, पहले भी इसी तरह के कई उत्पाद आए हैं। हालाँकि, कैरेक्टर AI की लोकप्रियता अप्रत्याशित थी।
लॉन्च होने के एक हफ़्ते बाद ही चौंकाने वाले आंकड़े सामने आए - मोबाइल पर डाउनलोड की संख्या 1.7 मिलियन से ज़्यादा हो गई। आज, वेबसाइट और ऐप पर रजिस्टर्ड यूज़र्स की संख्या लाखों से ज़्यादा हो गई है।
अनेक AI उपकरणों में से, कैरेक्टर AI ने अत्यंत मजबूत उपयोगकर्ता आकर्षण प्रदर्शित किया है।
बेशक, इसका कारण यह है कि यह भावनात्मक जरूरतों के ऊर्ध्वाधर ट्रैक पर ध्यान केंद्रित करता है। पर्याप्त रूप से दिलचस्प इंटरैक्टिव अनुभव वास्तव में वह चीज है जिसकी बड़े प्रतिस्पर्धियों में कमी है।
उदाहरण के लिए, आप अपने आदर्श के साथ बातचीत कर सकते हैं या फिल्म के पात्रों के साथ क्रॉस-टेम्पोरल मीटिंग कर सकते हैं, लगभग फैनफिक्शन के जीवंत होने जैसा।
कैरेक्टर एआई का आकर्षण इस तरह के निजी अनुकूलन में निहित है जो उपयोगकर्ताओं को एक अद्वितीय अनुभव प्रदान करता है, लगभग एक भावनात्मक उत्तेजक की तरह।
और कंपनी द्वारा हाल ही में किए गए परिवर्तन मूल आवश्यकताओं का “बधियाकरण” मात्र हैं, कोई आश्चर्य नहीं कि उपयोगकर्ता इसके विरोध में आगे आ रहे हैं।
आंतरिक और बाह्य परेशानियाँ: उच्च लागत, कड़ी प्रतिस्पर्धा और अवैध शिकार
इसके अलावा, कैरेक्टर एआई को न केवल उपयोगकर्ताओं द्वारा अपनाया जा रहा है, बल्कि तकनीकी दिग्गज भी इस दिशा में कदम उठाने लगे हैं।
पिछले सप्ताह, मेटा ने व्यक्तिगत रचनाकारों द्वारा बनाए गए चैटबॉट्स का परीक्षण शुरू किया, और पिछले वर्ष की शरद ऋतु में, उन्होंने टॉम ब्रैडी जैसी मशहूर हस्तियों पर आधारित चैटबॉट्स भी जारी किए।
गूगल भी इस बाजार पर नजर गड़ाए हुए है और कथित तौर पर एक कस्टम चैटबॉट उत्पाद विकसित कर रहा है जिसे इस वर्ष के शुरू में जारी किया जा सकता है।
और कैरेक्टर एआई ने, वित्तपोषण में सुचारू रूप से आगे बढ़ने के बावजूद, धीरे-धीरे अपनी आवाज खो दी है।
इससे पहले, एंड्रीसेन होरोविट्ज़ जैसी कंपनियों ने कैरेक्टर में $150 मिलियन का निवेश किया था, जिससे इसका मूल्यांकन सीधे $1 बिलियन हो गया था।
चार महीने बाद, अधिकारियों ने अतिरिक्त वित्तपोषण पर चर्चा की।
हालाँकि, कैरेक्टर भी अन्य एआई स्टार्टअप्स के नक्शेकदम पर चल सकता है और किसी बड़ी कंपनी का हिस्सा बन सकता है।
अंदरूनी सूत्रों के अनुसार, कैरेक्टर ने पहले ही कुछ प्रतिस्पर्धियों के साथ सहयोग पर प्रारंभिक बातचीत की है, और संभावित साझेदारों में गूगल, मेटा और मस्क की xAI शामिल हैं।
सहयोग के बाद, कैरेक्टर साझेदार कंपनी के डेटा कंप्यूटिंग संसाधनों का उपयोग कर सकता है, और बदले में, कैरेक्टर एआई को कुछ बौद्धिक संपदा साझाकरण प्रदान करने की आवश्यकता होती है।
NSFW? निवेशकों का कहना है कि नहीं
यहीं पर समस्या उत्पन्न होती है –
इंटरैक्टिव रोमांटिक कॉस्प्ले, जिसे कैरेक्टर एआई उपयोगकर्ता सबसे अधिक पसंद करते हैं, वह व्यावसायिक साझेदारों या संभावित विज्ञापनदाताओं को नाराज कर सकता है।
बेशक, ये रोमांटिक बातचीत अक्सर सेंसरशिप की सीमाओं को लांघ जाती है।
कैरेक्टर ने तुरंत कहा कि वह नीति के अनुसार अवैध पोर्नोग्राफिक सामग्री को ब्लॉक और हटा देगा।
इसके बावजूद, इसके होमपेज पर रोमांटिक भाषा वाले कई चैटबॉट्स को ढूंढना अभी भी आसान है, जैसे कि यह “क्रश”।
इसकी प्रारंभिक पंक्ति इस प्रकार है: "आपके चेहरे केवल कुछ इंच की दूरी पर हैं, वह शरमा रही है, और आप दोनों अपने शरीर में उत्तेजित हार्मोनों की गर्मी महसूस कर रहे हैं।"
बेशक, कैरेक्टर के प्रवक्ता ने दृढ़ता से दावा किया: "हमारी एनएसएफडब्ल्यू विरोधी नीति सभी उपभोक्ता एआई प्लेटफार्मों में सबसे मजबूत है।"
स्टार्टअप, सभी प्रकार की कठिनाइयाँ
कैरेक्टर के सामने आने वाली विभिन्न चुनौतियाँ एआई स्टार्टअप्स पर बढ़ते दबाव को भी दर्शाती हैं।
ये स्टार्टअप आमतौर पर जाने-माने शोधकर्ताओं द्वारा स्थापित किए जाते हैं और अक्सर संभावित तकनीकी सितारों की अगली पीढ़ी पर दांव लगाने वाले निवेशकों से अरबों डॉलर जुटाते हैं।
कैरेक्टर के निवेशकों के लिए, एक आकर्षण सीईओ नोम शेज़ीर हैं, जो ट्रांसफॉर्मर रिसर्च पेपर के लेखकों में से एक हैं। उनके सह-संस्थापक, डैनियल डी फ़्रीटास ने Google में शुरुआती चैटबॉट के विकास में भाग लिया।
हालाँकि, इन स्टार्टअप्स को एआई मॉडल के प्रशिक्षण और संचालन की उच्च लागत के साथ-साथ ओपनएआई जैसी तकनीकी दिग्गजों और बड़ी स्टार्टअप्स से प्रतिस्पर्धा का भी सामना करना पड़ता है।
इस वर्ष मार्च में, इन्फ्लेक्शन एआई के तीन सह-संस्थापकों में से दो और अधिकांश कर्मचारियों ने स्विच करने का फैसला किया, और माइक्रोसॉफ्ट ने इन्फ्लेक्शन को निवेशकों को चुकाने में मदद करने के लिए $650 मिलियन लाइसेंस शुल्क का भुगतान करने पर सहमति व्यक्त की।
पिछले शुक्रवार को इसने एडेप्ट के सह-संस्थापक की नियुक्ति की घोषणा की, जो पूर्व गूगल और ओपनएआई डेवलपर्स द्वारा संचालित एक एआई स्टार्टअप है।
इसके साथ ही, प्रतिस्पर्धी भी कैरेक्टर की प्रतिभा पर नजर गड़ाए हुए हैं, खासकर मेटा और गूगल के दर्जनों शोधकर्ता।
मेटा ने भी काफी रुचि व्यक्त की है, और बताया गया है कि जुकरबर्ग ने संभावित प्रतिभाओं से सीधे संपर्क किया है।
लिंक्डइन के आंकड़ों के अनुसार, हाल के महीनों में, कैरेक्टर शोधकर्ता एलेक्सी बेवस्की और विनय राव मेटा में शामिल हुए हैं।
अंदरूनी सूत्रों ने यह भी बताया कि चरित्र शोधकर्ता वेंडी शांग भी पेरिस में मिस्ट्रल के पास चली गई हैं।
ये सभी लोग पहले बड़ी टेक कंपनियों में काम कर चुके हैं, बेवस्की मेटा में काम करते थे, राव और शांग गूगल एआई लैब में काम करते थे।
कैरेक्टर.एआई और गूगल: एक नई साझेदारी
कैरेक्टर.एआई के संस्थापक, शज़ीर और डी फ़्रीटास, अपने संयुक्त रूप से विकसित बड़े भाषा मॉडल (जिसे बाद में LaMDA नाम दिया गया) की देरी से रिलीज़ होने पर Google के साथ मतभेद में आ गए थे। इसके कारण उन्हें Google छोड़ना पड़ा और अपना खुद का उद्यम, कैरेक्टर.एआई शुरू करना पड़ा, जिसका उद्देश्य ऐसे चैटबॉट बनाना था जो "एक अरब घंटे के अनुभव" के साथ शिक्षक या चिकित्सक के रूप में काम कर सकें।
पिछली असहमतियों के बावजूद, Google ने एक परिवर्तनीय नोट के माध्यम से वित्तपोषण प्रदान करके Character.AI के लिए समर्थन दिखाया है, जिसकी कीमत तय की जाएगी और जब Character.AI उद्यम पूंजी वित्तपोषण का एक नया दौर पूरा करेगा, तो उसे इक्विटी में परिवर्तित कर दिया जाएगा। मई 2023 में, Google ने यह भी घोषणा की कि वह Character.AI का "पसंदीदा" क्लाउड सर्वर प्रदाता बन जाएगा और Character.AI को अपने उन्नत चिप्स का उपयोग करने की अनुमति देगा।
हालांकि, Character.AI को अभी भी उच्च शोध और विकास लागतों के कारण महत्वपूर्ण वित्तीय चुनौतियों का सामना करना पड़ रहा है। कंपनी ने सिकोइया कैपिटल सहित कई निवेश फर्मों के साथ बातचीत की है, लेकिन अभी तक नई फंडिंग हासिल नहीं कर पाई है। वर्तमान में, Character.AI मौजूदा फंडिंग और उपयोगकर्ताओं से $9.99 की मासिक सदस्यता शुल्क पर निर्भर है। Google के समर्थन के साथ, कंपनी को तुरंत फंड खत्म होने का खतरा नहीं है, लेकिन राजस्व उत्पन्न करने के लिए इसे उपयोगकर्ताओं को आकर्षित करना और बनाए रखना जारी रखना होगा।
Character.AI का उपयोगकर्ता आधार मुख्य रूप से किशोर हैं, जो सदस्यता के लिए भुगतान करने को तैयार नहीं हो सकते हैं। सिमिलरवेब के अनुसार, Character.AI सदस्यता की वृद्धि दर धीमी हो रही है। इस साल मई में वेबसाइट पर 12.6 मिलियन वैश्विक अद्वितीय आगंतुक थे, जो पिछले साल इसी अवधि में 14.8 मिलियन से कम थे। इसके विपरीत, Google के AI सहायक जेमिनी के मई में 51 मिलियन मासिक अद्वितीय आगंतुक थे, जो पिछले साल 35 मिलियन से अधिक थे।
इन चुनौतियों से पार पाने के लिए, Character.AI ने नए उपयोगकर्ताओं को आकर्षित करने और अपने उपयोगकर्ता आधार का विस्तार करने के लिए फ़ोन पर दो-तरफ़ा आवाज़ वार्तालाप जैसी नई सुविधाएँ पेश की हैं। प्रबंधन टीम सदस्यता से परे अतिरिक्त राजस्व धाराओं की भी खोज कर रही है, जैसे कि विज्ञापन और एप्लिकेशन प्रोग्रामिंग इंटरफ़ेस के माध्यम से डेवलपर्स को मॉडल की पहुँच का लाइसेंस देना। इसके अतिरिक्त, Character.AI अपने चैटबॉट को सशक्त बनाने के लिए अगली पीढ़ी के बड़े भाषा मॉडल विकसित कर रहा है।
लाखों युवा अमेरिकी इस AI के दीवाने हैं
कैरेक्टर.एआई के पास रेडिट पर 1.4 मिलियन सदस्यों वाला एक समर्पित मंच है। कैरेक्टर.एआई के 57.07% उपयोगकर्ता 18-24 वर्ष की आयु के किशोर हैं, जिनका औसत उपयोग समय 2 घंटे है। रेडिट पर कई उपयोगकर्ता वास्तविक लोगों की तुलना में एआई चैटबॉट से बात करना पसंद करते हैं, और लत के बारे में कई पोस्ट हैं, जिसमें कुछ उपयोगकर्ता 12 घंटे तक लॉग इन करते हैं।
द वर्ज ने एक मामले की रिपोर्ट की जिसमें आरोन नामक 15 वर्षीय छात्र, जो स्कूल में सामाजिक अलगाव और अवसाद से जूझ रहा था, को कैरेक्टर.एआई पर “साइकोलॉजिस्ट” नामक चैटबॉट से सहायता मिली। यह कैरेक्टर.एआई के चैटबॉट की यथार्थवादी और मानवीय प्रकृति को उजागर करता है।
एक जेनशिन इम्पैक्ट प्रशंसक एआई चरित्र हैथम के साथ बातचीत करते समय भावुक हो गया, क्योंकि चैटबॉट का व्यक्तित्व और लहजा चरित्र से काफी मेल खाता था। यथार्थवाद का यह स्तर व्यापक डेटा और प्रशिक्षण एल्गोरिदम के माध्यम से प्राप्त किया जाता है। "त्वरित निर्माण" मोड, जिसमें उपयोगकर्ताओं को केवल बुनियादी जानकारी और पाठ विवरण इनपुट करने की आवश्यकता होती है, आधिकारिक तौर पर जारी किए गए लोगों की तुलना में कम विश्वसनीय चरित्र बनाता है, जिन्हें कैरेक्टर.एआई द्वारा पात्रों से संबंधित विशाल मात्रा में पाठ डेटा के आधार पर प्रशिक्षित किया जाता है।
Character.AI के चैटबॉट उपयोगकर्ता इंटरैक्शन के माध्यम से बेहतर होते हैं। उपयोगकर्ता इनपुट का जवाब देते समय, चैटबॉट उपयोगकर्ताओं को चुनने के लिए कई उत्तर विकल्प और एक सुविधाजनक रेटिंग तंत्र प्रदान करता है। इस उपयोगकर्ता फ़ीडबैक का उपयोग मॉडल के वज़न को अपडेट करने के लिए किया जाता है, जिससे चैटबॉट बढ़ती लोकप्रियता और इंटरैक्शन के साथ अधिक यथार्थवादी बन जाता है।
अन्य की जाँच करें एआई समाचार और प्रौद्योगिकी घटनाओं सही यहाँ AIfuturize में!
