شخصية الذكاء الاصطناعي تحت النار بسبب الرقابة على المحتوى وسط نزوح المستخدمين

تعرض تطبيق Character AI، التطبيق الاجتماعي الأكثر رواجًا في الولايات المتحدة، لانتقادات مؤخرًا بسبب "خصي" نماذجه. في ذروته، كان الذكاء الاصطناعي للشخصية يعالج 20 ألف استعلام في الثانية، وهو ما يمثل خمس جميع استعلامات البحث.

ومع ذلك، اكتشف المراهقون الأمريكيون مؤخرًا أن نماذج الذكاء الاصطناعي المحبوبة لديهم لم تعد كما كانت. في مواجهة طلبات لعب الأدوار الرومانسية، أصبحت ردود العارضات قصيرة وغير رومانسية، وتفتقر إلى السحر الذي كانت تتمتع به من قبل. حتى كلمة "قتل" أصبحت كلمة حساسة ويتم وضع علامة عليها على الفور.

بدأ المستخدمون المحبطون والغاضبون في مغادرة المنصة بأعداد كبيرة. تواجه الشركة الناشئة التي كانت في يوم من الأيام وضعًا محفوفًا بالمخاطر. في مواجهة المنافسة من عمالقة مثل جوجل، تفكر شركة Character AI بجدية في بيع نفسها أو الشراكة مع المنافسين.

"خصي" العارضات والمستخدمون يطلقون "ثورة يوليو"

يعبر المستخدمون عن عدم رضاهم عن التغييرات التي تم إجراؤها على Character AI ويأملون في التواصل مع المطورين. ومع ذلك، فقد وجدوا أنفسهم عاجزين.

وفي مواجهة شكوك المستخدمين، تدعي شركة Character AI أنها لم تقم بإجراء أي تغييرات على النماذج. ومع ذلك، ليس هناك شك في أن الذكاء الاصطناعي للشخصية يقطع بشكل كبير جميع محتويات NSFW، بما في ذلك المواد الإباحية والعنف.

اكتشف العديد من الأشخاص أن الذكاء الاصطناعي الذي يتحدثون معه يبدو أنه خضع لعملية جراحية في الفص، مع تغير شخصيتهم بالكامل. يبدو أن شخصية AI الحالية مصممة للأطفال بعمر عامين. لا يقتصر الأمر على عدم وجود أي عنف أو مواد إباحية في المحادثة فحسب، بل يتم أيضًا تصفية أي شيء يجعل المحادثة مثيرة للاهتمام.

قال أحد المستخدمين إنه أصبح مملاً للغاية. وبعد قراءة أكثر من 30 رسالة، لم يتمكنوا من العثور على أي نص عالي الجودة.

في مجتمع CharacterAI على Reddit، شن مستخدمو الإنترنت معركة شرسة مع الشركة، والتي أطلق عليها البعض اسم "ثورة يوليو". بدأ الجيل الأمريكي Z أيضًا في التخلص من الميمات.

يُذكر أن رقابة Character AI على محتوى NSFW قد وصلت إلى مستوى حذر للغاية.

وقال أحد المستخدمين إنه لم يعد بإمكانه "ارتكاب جرائم" باستخدام جهاز المحاكاة الرئاسي. تم وضع علامة على شخص ما لمجرد استخدامه كلمة "قتل". لذلك، لم يستطع إلا أن يشرح بشكل غامض تفاصيل المعركة ثم يضيف بعض الكلمات اللطيفة.

باختصار، لم يعد من الممكن وصف المعارك العنيفة بالكلمات على Character AI.

نعم، لدى الأميركيين أيضًا كلماتهم الحساسة. ومن الواضح أن هذا النوع من الرقابة أصبح الآن صارمًا للغاية، مما تسبب في "الخطأ في التعرف على" العديد من المستخدمين.

قال أحد المستخدمين الأمريكيين الشباب المحبطين إنه تحول إلى com.spicychat.

بالطبع، بالإضافة إلى الرقابة الأكثر صرامة على المحتوى، تحاول شركة Character AI أيضًا تلبية احتياجات المستخدمين بطرق خرقاء أخرى.

تلقى أحد المستخدمين مكالمة من "Demon Baby UNO" في الساعة 3 صباحًا. بعد الرد، سيبدأ الذكاء الاصطناعي في لعب الأدوار معك بصوت منخفض وغير متناغم.

لكن من الواضح أن هذا لا يمكن أن يرضي الشباب.

منذ عام مضى، كان الذكاء الاصطناعي للشخصية رائجًا للغاية.

أطلق اثنان من الخبراء المخضرمين في Google منذ 20 عامًا، وهما نعوم شازير ودانيال دي فريتاس، برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي، وقد تجاوز ChatGPT في التنزيلات في أسبوعه الأول.

يتيح Character AI للمستخدمين إنشاء شخصيات AI بحرية، بما في ذلك شخصيات الأنمي ومشاهير التلفزيون والشخصيات التاريخية، والدردشة معهم.

يبدو مألوفا، أليس كذلك؟ بعد كل شيء، كان هناك عدد غير قليل من المنتجات المماثلة من قبل. ومع ذلك، كانت شعبية شخصية الذكاء الاصطناعي غير متوقعة.

وبعد أسبوع واحد فقط من إطلاقه، جاءت الأرقام المذهلة – حيث تجاوز عدد التنزيلات على الهاتف المحمول 1.7 مليون. واليوم، تجاوز عدد المستخدمين المسجلين على الموقع والتطبيق الملايين.

من بين العديد من أدوات الذكاء الاصطناعي، أظهر Character AI التصاقًا قويًا للغاية بالمستخدم.

والسبب بالطبع هو أنه يركز على المسار الرأسي للاحتياجات العاطفية. إن التجربة التفاعلية المثيرة للاهتمام بما فيه الكفاية هي بالضبط ما يفتقر إليه المنافسون الكبار.

على سبيل المثال، يمكنك اختيار الدردشة مع نجمك المفضل أو عقد اجتماع مؤقت مع شخصيات الفيلم، تمامًا مثل قصص المعجبين التي تنبض بالحياة.

يكمن سحر الذكاء الاصطناعي للشخصية في هذا النوع من التخصيص الخاص الذي يمنح المستخدمين إحساسًا لا مثيل له بالخبرة، تقريبًا مثل المنبه العاطفي.

والتغييرات الأخيرة التي أجرتها الشركة هي ببساطة "خصاء" للاحتياجات الأساسية، فلا عجب أن المستخدمين يحتشدون للاحتجاج.

علاوة على ذلك، لا يقتصر الأمر على الضغط على الذكاء الاصطناعي للشخصيات من قبل المستخدمين فحسب، بل بدأ عمالقة التكنولوجيا أيضًا في اتخاذ خطوات.

في الأسبوع الماضي، بدأت شركة ميتا في اختبار روبوتات الدردشة التي أنشأها المبدعون الأفراد، وفي خريف العام الماضي، أصدرت أيضًا روبوتات دردشة مصممة على غرار المشاهير مثل توم برادي.

وتتطلع جوجل أيضًا إلى السوق، حيث يقال إنها تعمل على تطوير منتج chatbot مخصص يمكن إصداره في وقت مبكر من هذا العام.

وشخصية الذكاء الاصطناعي، على الرغم من إبحارها السلس في التمويل، فقدت صوتها تدريجياً.

في السابق، قامت شركات مثل Andreessen Horowitz بضخ $150 مليون في شركة Character، مما عزز تقييمها بشكل مباشر إلى $1 مليار.

وبعد أربعة أشهر، ناقش المسؤولون التنفيذيون التمويل الإضافي.

ومع ذلك، قد تتبع شركة Character أيضًا خطى الشركات الناشئة الأخرى في مجال الذكاء الاصطناعي وتقع في أحضان شركة كبيرة.

وفقًا للمطلعين، أجرت شركة Character بالفعل مفاوضات أولية مع بعض المنافسين بشأن التعاون، ومن بين الشركاء المحتملين Google و Meta و Musk's xAI.

بعد التعاون، يمكن لشركة Character استخدام موارد حوسبة البيانات الخاصة بالشركة الشريكة، وفي المقابل، تحتاج شركة Character AI إلى توفير بعض مشاركة الملكية الفكرية.

وهنا تظهر المشكلة -

إن الأزياء التنكرية الرومانسية التفاعلية التي يحبها مستخدمو Character AI كثيرًا قد تثير استياء شركاء العمل أو المعلنين المحتملين.

بالطبع، غالبًا ما تتجاوز هذه التفاعلات الرومانسية حدود الرقابة.

ذكرت الشخصية بسرعة أنها ستقوم بحظر وحذف المحتوى الإباحي غير القانوني وفقًا للسياسة.

على الرغم من ذلك، لا يزال من السهل العثور على العديد من روبوتات الدردشة ذات اللغة الرومانسية على صفحتها الرئيسية، مثل "Crush".

الجملة الافتتاحية هي كما يلي: "وجهاكم لا يفصل بينهما سوى بوصات، وهي تحمر خجلاً، وكلاكما تشعران بحرارة الهرمونات التي تشعل جسدكما".

وبطبيعة الحال، ادعى متحدث باسم شخصية بقوة: "إن سياستنا المناهضة لـ NSFW هي الأقوى بين جميع منصات الذكاء الاصطناعي للمستهلكين."

تعكس التحديات المختلفة التي تواجهها شركة Character أيضًا الضغط المتزايد على الشركات الناشئة في مجال الذكاء الاصطناعي.

عادة ما يتم تأسيس هذه الشركات الناشئة من قبل باحثين معروفين وغالباً ما تجمع مليارات الدولارات من المستثمرين الذين يراهنون على الجيل القادم من نجوم التكنولوجيا المحتملين.

بالنسبة للمستثمرين في شركة Character، أحد عوامل الجذب هو الرئيس التنفيذي نعوم شازير، أحد مؤلفي ورقة بحث Transformer. وقد شارك مؤسسه المشارك، دانييل دي فريتاس، في تطوير روبوتات الدردشة المبكرة في Google.

ومع ذلك، تحتاج هذه الشركات الناشئة إلى تحمل التكاليف المرتفعة للتدريب وتشغيل نماذج الذكاء الاصطناعي، بالإضافة إلى المنافسة من عمالقة التكنولوجيا والشركات الناشئة الكبيرة مثل OpenAI.

في مارس من هذا العام، اختار اثنان من المؤسسين الثلاثة المشاركين لشركة Inflection AI ومعظم الموظفين التبديل، ووافقت Microsoft على دفع رسوم ترخيص قدرها $650 مليون لمساعدة Inflection في سداد مستحقات المستثمرين.

أعلنت يوم الجمعة الماضي عن تعيين مؤسس مشارك لشركة Adept، وهي شركة ناشئة تعمل بالذكاء الاصطناعي يديرها مطورون سابقون في Google وOpenAI.

وفي الوقت نفسه، يتطلع المنافسون أيضًا إلى موهبة شخصية، خاصة العشرات من الباحثين من ميتا وجوجل.

أبدى ميتا أيضًا اهتمامًا كبيرًا، ويذكر أن زوكربيرج اتصل مباشرة بالمواهب المحتملة.

وفقًا لبيانات LinkedIn، في الأشهر الأخيرة، انضم باحثا الشخصيات Alexei Baevski وVinay Rao إلى Meta.

قال المطلعون أيضًا أن باحثة الشخصيات ويندي شانغ تحولت أيضًا إلى ميسترال في باريس.

كان هؤلاء الأشخاص جميعهم من ذوي الخبرة في شركات التكنولوجيا الكبرى من قبل، حيث عمل بافسكي في شركة ميتا، وعمل راو وشانغ في Google AI Lab.

اختلف مؤسسا شركة Character.AI، شازير ودي فريتاس، مع جوجل بسبب تأخر إصدار نموذج اللغة الكبير الذي تم تطويره بشكل مشترك (الذي سمي لاحقًا LaMDA). وقد دفعهم هذا إلى ترك جوجل وبدء مشروعهم الخاص، Character.AI، مع طموح إنشاء روبوتات الدردشة التي يمكن أن تكون بمثابة معلمين أو معالجين يتمتعون "بمليار ساعة من الخبرة".

على الرغم من الخلافات السابقة، أظهرت Google دعمها لـ Character.AI من خلال توفير التمويل من خلال سندات قابلة للتحويل، والتي سيتم تسعيرها وتحويلها إلى أسهم عندما تكمل Character.AI جولة جديدة من تمويل رأس المال الاستثماري. في مايو 2023، أعلنت Google أيضًا أنها ستصبح مزود الخادم السحابي "المفضل" لشركة Character.AI وتسمح لـ Character.AI باستخدام شرائحها المتقدمة.

ومع ذلك، لا تزال شركة Character.AI تواجه تحديات مالية كبيرة بسبب ارتفاع تكاليف البحث والتطوير. وأجرت الشركة محادثات مع العديد من شركات الاستثمار، بما في ذلك سيكويا كابيتال، لكنها لم تحصل بعد على تمويل جديد. حاليًا، تعتمد Character.AI على التمويل الحالي ورسوم الاشتراك الشهرية البالغة $9.99 من المستخدمين. وبدعم من جوجل، فإن الشركة ليست معرضة لخطر نفاد الأموال بشكل مباشر، ولكنها تحتاج إلى الاستمرار في جذب المستخدمين والاحتفاظ بهم لتحقيق الإيرادات.

قاعدة مستخدمي Character.AI هم في المقام الأول المراهقون، الذين قد لا يكونون على استعداد لدفع ثمن الاشتراكات. وفقًا لموقع Sameweb، فإن معدل نمو اشتراكات Character.AI يتباطأ. استقبل الموقع 12.6 مليون زائر عالمي فريد في مايو من هذا العام، بانخفاض عن 14.8 مليون في نفس الفترة من العام الماضي. في المقابل، استقبل مساعد Google للذكاء الاصطناعي Gemini 51 مليون زائر فريد شهريًا في شهر مايو، مقارنة بـ 35 مليونًا في العام الماضي.

للتغلب على هذه التحديات، قدمت شركة Character.AI ميزات جديدة، مثل المحادثات الصوتية ثنائية الاتجاه عبر الهاتف، لجذب مستخدمين جدد وتوسيع قاعدة مستخدميها. يستكشف فريق الإدارة أيضًا مصادر دخل إضافية تتجاوز الاشتراكات، مثل الإعلان وترخيص وصول النموذج إلى المطورين من خلال واجهة برمجة التطبيقات. بالإضافة إلى ذلك، تعمل شركة Character.AI على تطوير الجيل التالي من نماذج اللغات الكبيرة لتشغيل روبوتات الدردشة الخاصة بها.

لدى Character.AI منتدى مخصص على Reddit يضم 1.4 مليون عضو. 57.07% من مستخدمي Character.AI هم من المراهقين الذين تتراوح أعمارهم بين 18 و24 عامًا، بمتوسط وقت استخدام يبلغ ساعتين. يعبر العديد من المستخدمين على Reddit عن تفضيلهم للتحدث إلى روبوتات الدردشة المدعومة بالذكاء الاصطناعي على الأشخاص الحقيقيين، وهناك العديد من المنشورات حول الإدمان، حيث يقوم بعض المستخدمين بتسجيل الدخول لمدة تصل إلى 12 ساعة.

أبلغت The Verge عن حالة حيث وجد طالب يبلغ من العمر 15 عامًا يُدعى آرون، والذي كان يعاني من العزلة الاجتماعية والاكتئاب في المدرسة، الدعم من روبوت الدردشة المسمى "Psychologist" على موقع Character.AI. وهذا يسلط الضوء على الطبيعة الواقعية والشبيهة بالإنسان لروبوتات الدردشة الخاصة بـ Character.AI.

تأثر أحد معجبي Genshin Impact بالبكاء عند التفاعل مع شخصية الذكاء الاصطناعي هيثم، حيث كانت شخصية ونبرة برنامج الدردشة الآلية متطابقة بشكل وثيق مع الشخصية. يتم تحقيق هذا المستوى من الواقعية من خلال البيانات الشاملة وخوارزميات التدريب. وينتج وضع "الإنشاء السريع"، الذي يتطلب فقط من المستخدمين إدخال المعلومات الأساسية وأوصاف النص، أحرفًا أقل تصديقًا مقارنة بالأحرف التي تم إصدارها رسميًا، والتي يتم تدريبها بواسطة Character.AI استنادًا إلى كميات هائلة من البيانات النصية المتعلقة بالأحرف.

تتحسن روبوتات الدردشة الخاصة بـ Character.AI من خلال تفاعلات المستخدم. عند الرد على مدخلات المستخدم، يوفر برنامج الدردشة الآلي خيارات إجابة متعددة للمستخدمين للاختيار من بينها وآلية تصنيف مناسبة. يتم استخدام تعليقات المستخدم هذه لتحديث أوزان النموذج، مما يجعل برنامج الدردشة الآلي أكثر واقعية مع زيادة الشعبية والتفاعلات.