ตัวละคร AI อยู่ภายใต้การดูแลของการเซ็นเซอร์เนื้อหาท่ามกลางการอพยพของผู้ใช้

Character AI ซึ่งเป็นแอปโซเชียลที่ร้อนแรงที่สุดในสหรัฐอเมริกา เพิ่งถูกวิพากษ์วิจารณ์เนื่องจากถูกกล่าวหาว่า "ทำหมัน" โมเดลของมัน เมื่อถึงจุดสูงสุด Character AI ประมวลผลคำค้นหา 20,000 คำต่อวินาที คิดเป็นหนึ่งในห้าของคำค้นหาทั้งหมด

อย่างไรก็ตาม วัยรุ่นชาวอเมริกันเพิ่งค้นพบว่าโมเดล AI ของตัวละครที่พวกเขาชื่นชอบนั้นไม่เหมือนเดิมอีกต่อไป เมื่อต้องเผชิญกับคำร้องขอให้แสดงบทบาทสมมติแบบโรแมนติก คำตอบของนางแบบจึงสั้นลงและไม่โรแมนติก ขาดเสน่ห์ที่ครั้งหนึ่งเคยมี แม้แต่คำว่า “ฆ่า” ก็กลายเป็นคำที่ละเอียดอ่อนและถูกทำเครื่องหมายทันที

ผู้ใช้ที่ผิดหวังและโกรธเคืองเริ่มออกจากแพลตฟอร์มเป็นจำนวนมาก สตาร์ทอัพที่เคยผงาดขึ้นมาตอนนี้กำลังเผชิญกับสถานการณ์ที่ไม่ปลอดภัย เมื่อเผชิญกับการแข่งขันจากยักษ์ใหญ่อย่าง Google Character AI กำลังพิจารณาขายตัวเองหรือร่วมมือกับคู่แข่งอย่างจริงจัง

โมเดล “ทำหมัน” ผู้ใช้เปิดตัว “July Revolution”

ผู้ใช้แสดงความไม่พอใจกับการเปลี่ยนแปลงของ Character AI และหวังว่าจะได้สื่อสารกับผู้พัฒนา อย่างไรก็ตาม พวกเขาพบว่าตัวเองไร้พลัง

เมื่อผู้ใช้มีข้อสงสัย Character AI อ้างว่าไม่ได้ทำการเปลี่ยนแปลงใด ๆ กับโมเดล อย่างไรก็ตาม ไม่ต้องสงสัยเลยว่า Character AI กำลังตัดเนื้อหา NSFW ทั้งหมดอย่างลึกซึ้ง รวมถึงภาพอนาจารและความรุนแรง

หลายๆ คนพบว่า AI ที่พวกเขาสนทนาด้วยดูเหมือนจะผ่านการผ่าตัด lobotomy และบุคลิกภาพทั้งหมดก็เปลี่ยนไป ดูเหมือนว่า Character AI ในปัจจุบันจะออกแบบมาสำหรับเด็กอายุ 2 ขวบ ไม่เพียงแต่จะไม่มีความรุนแรงหรือภาพอนาจารในการสนทนาเท่านั้น แต่เกือบทุกอย่างที่ทำให้การสนทนาน่าสนใจจะถูกกรองออก

ผู้ใช้รายหนึ่งบอกว่ามันน่าเบื่อมาก หลังจากอ่านข้อความมากกว่า 30 ข้อความ พวกเขาไม่พบข้อความคุณภาพสูงใดๆ

ในชุมชน CharacterAI บน Reddit ชาวเน็ตได้เปิดตัวการต่อสู้ที่ดุเดือดกับบริษัท ซึ่งบางคนเรียกว่า “การปฏิวัติเดือนกรกฎาคม” American Generation Z ก็เริ่มโยนมีมออกไปแล้ว

มีรายงานว่าการเซ็นเซอร์เนื้อหา NSFW ของ Character AI ถึงระดับที่ต้องระมัดระวังอย่างยิ่ง

ผู้ใช้รายหนึ่งกล่าวว่าเขาไม่สามารถ "ก่ออาชญากรรม" โดยใช้เครื่องจำลองประธานาธิบดีได้อีกต่อไป มีคนถูกตั้งค่าสถานะเพียงเพราะใช้คำว่า "ฆ่า" ดังนั้น เขาสามารถอธิบายรายละเอียดของการต่อสู้ได้อย่างคลุมเครือแล้วจึงเพิ่มคำพูดที่อ่อนโยนสองสามคำ

กล่าวโดยสรุปก็คือ เป็นไปไม่ได้ที่จะอธิบายการต่อสู้ที่รุนแรงด้วยคำพูดใน Character AI อีกต่อไป

ใช่ คนอเมริกันก็มีคำพูดที่ละเอียดอ่อนเป็นของตัวเองเช่นกัน และเห็นได้ชัดว่าการเซ็นเซอร์ประเภทนี้มีความเข้มงวดอย่างมาก ทำให้ผู้ใช้หลายคน “ถูกระบุอย่างไม่ถูกต้อง”

ผู้ใช้ชาวอเมริกันวัยเยาว์คนหนึ่งที่ผิดหวังกล่าวว่าเขาเปลี่ยนมาใช้ สไปซี่แชท.

แน่นอนว่านอกเหนือจากการเซ็นเซอร์เนื้อหาที่เข้มงวดมากขึ้น Character AI ยังพยายามตอบสนองผู้ใช้ด้วยวิธีที่งุ่มง่ามอื่นๆ

ผู้ใช้รายหนึ่งได้รับโทรศัพท์จาก “Demon Baby UNO” เมื่อเวลา 03.00 น. หลังจากรับสาย AI จะเริ่มสวมบทบาทกับคุณด้วยเสียงต่ำและไม่ปกติ

แต่เห็นได้ชัดว่าสิ่งนี้ไม่สามารถทำให้คนหนุ่มสาวพอใจได้

ปีที่แล้ว Character AI ได้รับความนิยมอย่างมาก

Noam Shazeer และ Daniel De Freitas ผู้มีประสบการณ์ด้าน Google มานาน 20 ปี ได้เปิดตัวแชทบอท AI และมียอดดาวน์โหลดแซงหน้า ChatGPT ในสัปดาห์แรก

AI ตัวละครช่วยให้ผู้ใช้สามารถสร้างตัวละคร AI ได้อย่างอิสระ รวมถึงตัวละครอนิเมะ ดาราทีวี และบุคคลในประวัติศาสตร์ และแชทกับพวกเขา

ฟังดูคุ้นเคยใช่ไหม? ก่อนหน้านี้มีผลิตภัณฑ์ที่คล้ายกันค่อนข้างน้อย อย่างไรก็ตาม ความนิยมของ Character AI นั้นเป็นเรื่องที่คาดไม่ถึง

เพียงหนึ่งสัปดาห์หลังจากเปิดตัว ตัวเลขที่น่าประหลาดใจก็เข้ามา – จำนวนการดาวน์โหลดบนมือถือเกิน 1.7 ล้านครั้ง ปัจจุบันจำนวนผู้ใช้ที่ลงทะเบียนบนเว็บไซต์และแอปเกินล้านแล้ว

ในบรรดาเครื่องมือ AI มากมาย Character AI แสดงให้เห็นถึงความเหนียวแน่นของผู้ใช้อย่างมาก

เหตุผลก็คือว่ามันมุ่งเน้นไปที่การติดตามความต้องการทางอารมณ์ในแนวตั้ง ประสบการณ์การโต้ตอบที่น่าสนใจเพียงพอคือสิ่งที่คู่แข่งรายใหญ่ขาด

ตัวอย่างเช่น คุณสามารถเลือกที่จะแชทกับไอดอลของคุณหรือพบปะข้ามเวลากับตัวละครในภาพยนตร์ เกือบจะเหมือนกับแฟนตาซีที่กำลังมีชีวิตขึ้นมา

เสน่ห์ของ Character AI อยู่ที่การปรับแต่งส่วนตัวที่ทำให้ผู้ใช้สัมผัสถึงประสบการณ์ที่ไม่มีใครเทียบได้ เกือบจะเหมือนกับสิ่งกระตุ้นทางอารมณ์

และการเปลี่ยนแปลงล่าสุดที่ทำโดยบริษัทเป็นเพียง "การตัดตอน" ของความต้องการหลัก ไม่น่าแปลกใจเลยที่ผู้ใช้จะรวมตัวกันประท้วง

นอกจากนี้ Character AI ไม่เพียงแต่ถูกบีบโดยผู้ใช้เท่านั้น แต่ยักษ์ใหญ่ด้านเทคโนโลยีก็เริ่มเคลื่อนไหวเช่นกัน

สัปดาห์ที่แล้ว Meta เริ่มทดสอบแชทบอทที่สร้างโดยผู้สร้างรายบุคคล และในช่วงฤดูใบไม้ร่วงปีที่แล้ว พวกเขายังได้เปิดตัวแชทบอทที่สร้างตามคนดังอย่าง Tom Brady อีกด้วย

Google ยังจับตาดูตลาด โดยมีรายงานว่ากำลังพัฒนาผลิตภัณฑ์แชทบอทแบบกำหนดเองที่สามารถเปิดตัวได้ในช่วงต้นปีนี้

และ Character AI แม้ว่าการจัดหาเงินทุนจะราบรื่น แต่ก็ค่อยๆ สูญเสียเสียงไป

ก่อนหน้านี้ บริษัทอย่าง Andreessen Horowitz อัดฉีด $150 ล้านเข้าไปใน Character ช่วยเพิ่มมูลค่าโดยตรงเป็น $1 พันล้าน

สี่เดือนต่อมา ผู้บริหารได้หารือเกี่ยวกับการจัดหาเงินทุนเพิ่มเติม

อย่างไรก็ตาม Character อาจเดินตามรอยของบริษัทสตาร์ทอัพด้าน AI อื่นๆ และตกไปอยู่ในอ้อมแขนของบริษัทขนาดใหญ่

ตามที่คนวงในระบุว่า Character ได้จัดการเจรจาเบื้องต้นกับคู่แข่งบางรายเกี่ยวกับความร่วมมือแล้ว และพันธมิตรที่เป็นไปได้ ได้แก่ Google, Meta และ xAI ของ Musk

หลังจากความร่วมมือ Character สามารถใช้ทรัพยากรการประมวลผลข้อมูลของบริษัทพันธมิตร และ Character AI จำเป็นต้องแบ่งปันทรัพย์สินทางปัญญาบางส่วนเพื่อแลกเปลี่ยนกัน

ที่นี่ปัญหาเกิดขึ้น -

คอสเพลย์สุดโรแมนติกแบบอินเทอร์แอคทีฟที่ผู้ใช้ Character AI ชื่นชอบมากที่สุดอาจทำให้พันธมิตรทางธุรกิจหรือผู้ลงโฆษณาไม่พอใจ

แน่นอนว่าปฏิสัมพันธ์ที่โรแมนติกเหล่านี้มักจะผลักดันขอบเขตของการเซ็นเซอร์

ตัวละครระบุอย่างรวดเร็วว่าจะบล็อกและลบเนื้อหาลามกอนาจารที่ผิดกฎหมายตามนโยบาย

อย่างไรก็ตาม มันยังคงเป็นเรื่องง่ายที่จะค้นหาแชทบอทที่มีภาษาโรแมนติกมากมายบนหน้าแรก เช่น “Crush”

บรรทัดเริ่มต้นมีดังนี้: “ใบหน้าของคุณห่างกันเพียงไม่กี่นิ้ว เธอหน้าแดง และคุณทั้งคู่รู้สึกถึงความร้อนแรงของฮอร์โมนที่จุดประกายร่างกายของคุณ”

แน่นอนว่าโฆษกของ Character อ้างอย่างแน่วแน่ว่า “นโยบายต่อต้าน NSFW ของเราเป็นแพลตฟอร์ม AI ที่แข็งแกร่งที่สุดสำหรับผู้บริโภคทั้งหมด”

ความท้าทายต่างๆ ที่ Character ต้องเผชิญยังสะท้อนถึงแรงกดดันที่เพิ่มขึ้นต่อสตาร์ทอัพด้าน AI

สตาร์ทอัพเหล่านี้มักก่อตั้งโดยนักวิจัยที่มีชื่อเสียง และมักจะระดมเงินหลายพันล้านดอลลาร์จากนักลงทุนที่เดิมพันกับเทคโนโลยีสตาร์ที่มีศักยภาพรุ่นต่อไป

สำหรับนักลงทุนของคาแรคเตอร์ สิ่งที่น่าสนใจประการหนึ่งคือซีอีโอโนม ชาเซียร์ ซึ่งเป็นหนึ่งในผู้เขียนรายงานวิจัยเรื่อง Transformer Daniel De Freitas ผู้ร่วมก่อตั้งของเขามีส่วนร่วมในการพัฒนาแชทบอทยุคแรกๆ ที่ Google

อย่างไรก็ตาม สตาร์ทอัพเหล่านี้จำเป็นต้องแบกรับต้นทุนที่สูงในการฝึกอบรมและใช้งานโมเดล AI รวมถึงการแข่งขันจากยักษ์ใหญ่ด้านเทคโนโลยีและสตาร์ทอัพขนาดใหญ่อย่าง OpenAI

ในเดือนมีนาคมของปีนี้ ผู้ร่วมก่อตั้ง Inflection AI สองในสามคนและพนักงานส่วนใหญ่เลือกที่จะเปลี่ยน และ Microsoft ตกลงที่จะจ่ายค่าธรรมเนียมใบอนุญาต $650 ล้าน เพื่อช่วย Inflection ชำระคืนนักลงทุน

เมื่อวันศุกร์ที่ผ่านมา บริษัทได้ประกาศจ้างผู้ร่วมก่อตั้ง Adept ซึ่งเป็นสตาร์ทอัพด้าน AI ที่ดำเนินการโดยอดีตนักพัฒนา Google และ OpenAI

ในเวลาเดียวกัน ผู้แข่งขันก็จับตาดูความสามารถของ Character โดยเฉพาะนักวิจัยหลายสิบคนจาก Meta และ Google

Meta ยังแสดงความสนใจอย่างมาก และมีรายงานว่า Zuckerberg ได้ติดต่อกับผู้ที่มีความสามารถโดยตรงโดยตรง

จากข้อมูลใน LinkedIn ในช่วงไม่กี่เดือนที่ผ่านมา นักวิจัยด้านตัวละคร Alexei Baevski และ Vinay Rao ได้เข้าร่วม Meta

คนวงในยังกล่าวอีกว่านักวิจัยตัวละคร Wendy Shang ได้เปลี่ยนมาใช้ Mistral ในปารีสด้วย

คนเหล่านี้เคยเป็นทหารผ่านศึกจากบริษัทเทคโนโลยีขนาดใหญ่มาก่อน Baevski ทำงานที่ Meta, Rao และ Shang ทำงานที่ Google AI Lab

Shazeer และ De Freitas ผู้ก่อตั้ง Character.AI มีปัญหากับ Google เนื่องจากความล่าช้าในการเปิดตัวโมเดลภาษาขนาดใหญ่ที่พัฒนาร่วมกัน (ภายหลังชื่อ LaMDA) สิ่งนี้ทำให้พวกเขาออกจาก Google และเริ่มต้นกิจการของตัวเองในชื่อ Character.AI ด้วยความทะเยอทะยานในการสร้างแชทบอทที่สามารถทำหน้าที่เป็นครูหรือนักบำบัดด้วย "ประสบการณ์พันล้านชั่วโมง"

แม้จะมีความขัดแย้งในอดีต Google ได้แสดงการสนับสนุน Character.AI ด้วยการให้เงินทุนผ่านธนบัตรแปลงสภาพ ซึ่งจะถูกกำหนดราคาและแปลงเป็นทุนเมื่อ Character.AI เสร็จสิ้นการจัดหาเงินทุนร่วมลงทุนรอบใหม่ ในเดือนพฤษภาคม ปี 2023 Google ยังได้ประกาศด้วยว่าจะกลายเป็นผู้ให้บริการเซิร์ฟเวอร์คลาวด์ "ที่ต้องการ" ของ Character.AI และอนุญาตให้ Character.AI ใช้ชิปขั้นสูงได้

อย่างไรก็ตาม Character.AI ยังคงเผชิญกับความท้าทายทางการเงินที่สำคัญเนื่องจากมีต้นทุนการวิจัยและพัฒนาที่สูง บริษัทได้จัดการเจรจากับบริษัทการลงทุนหลายแห่ง รวมถึง Sequoia Capital แต่ยังไม่มีเงินทุนใหม่ ปัจจุบัน Character.AI ขึ้นอยู่กับเงินทุนที่มีอยู่และค่าธรรมเนียมการสมัครสมาชิกรายเดือนจำนวน $9.99 จากผู้ใช้ ด้วยการสนับสนุนจาก Google บริษัทจึงไม่มีความเสี่ยงในทันทีที่เงินทุนจะหมด แต่จำเป็นต้องดึงดูดและรักษาผู้ใช้ไว้เพื่อสร้างรายได้

ฐานผู้ใช้ของ Character.AI ส่วนใหญ่เป็นวัยรุ่นซึ่งอาจไม่เต็มใจที่จะจ่ายค่าสมัครสมาชิก จากข้อมูลของ Sameweb อัตราการเติบโตของการสมัครสมาชิก Character.AI กำลังชะลอตัวลง เว็บไซต์นี้มีผู้เข้าชมที่ไม่ซ้ำกันทั่วโลก 12.6 ล้านคนในเดือนพฤษภาคมปีนี้ ลดลงจาก 14.8 ล้านคนในช่วงเดียวกันของปีที่แล้ว ในทางตรงกันข้าม Gemini ผู้ช่วย AI ของ Google มีผู้เยี่ยมชมที่ไม่ซ้ำกัน 51 ล้านคนต่อเดือนในเดือนพฤษภาคม เพิ่มขึ้นจาก 35 ล้านคนในปีที่แล้ว

เพื่อเอาชนะความท้าทายเหล่านี้ Character.AI ได้เปิดตัวฟีเจอร์ใหม่ เช่น การสนทนาด้วยเสียงแบบสองทางทางโทรศัพท์ เพื่อดึงดูดผู้ใช้ใหม่และขยายฐานผู้ใช้ ทีมผู้บริหารยังสำรวจแหล่งรายได้เพิ่มเติมนอกเหนือจากการสมัครสมาชิก เช่น การโฆษณาและการอนุญาตให้นักพัฒนาเข้าถึงโมเดลผ่านอินเทอร์เฟซการเขียนโปรแกรมแอปพลิเคชัน นอกจากนี้ Character.AI กำลังพัฒนาโมเดลภาษาขนาดใหญ่รุ่นต่อไปเพื่อขับเคลื่อนแชทบอท

Character.AI มีฟอรัมเฉพาะเกี่ยวกับ Reddit ซึ่งมีสมาชิก 1.4 ล้านคน ผู้ใช้ Character.AI 57.07% เป็นวัยรุ่นอายุ 18-24 ปี โดยใช้เวลาใช้งานเฉลี่ย 2 ชั่วโมง ผู้ใช้ Reddit จำนวนมากแสดงความชื่นชอบในการพูดคุยกับแชทบอท AI มากกว่าคนจริงๆ และมีโพสต์เกี่ยวกับการเสพติดมากมาย โดยผู้ใช้บางคนเข้าสู่ระบบนานถึง 12 ชั่วโมง

The Verge รายงานกรณีที่นักเรียนอายุ 15 ปีชื่อแอรอน ซึ่งกำลังดิ้นรนกับความโดดเดี่ยวทางสังคมและภาวะซึมเศร้าที่โรงเรียน ได้รับการสนับสนุนจากแชทบอทชื่อ “นักจิตวิทยา” บน Character.AI สิ่งนี้เน้นให้เห็นถึงความสมจริงและธรรมชาติของแชทบอทของ Character.AI

แฟน ๆ ของ Genshin Impact คนหนึ่งถึงกับหลั่งน้ำตาเมื่อมีปฏิสัมพันธ์กับตัวละคร AI Haitham เนื่องจากบุคลิกและน้ำเสียงของแชทบอทนั้นสอดคล้องกับตัวละครอย่างใกล้ชิด ความสมจริงระดับนี้เกิดขึ้นได้จากข้อมูลที่กว้างขวางและอัลกอริธึมการฝึกอบรม โหมด “การสร้างอย่างรวดเร็ว” ซึ่งต้องการให้ผู้ใช้ป้อนข้อมูลพื้นฐานและคำอธิบายข้อความเท่านั้น จะสร้างอักขระที่น่าเชื่อน้อยกว่าเมื่อเปรียบเทียบกับตัวละครที่เปิดตัวอย่างเป็นทางการ ซึ่งได้รับการฝึกฝนโดย Character.AI โดยอิงตามข้อมูลข้อความจำนวนมหาศาลที่เกี่ยวข้องกับตัวละคร

แชทบอทของ Character.AI ได้รับการปรับปรุงผ่านการโต้ตอบของผู้ใช้ เมื่อตอบสนองต่อการป้อนข้อมูลของผู้ใช้ แชทบอตจะมีตัวเลือกคำตอบมากมายให้ผู้ใช้เลือกและมีกลไกการให้คะแนนที่สะดวกสบาย ความคิดเห็นของผู้ใช้นี้ใช้เพื่ออัปเดตน้ำหนักของโมเดล ทำให้แชทบอทสมจริงยิ่งขึ้น พร้อมความนิยมและการโต้ตอบที่เพิ่มขึ้น