ทำไมซีอีโอของ Character.AI ยังคงอนุญาตให้ลูกสาววัย 6 ขวบของเขาใช้แอป

(SeaPRwire) –   ยินดีต้อนรับกลับสู่ In the Loop จดหมายข่าว AI ฉบับใหม่ของ TIME ที่ออกสัปดาห์ละสองครั้ง หากคุณกำลังอ่านสิ่งนี้ในเบราว์เซอร์ ทำไมไม่สมัครสมาชิกเพื่อรับฉบับถัดไปส่งตรงถึงกล่องจดหมายของคุณล่ะ?

บุคคลน่ารู้จัก: Karandeep Anand, CEO ของ Character.AI

Character.AI กำลังเผชิญหน้ากับปัญหา แพลตฟอร์มแชตบอตที่อนุญาตให้ผู้ใช้สนทนากับ AI ที่สวมบทบาทเป็นตัวละครสมมติ กำลังตกเป็นเป้าหมายของการฟ้องร้องหลายคดี รวมถึงคดีจาก Megan Garcia มารดาที่ลูกชายวัย 14 ปีของเธอ เสียชีวิตจากการฆ่าตัวตายหลังจากที่เขาหมกมุ่นอยู่กับบอตตัวหนึ่ง ซึ่งถูกกล่าวหาว่าสนับสนุนให้เขาจบชีวิตตัวเอง

หลังจากคดีความดังกล่าวและคดีอื่นๆ Character.AI ได้ประกาศครั้งใหญ่เมื่อเดือนที่แล้วว่า จะแบนผู้ใช้ที่มีอายุต่ำกว่า 18 ปีจากการ “สนทนาแบบปลายเปิด” กับแชตบอตบนแพลตฟอร์มของตน นี่เป็นการเปลี่ยนแปลงครั้งใหญ่สำหรับบริษัทที่ระบุว่ากลุ่มคนรุ่น Gen Z และ Alpha เป็นผู้ใช้งานหลักกว่า 6 ล้านคนต่อวัน ซึ่งใช้เวลาเฉลี่ย 70 ถึง 80 นาทีต่อวันบนแพลตฟอร์ม

เมื่อสัปดาห์ที่แล้ว ผมได้นั่งคุยกับ Karandeep Anand CEO คนใหม่ของ Character.AI เพื่อหารือเกี่ยวกับการแบนและสิ่งที่นำไปสู่การตัดสินใจดังกล่าว

Anand กล่าวว่าช่วงเวลาของการแบนไม่เกี่ยวข้องกับคดีความที่ Character.AI กำลังเผชิญอยู่ เขาเน้นย้ำว่าคดีความการเสียชีวิตโดยมิชอบของ Garcia เกิดขึ้นก่อนที่เขาจะเข้ารับตำแหน่ง CEO และเขายังปกป้องประวัติของแพลตฟอร์มในการสร้างมาตรการป้องกันสำหรับผู้ใช้ที่มีอายุต่ำกว่า 18 ปี

Anand กล่าวว่าการแบนเด็กจากการใช้ Character.AI เกิดขึ้นบางส่วนจากงานวิจัยใหม่ที่แสดงให้เห็นถึงความเสี่ยงของการใช้แชตบอต โดยเฉพาะสำหรับเด็ก “หนึ่งในปัจจัยที่ส่งผลมาจากการเรียนรู้ใหม่ๆ ที่พบว่าผลกระทบระยะยาวของการโต้ตอบกับแชตบอตอาจไม่ดีต่อสุขภาพ หรือยังไม่เป็นที่เข้าใจอย่างถ่องแท้” เขากล่าวกับผม พร้อมชี้ไปที่งานวิจัยจาก OpenAI และ Anthropic เกี่ยวกับอันตรายของสิ่งที่เรียกว่า AI sycophancy ด้วยผลการวิจัยเหล่านั้น เขาจึงตัดสินใจว่าการอนุญาตให้เด็กใช้งานแพลตฟอร์มนั้นมีความเสี่ยงเกินไป

แต่การแบนเด็กจากการใช้ Character.AI ไม่ได้เป็นการแบนโดยสมบูรณ์ พวกเขายังคงสามารถเข้าถึงฟีเจอร์อื่นๆ ของ Character.AI ได้ เช่น การโต้ตอบกับฟีดวิดีโอสั้นที่สร้างโดย AI ซึ่งคล้ายกับ For You Page ของ TikTok ที่กระตุ้นให้ผู้ใช้ปรับแต่งวิดีโอยอดนิยมโดยการเพิ่มตัวละครของตนเอง หรือโดยการปรับเปลี่ยนพรอมต์

ผมรู้สึกประหลาดใจเมื่อได้ยิน Anand บอกว่าลูกสาววัย 6 ขวบของเขาเป็นผู้ใช้งาน Character.AI ตัวยง เมื่อพิจารณาจากบริบทของการสนทนาของเรา “สิ่งที่เธอเคยทำในการฝันกลางวัน ตอนนี้เกิดขึ้นผ่านการเล่าเรื่องกับตัวละครที่เธอสร้างและพูดคุยด้วย” Anand กล่าว “แม้แต่ในการสนทนาที่เธออาจลังเลที่จะตอบผม เธอก็พูดคุยกับแชตบอตได้อย่างเปิดเผยมากขึ้น” (Anand ยอมรับว่าผู้ใช้ที่มีอายุต่ำกว่า 13 ปีไม่ได้รับอนุญาตให้เข้าถึงแพลตฟอร์มเลย ดังนั้นเขาจึงอนุญาตให้ลูกสาวของเขาเข้าถึง Character.AI ผ่านบัญชีของเขาเองเท่านั้น โดยอยู่ภายใต้การดูแล) Anand กล่าวว่าความกระตือรือร้นของลูกสาวในการใช้คุณสมบัติโสตทัศน์ของ Character.AI ทำให้เขามั่นใจที่จะเดิมพันกับบริษัทในการสร้างประสบการณ์แบบเกมสำหรับเด็กเหล่านี้ แทนที่จะอนุญาตให้มีการสนทนาด้วยข้อความแบบปลายเปิด

CEO ยอมรับว่าจะต้องเสียผู้ใช้บางส่วนไปอันเป็นผลมาจากการตัดสินใจของเขา “ผมยินดีที่จะเดิมพันว่าเราจะสร้างประสบการณ์ที่น่าสนใจยิ่งขึ้น แต่ถ้ามันหมายถึงการที่ผู้ใช้บางส่วนจะเลิกใช้บริการ เราก็ต้องยอมรับ” เขากล่าว แต่เขาก็ไม่ได้ปฏิเสธความเป็นไปได้ที่จะยกเลิกการแบนแชตบอตสำหรับผู้ใช้ที่มีอายุต่ำกว่า 18 ปีโดยสิ้นเชิง “ผมค่อนข้างมั่นใจว่าในบางจุด เมื่อเทคโนโลยีพัฒนามากพอ และเราสามารถมีประสบการณ์การพิมพ์ที่ปลอดภัยมากขึ้น เราจะนำประสบการณ์เหล่านั้นกลับมา”

ถึงกระนั้น การเปลี่ยนแปลงครั้งนี้ก็ได้ผลักดันให้ Character.AI ซึ่งเป็นภาพลักษณ์ของการพัฒนา AI ที่ขาดความรับผิดชอบมานาน กลายมาอยู่ในตำแหน่งที่แปลกประหลาด นั่นคือการเป็นผู้สนับสนุนประสบการณ์ออนไลน์ที่ปลอดภัยสำหรับเด็ก Anand กล่าวว่าเขายินดีกับร่างกฎหมายล่าสุดที่เสนอโดยวุฒิสมาชิก Josh Hawley ซึ่งจะสั่งห้ามบุคคลที่มีอายุต่ำกว่า 18 ปีไม่ให้ใช้แอปพลิเคชัน AI เพื่อนคู่คิดทั่วประเทศ “สิ่งที่น่าเศร้าสำหรับอุตสาหกรรมอย่างแท้จริงคือ ถ้าเราทำการตัดสินใจเหล่านี้ [เพื่อแบนผู้ใช้ที่มีอายุต่ำกว่า 18 ปี] แล้วผู้ใช้ก็หันไปหาแพลตฟอร์มอื่นที่ไม่รับผิดชอบนี้” Anand บอกผม “มาตรฐานสำหรับผู้ใช้ที่มีอายุต่ำกว่า 18 ปี จากมุมมองด้านความปลอดภัย จะต้องถูกยกระดับขึ้น… สิ่งนี้จะต้องมีการควบคุม”

หากคุณมีเวลา โปรดทำ แบบสำรวจสั้นๆ ของเรา เพื่อช่วยให้เราเข้าใจว่าคุณเป็นใครและหัวข้อ AI ใดที่คุณสนใจมากที่สุด

สิ่งที่ควรรู้: สหภาพยุโรปพิจารณาการประนีประนอมความเป็นส่วนตัวเพื่อดึงดูดเงินลงทุน AI

หน่วยงานกำกับดูแลของสหภาพยุโรปกำลังพิจารณาที่จะยกเลิกการคุ้มครองความเป็นส่วนตัวในวงกว้างบางส่วน เพื่อทำให้ทวีปนี้เป็นสถานที่ที่น่าดึงดูดใจมากขึ้นสำหรับการลงทุน AI ท่ามกลางการเติบโตทางเศรษฐกิจที่ซบเซา

ได้รับเอกสารที่แสดงให้เห็นว่าเจ้าหน้าที่กำลังวางแผนที่จะแก้ไขกฎหมายความเป็นส่วนตัวหลักของสหภาพยุโรป คือ General Data Protection Regulation (GDPR) เพื่ออนุญาตให้บริษัท AI สามารถฝึกและใช้งานระบบของตนโดยใช้ข้อมูลส่วนบุคคลประเภทที่เคยได้รับการคุ้มครองมาก่อน

สิ่งที่เรากำลังอ่าน

โดย Andrea Miotti ใน TIME

หัวหน้า Control AI Andrea Miotti เรียกร้องให้มีขบวนการระดับโลกเพื่อหยุดยั้ง AI ที่ฉลาดล้ำเกินมนุษย์ เช่นเดียวกับที่โลกเคยร่วมมือกันเพื่อหยุดยั้งการขยายตัวของรูโหว่ในชั้นโอโซน “ดังนั้น ความเสี่ยงจากการสูญพันธุ์จาก AI ที่ฉลาดล้ำเกินมนุษย์จึงมีศักยภาพที่จะทะลุผ่านทุกความแตกแยก” เขาเขียน “มันสามารถรวมผู้คนจากพรรคการเมือง ศาสนา ชาติ และอุดมการณ์ต่างๆ เข้าด้วยกัน ไม่มีใครอยากให้ชีวิต ครอบครัว โลกของตนถูกทำลาย”