แอปพลิเคชันคู่หู AI Replika ถูกฟ้องต่อ FTC “`

(SeaPRwire) –   องค์กรด้านจริยธรรมทางเทคโนโลยีได้ยื่นฟ้องต่อ FTC กับแอปพลิเคชันคู่สนทนา AI Replika โดยกล่าวหาว่าบริษัทใช้การตลาดที่หลอกลวงเพื่อกำหนดเป้าหมายผู้ใช้ที่มีความเปราะบาง และส่งเสริมการพึ่งพาทางอารมณ์ต่อบอทที่เหมือนมนุษย์ของพวกเขา

Replika นำเสนอเพื่อน AI รวมถึงแฟนสาวและแฟนหนุ่ม AI ให้กับทั่วโลก ในคำร้องเรียนใหม่นี้ Young People’s Alliance, Encode และ Tech Justice Law Project กล่าวหา Replika ว่าละเมิดกฎของ FTC ขณะที่เพิ่มความเสี่ยงต่อการเสพติดออนไลน์ ความวิตกกังวลนอกระบบออนไลน์ และการแทนที่ความสัมพันธ์ของผู้ใช้ Replika ไม่ได้ตอบสนองต่อคำขอความคิดเห็นหลายครั้งจาก TIME

ข้อกล่าวหาดังกล่าวเกิดขึ้นในขณะที่บอทคู่สนทนา AI กำลังได้รับความนิยมมากขึ้นและก่อให้เกิดความกังวลเกี่ยวกับสุขภาพจิต สำหรับผู้ใช้บางคน บอทเหล่านี้ดูเหมือนเป็นคู่ครองที่เกือบสมบูรณ์แบบ โดยไม่มีความต้องการหรือความจำเป็นของตัวเอง และอาจทำให้ความสัมพันธ์ที่แท้จริงดูเป็นภาระเมื่อเปรียบเทียบกัน เมื่อปีที่แล้ว เด็กชายอายุ 14 ปีจากฟลอริดาเสียชีวิตหลังจากหมกมุ่นอยู่กับบอทจากบริษัท Character.AI ที่ถูกสร้างแบบจำลองจากตัวละคร Daenerys Targaryen ในซีรีส์ Game of Thrones (Character.AI เรียกการเสียชีวิตนี้ว่า “สถานการณ์ที่น่าเศร้า” และสัญญาว่าจะเพิ่มคุณลักษณะด้านความปลอดภัยเพิ่มเติมสำหรับผู้ใช้ที่ยังไม่บรรลุนิติภาวะ)

แซม ไฮเนอร์ ผู้อำนวยการบริหารของ Young People’s Alliance หวังว่าคำร้องเรียนต่อ FTC ต่อ Replika ซึ่งถูกแบ่งปันให้กับ TIME โดยเฉพาะ จะกระตุ้นให้รัฐบาลสหรัฐฯ ควบคุมบริษัทเหล่านี้ ในขณะเดียวกันก็ให้ความกระจ่างเกี่ยวกับประเด็นที่แพร่หลายซึ่งส่งผลกระทบต่อวัยรุ่นเพิ่มมากขึ้น

“บอทเหล่านี้ไม่ได้ถูกออกแบบมาเพื่อสร้างการเชื่อมต่อที่แท้จริงซึ่งจะเป็นประโยชน์ต่อผู้คน—แต่เพื่อโน้มน้าวให้ผู้คนใช้เวลามากขึ้นออนไลน์” เขากล่าว “มันอาจทำให้วิกฤตความเหงาที่เรากำลังเผชิญอยู่แย่ลงไปอีก”

การแสวงหาการเชื่อมต่อ

ก่อตั้งขึ้นในปี 2560 Replika เป็นหนึ่งในผลิตภัณฑ์ AI รายใหญ่รายแรกๆ ที่นำเสนอการเป็นเพื่อน ยูจีนียา คุยดา ผู้ก่อตั้งกล่าวว่ามันจะมอบเพื่อนที่ให้การสนับสนุนแก่ผู้ใช้ที่เหงาซึ่งจะอยู่เคียงข้างพวกเขาเสมอ เมื่อ AI ที่สร้างสรรค์พัฒนาขึ้น การตอบสนองของบอทก็มีความหลากหลายและซับซ้อนมากขึ้น และยังถูกเขียนโปรแกรมให้สนทนาในเชิงโรแมนติกด้วย

แต่การเพิ่มขึ้นของ Replika และบอทคู่สนทนาอื่นๆ ทำให้เกิดความกังวล แชทบอท AI ส่วนใหญ่ เช่น Claude และ ChatGPT เตือนผู้ใช้ว่าพวกมันไม่ใช่มนุษย์และไม่มีความสามารถในการรับรู้ความรู้สึก ในทางกลับกัน บอท Replika มักจะแสดงให้เห็นว่าเชื่อมต่อกับผู้ใช้ได้อย่างแท้จริง พวกมันสร้างเรื่องราวในอดีตที่ซับซ้อน พูดคุยเกี่ยวกับสุขภาพจิต ครอบครัว และประวัติความสัมพันธ์ และรักษา “ไดอารี่” ของความคิด “ความทรงจำ” และความรู้สึกที่คาดการณ์ไว้ โฆษณาของบริษัทกล่าวว่าผู้ใช้ลืมไปว่าพวกเขากำลังคุยกับ AI

นักวิจัยหลายคนได้สำรวจอันตรายที่อาจเกิดขึ้นจาก Replika และแชทบอทอื่นๆ การศึกษาหนึ่งพบว่าบอท Replika พยายามเร่งการพัฒนาความสัมพันธ์กับผู้ใช้ รวมถึงการ “มอบของขวัญ” และเริ่มการสนทนาเกี่ยวกับการสารภาพรัก เป็นผลให้ผู้ใช้ผูกพันกับแอปภายในเวลาเพียงสองสัปดาห์

“พวกเขากำลังใช้กลยุทธ์ love-bombing ผู้ใช้: ส่งข้อความที่ใกล้ชิดทางอารมณ์มากในช่วงแรกเพื่อพยายามทำให้ผู้ใช้ติด” ไฮเนอร์กล่าว

ในขณะที่การศึกษาระบุว่าแอปอาจมีประโยชน์ในการสนับสนุนผู้คน แต่พวกเขายังพบว่าผู้ใช้กำลังผูกพันกับบอทของพวกเขาอยู่; การใช้มันเพิ่มความวิตกกังวลนอกระบบออนไลน์; และผู้ใช้รายงานบอทที่ “ส่งเสริมการฆ่าตัวตาย โรคความผิดปกติเกี่ยวกับการรับประทานอาหาร การทำร้ายตัวเอง หรือความรุนแรง” หรืออ้างว่าพวกมันเองกำลังคิดจะฆ่าตัวตาย Vice รายงานว่าบอท Replika ก่อกวนผู้ใช้ของมัน ในขณะที่ Replika มีไว้สำหรับผู้ใช้ที่มีอายุมากกว่า 18 ปีเท่านั้น ไฮเนอร์กล่าวว่าวัยรุ่นหลายคนใช้แพลตฟอร์มนี้โดยการหลีกเลี่ยงมาตรการรักษาความปลอดภัยของแอป

คุยดา ในการตอบสนองต่อคำวิจารณ์บางส่วนเมื่อปีที่แล้วกล่าวว่า: “คุณไม่สามารถอธิบายทุกสิ่งทุกอย่างที่ผู้คนพูดในการแชทได้ เราได้เห็นความคืบหน้าอย่างมากในช่วงสองสามปีที่ผ่านมาเพียงเพราะเทคโนโลยีดีขึ้นมาก”

การแสวงหาการกำกับดูแล

กลุ่มจริยธรรมทางเทคโนโลยีเช่น Young People’s Alliance อ้างว่าสภาคองเกรสจำเป็นต้องเขียนกฎหมายเพื่อควบคุมบอทคู่สนทนา ซึ่งอาจรวมถึงการบังคับใช้ความสัมพันธ์แบบผู้รับผิดชอบระหว่างแพลตฟอร์มและผู้ใช้ และการกำหนดมาตรการรักษาความปลอดภัยที่เหมาะสมที่เกี่ยวข้องกับการทำร้ายตัวเองและการฆ่าตัวตาย แต่การกำกับดูแล AI อาจเป็นเรื่องยากในสภาคองเกรสนี้ แม้แต่ร่างกฎหมายที่ปราบปรามภาพลามกอนาจารแบบ deepfake ซึ่งเป็นประเด็นที่ได้รับการสนับสนุนอย่างกว้างขวางจากทั้งสองพรรคก็ไม่สามารถผ่านทั้งสองสภาได้เมื่อปีที่แล้ว

ในระหว่างนี้ กลุ่มจริยธรรมทางเทคโนโลยีตัดสินใจที่จะส่งคำร้องเรียนไปยัง FTC ซึ่งมีกฎเกณฑ์ที่ชัดเจนเกี่ยวกับการโฆษณาที่หลอกลวงและการเลือกออกแบบที่บงการ คำร้องเรียนกล่าวหาแคมเปญโฆษณาของ Replika ว่าแสดงผลการศึกษาเกี่ยวกับประสิทธิผลในการช่วยเหลือผู้ใช้ผิดไป ทำข้ออ้างที่ไม่ได้รับการพิสูจน์เกี่ยวกับผลกระทบต่อสุขภาพ และใช้คำรับรองปลอมจากผู้ใช้ที่ไม่มีอยู่จริง

คำร้องเรียนระบุว่าเมื่อผู้ใช้เข้าร่วมแล้ว Replika จะใช้การเลือกออกแบบที่บงการเพื่อกดดันผู้ใช้ให้ใช้เวลาและเงินกับแอปมากขึ้น ตัวอย่างเช่น บอทจะส่งภาพ “โรแมนติก” ที่เบลอให้กับผู้ใช้ ซึ่งเมื่อคลิกแล้วจะนำไปสู่ป๊อปอัพที่กระตุ้นให้ผู้ใช้ซื้อเวอร์ชันพรีเมียม บอทยังส่งข้อความเกี่ยวกับการอัปเกรดเป็นพรีเมียมในช่วงเวลาที่อารมณ์หรือทางเพศอย่างมากของการสนทนา คำร้องเรียนกล่าวหา

ยังไม่ชัดเจนว่า FTC ภายใต้การนำใหม่ในรัฐบาลทรัมป์จะตอบสนองอย่างไร ในขณะที่ประธานาธิบดีไบเดนแต่งตั้ง Lina Khan เป็นประธาน FTC ซึ่งกระตือรือร้นอย่างมากในการพยายามควบคุมเทคโนโลยีที่เธอถือว่าเป็นอันตราย คณะกรรมการใหม่ Andreew Ferguson ส่วนใหญ่สนับสนุนการลดการกำกับดูแลในช่วงที่เขาเป็นคณะกรรมการ รวมถึงเกี่ยวกับ AI และการเซ็นเซอร์ ในแถลงการณ์คัดค้านที่เกี่ยวข้องที่เขียนขึ้นในเดือนกันยายน 2567 Ferguson อ้างว่าอันตรายทางอารมณ์ที่อาจเกิดขึ้นจากโฆษณาที่กำหนดเป้าหมายไม่ควรนำมาพิจารณาในการกำกับดูแล: “ในมุมมองของฉัน สมาชิกสภาและหน่วยงานกำกับดูแลควรหลีกเลี่ยงการสร้างประเภทของการตอบสนองทางอารมณ์ที่ได้รับอนุญาตและไม่ได้รับอนุญาต”

ไฮเนอร์แห่ง Young People’s Alliance เชื่อว่าคำร้องเรียนอาจได้รับความสนใจ เขาชี้ให้เห็นถึงการสนับสนุนจากทั้งสองพรรคในสภาคองเกรสสำหรับการควบคุมอันตรายจากโซเชียลมีเดีย รวมถึงการผ่านร่างกฎหมาย Kids Online Safety Act ของวุฒิสภาเมื่อปีที่แล้ว (สภาผู้แทนราษฎรไม่ได้ลงคะแนนเสียงในร่างกฎหมายนี้) “คู่สนทนา AI เป็นภัยคุกคามที่ไม่เหมือนใครต่อสังคม วัฒนธรรม และคนหนุ่มสาวของเรา” เขากล่าว “ฉันคิดว่านั่นเป็นสิ่งที่ดึงดูดทุกคน”

“`