AI ที่สามารถเยียวยาความแตกแยกบนอินเทอร์เน็ต

(SeaPRwire) –   ในช่วงทศวรรษ 1990 และช่วงต้นทศวรรษ 2000 นักเทคโนโลยีได้ให้คำมั่นสัญญากับโลกนี้ไว้ว่าเทคโนโลยีการสื่อสารใหม่จะทำให้ประชาธิปไตยมีความแข็งแกร่งขึ้น บั่นทอนลัทธิเผด็จการ และนำไปสู่ยุคใหม่แห่งความเจริญรุ่งเรืองของมนุษย์ แต่ในปัจจุบัน มีผู้เห็นด้วยน้อยมากที่อินเทอร์เน็ตได้บรรลุเป้าหมายที่สูงส่งนั้น

ปัจจุบัน ในแพลตฟอร์มโซเชียลมีเดีย เนื้อหามีแนวโน้มที่จะได้รับการจัดอันดับตามระดับการมีส่วนร่วมที่ได้รับ ในช่วงสองทศวรรษที่ผ่านมา การเมือง สื่อ และวัฒนธรรมต่างก็ถูกปรับเปลี่ยนใหม่เพื่อตอบสนองแรงจูงใจเพียงอย่างเดียวที่ครอบคลุมทั้งหมด: โพสต์ที่กระตุ้นการตอบสนองทางอารมณ์มักจะขึ้นไปอยู่ด้านบนสุด

ความพยายามที่จะปรับปรุงสภาพแวดล้อมออนไลน์ที่ดีขึ้นมานานแล้วนั้นมุ่งเน้นไปที่การควบคุมเนื้อหา ซึ่งเป็นการปฏิบัติเพื่อตรวจหาและลบเนื้อหาที่ไม่ดี บริษัทเทคโนโลยีได้ว่าจ้างพนักงานและสร้าง AI เพื่อระบุคำพูดที่แสดงความเกลียดชัง การยุยงให้ใช้ความรุนแรง และการคุกคาม ซึ่งได้ผลไม่สมบูรณ์นัก แต่ก็ได้หยุดการเผยแพร่ความเป็นพิษที่เลวร้ายที่สุดไม่ให้ท่วมฟีดของเรา 

มีปัญหาอยู่ประการหนึ่งก็คือ ในขณะที่ AI เหล่านี้ช่วยกำจัดสิ่งที่ไม่ดี แต่ก็ไม่ได้ช่วยยกระดับสิ่งที่ดี “คุณเห็นอินเทอร์เน็ตที่ใช้งานได้หรือไม่ ซึ่งเราได้มีการพูดคุยกันที่เป็นไปในทางที่ดีหรือสร้างสรรค์” Yasmin Green ซีอีโอของ Google’s Jigsaw unit ซึ่งก่อตั้งขึ้นในปี 2010 พร้อมกับภารกิจในการจัดการกับภัยคุกคามต่อสังคมเปิดกล่าวว่า “ไม่ คุณเห็นอินเทอร์เน็ตที่แยกจากกันออกไปมากขึ้นเรื่อยๆ”

จะเป็นอย่างไรหากมีอีกวิธีหนึ่ง?

Jigsaw เชื่อว่าได้พบวิธีการแล้ว ในวันจันทร์ บริษัทในเครือ Google หรือตัวจัดประเภท ซึ่งสามารถให้คะแนนโพสต์ได้โดยอิงจากตัวเป็นไปได้ที่โพสต์ดังกล่าวจะมีเนื้อหาที่ดี: โพสต์นั้นมีความแตกต่างหรือไม่ มีเหตุผลจากหลักฐานหรือไม่ แบ่งปันเรื่องราวส่วนบุคคลหรือไม่ หรือส่งเสริมความเห็นอกเห็นใจในหมู่มนุษย์หรือไม่ ด้วยการส่งคืนคะแนนตัวเลข (จาก 0 ถึง 1) ที่แสดงถึงความเป็นไปได้ที่โพสต์จะมีคุณธรรมที่กล่าวมาแต่ละข้อและอื่นๆ เครื่องมือ AI ใหม่เหล่านี้อาจทำให้ผู้ออกแบบพื้นที่ออนไลน์สามารถจัดอันดับโพสต์ได้ในแบบใหม่ แทนที่โพสต์ที่ได้รับไลก์หรือคอมเมนต์มากที่สุดจะอยู่ด้านบนสุด แพลตฟอร์มต่างๆ อาจเลือกที่จะนำเสนอความคิดเห็นที่มีความแตกต่างมากที่สุดหรือมีความเห็นอกเห็นใจมากที่สุดก่อน เพื่อสร้างชุมชนที่ดีขึ้น

ความก้าวหน้าล่าสุดในโมเดลภาษาขนาดใหญ่ (LLM) ซึ่งเป็น AI ประเภทที่อยู่เบื้องหลังแชทบอทอย่าง ChatGPT ทำให้มีความก้าวหน้าครั้งใหม่นี้ได้ ในอดีต แม้แต่การฝึก AI เพื่อตรวจจับรูปแบบง่ายๆ ของการแสดงความเป็นพิษ เช่น การตรวจสอบว่าโพสต์นั้นมีการเหยียดเชื้อชาติหรือไม่ ต้องใช้ตัวอย่างที่มีการติดป้ายกำกับหลายล้านตัว AI ในรูปแบบเก่าเหล่านั้นมักจะเปราะบางและไร้ประสิทธิภาพ รวมถึงมีค่าใช้จ่ายสูงในการพัฒนา แต่ LLM รุ่นใหม่สามารถระบุแนวคิดทางภาษาที่ซับซ้อนได้แม้ในทันที และการปรับเทียบให้ทำหน้าที่เฉพาะนั้นก็มีราคาถูกกว่ามากในปัจจุบัน ตัวจัดประเภทใหม่ของ Jigsaw สามารถระบุ “ลักษณะเฉพาะ” ได้ เช่น โพสต์นั้นมีเรื่องราวส่วนบุคคล ความอยากรู้อยากเห็น ความแตกต่าง ความเห็นอกเห็นใจ เหตุผล ความสัมพันธ์ หรือความเคารพหรือไม่ Jonathan Stray นักวิทยาศาสตร์อาวุโสจาก Berkeley Center for Human-Compatible AI กล่าวว่า “มันเริ่มเป็นไปได้ที่จะพูดคุยเกี่ยวกับบางสิ่งบางอย่าง เช่น การสร้างตัวจัดประเภทสำหรับความเห็นอกเห็นใจ ความอยากรู้อยากเห็น หรือความแตกต่าง “แนวคิดที่คลุมเคลือและมีบริบทคล้ายกับคำว่า ‘ฉันรู้จักเมื่อฉันเห็น’ เหล่านี้ เรามีความเชี่ยวชาญมากขึ้นในการตรวจจับสิ่งเหล่านี้”

ความสามารถใหม่นี้สามารถเป็นจุดเปลี่ยนของอินเทอร์เน็ตได้ Green และกลุ่มนักวิชาการที่เพิ่มมากขึ้นซึ่งศึกษาผลกระทบของโซเชียลมีเดียที่มีต่อการโต้วาทีสาธารณะแย้งว่าการควบคุมเนื้อหาเป็นสิ่งที่ “จำเป็นแต่ไม่เพียงพอ” ที่จะทำให้อินเทอร์เน็ตเป็นสถานที่ที่ดีขึ้น พวกเขากล่าวว่าการหาวิธีส่งเสริมเนื้อหาในเชิงบวกอาจส่งผลดีเป็นวงกว้างทั้งในระดับบุคคล ซึ่งก็คือ ความสัมพันธ์ของเรากัน แต่ยังรวมถึงระดับสังคมด้วย Stray ผู้ไม่ได้ทำงานในโครงการ Jigsaw กล่าวว่า “โดยการเปลี่ยนแปลงวิธีการจัดอันดับเนื้อหา หากคุณสามารถทำได้ในวงกว้างมากพอ คุณอาจสามารถเปลี่ยนเศรษฐศาสตร์ของสื่อของทั้งระบบได้” “หากช่องทางการเผยแพร่ตามอัลกอริทึมส่วนใหญ่ไม่ชอบการโต้แย้งที่แบ่งแยก มันก็จะไม่คุ้มที่ต้องผลิตออกมาอีกต่อไป”

เช้าวันหนึ่งในปลายเดือนมีนาคม Tin Acosta เข้าร่วมการประชุมทางวิดีโอจากสำนักงานของ Jigsaw ในนิวยอร์กซิตี้ ที่ผนังห้องประชุมด้านหลังเธอ มีภาพถ่ายขนาดใหญ่จากการปฏิวัติกุหลาบในจอร์เจียเมื่อปี 2003 เมื่อผู้ประท้วงที่สงบได้ล้มล้างรัฐบาลยุคโซเวียตของประเทศนั้น ห้องอื่นๆ มีภาพถ่ายที่คล้ายกันของผู้คนในซีเรีย อิหร่าน คิวบา และเกาหลีเหนือ “ใช้เทคโนโลยีและเสียงของพวกเขาเพื่อความปลอดภัย” เจ้าหน้าที่ฝ่ายข่าวประชาสัมพันธ์ของ Jigsaw ซึ่งอยู่ที่ห้องเดียวกันกล่าวกับฉัน ภาพถ่ายเหล่านี้เป็นเครื่องเตือนใจถึงพันธกิจของ Jigsaw ในการใช้เทคโนโลยีเป็นพลังแห่งความดี และภาระหน้าที่ในการให้บริการผู้คนทั้งในระบอบประชาธิปไตยและสังคมที่กดขี่

บนแล็ปท็อปของเธอ Acosta เปิดสาธิตเครื่องจัดประเภทใหม่ของ Jigsaw โดยใช้ฐานข้อมูลความคิดเห็น 380 รายการจากเธรดใน Reddit เมื่อเร็วๆ นี้ ผู้จัดการผลิตภัณฑ์อาวุโสของ Jigsaw เริ่มสาธิตว่าการจัดอันดับโพสต์โดยใช้ตัวจัดประเภทที่แตกต่างกันจะเปลี่ยนแปลงประเภทของความคิดเห็นที่ขึ้นไปอยู่ด้านบนสุดอย่างไร โพสต์ต้นทางของเธรดนั้นขอคำแนะนำภาพยนตร์ที่สร้างแรงบันดาลใจ ความคิดเห็นอันดับต้นๆ เมื่อจัดเรียงตามการจัดอันดับเริ่มต้นใน Reddit ซึ่งก็คือ โพสต์ที่ได้รับการโหวตมากที่สุด จะมีความยาวสั้นและแทบจะไม่มีอะไรเลยนอกจากชื่อของภาพยนตร์