วิธีการหยุด AI ก่อนที่จะเป็นไปตามที่คาดการณ์ไว้

Demonstrator holding

(SeaPRwire) –   เพียงแค่ 16 เดือนผ่านมา แต่การเปิดตัว ChatGPT เมื่อเดือนพฤศจิกายน 2565 กลับรู้สึกเหมือนประวัติศาสตร์ AI ยุคโบราณแล้ว มีเงินทุนจํานวนมหาศาล ทั้งภาครัฐและเอกชน กําลังถูกนําเข้า AI มีผลิตภัณฑ์ AI ที่มีพลังงานมากมายรวมถึงผลิตภัณฑ์ใหม่ๆ นี้เอง นักเรียนนักวิทยาศาสตร์ต่างใช้โมเดลภาษาขนาดใหญ่เหล่านี้ สังคมโลกโดยเฉพาะโลกของ AI ได้เปลี่ยนแปลงไปอย่างมากแล้ว

แต่รางวัลสูงสุดของ AI ระดับมนุษย์ หรือ ยังไม่ได้ถูกค้นพบ ซึ่งหมายความว่า AI สามารถทํางานส่วนใหญ่ทางเศรษฐกิจ มีปฏิสัมพันธ์กับคนอื่น ทําวิทยาศาสตร์ สร้างและบํารุงเครือข่ายสังคม ทําการเมือง และทําสงครามแบบสมัยใหม่ได้ อุปสรรคสําคัญคือความสามารถทางปัญญา การลบอุปสรรคนี้ไปจะทําให้เกิดการเปลี่ยนแปลงโลก

นั่นอาจเป็นข้อดีมหาศาลต่อมนุษยชาติ แต่ AI ก็อาจเป็นอันตรายมากถ้าเราไม่สามารถควบคุมได้ AI ที่ไม่มีการควบคุมอาจเข้าไปในระบบออนไลน์ที่มีอิทธิพลต่อโลก และใช้ระบบเหล่านั้นเพื่อบรรลุเป้าหมายของมันได้ มันอาจเข้าถึงบัญชีสื่อสังคมของเราและสร้างการสื่อสารที่ตรงกับความต้องการของคนจํานวนมากได้ อันตรายยิ่งกว่านั้น นักทหารที่รับผิดชอบอาวุธนิวเคลียร์อาจถูก AI ที่ไม่มีการควบคุมหลอกลวงให้เปิดเผยรหัสผ่าน ซึ่งจะเป็นอันตรายต่อมนุษยชาติ

จะเป็นการกระทําที่สร้างสรรค์หากเราสามารถทําให้การเข้าถึงของสิ่งเหล่านั้นเป็นไปได้ยากขึ้น โดยเสริมสร้างระบบป้องกันโลกออนไลน์จากผู้กระทําผิด แต่เมื่อ AI สามารถหลอกลวงมนุษย์ได้มากกว่าเรา ไม่มีการป้องกันที่ทราบกัน

ด้วยเหตุผลเหล่านี้ นักวิจัยความปลอดภัย AI จากห้องปฏิบัติการเช่น OpenAI, Google DeepMind และ Anthropic และองค์กรเพื่อความปลอดภัย ได้ยอมจํานนการพยายามจํากัดการกระทําที่ AI ในอนาคตจะทําได้ แทนที่จะเน้นการสร้าง AI ที่ “ถูกต้องตามหลักการ” หรือมีความปลอดภัยโดยธรรมชาติ AI เหล่านี้อาจมีพลังมากพอที่จะทําลายมนุษยชาติได้ แต่มันควรไม่ต้องการทําเช่นนั้น

มีคําถามใหญ่เกี่ยวกับ AI ที่ถูกต้องตามหลักการ ปัญหาทางเทคนิคในการทําให้ AI ถูกต้องตามหลักการยังไม่ได้รับการแก้ไข ล่าสุดนักวิจัยที่ดีที่สุดที่ทํางานเกี่ยวกับการทําให้ AI ระดับเหนือมนุษย์ถูกต้องตามหลักการก็แสดงความไม่พอใจ ซึ่งไม่ได้ให้ความเชื่อมั่น อีกทั้งยังไม่ชัดเจนว่า AI ระดับเหนือมนุษย์จะถูกต้องตามหลักการอะไร ถ้าใช้ระบบค่านิยมทางวิชาการเช่นประโยชนนิยม มนุษย์ส่วนใหญ่อาจพบว่าค่านิยมของตนไม่ตรงกับระบบนั้น ซึ่ง AI ระดับเหนือมนุษย์ก็อาจกระทําตามสิ่งที่ตรงกับความต้องการของมนุษย์ได้

บทความนี้ให้บริการโดยผู้ให้บริการเนื้อหาภายนอก SeaPRwire (https://www.seaprwire.com/) ไม่ได้ให้การรับประกันหรือแถลงการณ์ใดๆ ที่เกี่ยวข้องกับบทความนี้

หมวดหมู่: ข่าวสําคัญ ข่าวประจําวัน

SeaPRwire จัดส่งข่าวประชาสัมพันธ์สดให้กับบริษัทและสถาบัน โดยมียอดการเข้าถึงสื่อกว่า 6,500 แห่ง 86,000 บรรณาธิการและนักข่าว และเดสก์ท็อปอาชีพ 3.5 ล้านเครื่องทั่ว 90 ประเทศ SeaPRwire รองรับการเผยแพร่ข่าวประชาสัมพันธ์เป็นภาษาอังกฤษ เกาหลี ญี่ปุ่น อาหรับ จีนตัวย่อ จีนตัวเต็ม เวียดนาม ไทย อินโดนีเซีย มาเลเซีย เยอรมัน รัสเซีย ฝรั่งเศส สเปน โปรตุเกส และภาษาอื่นๆ 

การทําลายเวลาระเบิด

ถ้าเราไม่สามารถค้นพบวิธีให้มนุษยชาติปลอดภัยจากการสูญพันธุ์ และอย่างน้อยก็ปลอดภัยจากสภาวะที่ AI ไม่ถูกต้องตามหลักการ AI ที่อาจถูกควบคุมไม่ได้จะต้องไม่ถูกสร้างขึ้นเลย การเลื่อนการสร้าง AI ระดับมนุษย์หรือเหนือมนุษย์ไว้ก่อนจ