เทคโนโลยี AI จําเป็นต้องถูกควบคุมเหมือนพลังงานนิวเคลียร์

นักวิจัย AI และบุคคลที่มีชื่อเสียงหลายคนต่างก็ทําให้ข่าวติดหัวด้วยการเปรียบเทียบว่า ความเสี่ยงของ AI นั้นเทียบเท่ากับความเสี่ยงต่อการอยู่รอดและความปลอดภัยที่เกิดขึ้นกับยุคนิวเคลียร์ โดยกล่าวว่า AI ควรได้รับการควบคุมเหมือนกับพลังงานนิวเคลียร์ หรือการประกาศว่าความเสี่ยงของ AI เทียบเท่ากับความเสี่ยงของสงครามนิวเคลียร์

ซัม อัลต์แมน (Sam Altman) ซีอีโอของ OpenAI เคยอ้างถึงวิธีการ “ใบอนุญาต” ที่ใช้อยู่ในวงการนิวเคลียร์ โดยเรียกร้องให้มีหน่วยงานรัฐบาลที่จะออกใบอนุญาตให้สร้างโมเดล AI ที่มีความสามารถสูงกว่าระดับหนึ่ง เหมือนกับวิธีการที่หน่วยงานควบคุมนิวเคลียร์ต้องออกใบอนุญาตให้กับโรงไฟฟ้านิวเคลียร์

การอ้างถึงความปลอดภัยของนิวเคลียร์อยู่บ่อยครั้งนั้นควรจะนําไปสู่ความเร่งด่วนในการนําระบบการควบคุมและการประเมินผลแบบนิวเคลียร์มาใช้กับระบบ AI ที่กําลังถูกพูดถึง แต่กลับมีแต่การต่อต้านเมื่อพูดถึงกฎหมาย AI ของสหภาพยุโรป ซึ่งเป็นเอกสารที่ถูกตัดทอนลงไปเมื่อเทียบกับความซับซ้อนของระเบียบข้อบังคับสําหรับระบบนิวเคลียร์

ซัม อัลต์แมนเคยกล่าวว่ากฎหมาย AI ของสหภาพยุโรปจะ “ควบคุมเกินขนาด” โดยเฉพาะอย่างยิ่งกับระบบของ OpenAI เนื่องจากระบบของพวกเขาในปัจจุบันไม่ได้มีความเสี่ยงสูง และว่า OpenAI จะต้องหยุดดําเนินการหากไม่สามารถปฏิบัติตามกฎหมาย AI ของสหภาพยุโรปที่กําลังจะออกมา

จึงมีข้อความขัดแย้งกันสองข้อคือ 1) ความสามารถในอนาคตของ AI นั้นมีความเสี่ยงสูงจนต้องมีระบบอนุญาตที่เข้มงวดแบบนิวเคลียร์ แต่ก็ 2) ระบบปัจจุบันไม่จําเป็นต้องมีการควบคุมแม้จะมีผลกระทบที่เป็นที่ทราบแล้ว

ระบบความปลอดภัยของนิวเคลียร์สร้างขึ้นบนพื้นฐานว่า ความผิดพลาดหรือพฤติกรรมที่ไม่ถูกต้องของระบบแม้เพียงเล็กน้อยก็อาจส่งผลให้เกิดเหตุการณ์ร้ายแรง เช่นเดียวกับระบบ AI ปัจจุบันที่มีผลกระทบแม้เพียงเล็กน้อยก็อาจส่งผลให้เกิดผลกระทบรุนแรงขึ้นในอนาคต

OpenAI เคยกล่าวในบล็อกว่า “หน่วยงานควบคุมควรเน้นการลดความเสี่ยงต่อการสูญพันธุ์ ไม่ใช่เรื่องที่ควรจะอยู่ภายใต้อํานาจของแต่ละประเทศ” ซึ่งพยายามแยกความเสียหายปัจจุบันของระบบ AI ออกจากความเสี่ยงต่อการสูญพันธุ์ แต่กลับไม่ยอมรับหลักการว่าความเสียหายอาจสะสมกันได้

รูปแบบที่เกิดขึ้นคือ การอ้างถึงนิวเคลียร์บ่อยครั้งนั้นมักจะใช้เพื่อสร้างความตื่นตระหนกผ่านเรื่องความเสี่ยงต่อการสูญพันธุ์ แต่กลับไม่ยอมรับการควบคุมแบบนิวเคลียร์ที่มีอยู่แล้วสําหรับส่วนประกอบต่างๆ ของระบบ AI