ปัญหาการจัดแนวระหว่างมนุษย์กับ AI

(SeaPRwire) –   เรากำลังก้าวเข้าสู่ยุค AI อย่างเต็มตัว ที่ทุกสัปดาห์จะมีฟีเจอร์หรืองานใหม่ๆ ที่ AI สามารถทำได้ แต่เมื่อพิจารณาว่าเรามาไกลแค่ไหนแล้ว การถอยออกมามองภาพรวมและตั้งคำถามที่ใหญ่กว่าว่าเรากำลังมุ่งหน้าไปทางไหน จะดึงศักยภาพสูงสุดจากเทคโนโลยีนี้ได้อย่างไรในขณะที่มันวิวัฒนาการ และแน่นอนว่าจะดึงศักยภาพสูงสุดจากตัวเราเองได้อย่างไรในขณะที่เราวิวัฒนาการร่วมกัน นั้นเป็นสิ่งสำคัญยิ่งกว่า

มีช่วงเวลาหนึ่งที่น่าสนใจเมื่อเร็วๆ นี้ เมื่อ Sam Altman ได้ปรากฏตัวในพอดแคสต์ของ Tucker Carlson โดย Carlson ได้ซักถาม Altman เกี่ยวกับรากฐานทางศีลธรรมของ ChatGPT เขาได้ให้เหตุผลว่าเทคโนโลยีนี้มีองค์ประกอบทางศาสนาหรือจิตวิญญาณพื้นฐานบางอย่าง เนื่องจากเราสมมติว่ามันมีพลังมากกว่ามนุษย์และเราก็มองหามันเพื่อเป็นแนวทาง Altman ตอบว่าสำหรับเขาแล้ว ไม่มีอะไรที่เป็นจิตวิญญาณเลยเกี่ยวกับเรื่องนี้ Carlson จึงกล่าวว่า “ถ้ามันไม่ได้เป็นอะไรมากไปกว่าเครื่องจักรและเป็นเพียงผลผลิตจากข้อมูลที่ป้อนเข้าไป” “แล้วคำถามที่ชัดเจนสองข้อก็คือ: ข้อมูลที่ป้อนเข้าไปคืออะไร? กรอบศีลธรรมใดที่ถูกใส่เข้าไปในเทคโนโลยีนี้?”

จากนั้น Altman ก็อ้างถึง “model spec” ซึ่งก็คือชุดคำสั่งที่มอบให้กับโมเดล AI เพื่อควบคุมพฤติกรรมของมัน สำหรับ ChatGPT เขากล่าวว่า นั่นหมายถึงการฝึกฝนมันจาก “ประสบการณ์ร่วม, ความรู้, การเรียนรู้ของมนุษยชาติ” แต่เขากล่าวเสริมว่า “จากนั้นเราก็ต้องปรับให้มันมีพฤติกรรมในทางใดทางหนึ่ง”

และนั่นก็นำเราไปสู่ปัญหาการจัดแนว (alignment problem) อันโด่งดัง—แนวคิดที่ว่าเพื่อป้องกันความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติจากการที่ AI เข้ามาควบคุม เราจำเป็นต้องปรับ AI ให้สอดคล้องกับค่านิยมของมนุษย์ แนวคิดนี้ย้อนกลับไปในปี 1960 โดย Norbert Wiener ผู้บุกเบิก AI ซึ่งได้อธิบายปัญหาการจัดแนวไว้ดังนี้: “หากเราใช้เครื่องจักรกลเพื่อบรรลุวัตถุประสงค์ของเรา ซึ่งการทำงานของมันเราไม่สามารถเข้าไปแทรกแซงได้อย่างมีประสิทธิภาพ… เราควรมั่นใจอย่างยิ่งว่าวัตถุประสงค์ที่ใส่เข้าไปในเครื่องจักรนั้นคือวัตถุประสงค์ที่เราต้องการจริงๆ”

แต่จริงๆ แล้วยังมีปัญหาการจัดแนวที่ใหญ่กว่านั้น ซึ่งย้อนไปไกลกว่าปี 1960 การจะจัดแนว AI ให้สอดคล้องกับค่านิยมของมนุษย์ได้นั้น เราเองจำเป็นต้องมีความชัดเจนเกี่ยวกับค่านิยมสากลที่เรายึดถือ ข้อมูลที่ป้อนเข้าไปของเราคืออะไร? model spec ของเราคืออะไร? เรากำลังฝึกฝนตัวเองบนพื้นฐานอะไรเพื่อให้สามารถใช้ชีวิตได้อย่างมีความหมาย?

นี่คือคำถามที่เราต้องตอบก่อนที่เราจะตัดสินใจว่าเราต้องการให้ AI ดึงข้อมูลอะไรมาใช้ แม้ว่าเราจะสามารถปรับ AI ให้สอดคล้องกับสถานะปัจจุบันของมนุษยชาติได้อย่างสมบูรณ์แบบ ผลลัพธ์ที่ได้ก็ยังคงไม่ดีที่สุด ดังนั้น ตอนนี้ถึงเวลาที่จะชี้แจงค่านิยมของเราให้ชัดเจน ก่อนที่เราจะสร้างเทคโนโลยีที่มุ่งเน้นการรวบรวมและสะท้อนค่านิยมเหล่านั้น

เพราะตอนนี้เรากำลังประสบกับการจัดแนวที่ไม่ถูกต้องอย่างลึกซึ้ง ในโลกสมัยใหม่ของเรา เราได้สูญเสียความเชื่อมโยงกับรากฐานทางจิตวิญญาณที่อารยธรรมของเรา ทั้งตะวันตกและตะวันออก ถูกสร้างขึ้นมา เราได้ใช้ชีวิตอยู่ในแสงเรืองรองนั้นมาหลายศตวรรษ แต่ตอนนี้แม้แต่แสงเรืองรองนั้นก็ยังจางหายไป และเราก็ไร้จุดยึดเหนี่ยวและไร้อิสระ

รากฐานนั้นเริ่มค่อยๆ พังทลายลงพร้อมกับการมาถึงของยุคเรืองปัญญาและการปฏิวัติอุตสาหกรรม แต่ก็ยังคงดึงเอาความจริงนิรันดร์เหล่านี้มาใช้ เราได้เปล่งเสียง—และแม้กระทั่งเชื่อในสิ่งเหล่านี้—น้อยลงกว่าเมื่อก่อน แต่เราก็ยังคงถูกนำทางโดยสิ่งเหล่านั้น แต่บัดนี้เมื่อความเชื่อมโยงถูกตัดขาดออกไป เพื่อที่จะฝึกฝน AI ให้สอดคล้องกับค่านิยมของมนุษย์ เราจำเป็นต้องขุดค้นและเชื่อมโยงกับสิ่งเหล่านั้นอีกครั้งเป็นอันดับแรก

ในหนังสือเล่มใหม่ของเขา , Paul Kingsnorth ได้สำรวจว่าทุกวัฒนธรรมสร้างขึ้นบนระเบียบอันศักดิ์สิทธิ์ได้อย่างไร “แน่นอนว่านี่ไม่จำเป็นต้องเป็นระเบียบของคริสเตียน” เขาเขียน “มันอาจจะเป็นอิสลาม ฮินดู หรือเต๋า” ยุคเรืองปัญญาได้ตัดขาดเราออกจากระเบียบอันศักดิ์สิทธิ์นั้น แต่ดังที่ Kingsnorth กล่าวไว้ว่า “สังคมไม่ได้เห็นมันเพราะอนุสาวรีย์ของระเบียบอันศักดิ์สิทธิ์เก่ายังคงตั้งอยู่เหมือนรูปปั้นโรมันหลังการล่มสลายของอาณาจักร” สิ่งที่เราเห็นคือราคาที่สังคมต้องจ่ายเมื่อระเบียบนั้นล่มสลาย: “ความวุ่นวายในทุกระดับของสังคม ตั้งแต่ระดับการเมืองลงไปจนถึงระดับจิตวิญญาณ”

นี่ไม่ใช่สิ่งที่กำลังเกิดขึ้นในตอนนี้หรอกหรือ? Kingsnorth เขียนว่า “มันจะอธิบายถึงอารมณ์ที่แปลกประหลาด ตึงเครียด สั่นสะเทือน และน่าหงุดหงิดของยุคสมัยนี้”

ในการสนทนากับ Carlson, Altman ได้พูดถึงการฝึกฝน AI บน “ประสบการณ์ร่วม” ของมนุษยชาติ แต่ตัวเราเองกำลังเข้าถึงประสบการณ์ร่วมทั้งหมดของการเป็นมนุษย์จริงๆ หรือไม่?

ในขณะที่เราสร้างเทคโนโลยีพลิกโฉมที่จะเปลี่ยนแปลงทุกสิ่งทุกอย่างเกี่ยวกับชีวิตของเรา เราจำเป็นต้องมั่นใจว่าเราได้ฝึกฝนมันบนพื้นฐานของค่านิยมอันเป็นรากฐานและไม่เปลี่ยนแปลงที่นิยามความเป็นมนุษย์ของเรา