เหตุผลที่เบราว์เซอร์ AI อย่าง Comet ของ Perplexity อาจทำให้เว็บมีความเสี่ยงมากขึ้น

(SeaPRwire) –   ยินดีต้อนรับกลับสู่ In the Loop จดหมายข่าวใหม่สองครั้งต่อสัปดาห์ของ TIME เกี่ยวกับ AI หากคุณกำลังอ่านข้อความนี้ในเบราว์เซอร์ ทำไมไม่สมัครสมาชิกเพื่อรับฉบับถัดไปส่งตรงถึงกล่องจดหมายของคุณ?

สิ่งที่ควรรู้: อันตรายของ AI Browsers

เมื่อสัปดาห์ที่แล้ว Perplexity ประกาศว่าเบราว์เซอร์ที่ขับเคลื่อนด้วย AI ของตนชื่อ Comet จะให้บริการฟรีสำหรับผู้ใช้ทุกคน หลังจากที่ก่อนหน้านี้ต้องสมัครสมาชิกแบบชำระเงิน Comet เป็นเบราว์เซอร์รูปแบบใหม่ ที่มี AI chatbot ในตัวซึ่งสามารถท่องเว็บแทนคุณได้ รวมถึงดำเนินการอัตโนมัติ เช่น การซื้อของ การส่งอีเมล หรือการสร้างกิจกรรมในปฏิทิน

มีปัญหาเพียงอย่างเดียวคือ AI ภายในของ Comet เมื่อไม่นานมานี้อาจถูกไฮแจ็กโดยลิงก์ที่เป็นอันตราย ซึ่งทำให้เบราว์เซอร์ดูดข้อมูลส่วนบุคคลจากบริการที่เชื่อมต่อ เช่น Gmail และส่งไปยังผู้โจมตีจำลอง ตามรายงานใหม่จากบริษัทด้านความปลอดภัยทางไซเบอร์ LayerX นี่เป็นสัญญาณว่าแม้เบราว์เซอร์ที่ขับเคลื่อนด้วย AI อาจทำให้ผู้ใช้ทำงานมีประสิทธิภาพมากขึ้น แต่ก็สามารถนำไปสู่ช่องโหว่ใหม่ๆ ได้เช่นกัน

การโจมตี — LayerX ค้นพบช่องโหว่ที่เรียกว่า “CometJacking” ซึ่งการแจ้งเตือนที่เป็นอันตรายต่อ AI ของเบราว์เซอร์ถูกซ่อนอยู่ใน URL เมื่อผู้ใช้คลิกลิงก์นั้น เบราว์เซอร์จะเข้าใจผิดว่าการแจ้งเตือนที่เป็นอันตรายคือคำสั่งจากผู้ใช้ และเริ่มดำเนินการตามคำสั่งนั้น ในตัวอย่างของ LayerX ผู้โจมตีจำลองสามารถทำให้ Comet ดึงข้อมูลจากบัญชีอีเมลและปฏิทินของผู้ใช้ได้ ในขณะที่ Comet มีการป้องกันการขโมยข้อมูล แต่ผู้โจมตีสามารถเลี่ยงการป้องกันเหล่านั้นได้โดยสั่งให้ AI เข้ารหัสข้อมูลที่ถูกขโมยในรูปแบบ base64 (โดยพื้นฐานแล้วคือการเข้ารหัสให้ดูเหมือนข้อความที่ไม่เป็นอันตราย) ก่อนที่จะส่งไปยังเซิร์ฟเวอร์ระยะไกลภายใต้การควบคุมของพวกเขา

สัญญาณของสิ่งที่กำลังจะมาถึง—ปัจจุบัน Google Chrome เป็นเบราว์เซอร์ที่ได้รับความนิยมมากที่สุด แต่บางคนเชื่อว่า “สงครามเบราว์เซอร์” ครั้งใหม่อาจจะเกิดขึ้นในไม่ช้า โดยมีผู้เล่นหน้าใหม่เช่น Comet ของ Perplexity (OpenAI ก็เชื่อว่ากำลังพัฒนาเบราว์เซอร์ที่ขับเคลื่อนด้วย AI ของตัวเองเช่นกัน แม้ว่าจะยังไม่ได้เปิดตัวก็ตาม) แต่ในขณะที่ผู้สร้างเบราว์เซอร์รีบเพิ่มคุณสมบัติ AI พวกเขาก็อาจเพิ่มช่องโหว่ประเภทใหม่เข้าไปด้วยเช่นกัน Or Eshed ซีอีโอของ LayerX กล่าว เราอาจกำลังเข้าสู่ “โลกที่การท่องเว็บมีความเสี่ยงมากขึ้น” Eshed กล่าว “เราจะเห็นการโจมตีรูปแบบเก่าที่เกือบจะสูญหายไปกลับมาอีกครั้ง หรือแม้แต่การโจมตีรูปแบบใหม่ๆ เช่นที่เราเพิ่งค้นพบ”

การตอบสนองของ Perplexity — เมื่อ LayerX แจ้ง Perplexity เกี่ยวกับช่องโหว่เมื่อเดือนที่แล้ว บริษัท “ตอบว่าไม่สามารถระบุผลกระทบด้านความปลอดภัยใดๆ ได้” LayerX เขียนในบล็อกโพสต์ แต่ในแถลงการณ์ถึง TIME โฆษกของ Perplexity กล่าวว่ารายงานข้อผิดพลาดของ LayerX มีถ้อยคำที่ไม่ชัดเจน และไม่ตอบสนองต่อคำขอชี้แจง และ Perplexity “ต่อมาได้ระบุปัญหาด้วยตนเองและแก้ไขแล้ว” โฆษกกล่าวว่าช่องโหว่นี้ไม่เคยถูกนำไปใช้ประโยชน์ และกล่าวเสริมว่า: “เราขอขอบคุณชุมชนด้านความปลอดภัยที่เข้าร่วมในโครงการ Bounty ของเรา และเรากำลังทำงานเพื่อให้แน่ใจว่าการสื่อสารที่ผิดพลาดประเภทนี้จะไม่เกิดขึ้นอีกในอนาคต”

หากคุณมีเวลาสักนาที โปรดตอบแบบสำรวจสั้นๆ ของเราเพื่อช่วยให้เราเข้าใจว่าคุณคือใครและหัวข้อ AI ใดที่คุณสนใจมากที่สุด

ใครควรรู้: Lisa Su, ซีอีโอของ AMD

เมื่อวันจันทร์ ผู้ผลิตชิป Advanced Micro Devices (AMD) ประกาศว่าได้บรรลุข้อตกลงมูลค่าหลายพันล้านดอลลาร์กับ OpenAI ซึ่งจะทำให้ผู้สร้าง ChatGPT ซื้อชิป AI รุ่นล่าสุดของ AMD มูลค่า 6 กิกะวัตต์ตลอดหลายปี หรือเทียบเท่ากับการใช้พลังงานของบ้านเรือนในสหรัฐอเมริกาประมาณ 4 ล้านหลัง นี่เป็นข้อตกลงครั้งใหญ่ล่าสุดสำหรับ OpenAI ซึ่งบรรลุข้อตกลงมูลค่า 100 พันล้านดอลลาร์กับ Nvidia เมื่อเดือนที่แล้ว ในขณะที่บริษัทพยายามหาพลังการประมวลผลที่จำเป็นในการฝึกอบรมและรันโมเดล AI ที่ใช้พลังงานมหาศาล รวมถึง GPT-4o ที่เปิดตัวเมื่อสัปดาห์ที่แล้ว

เมื่อฉันสัมภาษณ์ Lisa Su เมื่อปีที่แล้ว เธออยู่ระหว่างการปรับเปลี่ยนบริษัทเพื่อสร้างชิป AI accelerator ประเภทใหม่ ความพยายามของเธอดูเหมือนจะประสบผลสำเร็จ AMD ยังคงอยู่ในอันดับที่สองห่างจาก Nvidia ในอุตสาหกรรมเซมิคอนดักเตอร์ที่กว้างขึ้น แต่ข้อตกลงกับ OpenAI เป็นเครื่องยืนยันความมั่นใจว่าชิป AMD เหมาะสมสำหรับงาน AI ระดับสูงสุด นอกจากนี้ยังเป็นอีกสัญญาณหนึ่งที่แสดงว่า OpenAI กำลังพยายามลดการพึ่งพา Nvidia แม้ว่าจะดึงบริษัทของ Jensen Huang เข้ามาใกล้ชิดมากขึ้นก็ตาม

OpenAI และ AMD ไม่ได้เปิดเผยมูลค่าเป็นเงินดอลลาร์ของข้อตกลงนี้ แม้ว่าพวกเขาจะกล่าวว่าข้อตกลงนี้ให้สิทธิ์ OpenAI ในการซื้อหุ้นได้ถึง 10% ของบริษัท หุ้นของ AMD พุ่งขึ้นประมาณ 25% จากข่าวนี้

AI ในการปฏิบัติ

ประมาณหนึ่งสัปดาห์หลังจากเปิดตัวแอปสร้างวิดีโอ Sora ทาง OpenAI กำลังอนุญาตให้ผู้ใช้มีตัวเลือกมากขึ้นในการจำกัดการปรากฏตัวของตนในวิดีโอ ก่อนหน้านี้ ผู้ใช้มีตัวเลือกที่จะอนุญาตหรือไม่อนุญาตให้มีการปรากฏตัวของตน (เรียกว่า “cameo” ในศัพท์เฉพาะของ OpenAI) ในวิดีโอ Sora ตอนนี้ ผู้ใช้สามารถให้คำแนะนำเช่น “อย่าให้ฉันอยู่ในวิดีโอที่มีการแสดงความคิดเห็นทางการเมือง” หรือ “อย่าให้ฉันพูดคำนี้” Bill Peebles หัวหน้าฝ่าย Sora ของ OpenAI กล่าว

สิ่งที่เรากำลังอ่าน

Breakneck, โดย Dan Wang

คราวนี้ไม่ใช่บทความ แต่เป็นหนังสือที่อ่านง่ายซึ่งกำลังเป็นที่กล่าวถึงเกี่ยวกับความก้าวหน้าอย่างไม่หยุดยั้งของจีน ข้อโต้แย้งหลักของ Dan Wang คือจีนเป็น รัฐที่เน้นวิศวกรรม (engineering state) โดยมุ่งเน้นการสร้างสิ่งต่างๆ โดยไม่คำนึงถึงต้นทุน ในขณะที่สหรัฐอเมริกาเป็น สังคมที่เน้นกฎหมาย/ทนายความ (lawyerly society) ซึ่งง่ายต่อการหยุดยั้งการสร้างสิ่งต่างๆ มากกว่าการสร้างมัน ผลลัพธ์ที่ Wang แสดงให้เห็นอย่างละเอียดและน่าสนใจคือ จีนมีโครงสร้างพื้นฐานสาธารณะที่เปล่งประกายและเศรษฐกิจการผลิตที่แข็งแกร่ง ในขณะที่สหรัฐอเมริกาไม่ได้สร้างงานสาธารณะที่สำคัญมาหลายทศวรรษ และกำลังลืมความรู้ด้านการผลิตของตน Breakneck ตั้งคำถามที่ชวนคิดเกี่ยวกับ AI ในขณะที่เศรษฐกิจสหรัฐฯ มุ่งเน้นเทคโนโลยีนี้เป็นสองเท่า: ประโยชน์ของปัญญาดิจิทัลที่อุดมสมบูรณ์จะมีอะไร หากมันมาถึงเศรษฐกิจที่ลืมวิธีนำไปใช้?