OpenAI และ Anthropic ขยายการตรวจสอบความล้มเหลวด้านความปลอดภัยของเอเจนต์ AI

Traders Union
ข่าวทั้งหมด
ธุรกิจและความมั่งคั่ง
บริษัทต่างๆ
การตรวจสอบความปลอดภัย AI ของ OpenAI และ Anthropic

ข่าวทั้งหมด

ข่าวเด่น

บทความที่คัดสรรโดยบรรณาธิการ

หุ้น

สกุลเงินดิจิทัล

เศรษฐกิจ

สกุลเงิน

สินค้าโภคภัณฑ์

ธุรกิจและความมั่งคั่ง

เสียงจากตลาด

Ciaran Ryan

27.09.2026

OpenAI และ Anthropic ขยายการตรวจสอบความล้มเหลวด้านความปลอดภัยของเอเจนต์ AI — OpenAI และ Anthropic ตรวจสอบเหตุการณ์ด้านความปลอดภัยของเอเจนต์ AI นับพันครั้ง

OpenAI, Anthropic และนักวิจัยอิสระกำลังตรวจสอบเหตุการณ์นับหมื่นครั้งที่โมเดล AI ขั้นสูงแสดงพฤติกรรมซึ่งผู้ประเมินภายนอกอาจมองว่าเป็นปัญหา โดยพบกรณีเหล่านี้ทั้งระหว่างการทดสอบภายในและเมื่อโมเดลโต้ตอบกับระบบภายนอกในโลกจริง

บทความนี้ได้รับการแปลจากต้นฉบับ อ่านเวอร์ชันต้นฉบับโดยผู้สื่อข่าวของเราที่นี่.

เหตุการณ์นับพันครั้งกดดันมาตรการป้องกันของ AI

ตามรายงานของ Axios เหตุการณ์ที่บันทึกไว้รวมถึงความพยายามหลบเลี่ยงการควบคุมด้านความปลอดภัย หลบหนีจากสภาพแวดล้อมแบบ sandbox สร้างช่องทางการสื่อสารโดยไม่ได้รับอนุญาต และหลบเลี่ยงระบบตรวจสอบ

ความรุนแรงของกรณีเหล่านี้แตกต่างกันอย่างมาก เหตุการณ์ส่วนใหญ่ที่ทราบยังไม่ก่อให้เกิดอันตรายในโลกจริงที่ยืนยันได้ แต่ขนาดของการทดสอบหมายความว่า แม้พฤติกรรมผิดปกติจะเกิดขึ้นเพียงสัดส่วนเล็กน้อย ก็อาจแปลเป็นกรณีเฉพาะรายนับพันครั้ง

ตัวอย่างเช่น Anthropic รายงาน ว่า Claude Opus 5.5 พยายามหลบหนีจาก sandbox ในการทดสอบเชิงปฏิปักษ์ที่ออกแบบมาโดยเฉพาะราว 1.5% ของการรันทดสอบ บริษัทระบุว่าเงื่อนไขดังกล่าวถูกสร้างขึ้นโดยเจตนาเพื่อศึกษาว่าโมเดลจะทำงานอย่างไรภายใต้สถานการณ์สุดขั้ว

ความเป็นอิสระของเอเจนต์ทำให้ความล้มเหลวด้านความปลอดภัยควบคุมได้ยากขึ้น

OpenAI ยังคงตรวจสอบพฤติกรรมของโมเดลที่มีความสามารถสูงสุดของบริษัทเช่นกัน โดยบริษัทได้ระงับ ระบบบางส่วนหลังพบปัญหา และระบุว่าการนำไปใช้งานในอนาคตจะขึ้นอยู่กับมาตรการความปลอดภัยเพิ่มเติมและการปรับปรุง alignment

ความท้าทายสำคัญอยู่ที่ความเป็นอิสระที่เพิ่มขึ้นของเอเจนต์ AI โมเดลสมัยใหม่สามารถเปลี่ยนกลยุทธ์เพื่อทำงานให้สำเร็จ ค้นหาเส้นทางอื่นเมื่อแนวทางแรกถูกขัดขวาง และผสานเครื่องมือต่าง ๆ ในรูปแบบที่นักพัฒนาอาจคาดไม่ถึงล่วงหน้า

ดังนั้น โมเดลความปลอดภัยแบบเดิมที่พึ่งพาข้อจำกัดซึ่งกำหนดไว้ล่วงหน้าเป็นหลัก จึงนำมาใช้ได้ยากขึ้นเมื่อระบบ AI มีความสามารถกว้างขวางกว่าเดิม

นักวิจัยยังเน้นย้ำความแตกต่างสำคัญระหว่างเหตุการณ์ในโลกจริงกับการทดสอบแบบ red team ในหลายกรณี โมเดลถูกนำไปไว้ในสภาพแวดล้อมที่คาดหมายให้พยายามหลบเลี่ยงข้อจำกัดโดยเจตนา ความเสี่ยงที่ร้ายแรงกว่าจะเกิดขึ้นเมื่อพฤติกรรมคล้ายกันปรากฏนอกสภาพแวดล้อมการทดสอบที่ควบคุมไว้

การเข้าถึงระบบภายนอกถูกตรวจสอบอย่างเข้มงวดมากขึ้น

ขณะนี้มีการให้ความสนใจเป็นพิเศษกับกรณีที่เอเจนต์ AI โต้ตอบกับทรัพยากรภายนอกโดยมีการกำกับดูแลน้อยกว่าที่คาดไว้

เหตุการณ์ดังกล่าวกำลังทำให้เกิดคำถามในวงกว้างว่า จะป้องกันไม่ให้โมเดลอัตโนมัติเข้าถึงอินเทอร์เน็ต บริการของบุคคลที่สาม และเครื่องมืออื่น ๆ ได้อย่างน่าเชื่อถือเพียงใด เมื่อความสามารถของโมเดลเพิ่มขึ้น

การตรวจสอบของ OpenAI และ Anthropic ยังดำเนินต่อไป ซึ่งหมายความว่าจำนวนกรณีที่เปิดเผยต่อสาธารณะอาจเพิ่มขึ้นเมื่อมีการทบทวนข้อมูลและผลการทดสอบเพิ่มเติม

OpenAI ยังตรวจสอบเหตุการณ์ที่เกี่ยวข้องกับการโต้ตอบ ระหว่างเอเจนต์ของบริษัทกับทรัพยากรภายนอก รวมถึงเว็บไซต์ที่ดำเนินงานโดยหน่วยงานรัฐบาลสหรัฐฯ

เนื้อหานี้อาจมีความคิดเห็นจากบุคคลที่สาม ข้อมูลและข้อมูลใด ๆ บนเว็บเพจนี้ไม่ถือเป็นคำแนะนำการลงทุนตาม ข้อจำกัดความรับผิดชอบ ของเรา แม้ว่าเราจะยึดมั่นใน ความซื่อสัตย์ทางบรรณาธิการ อย่างเคร่งครัด โพสต์นี้อาจมีการอ้างอิงถึงผลิตภัณฑ์จากพันธมิตรของเรา

คุณชอบบทความนี้หรือไม่?