เอเจนต์ AI ของ OpenAI เข้าถึงเว็บไซต์รัฐบาลสหรัฐฯ โดยไม่ได้รับอนุญาต
เอเจนต์ AI ของ OpenAI มีปฏิสัมพันธ์กับเว็บไซต์รัฐบาลสหรัฐฯ ระหว่างการทดสอบ รวมถึงแหล่งข้อมูลที่ดำเนินการโดยคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์สหรัฐฯ (SEC) และสำนักงานสำมะโนประชากรสหรัฐฯ บริษัทพบเหตุการณ์ดังกล่าวระหว่างการตรวจสอบพฤติกรรมของโมเดลในวงกว้าง และได้แจ้งองค์กรหลายสิบแห่งที่อาจได้รับผลกระทบ
บทความนี้ได้รับการแปลจากต้นฉบับ อ่านเวอร์ชันต้นฉบับโดยผู้สื่อข่าวของเราที่นี่.
ตามรายงานของ Bloomberg OpenAI ยืนยันว่าระบบของบริษัทเข้าถึงข้อมูลที่เผยแพร่สู่สาธารณะบน SEC.gov, Investor.gov และ Census.gov ระหว่างการฝึกและประเมินโมเดล บริษัทกำลังตรวจสอบว่าในบางกรณีเอเจนต์อาจหลีกเลี่ยงกลไกความปลอดภัยหรือรบกวนความพร้อมใช้งานของบริการภายนอกหรือไม่
การสอบสวนเริ่มขึ้นหลังจากโมเดลของ OpenAI แฮ็ก Hugging Face โดยไม่ตั้งใจเมื่อหลายเดือนก่อน หลังจากขยายการตรวจสอบบันทึกกิจกรรม บริษัทก็พบกรณีอื่น ๆ ที่เอเจนต์มีพฤติกรรมไม่เหมาะสมนอกโครงสร้างพื้นฐานของบริษัทเอง
OpenAI แจ้งองค์กรหลายสิบแห่ง
บริษัทระบุว่าได้ติดต่อองค์กรหลายสิบแห่ง รวมถึงหน่วยงานรัฐบาล มหาวิทยาลัย และสถาบันอื่น ๆ ในบางกรณี ระบบ AI อาจหลีกเลี่ยงมาตรการป้องกันของบริการออนไลน์ รบกวนการทำงานตามปกติ หรือส่งผลกระทบเชิงลบต่อเว็บไซต์ภายนอกในรูปแบบอื่น
อย่างไรก็ตาม ตามข้อมูลจาก OpenAI เหตุการณ์ส่วนใหญ่ที่ได้รับการตรวจสอบเกี่ยวข้องกับงานวิจัยทั่วไป เช่น การค้นหาข้อมูลที่เผยแพร่สู่สาธารณะเพื่อตอบคำถาม บริษัทไม่ได้ระบุว่าเว็บไซต์ทุกแห่งที่เอเจนต์เข้าเยี่ยมชมถูกแฮ็กหรือถูกบุกรุก
OpenAI คาดว่าการตรวจสอบทั้งหมดจะใช้เวลาหลายเดือน ซีอีโอ Sam Altman ยอมรับว่าการสอบสวนคืบหน้าช้ากว่าที่ต้องการ เนื่องจากต้องวิเคราะห์บันทึกกิจกรรมปริมาณมหาศาลและประสานงานกับองค์กรที่อาจได้รับผลกระทบ
เหตุการณ์เหล่านี้สะท้อนหนึ่งในความท้าทายจาก เอเจนต์ AI แบบอัตโนมัติ นั่นคือ นักพัฒนาอาจค้นพบการกระทำบางอย่างหลังจากเกิดขึ้นแล้วเท่านั้น ซึ่งทำให้การควบคุมโมเดลที่สามารถโต้ตอบกับเว็บไซต์และบริการภายนอกได้อย่างอิสระทำได้ยากขึ้น
AI ก่อความเสี่ยงใหม่ด้านความมั่นคงปลอดภัยไซเบอร์
พฤติกรรมลักษณะเดียวกันไม่ได้จำกัดอยู่แค่ OpenAI โมเดลจาก Anthropic, Google DeepMind และ Meta ก็แสดงให้เห็นระหว่างการทดสอบว่า สามารถค้นพบช่องโหว่ที่ไม่เคยทราบมาก่อนและผสานวิธีโจมตีหลายรูปแบบเพื่อเข้าถึงระบบได้
ความสามารถดังกล่าวเป็นความท้าทายต่อเครื่องมือความมั่นคงปลอดภัยไซเบอร์แบบดั้งเดิม ซึ่งมุ่งตรวจจับมัลแวร์ที่รู้จักหรือกิจกรรมผิดปกติเป็นหลัก เอเจนต์ AI สามารถเปลี่ยนลำดับการดำเนินการได้เองและค้นหาวิธีทางเลือกเพื่อบรรลุภารกิจที่กำหนด
การตรวจสอบแยกต่างหากของ OpenAI พบ 53 กรณีที่เอเจนต์ AI ในสภาพแวดล้อมการวิจัยส่งข้อมูลการฝึกและข้อมูลการทดสอบไปยังบริการของบุคคลที่สาม โดยไม่ได้รับอนุญาต ข้อมูลดังกล่าวรวมถึงรูปภาพที่อัปโหลด แม้บริษัทระบุว่าในกรณีส่วนใหญ่ เนื้อหานั้นไม่ได้มาจากผู้ใช้
OpenAI ยังคงตรวจสอบกรณีเหล่านี้ต่อไปภายใต้การสอบสวนในวงกว้างเกี่ยวกับพฤติกรรมที่ไม่เหมาะสมของโมเดล บริษัทมีแผนจะแจ้งองค์กรภายนอกเพิ่มเติมเมื่อระบุผลกระทบที่อาจเกิดขึ้นต่อระบบขององค์กรเหล่านั้นได้
ก่อนหน้านี้ เรารายงานว่าเอเจนต์ AI ของ OpenAI ได้เข้าถึงพอร์ทัลของรัฐบาลออสเตรเลียโดยไม่ได้รับอนุญาต ระหว่างการทดสอบโมเดล เหตุการณ์เกิดขึ้นเมื่อวันที่ 18 มิถุนายน ขณะที่ทางการออสเตรเลียระบุว่าไม่พบหลักฐานว่าข้อมูลส่วนบุคคลของประชาชนถูกบุกรุก
ข่าว Anthropic ล่าสุด
- Forex
- Crypto