เอเจนต์ AI ของ OpenAI เข้าถึงเว็บไซต์รัฐบาลสหรัฐฯ โดยไม่ได้รับอนุญาต

เอเจนต์ AI ของ OpenAI เข้าถึงเว็บไซต์รัฐบาลสหรัฐฯ โดยไม่ได้รับอนุญาต
เอเจนต์ OpenAI เข้าถึงเว็บไซต์รัฐบาลสหรัฐฯ

​เอเจนต์ AI ของ OpenAI มีปฏิสัมพันธ์กับเว็บไซต์รัฐบาลสหรัฐฯ ระหว่างการทดสอบ รวมถึงแหล่งข้อมูลที่ดำเนินการโดยคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์สหรัฐฯ (SEC) และสำนักงานสำมะโนประชากรสหรัฐฯ บริษัทพบเหตุการณ์ดังกล่าวระหว่างการตรวจสอบพฤติกรรมของโมเดลในวงกว้าง และได้แจ้งองค์กรหลายสิบแห่งที่อาจได้รับผลกระทบ

บทความนี้ได้รับการแปลจากต้นฉบับ อ่านเวอร์ชันต้นฉบับโดยผู้สื่อข่าวของเราที่นี่.

ตามรายงานของ Bloomberg OpenAI ยืนยันว่าระบบของบริษัทเข้าถึงข้อมูลที่เผยแพร่สู่สาธารณะบน SEC.gov, Investor.gov และ Census.gov ระหว่างการฝึกและประเมินโมเดล บริษัทกำลังตรวจสอบว่าในบางกรณีเอเจนต์อาจหลีกเลี่ยงกลไกความปลอดภัยหรือรบกวนความพร้อมใช้งานของบริการภายนอกหรือไม่

การสอบสวนเริ่มขึ้นหลังจากโมเดลของ OpenAI แฮ็ก Hugging Face โดยไม่ตั้งใจเมื่อหลายเดือนก่อน หลังจากขยายการตรวจสอบบันทึกกิจกรรม บริษัทก็พบกรณีอื่น ๆ ที่เอเจนต์มีพฤติกรรมไม่เหมาะสมนอกโครงสร้างพื้นฐานของบริษัทเอง

OpenAI แจ้งองค์กรหลายสิบแห่ง

บริษัทระบุว่าได้ติดต่อองค์กรหลายสิบแห่ง รวมถึงหน่วยงานรัฐบาล มหาวิทยาลัย และสถาบันอื่น ๆ ในบางกรณี ระบบ AI อาจหลีกเลี่ยงมาตรการป้องกันของบริการออนไลน์ รบกวนการทำงานตามปกติ หรือส่งผลกระทบเชิงลบต่อเว็บไซต์ภายนอกในรูปแบบอื่น

อย่างไรก็ตาม ตามข้อมูลจาก OpenAI เหตุการณ์ส่วนใหญ่ที่ได้รับการตรวจสอบเกี่ยวข้องกับงานวิจัยทั่วไป เช่น การค้นหาข้อมูลที่เผยแพร่สู่สาธารณะเพื่อตอบคำถาม บริษัทไม่ได้ระบุว่าเว็บไซต์ทุกแห่งที่เอเจนต์เข้าเยี่ยมชมถูกแฮ็กหรือถูกบุกรุก

OpenAI คาดว่าการตรวจสอบทั้งหมดจะใช้เวลาหลายเดือน ซีอีโอ Sam Altman ยอมรับว่าการสอบสวนคืบหน้าช้ากว่าที่ต้องการ เนื่องจากต้องวิเคราะห์บันทึกกิจกรรมปริมาณมหาศาลและประสานงานกับองค์กรที่อาจได้รับผลกระทบ

เหตุการณ์เหล่านี้สะท้อนหนึ่งในความท้าทายจาก เอเจนต์ AI แบบอัตโนมัติ นั่นคือ นักพัฒนาอาจค้นพบการกระทำบางอย่างหลังจากเกิดขึ้นแล้วเท่านั้น ซึ่งทำให้การควบคุมโมเดลที่สามารถโต้ตอบกับเว็บไซต์และบริการภายนอกได้อย่างอิสระทำได้ยากขึ้น

AI ก่อความเสี่ยงใหม่ด้านความมั่นคงปลอดภัยไซเบอร์

พฤติกรรมลักษณะเดียวกันไม่ได้จำกัดอยู่แค่ OpenAI โมเดลจาก Anthropic, Google DeepMind และ Meta ก็แสดงให้เห็นระหว่างการทดสอบว่า สามารถค้นพบช่องโหว่ที่ไม่เคยทราบมาก่อนและผสานวิธีโจมตีหลายรูปแบบเพื่อเข้าถึงระบบได้

ความสามารถดังกล่าวเป็นความท้าทายต่อเครื่องมือความมั่นคงปลอดภัยไซเบอร์แบบดั้งเดิม ซึ่งมุ่งตรวจจับมัลแวร์ที่รู้จักหรือกิจกรรมผิดปกติเป็นหลัก เอเจนต์ AI สามารถเปลี่ยนลำดับการดำเนินการได้เองและค้นหาวิธีทางเลือกเพื่อบรรลุภารกิจที่กำหนด

การตรวจสอบแยกต่างหากของ OpenAI พบ 53 กรณีที่เอเจนต์ AI ในสภาพแวดล้อมการวิจัยส่งข้อมูลการฝึกและข้อมูลการทดสอบไปยังบริการของบุคคลที่สาม โดยไม่ได้รับอนุญาต ข้อมูลดังกล่าวรวมถึงรูปภาพที่อัปโหลด แม้บริษัทระบุว่าในกรณีส่วนใหญ่ เนื้อหานั้นไม่ได้มาจากผู้ใช้

OpenAI ยังคงตรวจสอบกรณีเหล่านี้ต่อไปภายใต้การสอบสวนในวงกว้างเกี่ยวกับพฤติกรรมที่ไม่เหมาะสมของโมเดล บริษัทมีแผนจะแจ้งองค์กรภายนอกเพิ่มเติมเมื่อระบุผลกระทบที่อาจเกิดขึ้นต่อระบบขององค์กรเหล่านั้นได้

ก่อนหน้านี้ เรารายงานว่าเอเจนต์ AI ของ OpenAI ได้เข้าถึงพอร์ทัลของรัฐบาลออสเตรเลียโดยไม่ได้รับอนุญาต ระหว่างการทดสอบโมเดล เหตุการณ์เกิดขึ้นเมื่อวันที่ 18 มิถุนายน ขณะที่ทางการออสเตรเลียระบุว่าไม่พบหลักฐานว่าข้อมูลส่วนบุคคลของประชาชนถูกบุกรุก

เนื้อหานี้อาจมีความคิดเห็นจากบุคคลที่สาม ข้อมูลและข้อมูลใด ๆ บนเว็บเพจนี้ไม่ถือเป็นคำแนะนำการลงทุนตาม ข้อจำกัดความรับผิดชอบ ของเรา แม้ว่าเราจะยึดมั่นใน ความซื่อสัตย์ทางบรรณาธิการ อย่างเคร่งครัด โพสต์นี้อาจมีการอ้างอิงถึงผลิตภัณฑ์จากพันธมิตรของเรา

ข่าว Anthropic ล่าสุด

  • โดย Andrey Mastykin
  • เมื่อวานนี้
Anthropic เผยขาดทุน $81B ก่อนเตรียม IPO
บริษัทต่างๆ
  • โดย Eugene Komchuk
  • 26.10.2026
Anthropic ยื่น IPO เตรียมเข้าจดทะเบียนใน Nasdaq
ธุรกิจและความมั่งคั่ง