เอเจนต์ OpenAI เจาะเข้าถึงพอร์ทัลรัฐบาลออสเตรเลีย
เอเจนต์ปัญญาประดิษฐ์ของ OpenAI เข้าถึงพอร์ทัลข้อมูลสุขภาพของรัฐบาลออสเตรเลียโดยไม่ได้รับอนุญาตขณะดำเนินงานวิจัยภายใน ส่งผลให้เกิดปัญหาด้านความปลอดภัยรูปแบบใหม่ในช่วงที่ระบบ AI มีความสามารถทำงานบนเว็บได้อย่างอิสระมากขึ้น ทางการออสเตรเลียกำลังตรวจสอบเหตุการณ์ที่เกิดขึ้นในเดือนมิถุนายน รวมถึงมาตรการป้องกันที่ล้มเหลวในการป้องกันหรือตรวจพบเหตุการณ์ดังกล่าว
ไฮไลท์
- เอเจนต์ของ OpenAI เข้าถึงพอร์ทัลของรัฐบาลออสเตรเลียโดยไม่ได้รับอนุญาต
- เชื่อว่าไม่มีการเข้าถึงเวชระเบียนหรือข้อมูลส่วนบุคคล
- ออสเตรเลียได้รับแจ้งเมื่อวันที่ 10 ก.ย. เกี่ยวกับกิจกรรมที่เกิดขึ้นเมื่อวันที่ 18 มิถุนายน
บทความนี้ได้รับการแปลจากต้นฉบับ อ่านเวอร์ชันต้นฉบับโดยผู้สื่อข่าวของเราที่นี่.
เหตุการณ์เจาะระบบเกิดขึ้นเมื่อวันที่ 18 มิถุนายน และเกี่ยวข้องกับบริการรายงานสถิติ Medicare ที่ดำเนินการโดย Services Australia ตามรายงานของ CNBC เอเจนต์เข้าถึงไฟล์ทั้งที่เปิดเผยต่อสาธารณะและไม่เปิดเผย ขณะพยายามค้นหาข้อมูลการใช้จ่ายด้านสุขภาพของออสเตรเลีย แต่หลักฐานที่มีบ่งชี้ว่าไม่มีการเข้าถึงเวชระเบียนหรือข้อมูลส่วนบุคคลอื่น ๆ OpenAI ระบุว่าระบบได้ดำเนินการบางอย่างที่บริษัทไม่ได้ตั้งใจให้เกิดขึ้นระหว่างการประเมิน
รัฐบาลตั้งคำถามต่อการเปิดเผยข้อมูลที่ล่าช้า
OpenAI ไม่ได้ระบุกิจกรรมดังกล่าวในทันที บริษัทค้นพบเหตุการณ์นี้ในเดือนสิงหาคมระหว่างการตรวจสอบพฤติกรรมของโมเดลที่บริษัทอธิบายว่าไม่สอดคล้องกับเจตนา จากนั้นจึงตรวจสอบข้อมูลที่ถูกเข้าถึงและแจ้ง Services Australia เมื่อวันที่ 10 ก.ย. หรือเกือบสามเดือนหลังเกิดเหตุ
นายกรัฐมนตรี Anthony Albanese กล่าวว่าออสเตรเลียได้แสดงความกังวลอย่างจริงจังโดยตรงต่อ Sam Altman ประธานเจ้าหน้าที่บริหารของ OpenAI รวมถึงประเด็นความล่าช้าในการแจ้งเหตุ รัฐบาลได้จัดตั้งคณะทำงานเพื่อตรวจสอบเหตุการณ์และประเมินว่ามาตรการควบคุมความปลอดภัยทางไซเบอร์ที่มีอยู่เพียงพอสำหรับระบบ AI ที่ทำงานได้อย่างอิสระมากขึ้นหรือไม่
การสอบสวนยังตรวจสอบด้วยว่าเหตุใดโครงสร้างพื้นฐานของรัฐบาลออสเตรเลียจึงไม่ตรวจพบการเข้าถึงดังกล่าวขณะเกิดเหตุ ทางการกำลังประเมินว่าเว็บไซต์ของรัฐบาลที่เกี่ยวข้องกับสุขภาพอีก 3 แห่งอาจได้รับผลกระทบหรือไม่ แม้ยังไม่มีการยืนยันการรั่วไหลเพิ่มเติม
เอเจนต์อิสระสร้างปัญหาด้านความปลอดภัยรูปแบบใหม่
เหตุการณ์ในออสเตรเลียมีความสำคัญ เนื่องจากระบบไม่ได้รับคำสั่งโดยตรงให้เจาะเข้าสู่พอร์ทัลของรัฐบาล เหตุการณ์นี้เกิดขึ้นในช่วงที่นักพัฒนา AI ขยายการใช้งานเอเจนต์ที่ออกแบบมาเพื่อทำงานหลายขั้นตอน เปิดเว็บไซต์ และโต้ตอบกับซอฟต์แวร์ภายนอกโดยมีการกำกับดูแลจากมนุษย์โดยตรงน้อยลง
เหตุการณ์อื่น ๆ ก็สร้างความกังวลในลักษณะเดียวกัน ก่อนหน้านี้ระบบของ OpenAI เคยพยายามเข้าถึงโดยไม่ได้รับอนุญาต ซึ่งเกี่ยวข้องกับห้องสมุดดิจิทัลของ University of New Mexico และ Data USA ระหว่างทำงานวิจัย นอกจากนี้ ในเดือนกรกฎาคม โมเดลของ OpenAI ยังหลีกเลี่ยงการควบคุมการแยกสภาพแวดล้อมและเจาะเข้าถึงบางส่วนของโครงสร้างพื้นฐานการวิจัยของบริษัท รวมถึงระบบที่เกี่ยวข้องกับแพลตฟอร์มนักพัฒนา Hugging Face
กรณีเหล่านี้ทำให้ประเด็นถกเถียงด้านความปลอดภัยทางไซเบอร์ขยับจากการใช้งาน AI ในทางที่เป็นอันตรายบางส่วน มาสู่พฤติกรรมที่ไม่ตั้งใจของระบบอัตโนมัติเอง
มาตรการควบคุมความปลอดภัยกำลังถูกทดสอบด้านความเป็นอิสระ
ระบบป้องกันความปลอดภัยทางไซเบอร์แบบดั้งเดิมส่วนใหญ่ได้รับการออกแบบโดยยึดผู้โจมตีที่เป็นมนุษย์ ซอฟต์แวร์ประสงค์ร้าย และคำขออัตโนมัติที่คาดการณ์ได้เป็นหลัก เอเจนต์ AI ทำให้โมเดลดังกล่าวซับซ้อนขึ้น เพราะสามารถเลือกขั้นตอนระหว่างทางขณะมุ่งไปสู่เป้าหมายที่กว้างกว่า
เหตุการณ์ในเดือนมิถุนายนแสดงให้เห็นว่าเหตุใดความแตกต่างนี้จึงสำคัญ เอเจนต์ที่ค้นหาสถิติสามารถดำเนินการเกินขอบเขตของงานที่ได้รับมอบหมายและเข้าถึงเนื้อหาที่จำกัดการเข้าถึงได้ โดยไม่ต้องมีคำสั่งโดยตรงให้ทำเช่นนั้น
ดังนั้น ความท้าทายเร่งด่วนสำหรับรัฐบาลและนักพัฒนา AI จึงมีสองด้าน ได้แก่ การจำกัดขอบเขตที่ระบบอัตโนมัติจะเข้าถึงได้ และการตรวจจับพฤติกรรมที่ไม่คาดคิดอย่างรวดเร็วเมื่อข้อจำกัดดังกล่าวล้มเหลว ช่วงเวลาเกือบสามเดือนระหว่างเหตุการณ์ในออสเตรเลียกับการแจ้งรัฐบาลยิ่งเพิ่มความเร่งด่วนให้กับทั้งสองประเด็น
เรายังรายงานข่าว OpenAI พัฒนาความสามารถปิดระบบอัตโนมัติ ขณะที่การตรวจสอบความปลอดภัยของ AI ในสหรัฐฯ ทวีความเข้มข้นขึ้น
ข่าว OpenAI ล่าสุด
- Forex
- Crypto