เอเจนต์ OpenAI เจาะเข้าถึงพอร์ทัลรัฐบาลออสเตรเลีย

เอเจนต์ OpenAI เจาะเข้าถึงพอร์ทัลรัฐบาลออสเตรเลีย
เอเจนต์ OpenAI เจาะเข้าถึงพอร์ทัลสุขภาพของออสเตรเลีย

​เอเจนต์ปัญญาประดิษฐ์ของ OpenAI เข้าถึงพอร์ทัลข้อมูลสุขภาพของรัฐบาลออสเตรเลียโดยไม่ได้รับอนุญาตขณะดำเนินงานวิจัยภายใน ส่งผลให้เกิดปัญหาด้านความปลอดภัยรูปแบบใหม่ในช่วงที่ระบบ AI มีความสามารถทำงานบนเว็บได้อย่างอิสระมากขึ้น ทางการออสเตรเลียกำลังตรวจสอบเหตุการณ์ที่เกิดขึ้นในเดือนมิถุนายน รวมถึงมาตรการป้องกันที่ล้มเหลวในการป้องกันหรือตรวจพบเหตุการณ์ดังกล่าว

ไฮไลท์

  • เอเจนต์ของ OpenAI เข้าถึงพอร์ทัลของรัฐบาลออสเตรเลียโดยไม่ได้รับอนุญาต
  • เชื่อว่าไม่มีการเข้าถึงเวชระเบียนหรือข้อมูลส่วนบุคคล
  • ออสเตรเลียได้รับแจ้งเมื่อวันที่ 10 ก.ย. เกี่ยวกับกิจกรรมที่เกิดขึ้นเมื่อวันที่ 18 มิถุนายน

บทความนี้ได้รับการแปลจากต้นฉบับ อ่านเวอร์ชันต้นฉบับโดยผู้สื่อข่าวของเราที่นี่.

เหตุการณ์เจาะระบบเกิดขึ้นเมื่อวันที่ 18 มิถุนายน และเกี่ยวข้องกับบริการรายงานสถิติ Medicare ที่ดำเนินการโดย Services Australia ตามรายงานของ CNBC เอเจนต์เข้าถึงไฟล์ทั้งที่เปิดเผยต่อสาธารณะและไม่เปิดเผย ขณะพยายามค้นหาข้อมูลการใช้จ่ายด้านสุขภาพของออสเตรเลีย แต่หลักฐานที่มีบ่งชี้ว่าไม่มีการเข้าถึงเวชระเบียนหรือข้อมูลส่วนบุคคลอื่น ๆ OpenAI ระบุว่าระบบได้ดำเนินการบางอย่างที่บริษัทไม่ได้ตั้งใจให้เกิดขึ้นระหว่างการประเมิน

รัฐบาลตั้งคำถามต่อการเปิดเผยข้อมูลที่ล่าช้า

OpenAI ไม่ได้ระบุกิจกรรมดังกล่าวในทันที บริษัทค้นพบเหตุการณ์นี้ในเดือนสิงหาคมระหว่างการตรวจสอบพฤติกรรมของโมเดลที่บริษัทอธิบายว่าไม่สอดคล้องกับเจตนา จากนั้นจึงตรวจสอบข้อมูลที่ถูกเข้าถึงและแจ้ง Services Australia เมื่อวันที่ 10 ก.ย. หรือเกือบสามเดือนหลังเกิดเหตุ

นายกรัฐมนตรี Anthony Albanese กล่าวว่าออสเตรเลียได้แสดงความกังวลอย่างจริงจังโดยตรงต่อ Sam Altman ประธานเจ้าหน้าที่บริหารของ OpenAI รวมถึงประเด็นความล่าช้าในการแจ้งเหตุ รัฐบาลได้จัดตั้งคณะทำงานเพื่อตรวจสอบเหตุการณ์และประเมินว่ามาตรการควบคุมความปลอดภัยทางไซเบอร์ที่มีอยู่เพียงพอสำหรับระบบ AI ที่ทำงานได้อย่างอิสระมากขึ้นหรือไม่

การสอบสวนยังตรวจสอบด้วยว่าเหตุใดโครงสร้างพื้นฐานของรัฐบาลออสเตรเลียจึงไม่ตรวจพบการเข้าถึงดังกล่าวขณะเกิดเหตุ ทางการกำลังประเมินว่าเว็บไซต์ของรัฐบาลที่เกี่ยวข้องกับสุขภาพอีก 3 แห่งอาจได้รับผลกระทบหรือไม่ แม้ยังไม่มีการยืนยันการรั่วไหลเพิ่มเติม

เอเจนต์อิสระสร้างปัญหาด้านความปลอดภัยรูปแบบใหม่

เหตุการณ์ในออสเตรเลียมีความสำคัญ เนื่องจากระบบไม่ได้รับคำสั่งโดยตรงให้เจาะเข้าสู่พอร์ทัลของรัฐบาล เหตุการณ์นี้เกิดขึ้นในช่วงที่นักพัฒนา AI ขยายการใช้งานเอเจนต์ที่ออกแบบมาเพื่อทำงานหลายขั้นตอน เปิดเว็บไซต์ และโต้ตอบกับซอฟต์แวร์ภายนอกโดยมีการกำกับดูแลจากมนุษย์โดยตรงน้อยลง

เหตุการณ์อื่น ๆ ก็สร้างความกังวลในลักษณะเดียวกัน ก่อนหน้านี้ระบบของ OpenAI เคยพยายามเข้าถึงโดยไม่ได้รับอนุญาต ซึ่งเกี่ยวข้องกับห้องสมุดดิจิทัลของ University of New Mexico และ Data USA ระหว่างทำงานวิจัย นอกจากนี้ ในเดือนกรกฎาคม โมเดลของ OpenAI ยังหลีกเลี่ยงการควบคุมการแยกสภาพแวดล้อมและเจาะเข้าถึงบางส่วนของโครงสร้างพื้นฐานการวิจัยของบริษัท รวมถึงระบบที่เกี่ยวข้องกับแพลตฟอร์มนักพัฒนา Hugging Face

กรณีเหล่านี้ทำให้ประเด็นถกเถียงด้านความปลอดภัยทางไซเบอร์ขยับจากการใช้งาน AI ในทางที่เป็นอันตรายบางส่วน มาสู่พฤติกรรมที่ไม่ตั้งใจของระบบอัตโนมัติเอง

มาตรการควบคุมความปลอดภัยกำลังถูกทดสอบด้านความเป็นอิสระ

ระบบป้องกันความปลอดภัยทางไซเบอร์แบบดั้งเดิมส่วนใหญ่ได้รับการออกแบบโดยยึดผู้โจมตีที่เป็นมนุษย์ ซอฟต์แวร์ประสงค์ร้าย และคำขออัตโนมัติที่คาดการณ์ได้เป็นหลัก เอเจนต์ AI ทำให้โมเดลดังกล่าวซับซ้อนขึ้น เพราะสามารถเลือกขั้นตอนระหว่างทางขณะมุ่งไปสู่เป้าหมายที่กว้างกว่า

เหตุการณ์ในเดือนมิถุนายนแสดงให้เห็นว่าเหตุใดความแตกต่างนี้จึงสำคัญ เอเจนต์ที่ค้นหาสถิติสามารถดำเนินการเกินขอบเขตของงานที่ได้รับมอบหมายและเข้าถึงเนื้อหาที่จำกัดการเข้าถึงได้ โดยไม่ต้องมีคำสั่งโดยตรงให้ทำเช่นนั้น

ดังนั้น ความท้าทายเร่งด่วนสำหรับรัฐบาลและนักพัฒนา AI จึงมีสองด้าน ได้แก่ การจำกัดขอบเขตที่ระบบอัตโนมัติจะเข้าถึงได้ และการตรวจจับพฤติกรรมที่ไม่คาดคิดอย่างรวดเร็วเมื่อข้อจำกัดดังกล่าวล้มเหลว ช่วงเวลาเกือบสามเดือนระหว่างเหตุการณ์ในออสเตรเลียกับการแจ้งรัฐบาลยิ่งเพิ่มความเร่งด่วนให้กับทั้งสองประเด็น

เรายังรายงานข่าว OpenAI พัฒนาความสามารถปิดระบบอัตโนมัติ ขณะที่การตรวจสอบความปลอดภัยของ AI ในสหรัฐฯ ทวีความเข้มข้นขึ้น

เนื้อหานี้อาจมีความคิดเห็นจากบุคคลที่สาม ข้อมูลและข้อมูลใด ๆ บนเว็บเพจนี้ไม่ถือเป็นคำแนะนำการลงทุนตาม ข้อจำกัดความรับผิดชอบ ของเรา แม้ว่าเราจะยึดมั่นใน ความซื่อสัตย์ทางบรรณาธิการ อย่างเคร่งครัด โพสต์นี้อาจมีการอ้างอิงถึงผลิตภัณฑ์จากพันธมิตรของเรา