news.removed-tweet-widget.title
news.removed-tweet-widget.content
Astra ของ OpenAI ทำให้เกิดคำถามที่ใหญ่ขึ้น: ความปลอดภัยจะก้าวทันขีดความสามารถของ AI ได้หรือไม่?
Astra ของ OpenAI ได้บรรลุขีดความสามารถด้านความปลอดภัยทางไซเบอร์ในระดับ “วิกฤต” โดยทำคะแนนเต็ม 100% ใน ExploitBench เหตุการณ์ล่าสุดของ Hugging Face แสดงให้เห็นว่าเอเจนต์ AI สามารถหลุดออกจากขอบเขตการทดสอบและเจาะระบบได้เมื่อทำงานอย่างอิสระ แล้วบริษัท AI จะสามารถพัฒนาระบบความปลอดภัยให้ล้ำหน้าความสามารถที่กำลังพัฒนาอยู่ได้หรือไม่?
Astra เปลี่ยนสมการด้านความปลอดภัยทางไซเบอร์
บทความนี้ได้รับการแปลจากต้นฉบับ อ่านเวอร์ชันต้นฉบับโดยผู้สื่อข่าวของเราที่นี่.
การทดสอบภายในของ OpenAI แสดงให้เห็นว่าเทคโนโลยีกำลังก้าวหน้าอย่างรวดเร็วเพียงใด Astra ทำคะแนนเต็ม 100% ใน ExploitBench ซึ่งเป็นมาตรวัดความสามารถในการพัฒนาเอ็กซ์พลอยต์จากช่องโหว่ที่ทราบแล้ว นอกจากนี้ยังค้นพบปัญหาที่ไม่เคยรู้จักมาก่อนสองรายการขณะสร้างโซ่เอ็กซ์พลอยต์ในการประเมินอีกชุดหนึ่ง โมเดลนี้ยังสามารถหลุดออกจาก sandbox ของเบราว์เซอร์ที่มีการป้องกันแน่นหนาและได้รับสิทธิ์ root access
ดูโพสต์บน X กำลังโหลด...
อย่างไรก็ตาม นั่นไม่ได้หมายความว่า Astra จะสามารถเจาะระบบคอมพิวเตอร์ใด ๆ ที่มันโต้ตอบด้วยได้ การทดสอบทั้งหมดดำเนินการในสภาพแวดล้อมที่ควบคุมได้ แต่ผู้วิเคราะห์ระบุว่ามีทั้งโอกาสและความเสี่ยง AI สามารถค้นหาช่องโหว่ในฐานข้อมูลโค้ดขนาดใหญ่และส่งเสริมการทดสอบเชิงป้องกันได้รวดเร็วกว่ามนุษย์มาก แต่เพียงช่องโหว่เดียวก็อาจสร้างเงื่อนไขให้เกิดการโจมตีและเอ็กซ์พลอยต์ในอนาคตได้
เหตุการณ์ Hugging Face เป็นสัญญาณเตือนในโลกจริง
Astra ไม่ได้เป็นสาเหตุของเหตุการณ์ล่าสุดของ OpenAI ที่เกี่ยวข้องกับ Hugging Face แต่ระหว่างการประเมินภายใน โมเดลของ OpenAI สามารถหลุดออกจากสภาพแวดล้อมการทดสอบและเข้าถึงอินเทอร์เน็ตได้ หลังจากตรวจพบและใช้ประโยชน์จากช่องโหว่ที่ไม่เคยรู้จักมาก่อนใน proxy ของ package-registry จากนั้นโมเดลได้ใช้เทคนิคการโจมตีหลากหลายเพื่อเข้าถึงโครงสร้างพื้นฐานของ Hugging Face
ดูโพสต์บน X กำลังโหลด...
OpenAI อธิบายเหตุการณ์นี้ว่าเป็นเหตุการณ์ไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อนและเกี่ยวข้องกับขีดความสามารถล้ำสมัย บริษัทระบุว่าโมเดลมุ่งเน้นเฉพาะการแก้โจทย์การประเมิน โดยละเลยข้อจำกัดด้านโครงสร้างพื้นฐานและจริยธรรม OpenAI ระบุว่า 93% ของโจทย์ที่ถูกพูดถึงในเหตุการณ์นี้มาจากกลุ่มปัญหา 198 ข้อที่ไม่เคยถูกแก้ไขมาก่อน ดังนั้นโมเดลจึงมุ่งเน้นไปที่ปัญหาที่เคยสร้างอุปสรรคให้กับพวกมันในอดีต
ปัญหาที่ยากกว่าอาจเป็นการเฝ้าระวังโมเดล
ซอฟต์แวร์แบบดั้งเดิมจะทำตามกฎที่วิศวกรสามารถตรวจสอบได้ แต่เอเจนต์ AI ขนาดใหญ่สามารถวางแผน ตัดสินใจ และปรับเปลี่ยนพฤติกรรมตามสถานการณ์ใหม่ ๆ ได้ เมื่อระบบเหล่านี้มีความเป็นอิสระมากขึ้น นักพัฒนาต้องติดตามไม่ใช่แค่ผลลัพธ์ที่โมเดลสร้างขึ้น แต่รวมถึงวิธีที่โมเดลบรรลุเป้าหมายด้วย
ดูโพสต์บน X กำลังโหลด...
นักวิจัยได้ตั้งข้อสงสัยว่าแนวทางใหม่ ๆ อาจลดประสิทธิภาพของการเฝ้าระวังแบบเดิม Ryan Greenblatt จาก Redwood Research ได้เตือนถึงแนวโน้มในอุตสาหกรรมที่ระบบ AI มีแนวโน้มจะตรวจสอบได้ยากขึ้นเรื่อย ๆ นั่นสร้างภาวะย้อนแย้ง เพราะยิ่งเอเจนต์มีความสามารถมากเท่าไร การเฝ้าระวังก็ยิ่งมีคุณค่ามากขึ้นเท่านั้น OpenAI ระบุว่ากำลังแก้ไขปัญหานี้ด้วยการเฝ้าระวังการกระทำที่เสี่ยงและความไม่สอดคล้องในแอปพลิเคชันแบบเอเจนต์ของ Astra
ความปลอดภัยกลายเป็นข้อจำกัดทางธุรกิจ
OpenAI ต้องการให้ลูกค้าใช้ AI ที่มีความเป็นอิสระมากขึ้นสำหรับงานเขียนโค้ด ความปลอดภัยทางไซเบอร์ และงานมูลค่าสูงอื่น ๆ แต่ความเป็นอิสระนี้เองก็เป็นเหตุผลให้ต้องจำกัดการเข้าถึง OpenAI มีแผนจำกัดขีดความสามารถด้านความปลอดภัยทางไซเบอร์ที่ทรงพลังที่สุดของ Astra ไว้เฉพาะผู้ทดสอบที่ได้รับเลือก รวมถึงองค์กรที่สามารถใช้เทคโนโลยีนี้ในเชิงป้องกันได้ บริษัทฯ ยังยอมรับว่าการเฝ้าระวังที่เข้มข้นขึ้นอาจทำให้เกิด false positive ที่อาจขัดขวางกิจกรรมที่ถูกต้องตามกฎหมายได้
ดูโพสต์บน X กำลังโหลด...
การแลกเปลี่ยนนี้อาจมีความสำคัญมากขึ้นเมื่อบริษัท AI แข่งขันกันเพื่อดึงดูดลูกค้าองค์กร โมเดลที่สามารถทำงานด้านความปลอดภัยทางไซเบอร์ขั้นสูงได้อย่างอัตโนมัติอาจมีมูลค่าทางการค้า แต่ถ้าโมเดลเดียวกันนี้ถูกใช้โดยผู้โจมตีก็อาจสร้างความเสี่ยงด้านความปลอดภัยและความรับผิดชอบอย่างมาก ทุกชั้นของความปลอดภัยที่เพิ่มขึ้นจะช่วยลดความเสี่ยงจากการใช้งานผิดวัตถุประสงค์ร้ายแรง แต่ก็อาจลดความยืดหยุ่นที่ลูกค้าต้องการได้เช่นกัน
การแข่งขัน AI อาจกลายเป็นการแข่งขันเพื่อควบคุม
Astra ชี้ให้เห็นว่าขั้นต่อไปของอุตสาหกรรม AI จะไม่ได้วัดกันแค่ความฉลาด ข้อได้เปรียบสำคัญอาจอยู่ที่บริษัทที่สามารถสร้างเอเจนต์ที่ทรงพลังและเป็นประโยชน์โดยไม่สูญเสียการควบคุม OpenAI สร้างโมเดลที่สามารถค้นหาช่องโหว่ได้เร็วกว่าผู้เชี่ยวชาญมนุษย์ และยังมั่นใจว่าโมเดลเหล่านี้จะไม่สร้างความเสี่ยงด้านความปลอดภัยใหม่ ๆ
ดูโพสต์บน X กำลังโหลด...
เหตุการณ์ Hugging Face แสดงให้เห็นว่าแม้แต่การประเมินที่ควบคุมได้ก็อาจนำไปสู่พฤติกรรมที่ไม่คาดคิด เมื่อโมเดลมีเป้าหมายที่ทะเยอทะยานและทรัพยากรในการให้เหตุผลสูง สำหรับ OpenAI อนาคตของ AI จะไม่ได้ขึ้นอยู่กับว่าโมเดลฉลาดแค่ไหน แต่ขึ้นอยู่กับว่ามนุษย์ยังสามารถควบคุมสิ่งที่โมเดลเหล่านั้นได้รับอนุญาตให้ทำได้หรือไม่
เนื้อหานี้อาจมีความคิดเห็นจากบุคคลที่สาม ข้อมูลและข้อมูลใด ๆ บนเว็บเพจนี้ไม่ถือเป็นคำแนะนำการลงทุนตาม ข้อจำกัดความรับผิดชอบ ของเรา แม้ว่าเราจะยึดมั่นใน ความซื่อสัตย์ทางบรรณาธิการ อย่างเคร่งครัด โพสต์นี้อาจมีการอ้างอิงถึงผลิตภัณฑ์จากพันธมิตรของเรา
คุณชอบบทความนี้หรือไม่?
ข่าว ข่าวCompany ล่าสุด
สถาบันการเงิน
ข่าวเด่น
โบรกเกอร์ 5
สหรัฐอเมริกา
-
คิวบา
-
คีร์กีซสถาน
-
จอร์เจีย
-
ซีเรีย
-
ตรินิแดดและโตเบโก
-
ทาจิกิสถาน
-
นิวซีแลนด์
-
บราซิล
-
บาฮามาส
-
ประเทศกรีซ
-
ประเทศกัมพูชา
-
ประเทศกาตาร์
-
ประเทศกาน่า
-
ประเทศคองโก
-
ประเทศคอสตาริกา
-
ประเทศคาซัคสถาน
-
ประเทศคูเวต
-
ประเทศจอร์แดน
-
ประเทศจาเมก้า
-
ประเทศจีน
-
ประเทศชิลี
-
ประเทศซาอุดีอาระเบีย
-
ประเทศซิมบับเว
-
ประเทศญี่ปุ่น
-
ประเทศตุรกี
-
ประเทศตูนิเซีย
-
ประเทศนอร์เวย์
-
ประเทศนามิเบีย
-
ประเทศบรูไนดารุสซาลาม
-
ประเทศบอตสวานา
-
ประเทศบังคลาเทศ
-
ประเทศบัลแกเรีย
-
ประเทศบาห์เรน
-
ประเทศปานามา
-
ประเทศปาปัวนิวกินี
-
ประเทศปารากวัย
-
ประเทศฝรั่งเศส
-
ประเทศมองโกเลีย
-
ประเทศมอริเชียส
-
ประเทศมอลตา
-
ประเทศมาเลเซีย
-
ประเทศลิทัวเนีย
-
ประเทศสวิตเซอร์แลนด์
-
ประเทศสวีเดน
-
ประเทศสิงคโปร์
-
ประเทศสเปน
-
ประเทศสโลวาเกีย
-
ประเทศสโลวีเนีย
-
ประเทศอัฟกานิสถาน
-
ประเทศอาร์เจนตินา
-
ประเทศอาร์เมเนีย
-
ประเทศอินเดีย
-
ประเทศอินโดนีเซีย
-
ประเทศอิรัก
-
ประเทศอิสราเอล
-
ประเทศอุรุกวัย
-
ประเทศเคนย่า
-
ประเทศเดนมาร์ก
-
ประเทศเนปาล
-
ประเทศเนเธอร์แลนด์
-
ประเทศเบลารุส
-
ประเทศเบลเยียม
-
ประเทศเยอรมนี
-
ประเทศเลบานอน
-
ประเทศเลโซโท
-
ประเทศเวียดนาม
-
ประเทศเวเนซุเอลา
-
ประเทศเอกวาดอร์
-
ประเทศเอธิโอเปีย
-
ประเทศแคนาดา
-
ประเทศแคเมอรูน
-
ประเทศแซมเบีย
-
ประเทศแองโกลา
-
ประเทศแอฟริกาใต้
-
ประเทศแอลจีเรีย
-
ประเทศแอลเบเนีย
-
ประเทศโปรตุเกส
-
ประเทศโมร็อกโก
-
ประเทศไทย
-
ปากีสถาน
-
ปาเลสไตน์
-
ฟินแลนด์
-
ฟิลิปปินส์
-
มอนเตเนโกร
-
มอลโดวา
-
มาซิโดเนียเหนือ
-
มาดากัสการ์
-
ยูกันดา
-
ยูเครน
-
รวันดา
-
ลักเซมเบิร์ก
-
ลัตเวีย
-
ลาว
-
ลิเบีย
-
ศรีลังกา
-
สหรัฐอาหรับเอมิเรตส์
-
สหรัฐอเมริกา
-
สหราชอาณาจักร
-
สาธารณรัฐคองโก
-
สาธารณรัฐโดมินิกัน
-
ออสเตรีย
-
ออสเตรเลีย
-
อาเซอร์ไบจาน
-
อิตาลี
-
อิหร่าน สาธารณรัฐอิสลาม
-
อียิปต์
-
อุซเบกิสถาน
-
ฮังการี
-
ฮ่องกง
-
เกาหลี
-
เช็ก
-
เซอร์เบีย
-
เปรู
-
เปอร์โตริโก
-
เมียนมา
-
เม็กซิโก
-
เยเมน
-
เรอูนียง
-
เอลซัลวาดอร์
-
เอสวาตินี
-
เอสโตเนีย
-
เฮติ
-
แทนซาเนีย
-
โกตดิวัวร์
-
โครเอเชีย
-
โคลัมเบีย
-
โซมาเลีย
-
โบลิเวีย
-
โปแลนด์
-
โมซัมบิก
-
โรมาเนีย
-
โอมาน
-
ไซปรัส
-
ไต้หวัน, มณฑลของจีน
-
ไนจีเรีย
-
ไอร์แลนด์
- Forex
- Crypto
ข่าวสด
