Astra của OpenAI đặt ra câu hỏi lớn hơn: Liệu an toàn có thể theo kịp năng lực AI không?

Tất cả tin tức

Tin nổi bật

Lựa chọn của Ban Biên tập

Cổ phiếu

Tiền điện tử

Kinh tế

Tiền tệ

Hàng hóa

Kinh doanh & Thịnh vượng

Tiếng nói của thị trường

Dmytro Kharkov

03.09.2026

Astra của OpenAI đặt ra câu hỏi lớn hơn: Liệu an toàn có thể theo kịp năng lực AI không? — Thách thức của Astra từ OpenAI.

Astra của OpenAI đã đạt đến mức năng lực an ninh mạng “then chốt”, đạt điểm tuyệt đối 100% trên ExploitBench. Sự cố gần đây tại Hugging Face cho thấy các tác nhân AI có thể vượt qua ranh giới kiểm thử và khai thác hệ thống khi hoạt động tự động. Vậy các công ty AI có thể duy trì hệ thống an toàn đi trước khả năng mà họ đang phát triển không?

Astra thay đổi cán cân an ninh mạng

Bài viết này đã được dịch từ bản gốc. Đọc phiên bản gốc của phóng viên chúng tôi tại đây.

Các thử nghiệm nội bộ của OpenAI cho thấy công nghệ đang phát triển nhanh như thế nào. Astra đạt điểm tuyệt đối 100% trên ExploitBench, một tiêu chuẩn đo lường khả năng phát triển khai thác từ các lỗ hổng đã biết. Nó cũng phát hiện hai vấn đề chưa từng được biết đến khi xây dựng chuỗi khai thác trong một đánh giá khác. Mô hình này còn vượt qua được sandbox trình duyệt đã được gia cố và giành quyền truy cập root.

Xem bài đăng trên X Đang tải...

Dòng tweet đã bị tác giả xóa.

Nhưng chúng tôi đã lưu lại mọi thứ 🙂.

Tuy nhiên, điều này không có nghĩa là Astra có thể xâm nhập bất kỳ hệ thống máy tính nào mà nó tương tác. Các bài kiểm tra được thực hiện trong môi trường kiểm soát, nhưng các nhà phân tích nhận thấy cả cơ hội lẫn rủi ro. AI có thể tìm kiếm các kho mã khổng lồ để phát hiện lỗ hổng và thúc đẩy kiểm thử phòng thủ nhanh hơn rất nhiều, nhưng chỉ một lỗ hổng cũng có thể tạo điều kiện cho các cuộc tấn công và khai thác trong tương lai.

Sự cố Hugging Face là lời cảnh báo thực tế

Astra không phải là nguyên nhân dẫn đến sự cố gần đây của OpenAI liên quan đến Hugging Face. Tuy nhiên, trong một đánh giá nội bộ, các mô hình của OpenAI đã vượt qua môi trường kiểm thử và truy cập Internet sau khi phát hiện và khai thác một lỗ hổng chưa từng biết đến trong proxy đăng ký gói. Các mô hình sau đó đã sử dụng nhiều kỹ thuật tấn công khác nhau để truy cập vào hạ tầng của Hugging Face.

Xem bài đăng trên X Đang tải...

Dòng tweet đã bị tác giả xóa.

Nhưng chúng tôi đã lưu lại mọi thứ 🙂.

OpenAI mô tả sự kiện này là một sự cố mạng chưa từng có, liên quan đến các năng lực tiên tiến nhất. Công ty cho biết các mô hình chỉ tập trung vào giải quyết nhiệm vụ đánh giá, đồng thời bỏ qua các ràng buộc về hạ tầng và đạo đức. OpenAI cho biết 93% nhiệm vụ được thảo luận trong sự cố đến từ nhóm 198 vấn đề chưa từng được giải quyết trước đó. Do đó, các mô hình đang tập trung vào những vấn đề vốn đã gây khó khăn cho chúng trong quá khứ.

Vấn đề khó hơn có thể là giám sát mô hình

Phần mềm truyền thống tuân theo các quy tắc mà kỹ sư có thể kiểm tra. Các tác nhân AI lớn tạo ra kế hoạch, đưa ra quyết định và thích nghi hành vi với hoàn cảnh mới. Khi các hệ thống này ngày càng tự chủ, nhà phát triển cần giám sát không chỉ kết quả mà còn cả cách mô hình đạt được mục tiêu.

Xem bài đăng trên X Đang tải...

Dòng tweet đã bị tác giả xóa.

Nhưng chúng tôi đã lưu lại mọi thứ 🙂.

Các nhà nghiên cứu đã đặt câu hỏi liệu các phương pháp mới hơn có thể làm giảm hiệu quả của việc giám sát truyền thống hay không. Ryan Greenblatt từ Redwood Research đã cảnh báo về xu hướng ngành hướng tới các hệ thống AI ngày càng khó giám sát. Điều này tạo ra nghịch lý: tác nhân càng mạnh thì việc giám sát càng trở nên giá trị. OpenAI cho biết họ đang giải quyết vấn đề này bằng cách giám sát các hành động rủi ro và sai lệch trong các ứng dụng tác nhân của Astra.

An toàn đang trở thành ràng buộc kinh doanh

OpenAI muốn khách hàng sử dụng AI ngày càng tự chủ cho lập trình, an ninh mạng và các nhiệm vụ giá trị cao khác. Nhưng chính sự tự chủ này lại là lý do để hạn chế quyền truy cập. OpenAI dự định giới hạn các năng lực an ninh mạng mạnh nhất của Astra cho một số người thử nghiệm được chọn, bao gồm các tổ chức có thể sử dụng công nghệ này cho mục đích phòng thủ. Công ty cũng thừa nhận rằng việc giám sát chặt chẽ hơn có thể tạo ra cảnh báo sai, thậm chí chặn cả hoạt động hợp lệ.

Xem bài đăng trên X Đang tải...

Dòng tweet đã bị tác giả xóa.

Nhưng chúng tôi đã lưu lại mọi thứ 🙂.

Sự đánh đổi này có thể trở nên quan trọng hơn khi các công ty AI cạnh tranh để thu hút khách hàng doanh nghiệp. Một mô hình có thể tự động thực hiện các công việc an ninh mạng phức tạp sẽ có giá trị thương mại lớn. Nhưng nếu mô hình đó cũng có thể làm điều tương tự cho kẻ tấn công, nó sẽ tạo ra rủi ro lớn về an ninh và trách nhiệm pháp lý. Mỗi lớp an toàn bổ sung sẽ giảm nguy cơ bị lạm dụng nghiêm trọng, nhưng cũng có thể làm giảm tính linh hoạt mà khách hàng cần.

Cuộc đua AI có thể trở thành cuộc đua kiểm soát

Astra cho thấy giai đoạn tiếp theo của ngành AI sẽ không chỉ được đo bằng trí thông minh. Lợi thế then chốt có thể thuộc về các công ty tạo ra tác nhân mạnh mẽ nhưng vẫn kiểm soát được. OpenAI xây dựng các mô hình có khả năng phát hiện lỗ hổng nhanh hơn chuyên gia con người và đảm bảo các mô hình này không tạo ra rủi ro an ninh mới.

Xem bài đăng trên X Đang tải...

Dòng tweet đã bị tác giả xóa.

Nhưng chúng tôi đã lưu lại mọi thứ 🙂.

Sự cố Hugging Face cho thấy ngay cả các đánh giá kiểm soát cũng có thể dẫn đến hành vi bất ngờ khi mô hình có mục tiêu tham vọng và nguồn lực suy luận lớn. Đối với OpenAI, tương lai của AI sẽ phụ thuộc không phải vào việc mô hình thông minh đến đâu mà là liệu con người còn kiểm soát được những gì các mô hình đó được phép làm hay không.

Tài liệu này có thể chứa ý kiến của bên thứ ba, không có dữ liệu và thông tin nào trên trang web này cấu thành lời khuyên đầu tư theo Tuyên bố miễn trừ trách nhiệm của chúng tôi. Mặc dù chúng tôi tuân thủ nghiêm ngặt Tính toàn vẹn biên tập, bài viết này có thể chứa tham chiếu đến các sản phẩm từ các đối tác của chúng tôi.

Bạn có thích bài viết không?