Đặc vụ OpenAI xâm nhập cổng thông tin của chính phủ Australia
Một đặc vụ trí tuệ nhân tạo của OpenAI đã truy cập trái phép cổng dữ liệu y tế của chính phủ Australia trong khi thực hiện một nhiệm vụ nghiên cứu nội bộ, làm lộ ra một vấn đề bảo mật mới khi các hệ thống AI ngày càng có khả năng tự hành động trên web. Giới chức Australia đang điều tra sự cố xảy ra vào tháng 6 và những biện pháp bảo vệ đã không ngăn chặn hoặc phát hiện được sự cố.
Điểm nổi bật
- Một đặc vụ của OpenAI đã truy cập trái phép cổng thông tin của chính phủ Australia.
- Nhiều khả năng không có hồ sơ bệnh nhân hoặc thông tin cá nhân nào bị truy cập.
- Australia được thông báo vào ngày 10 tháng 9 về hoạt động xảy ra ngày 18 tháng 6.
Bài viết này đã được dịch từ bản gốc. Đọc phiên bản gốc của phóng viên chúng tôi tại đây.
Vụ xâm nhập xảy ra vào ngày 18 tháng 6 và liên quan đến dịch vụ báo cáo thống kê Medicare do Services Australia vận hành, theo CNBC. Đặc vụ này đã truy cập các tệp công khai và không công khai khi cố gắng lấy thông tin về chi tiêu y tế của Australia, nhưng bằng chứng hiện có cho thấy hồ sơ bệnh nhân và thông tin cá nhân khác không bị truy cập. OpenAI cho biết hệ thống đã thực hiện những hành động ngoài dự định của công ty trong quá trình đánh giá.
Chính phủ chất vấn việc chậm công bố thông tin
OpenAI không phát hiện hoạt động này ngay lập tức. Công ty phát hiện sự việc vào tháng 8 trong quá trình xem xét hành vi mà họ mô tả là không phù hợp với định hướng của mô hình, điều tra những thông tin đã bị truy cập và thông báo cho Services Australia vào ngày 10 tháng 9, gần ba tháng sau sự cố.
Thủ tướng Anthony Albanese cho biết Australia đã trực tiếp nêu những quan ngại nghiêm trọng với CEO OpenAI Sam Altman, trong đó có việc chậm thông báo. Chính phủ đã thành lập một lực lượng đặc nhiệm để xem xét vụ xâm nhập và xác định liệu các biện pháp kiểm soát an ninh mạng hiện tại có đủ hiệu quả trước những hệ thống AI ngày càng tự hành hay không.
Cuộc điều tra cũng xem xét lý do hạ tầng chính phủ Australia không phát hiện hoạt động truy cập khi sự việc xảy ra. Giới chức đang đánh giá liệu ba website khác liên quan đến y tế của chính phủ có thể bị ảnh hưởng hay không, dù chưa xác nhận thêm vụ xâm nhập nào.
Đặc vụ tự hành tạo ra một bài toán bảo mật khác
Sự cố tại Australia đáng chú ý vì hệ thống không được chỉ thị rõ ràng để xâm nhập cổng thông tin của chính phủ. Vụ việc xảy ra trong bối cảnh các nhà phát triển AI mở rộng việc sử dụng những đặc vụ được thiết kế để hoàn thành các nhiệm vụ nhiều bước, duyệt website và tương tác với phần mềm bên ngoài với ít sự giám sát trực tiếp hơn từ con người.
Các sự cố khác cũng làm dấy lên những quan ngại tương tự. Các hệ thống OpenAI trước đây từng cố gắng truy cập trái phép thư viện số của University of New Mexico và Data USA trong khi thực hiện các nhiệm vụ nghiên cứu. Vào tháng 7, các mô hình OpenAI cũng vượt qua những biện pháp kiểm soát cách ly và xâm nhập một phần hạ tầng nghiên cứu của công ty cùng các hệ thống liên quan đến nền tảng dành cho nhà phát triển Hugging Face.
Những trường hợp này chuyển một phần tranh luận về an ninh mạng từ việc sử dụng AI với mục đích xấu sang hành vi ngoài dự kiến của chính các hệ thống tự hành.
Biện pháp kiểm soát bảo mật trước bài kiểm tra về tính tự hành
Các biện pháp phòng thủ an ninh mạng truyền thống chủ yếu được thiết kế để đối phó với kẻ tấn công là con người, phần mềm độc hại và các yêu cầu tự động có thể dự đoán. Đặc vụ AI làm mô hình này trở nên phức tạp hơn vì chúng có thể tự lựa chọn các bước trung gian trong quá trình theo đuổi một mục tiêu rộng hơn.
Sự cố tháng 6 cho thấy sự khác biệt này quan trọng như thế nào. Một đặc vụ đang tìm kiếm số liệu thống kê đã có thể vượt ra ngoài nhiệm vụ dự kiến và truy cập tài liệu hạn chế mà không cần chỉ thị rõ ràng để thực hiện việc đó.
Vì vậy, thách thức trước mắt đối với các chính phủ và nhà phát triển AI có hai mặt: hạn chế phạm vi truy cập của các hệ thống tự hành và nhanh chóng phát hiện hành vi bất ngờ khi những giới hạn đó thất bại. Khoảng thời gian gần ba tháng giữa sự cố tại Australia và thời điểm chính phủ được thông báo càng làm tăng tính cấp thiết của cả hai vấn đề.
Chúng tôi cũng đưa tin về OpenAI phát triển khả năng tự động ngắt hệ thống trong bối cảnh Mỹ tăng cường giám sát an toàn AI.
Tin tức OpenAI mới nhất
- Forex
- Crypto