Πράκτορες AI της OpenAI απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε ιστοτόπους της κυβέρνησης των ΗΠΑ
Οι πράκτορες AI της OpenAI αλληλεπίδρασαν με ιστοτόπους της κυβέρνησης των ΗΠΑ κατά τη διάρκεια δοκιμών, συμπεριλαμβανομένων πόρων που διαχειρίζονται η Επιτροπή Κεφαλαιαγοράς (SEC) και η Υπηρεσία Απογραφής. Η εταιρεία εντόπισε τα περιστατικά στο πλαίσιο ευρείας αξιολόγησης της συμπεριφοράς των μοντέλων της και ειδοποίησε δεκάδες οργανισμούς που ενδέχεται να επηρεάστηκαν.
Αυτό το άρθρο μεταφράστηκε από το πρωτότυπο. Διαβάστε την αρχική έκδοση από τον ανταποκριτή μας εδώ.
Σύμφωνα με το Bloomberg, η OpenAI επιβεβαίωσε ότι τα συστήματά της απέκτησαν πρόσβαση σε δημόσια διαθέσιμες πληροφορίες στους SEC.gov, Investor.gov και Census.gov κατά την εκπαίδευση και αξιολόγηση των μοντέλων. Η εταιρεία διερευνά εάν οι πράκτορες ενδέχεται σε ορισμένες περιπτώσεις να παρέκαμψαν μηχανισμούς ασφαλείας ή να διέκοψαν τη διαθεσιμότητα εξωτερικών υπηρεσιών.
Η έρευνα ξεκίνησε αφού ένα μοντέλο της OpenAI παραβίασε ακούσια το Hugging Face πριν από αρκετούς μήνες. Αφού επέκτεινε την εξέταση των αρχείων καταγραφής δραστηριότητας, η εταιρεία εντόπισε και άλλες περιπτώσεις ανάρμοστης συμπεριφοράς πρακτόρων εκτός της δικής της υποδομής.
Η OpenAI ειδοποίησε δεκάδες οργανισμούς
Η εταιρεία δήλωσε ότι επικοινώνησε με δεκάδες οργανισμούς, συμπεριλαμβανομένων κυβερνητικών υπηρεσιών, πανεπιστημίων και άλλων ιδρυμάτων. Σε ορισμένες περιπτώσεις, τα συστήματα AI ενδέχεται να παρέκαμψαν δικλίδες ασφαλείας σε διαδικτυακές υπηρεσίες, να παρενέβησαν στην κανονική λειτουργία τους ή να επηρέασαν αρνητικά εξωτερικούς ιστοτόπους με άλλον τρόπο.
Ωστόσο, σύμφωνα με την OpenAI, τα περισσότερα από τα περιστατικά που εξετάστηκαν αφορούσαν συνήθεις ερευνητικές εργασίες, όπως την αναζήτηση δημόσια διαθέσιμων πληροφοριών για την απάντηση σε ένα ερώτημα. Η εταιρεία δεν έχει δηλώσει ότι κάθε ιστότοπος που επισκέφθηκαν οι πράκτορές της παραβιάστηκε ή τέθηκε σε κίνδυνο.
Η OpenAI αναμένει ότι η πλήρης αξιολόγηση θα διαρκέσει αρκετούς μήνες. Ο διευθύνων σύμβουλος Sam Altman αναγνώρισε ότι η έρευνα προχωρά πιο αργά από το επιθυμητό, λόγω της ανάγκης ανάλυσης τεράστιου όγκου αρχείων καταγραφής δραστηριότητας και συντονισμού με οργανισμούς που ενδέχεται να επηρεάστηκαν.
Τα περιστατικά αναδεικνύουν μία από τις προκλήσεις που θέτουν οι αυτόνομοι πράκτορες AI: ορισμένες ενέργειες ενδέχεται να εντοπίζονται από τους προγραμματιστές μόνο αφού έχουν ήδη πραγματοποιηθεί. Αυτό καθιστά δυσκολότερο τον έλεγχο μοντέλων που μπορούν να αλληλεπιδρούν ανεξάρτητα με εξωτερικούς ιστοτόπους και υπηρεσίες.
Η AI δημιουργεί νέους κινδύνους κυβερνοασφάλειας
Παρόμοια συμπεριφορά δεν περιορίζεται στην OpenAI. Μοντέλα των Anthropic, Google DeepMind και Meta έχουν επίσης αποδείξει κατά τη διάρκεια δοκιμών ότι μπορούν να εντοπίζουν άγνωστες μέχρι πρότινος ευπάθειες και να συνδυάζουν πολλαπλές μεθόδους επίθεσης για να αποκτούν πρόσβαση σε συστήματα.
Τέτοιες δυνατότητες αποτελούν πρόκληση για τα παραδοσιακά εργαλεία κυβερνοασφάλειας, τα οποία αναζητούν κυρίως γνωστό κακόβουλο λογισμικό ή ανώμαλη δραστηριότητα. Οι πράκτορες AI μπορούν να αλλάζουν ανεξάρτητα την ακολουθία των ενεργειών τους και να αναζητούν εναλλακτικούς τρόπους για την ολοκλήρωση μιας δεδομένης εργασίας.
Ξεχωριστή αξιολόγηση της OpenAI εντόπισε 53 περιπτώσεις στις οποίες πράκτορες AI σε ερευνητικό περιβάλλον έστειλαν δεδομένα εκπαίδευσης και δοκιμών σε υπηρεσίες τρίτων χωρίς άδεια. Τα δεδομένα περιλάμβαναν μεταφορτωμένες εικόνες, αν και η εταιρεία δήλωσε ότι στις περισσότερες περιπτώσεις το υλικό δεν προερχόταν από χρήστες.
Η OpenAI συνεχίζει να εξετάζει αυτές τις περιπτώσεις στο πλαίσιο της ευρύτερης έρευνάς της για ανάρμοστη συμπεριφορά μοντέλων. Η εταιρεία σχεδιάζει να ειδοποιήσει επιπλέον εξωτερικούς οργανισμούς καθώς εντοπίζει πιθανές επιπτώσεις στα συστήματά τους.
Νωρίτερα, αναφέραμε ότι ένας πράκτορας AI της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση σε κυβερνητική πύλη της Αυστραλίας κατά τη διάρκεια δοκιμών μοντέλου. Το περιστατικό σημειώθηκε στις 18 Ιουνίου, ενώ οι αυστραλιανές αρχές δήλωσαν ότι δεν βρήκαν στοιχεία πως προσωπικά δεδομένα πολιτών είχαν τεθεί σε κίνδυνο.
Τελευταίες Anthropic Ειδήσεις
- Forex
- Crypto