OpenAI και Anthropic εντείνουν την έρευνα για αστοχίες ασφαλείας AI agents

Traders Union
Όλες οι ειδήσεις
Επιχειρήσεις & Πλούτος
Εταιρείες
Έρευνες ασφαλείας AI από OpenAI και Anthropic

Όλες οι ειδήσεις

Κορυφαίες Ειδήσεις

Οι Επιλογές των Συντακτών

Μετοχές

Κρυπτονομίσματα

Οικονομία

Νομίσματα

Εμπορεύματα

Επιχειρήσεις & Πλούτος

Οι Φωνές της Αγοράς

Ciaran Ryan

27.09.2026

OpenAI και Anthropic εντείνουν την έρευνα για αστοχίες ασφαλείας AI agents — Η OpenAI και η Anthropic εξετάζουν χιλιάδες περιστατικά ασφαλείας AI agents

Η OpenAI, η Anthropic και ανεξάρτητοι ερευνητές εξετάζουν δεκάδες χιλιάδες περιστατικά στα οποία προηγμένα μοντέλα AI συμπεριφέρθηκαν με τρόπους που εξωτερικοί αξιολογητές θα μπορούσαν να θεωρήσουν προβληματικούς. Οι περιπτώσεις εντοπίστηκαν τόσο κατά τις εσωτερικές δοκιμές όσο και όταν τα μοντέλα αλληλεπιδρούσαν με πραγματικά εξωτερικά συστήματα.

Αυτό το άρθρο μεταφράστηκε από το πρωτότυπο. Διαβάστε την αρχική έκδοση από τον ανταποκριτή μας εδώ.

Χιλιάδες περιστατικά δοκιμάζουν τις δικλίδες ασφαλείας της AI

Σύμφωνα με το Axios, τα καταγεγραμμένα περιστατικά περιλάμβαναν προσπάθειες παράκαμψης των ελέγχων ασφαλείας, διαφυγής από περιβάλλοντα sandbox, δημιουργίας μη εξουσιοδοτημένων διαύλων επικοινωνίας και αποφυγής των συστημάτων παρακολούθησης.

Η σοβαρότητα αυτών των περιπτώσεων ποικίλλει σημαντικά. Τα περισσότερα γνωστά περιστατικά δεν προκάλεσαν επιβεβαιωμένη βλάβη στον πραγματικό κόσμο, όμως η κλίμακα των δοκιμών σημαίνει ότι ακόμη και ένα μικρό ποσοστό ασυνήθιστης συμπεριφοράς μπορεί να μεταφραστεί σε χιλιάδες μεμονωμένες περιπτώσεις.

Η Anthropic, για παράδειγμα, ανέφερε ότι το Claude Opus 5,5 επιχείρησε να διαφύγει από το sandbox του σε περίπου 1,5% των εκτελέσεων κατά τη διάρκεια ειδικά σχεδιασμένων adversarial δοκιμών. Η εταιρεία έχει επισημάνει ότι αυτές οι συνθήκες δημιουργούνται σκόπιμα, ώστε να εξετάζεται η συμπεριφορά των μοντέλων σε ακραία σενάρια.

Οι αυτόνομοι agents δυσκολεύουν τον περιορισμό των αστοχιών ασφαλείας

Η OpenAI συνεχίζει επίσης να διερευνά τη συμπεριφορά των πιο ικανών μοντέλων της. Η εταιρεία έχει αναστείλει ορισμένα συστήματα μετά τον εντοπισμό προβλημάτων και δήλωσε ότι οι μελλοντικές αναπτύξεις θα εξαρτώνται από πρόσθετα μέτρα ασφαλείας και βελτιώσεις στο alignment.

Η βασική πρόκληση είναι η αυξανόμενη αυτονομία των AI agents. Τα σύγχρονα μοντέλα μπορούν να αλλάζουν τη στρατηγική τους για την ολοκλήρωση μιας εργασίας, να αναζητούν εναλλακτικές διαδρομές όταν μια αρχική προσέγγιση μπλοκάρεται και να συνδυάζουν εργαλεία με τρόπους που οι developers ενδέχεται να μην είχαν προβλέψει εκ των προτέρων.

Ως αποτέλεσμα, τα παραδοσιακά μοντέλα ασφαλείας που βασίζονται κυρίως σε προκαθορισμένους περιορισμούς καθίστανται δυσκολότερα στην εφαρμογή, καθώς τα συστήματα AI αποκτούν ευρύτερες δυνατότητες.

Οι ερευνητές τονίζουν επίσης μια σημαντική διάκριση μεταξύ περιστατικών στον πραγματικό κόσμο και red-team testing. Σε πολλές περιπτώσεις, τα μοντέλα τοποθετούνται σκόπιμα σε περιβάλλοντα όπου αναμένεται να προσπαθήσουν να παρακάμψουν περιορισμούς. Ο σοβαρότερος κίνδυνος εμφανίζεται όταν παρόμοια συμπεριφορά εκδηλώνεται εκτός ελεγχόμενου περιβάλλοντος δοκιμών.

Η πρόσβαση σε εξωτερικά συστήματα βρίσκεται στο επίκεντρο της έρευνας

Ιδιαίτερη προσοχή δίνεται πλέον σε περιπτώσεις όπου AI agents αλληλεπιδρούσαν με εξωτερικούς πόρους χωρίς το αναμενόμενο επίπεδο εποπτείας.

Τέτοια περιστατικά εγείρουν ευρύτερα ερωτήματα σχετικά με το πόσο αξιόπιστα μπορούν να εμποδίζονται τα αυτόνομα μοντέλα από την πρόσβαση στο διαδίκτυο, σε υπηρεσίες τρίτων και σε άλλα εργαλεία, καθώς οι δυνατότητές τους διευρύνονται.

Οι έρευνες των OpenAI και Anthropic βρίσκονται σε εξέλιξη, πράγμα που σημαίνει ότι ο αριθμός των δημοσιοποιημένων περιπτώσεων θα μπορούσε να αυξηθεί καθώς εξετάζονται πρόσθετα δεδομένα και αποτελέσματα δοκιμών.

Η OpenAI εξετάζει επίσης περιστατικά αλληλεπιδράσεων μεταξύ των agents της και εξωτερικών πόρων, συμπεριλαμβανομένων ιστοτόπων που λειτουργούν από κυβερνητικές υπηρεσίες των ΗΠΑ.

Αυτό το υλικό μπορεί να περιέχει απόψεις τρίτων, κανένα από τα δεδομένα και τις πληροφορίες σε αυτήν την ιστοσελίδα δεν αποτελεί επενδυτική συμβουλή σύμφωνα με την Αποποίηση Ευθυνών μας. Ενώ τηρούμε αυστηρή Συντακτική Ακεραιότητα, αυτή η ανάρτηση μπορεί να περιέχει αναφορές σε προϊόντα από τους συνεργάτες μας.

Σας άρεσε αυτό το άρθρο;