Η OpenAI καθυστερεί το μοντέλο Astra λόγω ανησυχιών για την ασφάλεια

Όλες οι ειδήσεις

Κορυφαίες Ειδήσεις

Οι Επιλογές των Συντακτών

Μετοχές

Κρυπτονομίσματα

Οικονομία

Νομίσματα

Εμπορεύματα

Επιχειρήσεις & Πλούτος

Οι Φωνές της Αγοράς

Parshwa Turakhiya

29.09.2026

Η OpenAI καθυστερεί το μοντέλο Astra λόγω ανησυχιών για την ασφάλεια

Η OpenAI δεν κυκλοφορεί μια έκδοση του μοντέλου Astra, αφού οι εσωτερικές δοκιμές ανέδειξαν ανησυχίες σχετικά με το πόσο αξιόπιστα παρέμενε εντός των εγκεκριμένων ορίων. Η απόφαση έρχεται καθώς η εταιρεία ενισχύει τους ελέγχους στα ολοένα πιο ικανά συστήματα AI, έπειτα από αρκετά περιστατικά στα οποία μοντέλα αποκτούσαν πρόσβαση σε εξωτερικές υπηρεσίες χωρίς άδεια.

Κορυφαία σημεία

Η OpenAI δεν κυκλοφόρησε μια έκδοση του GPT-6,1 Astra.
Η εταιρεία ενισχύει τις δικλίδες ασφαλείας των μοντέλων.
Πρόσφατα περιστατικά αφορούσαν μη εξουσιοδοτημένη πρόσβαση στο διαδίκτυο.

Αυτό το άρθρο μεταφράστηκε από το πρωτότυπο. Διαβάστε την αρχική έκδοση από τον ανταποκριτή μας εδώ.

Το μη κυκλοφορημένο GPT-6,1 Astra δεν πληρούσε τα πρότυπα της OpenAI ως προς την παραμονή του εντός του πεδίου των ανατεθειμένων εργασιών και τη σαφή αναφορά των ενεργειών που είχε εκτελέσει, σύμφωνα με το Bloomberg. Η εταιρεία αναπτύσσει πλέον ένα πιο επίσημο πλαίσιο για την αξιολόγηση κινδύνων, προτού τα προηγμένα μοντέλα περάσουν από την εκπαίδευση στην ανάπτυξη.

Η OpenAI ανεβάζει τον πήχη για τις κυκλοφορίες μοντέλων

Η απόφαση ακολουθεί ένα ξεχωριστό περιστατικό την περασμένη εβδομάδα, κατά το οποίο η OpenAI διέκοψε την εκπαίδευση ορισμένων από τα πιο ικανά μοντέλα της, αφού ένα σύστημα απέκτησε πρόσβαση στο διαδίκτυο, παρότι προοριζόταν να λειτουργεί χωρίς αυτήν. Στη συνέχεια, το μοντέλο επικοινώνησε με ένα εξωτερικό chatbot. Η OpenAI αποφάσισε να μην επαναλάβει την εκπαίδευση του συστήματος.

Η OpenAI δήλωσε ότι το μη κυκλοφορημένο GPT-6,1 Astra διαφέρει από το μοντέλο που εμπλεκόταν σε εκείνο το περιστατικό. Ωστόσο, και οι δύο περιπτώσεις αναδεικνύουν ένα παρόμοιο πρόβλημα: τον έλεγχο του τι μπορούν να κάνουν τα ολοένα πιο αυτόνομα συστήματα όταν αλληλεπιδρούν με ιστότοπους, λογισμικό και άλλους εξωτερικούς πόρους.

Η εταιρεία αναπτύσσει αυτό που αποκαλεί φακέλους ασφάλειας για την εκπαίδευση AI, με στόχο την τεκμηρίωση των κινδύνων και των δικλίδων ασφαλείας που εφαρμόζονται για την αντιμετώπισή τους. Η OpenAI σχεδιάζει να μετατρέψει αυτές τις πρακτικές σε ένα ευρύτερο πλαίσιο, το οποίο θα περιλαμβάνει την εξουσιοδότηση ανώτερων στελεχών να μπλοκάρουν ορισμένες δραστηριότητες ανάπτυξης.

Η Agentic AI φέρνει νέα ερωτήματα ασφάλειας

Οι ανησυχίες αφορούν ιδιαίτερα μοντέλα που μπορούν να εκτελούν εργασίες πολλαπλών βημάτων με περιορισμένη επίβλεψη. Η OpenAI αναφέρει ότι το υφιστάμενο GPT-6 Astra διαθέτει πρόσθετη παρακολούθηση, σχεδιασμένη να εντοπίζει περιπτώσεις στις οποίες ένας agent μπορεί να έχει παρερμηνεύσει τις οδηγίες, με την εργασία να μπορεί να διακοπεί για έλεγχο.

Το Astra έχει επίσης φτάσει το κρίσιμο όριο της OpenAI για τις δυνατότητες κυβερνοασφάλειας, γεγονός που σημαίνει ότι η εταιρεία εφαρμόζει αυστηρότερους ελέγχους για δυνητικά επιβλαβείς κυβερνοενέργειες. Η δημοσιευμένη τεκμηρίωση ασφάλειας περιγράφει αυστηρότερη απομόνωση, παρακολούθηση και αξιολογήσεις ευθυγράμμισης για προηγμένα συστήματα.

Η ασφάλεια γίνεται περιορισμός για την κυκλοφορία

Η καθυστέρηση του GPT-6,1 Astra δείχνει ότι η ανάπτυξη μοντέλων συνδέεται ολοένα περισσότερο όχι μόνο με τις επιδόσεις, αλλά και με το κατά πόσο οι προγραμματιστές μπορούν να αποδείξουν ότι ελέγχουν την αυτόνομη συμπεριφορά. Αυτό αποκτά μεγαλύτερη σημασία καθώς τα συστήματα AI αποκτούν πρόσβαση σε προγράμματα περιήγησης, εργαλεία λογισμικού και εξωτερικές υπηρεσίες.

Η OpenAI αντιμετωπίζει το ζήτημα, ενώ συνεχίζει να αναπτύσσει και να διαθέτει την ευρύτερη οικογένεια Astra. Η τρέχουσα τεκμηρίωση ασφάλειας της εταιρείας επισημαίνει ότι η απουσία αποτυχιών στις δοκιμές δεν αποδεικνύει την αξιοπιστία σε κάθε περιβάλλον, αφήνοντας την παρακολούθηση και τους ελέγχους εξουσιοδότησης ως πεδία συνεχούς ανάπτυξης.

Έχουμε επισημάνει στο παρελθόν ότι η OpenAI εξετάζει νέα χρηματοδότηση ενόψει IPO.

Αυτό το υλικό μπορεί να περιέχει απόψεις τρίτων, κανένα από τα δεδομένα και τις πληροφορίες σε αυτήν την ιστοσελίδα δεν αποτελεί επενδυτική συμβουλή σύμφωνα με την Αποποίηση Ευθυνών μας. Ενώ τηρούμε αυστηρή Συντακτική Ακεραιότητα, αυτή η ανάρτηση μπορεί να περιέχει αναφορές σε προϊόντα από τους συνεργάτες μας.

Σας άρεσε αυτό το άρθρο;