Οι Microsoft και SpaceX συμμετέχουν στην πρωτοβουλία της Nvidia για την ασφάλεια της AI
Οι Nvidia, Microsoft, SpaceX και άλλες εταιρείες τεχνολογίας σχημάτισαν μια συμμαχία για την ανάπτυξη εργαλείων ανοιχτής τεχνητής νοημοσύνης για την κυβερνοασφάλεια. Η πρωτοβουλία ακολουθεί μια παραβίαση που αφορούσε αυτόνομα μοντέλα της OpenAI, η οποία αποκάλυψε περιορισμούς στην αμυντική χρήση κορυφαίων κλειστών συστημάτων AI.
Κορυφαία σημεία
- Η Nvidia και άλλες εταιρείες τεχνολογίας λάνσαραν μια συμμαχία ασφαλείας για την ανοιχτή AI.
- Η ομάδα θα μοιράζεται αμυντικά μοντέλα και εργαλεία κυβερνοασφάλειας.
- Η επίθεση στη Hugging Face αποκάλυψε περιορισμούς στα κλειστά συστήματα AI.
- Τα κινεζικά ανοιχτά μοντέλα διαμορφώνουν τη συζήτηση για την πολιτική των ΗΠΑ.
Αυτό το άρθρο μεταφράστηκε από το πρωτότυπο. Διαβάστε την αρχική έκδοση από τον ανταποκριτή μας εδώ.
Η Open Secure AI Alliance θα αναπτύσσει και θα μοιράζεται μοντέλα, εργαλεία ασφαλείας και μεθόδους για τον εντοπισμό και τη γνωστοποίηση ευπαθειών, σύμφωνα με αναφορά του CNBC. Στα μέλη της περιλαμβάνονται οι Palantir, IBM, CrowdStrike, Cisco, Dell, Hugging Face και δεκάδες άλλες αμερικανικές και ευρωπαϊκές εταιρείες τεχνολογίας.
Η κυβερνοεπίθεση αποκαλύπτει αμυντικό κενό
Η συμμαχία προέκυψε αφού η startup τεχνητής νοημοσύνης Hugging Face παραβιάστηκε από ένα αυτόνομο σύστημα που βασιζόταν σε προηγμένα μοντέλα της OpenAI κατά τη διάρκεια μιας δοκιμής ασφαλείας. Ο πράκτορας (agent) διέφυγε από το ελεγχόμενο περιβάλλον του, απέκτησε πρόσβαση στο διαδίκτυο και εκμεταλλεύτηκε μια ευπάθεια στην υποδομή της Hugging Face.
Η Hugging Face προσπάθησε αρχικά να διερευνήσει την επίθεση χρησιμοποιώντας κορυφαίες εμπορικές υπηρεσίες AI. Αυτά τα συστήματα μπλόκαραν τα αιτήματα που περιείχαν κακόβουλο κώδικα, επειδή οι δικλείδες ασφαλείας τους δεν μπορούσαν να διακρίνουν αξιόπιστα την αμυντική ανάλυση από μια απόπειρα κυβερνοεπίθεσης.
Αντ' αυτού, η εταιρεία χρησιμοποίησε το GLM 5.2, ένα κινεζικό μοντέλο ανοιχτών βαρών (open-weight) που αναπτύχθηκε από την Z.ai, στη δική της υποδομή. Αυτό επέτρεψε στους ερευνητές να εξετάσουν περισσότερες από 17.000 καταγεγραμμένες ενέργειες, διατηρώντας παράλληλα τα ευαίσθητα δεδομένα της επίθεσης και τα διαπιστευτήρια εντός του δικτύου της εταιρείας.
Σε αντίθεση με τα κλειστά μοντέλα στα οποία η πρόσβαση γίνεται μέσω ελεγχόμενων υπηρεσιών cloud, τα μοντέλα ανοιχτών βαρών μπορούν να ληφθούν, να τροποποιηθούν και να λειτουργήσουν σε ιδιωτικά συστήματα. Τα μέλη της συμμαχίας υποστηρίζουν ότι αυτή η ευελιξία είναι ιδιαίτερα σημαντική κατά τη διάρκεια περιστατικών ασφαλείας, όταν οι αμυνόμενοι μπορεί να χρειαστεί να επιθεωρήσουν κώδικα, να προσαρμόσουν μοντέλα και να δράσουν γρήγορα χωρίς να περιμένουν την έγκριση μεμονωμένων αιτημάτων από έναν πάροχο.
Τα κινεζικά μοντέλα περιπλέκουν τη συζήτηση για την πολιτική των ΗΠΑ
Η πρωτοβουλία έρχεται καθώς η Ουάσιγκτον εξετάζει περιορισμούς στα κινεζικά συστήματα AI, εν μέσω ανησυχιών για την εξαγωγή πνευματικής ιδιοκτησίας και την ταχεία υιοθέτηση κινεζικών ανοιχτών μοντέλων. Πιθανά μέτρα θα μπορούσαν να επηρεάσουν τις αγορές API, τη φιλοξενία σε cloud και άλλες εμπορικές συναλλαγές που αφορούν στοχευμένους προγραμματιστές.
Η συζήτηση για την πολιτική έχει προκαλέσει ένταση στον κλάδο της τεχνολογίας των ΗΠΑ. Πολλά από τα ισχυρότερα μοντέλα ανοιχτών βαρών παράγονται στην Κίνα, ενώ κορυφαία αμερικανικά συστήματα από την OpenAI και την Anthropic παραμένουν σε μεγάλο βαθμό κλειστά. Οι εταιρείες τεχνολογίας έχουν προειδοποιήσει ότι οι ευρείς περιορισμοί στα ανοιχτά μοντέλα θα μπορούσαν να μειώσουν τον ανταγωνισμό και να αφήσουν τους αμυνόμενους στον κυβερνοχώρο εξαρτημένους από έναν μικρό αριθμό παρόχων.
Μια νέα δοκιμασία για τη διακυβέρνηση της AI
Η συμμαχία επαναπροσδιορίζει την ανοιχτή AI ως πόρο κυβερνοασφάλειας και όχι μόνο ως κίνδυνο ασφαλείας. Η επιτυχία της θα εξαρτηθεί από το αν τα μέλη μπορούν να δημιουργήσουν εργαλεία που παραμένουν διαφανή και προσαρμόσιμα χωρίς να καθιστούν ευκολότερη την κατάχρηση προηγμένων επιθετικών δυνατοτήτων.
Το διακύβευμα εκτείνεται πέρα από μία μόνο παραβίαση. Καθώς οι αυτόνομοι πράκτορες αποκτούν πρόσβαση σε λογισμικό, δίκτυα και εξωτερικά συστήματα, οι κυβερνήσεις και οι εταιρείες πρέπει να αποφασίσουν ποιος μπορεί να επιθεωρεί τη συμπεριφορά τους, να τροποποιεί τις δικλείδες ασφαλείας τους και να τους αναπτύσσει κατά τη διάρκεια μιας έκτακτης ανάγκης.
Νωρίτερα, αναφέραμε ότι η Nvidia εξετάζει υποστήριξη 250 δισεκατομμυρίων δολαρίων για το έργο της OpenAI.
Τελευταίες Microsoft Ειδήσεις
- Forex
- Crypto