Η Anthropic προειδοποιεί για τους κινδύνους της αυτοβελτιούμενης AI

Traders Union
Όλες οι ειδήσεις
Νέα Κρυπτονομισμάτων
Η Anthropic προειδοποιεί για τους κινδύνους της AI

Όλες οι ειδήσεις

Κορυφαίες Ειδήσεις

Οι Επιλογές των Συντακτών

Νέα Κρυπτονομισμάτων

Οικονομικά Νέα

Οι Φωνές της Αγοράς

Νέα Χρηματιστών

Νέα από τις ρυθμιστικές αρχές

Eugene Komchuk

05.06.2026

Η Anthropic προειδοποιεί για τους κινδύνους της αυτοβελτιούμενης AI — Η Anthropic προειδοποίησε για την απειλή της AI

Η αμερικανική εταιρεία AI Anthropic προειδοποίησε ότι η ανάπτυξη της τεχνητής νοημοσύνης επιταχύνεται τόσο γρήγορα που, στο εγγύς μέλλον, οι πράκτορες AI θα μπορούσαν να δημιουργούν, να εκπαιδεύουν και να βελτιώνουν αυτόνομα νέα συστήματα χωρίς ανθρώπινη παρέμβαση. Σε αυτό το πλαίσιο, η εταιρεία ζήτησε επιβράδυνση στην ανάπτυξη των νευρωνικών δικτύων.

Αυτό το άρθρο μεταφράστηκε από το πρωτότυπο. Διαβάστε την αρχική έκδοση από τον ανταποκριτή μας εδώ.

Σε μια ανάρτηση στο blog, η Marina Favaro, επικεφαλής του Anthropic Institute, και ο συνιδρυτής της Anthropic, Jack Clark, δήλωσαν ότι οι πράκτορες AI είναι ήδη ικανοί να εκτελούν κώδικα μόνοι τους, αναθέτοντας ώρες εργασίας σε άλλους πράκτορες και πλησιάζοντας σταδιακά στο σημείο όπου θα μπορούσαν να αναλάβουν ολόκληρο τον κύκλο ανάπτυξης.

«Για το μεγαλύτερο μέρος της ιστορίας της AI, οι άνθρωποι έλεγχαν κάθε στάδιο της ανάπτυξής της. Αλλά στην Anthropic, αναθέτουμε ένα αυξανόμενο μερίδιο της ανάπτυξης AI στα ίδια τα συστήματα AI, γεγονός που επιταχύνει την εργασία μας», δήλωσαν.

Σύμφωνα με τους Favaro και Clark, εάν αυτή η τάση συνεχιστεί και τα συστήματα λάβουν επαρκή υπολογιστική ισχύ, θα μπορούσε τελικά να προκύψει μια AI ικανή να σχεδιάζει και να αναπτύσσει πλήρως αυτόνομα τον δικό της διάδοχο.

Εστίαση στην ασφάλεια

Η ανάπτυξη τέτοιων δυνατοτήτων εγείρει ανησυχίες για ένα σενάριο στο οποίο η AI θα μπορούσε να γίνει εξυπνότερη από μόνη της. Τον Δεκέμβριο, η OpenAI δήλωσε ότι μελετά ασφαλείς τρόπους ανάπτυξης και υλοποίησης ολοένα και πιο προηγμένων συστημάτων AI, συμπεριλαμβανομένων μοντέλων ικανών για αναδρομική αυτοβελτίωση.

Η OpenAI δήλωσε ότι θέλει τέτοια συστήματα να ακολουθούν με συνέπεια την ανθρώπινη πρόθεση σε σύνθετα σενάρια του πραγματικού κόσμου και σε αντίξοες συνθήκες, να αποφεύγουν καταστροφικές συμπεριφορές, να παραμένουν ελέγξιμα και ελέγξιμα και να παραμένουν ευθυγραμμισμένα με τις ανθρώπινες αξίες.

Πρόσθεσαν ότι μόλις η ποιότητα του κώδικα που γράφεται από ανθρώπους και εκείνου που γράφεται από AI φτάσει σε ισοτιμία, οι άνθρωποι μπορεί να σταματήσουν εντελώς να γράφουν κώδικα και να μεταβούν μόνο στην αναθεώρησή του. Ωστόσο, εάν δεν μπορούν να αναθεωρήσουν τον κώδικα τόσο γρήγορα όσο τον δημιουργεί το Claude, η ανθρώπινη αναθεώρηση θα γίνει το κύριο εμπόδιο στην ανάπτυξη της AI.

Γιατί να επιβραδυνθεί η ανάπτυξη της AI

Οι Favaro και Clark δήλωσαν επίσης ότι το ιδανικό σενάριο θα ήταν να επιβραδυνθεί η ανάπτυξη, ώστε η κοινωνία να έχει περισσότερο χρόνο να κατανοήσει τις «τεράστιες» συνέπειες αυτής της τεχνολογίας.

Τον Απρίλιο, η Anthropic αρνήθηκε να κυκλοφορήσει το μοντέλο AI Claude Mythos στο κοινό λόγω ανησυχιών που σχετίζονται με παγκόσμιες απειλές για την κυβερνοασφάλεια. Το μοντέλο θα μπορούσε εύκολα να δημιουργήσει exploits λογισμικού, οπότε η εταιρεία αποφάσισε να μην το δημοσιοποιήσει προς το παρόν.

Την ίδια ημέρα, μια ομάδα ηγετών της τεχνολογίας, συμπεριλαμβανομένων εκπροσώπων από την Anthropic και την OpenAI, δημοσίευσε μια ανοιχτή επιστολή προτρέποντας τους νομοθέτες να εισαγάγουν αυστηρότερα όρια στην AI. Οι συγγραφείς προειδοποίησαν ότι η τεχνολογία θα μπορούσε να βοηθήσει κακόβουλους παράγοντες να ξεπεράσουν τα «γνωστικά εμπόδια» που τους εμπόδιζαν προηγουμένως να δημιουργήσουν βιολογικά όπλα.

Ταυτόχρονα, τόνισαν ότι η απλή επιβράδυνση θα μπορούσε να δημιουργήσει νέους κινδύνους εάν επέτρεπε σε λιγότερο προσεκτικούς παίκτες να προλάβουν τεχνολογικά τους ηγέτες του κλάδου. Χωρίς έναν παγκόσμιο μηχανισμό συντονισμού, οι εταιρείες και οι κυβερνήσεις θα αναγκαστούν να λάβουν δύσκολες αποφάσεις ασφαλείας υπό ανταγωνιστική και γεωπολιτική πίεση.

Τι κάνει το Claude πολύτιμο

Το κορυφαίο προϊόν της Anthropic είναι ο βοηθός AI Claude. Πρόκειται για μια οικογένεια γλωσσικών μοντέλων που έχουν σχεδιαστεί για να εργάζονται με κείμενο, κώδικα, δεδομένα και σύνθετες εργασίες όπου δεν έχει σημασία μόνο η ταχύτητα απόκρισης, αλλά και η ασφάλεια, η ελεγξιμότητα και η αξιοπιστία. Το Claude χρησιμοποιείται ως καθολικός βοηθός: μπορεί να γράφει και να επεξεργάζεται κείμενα, να αναλύει έγγραφα, να εξηγεί σύνθετα θέματα, να βοηθά στον προγραμματισμό, να βρίσκει σφάλματα στον κώδικα και να προετοιμάζει περιλήψεις, email, αναφορές και άλλο υλικό εργασίας.

Για τις επιχειρήσεις, το Claude είναι πολύτιμο επειδή μπορεί να αναλάβει μέρος της ρουτίνας της πνευματικής εργασίας. Χρησιμοποιείται στην υποστήριξη πελατών, την ανάλυση, την ανάπτυξη λογισμικού, τις νομικές και οικονομικές διαδικασίες, το μάρκετινγκ και τα εσωτερικά εταιρικά εργαλεία. Οι εταιρείες χρησιμοποιούν το Claude ως βοηθό συνομιλίας, ως API για ενσωμάτωση στα προϊόντα τους και ως εργαλείο για την αυτοματοποίηση εργασιών που απαιτούν γρήγορη επεξεργασία μεγάλου όγκου πληροφοριών και λήψη σαφών απαντήσεων σε φυσική γλώσσα.

Υπενθυμίζεται ότι το Claude βοήθησε στην ανάκτηση του κωδικού πρόσβασης ενός πορτοφολιού που περιείχε 5 Bitcoin.

Αυτό το υλικό μπορεί να περιέχει απόψεις τρίτων, κανένα από τα δεδομένα και τις πληροφορίες σε αυτήν την ιστοσελίδα δεν αποτελεί επενδυτική συμβουλή σύμφωνα με την Αποποίηση Ευθυνών μας. Ενώ τηρούμε αυστηρή Συντακτική Ακεραιότητα, αυτή η ανάρτηση μπορεί να περιέχει αναφορές σε προϊόντα από τους συνεργάτες μας.

Σας άρεσε αυτό το άρθρο;