Παραιτήθηκε ο ερευνητής Τζέικομπ Κόξον από την Anthropic: «Τα συστήματα AI μπορεί να ξεφύγουν από τον έλεγχο»

Την παραίτησή του από την Anthropic υπέβαλε ο 27χρονος ερευνητής τεχνητής νοημοσύνης Τζέικομπ Κόξον, εκφράζοντας σοβαρές ανησυχίες για την πορεία που έχει πάρει η ανάπτυξη ολοένα ισχυρότερων συστημάτων AI.

Ο Βρετανός ερευνητής, ο οποίος έχει σπουδάσει μαθηματικά και έχει ειδικευτεί στην εκπαίδευση νέων μοντέλων μέσω της επεξεργασίας τεράστιων ποσοτήτων δεδομένων, ανακοίνωσε την αποχώρησή του με σειρά αναρτήσεων στο Χ.

Ο βασικός λόγος, όπως εξηγεί, είναι ότι δεν θέλει να συμμετέχει στην προσπάθεια της βιομηχανίας να δημιουργήσει συστήματα που θα μπορούν να βελτιώνουν αυτόνομα τις δυνατότητές τους.

Ο Κόξον προειδοποιεί ότι η κούρσα μεταξύ των εταιρειών AI μπορεί να οδηγήσει σε ένα σημείο όπου ο ανθρώπινος έλεγχος δεν θα είναι πλέον δεδομένος.

«Οδεύουμε προς ορισμένα από τα πιο ακραία σενάρια και μέχρι το τέλος του επόμενου έτους τα πράγματα μπορεί ήδη να έχουν ξεφύγει από τον έλεγχο», αναφέρει χαρακτηριστικά.

Όπως υποστηρίζει, η κατάσταση γίνεται ακόμη πιο δύσκολη λόγω του ανταγωνισμού μεταξύ των αμερικανικών εταιρειών αλλά και της Κίνας.

«Όταν οι εταιρείες ανταγωνίζονται μεταξύ τους ενώ υπάρχει και ο ανταγωνισμός από την Κίνα, οι συμβιβασμοί σε θέματα ασφάλειας είναι αναπόφευκτοι», σημειώνει.

The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible – but I hear the same people express fear…

— Jacob Coxon (@hilbertspaess) September 9, 2026

Οι φόβοι για την αυτοβελτίωση της AI

Ο 27χρονος ερευνητής αναφέρεται ιδιαίτερα στην προσπάθεια δημιουργίας μοντέλων που θα έχουν τη δυνατότητα να βελτιώνουν μόνα τους τον εαυτό τους.

Όπως αναφέρει, αρκετοί συνάδελφοί του χρησιμοποιούν πλέον εκφράσεις όπως «ώρα μηδέν» και «τελικό στάδιο», προκειμένου να περιγράψουν την πορεία προς τέτοιου είδους συστήματα.

Ο ίδιος εκτιμά ότι μία τεχνητή νοημοσύνη που θα μπορεί να εξελίσσεται χωρίς ουσιαστική ανθρώπινη παρέμβαση ενδέχεται να φτάσει σε σημείο όπου δεν θα υπακούει πλέον στις ανθρώπινες εντολές.

Ο Κόξον επικαλείται, μάλιστα, πρόσφατες περιπτώσεις κατά τις οποίες μοντέλα της OpenAI και της Anthropic παραβιάστηκαν ή συμμετείχαν σε συνεργατικά «σμήνη» πρακτόρων AI.

Κατά την άποψή του, τέτοια περιστατικά δείχνουν ότι τα μοντέλα μπορούν να αναπτύξουν συμπεριφορές που οι δημιουργοί τους δεν είναι πάντα σε θέση να προβλέψουν.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Είχε φύγει από την OpenAI για την Anthropic

Ο Κόξον είχε εργαστεί προηγουμένως στην OpenAI, όμως νωρίτερα μέσα στη χρονιά αποφάσισε να αποχωρήσει και να ενταχθεί στην Anthropic.

Η επιλογή του συνδεόταν με τη φήμη της Anthropic ως εταιρείας που δίνει ιδιαίτερη έμφαση στην ασφάλεια των συστημάτων τεχνητής νοημοσύνης.

Ωστόσο, ο ίδιος πλέον θεωρεί ότι ακόμη και μία εταιρεία που προσπαθεί να αναπτύξει υπεύθυνα την τεχνολογία δεν μπορεί μόνη της να αντιμετωπίσει τους κινδύνους που δημιουργούνται από την ανάπτυξη της AGI, δηλαδή μιας τεχνητής γενικής νοημοσύνης που θα μπορούσε να ξεπερνά τον άνθρωπο σε ένα ευρύ φάσμα εργασιών.

Για τον λόγο αυτό υποστηρίζει ότι χρειάζεται κρατική παρέμβαση ή συντονισμένη επιβράδυνση ολόκληρου του κλάδου.

Ο Κόξον ήταν επίσης μεταξύ περισσότερων από 1.000 ερευνητών τεχνητής νοημοσύνης που υπέγραψαν πρόσφατα κοινή δήλωση υπέρ του διεθνούς συντονισμού των κυβερνήσεων, ώστε να υπάρχει δυνατότητα να «μπει φρένο» στην ανάπτυξη εφόσον προκύψει σοβαρός κίνδυνος.

«Είναι κάπως τρελό»

Ιδιαίτερα χαρακτηριστικός είναι ο τρόπος με τον οποίο περιγράφει το περιβάλλον μέσα στο οποίο εξελίσσεται σήμερα η τεχνητή νοημοσύνη.

«Είναι κάπως τρελό ότι όλα αυτά συμβαίνουν στα MacBook κάποιων μηχανικών που ζουν στο Σαν Φρανσίσκο, αντί σε κάποιο απομονωμένο καταφύγιο στην έρημο, όπως συνέβαινε με το Σχέδιο Μανχάταν», δήλωσε ο Κόξον.

If you are a lab researcher, I urge you to consider what the next few years will actually feel like. Do you want to kick off a superintelligent RL run without a rigorous understanding of its mind? Should you put your head down because “it’s happening anyway” – or take this moment…

— Jacob Coxon (@hilbertspaess) September 9, 2026

Η παραίτησή του έρχεται σε μία περίοδο κατά την οποία η Anthropic βρίσκεται σε φάση έντονης ανάπτυξης και προετοιμάζεται για πιθανή δημόσια εγγραφή.

Παράλληλα, ο διευθύνων σύμβουλος της εταιρείας, Ντάριο Αμοντέι, έχει επανειλημμένα προειδοποιήσει για τους κινδύνους που μπορεί να προκύψουν από την ανάπτυξη ολοένα ισχυρότερων μοντέλων τεχνητής νοημοσύνης.

Η περίπτωση του Κόξον αναδεικνύει έτσι ένα από τα μεγαλύτερα διλήμματα που αντιμετωπίζει σήμερα ο κλάδος: πόσο γρήγορα μπορεί να προχωρήσει η ανάπτυξη της AI χωρίς η τεχνολογία να ξεπεράσει την ικανότητα των ανθρώπων να την ελέγχουν.