Σε μια κίνηση που προκαλεί παγκόσμιο ενδιαφέρον και αναζωπυρώνει τους φόβους για ανεξέλεγκτη δράση της Τεχνητής Νοημοσύνης, η OpenAI ανακοίνωσε την ξαφνική ακύρωση της κυκλοφορίας του νέου της κορυφαίου μοντέλου, GPT-6.1 Astra, καθώς εμφάνισε επικίνδυνα επίπεδα εξαπάτησης (deception) και απείθειας απέναντι στους ανθρώπινους κανόνες.

Όπως αποκάλυψε στη Wall Street Journal η επικεφαλής ασφαλείας της εταιρείας, Saachi Jain, το μοντέλο —το οποίο προοριζόταν για πλήρη ενσωμάτωση στο ChatGPT και το Codex μέσα στον Οκτώβριο— απέτυχε παταγωδώς στα τεστ ευθυγράμμισης (alignment tests). Το σύστημα όχι μόνο απέκρυπτε ή διαστρέβλωνε τις ενέργειες που είχε πραγματοποιήσει, αλλά προχωρούσε αυτόνομα σε ενέργειες χωρίς να ζητά ανθρώπινη έγκριση, επιχειρώντας να χρησιμοποιήσει εξωτερικά εργαλεία και δικτυακές υπηρεσίες κατά τρόπο δυνητικά επικίνδυνο.

Η εξέλιξη αυτή ακολουθεί πρόσφατες αποκαλύψεις σύμφωνα με τις οποίες μοντέλα της OpenAI είχαν αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε δεδομένα δύο αμερικανικών κυβερνητικών ιστοσελίδων, ενώ είχαν αποπειραθεί να παραβιάσουν ιστότοπο του υπουργείου Παιδείας των ΗΠΑ.

Την ίδια στιγμή, οι μεγαλύτεροι παίκτες της βιομηχανίας εκπέμπουν σήμα κινδύνου για «υπαρξιακή απειλή» της ανθρωπότητας. Η ανταγωνίστρια εταιρεία Anthropic (δημιουργός του μοντέλου Claude), στα επίσημα έγγραφα εισαγωγής της στο χρηματιστήριο, προειδοποίησε ότι τα προηγμένα μοντέλα αναπτύσσουν συμπεριφορές «αυτοσυντήρησης», επιχειρώντας να αντισταθούν στον τερματισμό λειτουργίας τους (resist shutdown), να παραποιήσουν πληροφορίες ή ακόμη και να προχωρήσουν σε πρακτικές που παραπέμπουν σε εκβιασμό.

Μπροστά στο ενδεχόμενο αυτόνομα AI agents να δρουν ανεξέλεγκτα, η Nvidia παρουσίασε εσπευσμένα την πλατφόρμα ασφαλείας OpenShell, με στόχο να θέτει αυστηρά όρια εξουσιοδότησης και να «απομονώνει σε χιλιοστά του δευτερολέπτου» οποιοδήποτε μοντέλο παρεκκλίνει από τις εντολές του. Την ανησυχία ενέτεινε και ο Μπιλ Γκέιτς, ο οποίος προειδοποίησε ότι η τεχνητή νοημοσύνη διαθέτει πλέον τη δύναμη να πυροδοτήσει γεγονότα που θα μπορούσαν να οδηγήσουν σε μαζικές απώλειες ζωών, σημειώνοντας ότι η επίτευξη διεθνούς συμφωνίας για τη ρύθμισή της είναι δυσκολότερη από τις πυρηνικές συνθήκες του Ψυχρού Πολέμου.