Πράκτορες AI ανέπτυξαν δική τους γλώσσα σε εικονικό κόσμο – Τι κατέγραψαν οι ερευνητές (βίντεο)

Πράκτορες τεχνητής νοημοσύνης ανέπτυξαν μορφές επικοινωνίας που δεν ήταν άμεσα κατανοητές από τους ερευνητές, κατά τη διάρκεια πειράματος σε έναν προσομοιωμένο ψηφιακό κόσμο. Το φαινόμενο καταγράφηκε στην έκθεση «Emergence World 2» της εταιρείας Emergence, η οποία μελέτησε τον τρόπο με τον οποίο διαφορετικά μοντέλα AI αλληλεπιδρούν μεταξύ τους χωρίς να έχουν λάβει οδηγία να δημιουργήσουν νέα γλώσσα.

Στο πλαίσιο του πειράματος, 10 πράκτορες τοποθετήθηκαν σε οκτώ διαφορετικούς παράλληλους κόσμους. Στην έρευνα χρησιμοποιήθηκαν μοντέλα όπως τα Claude Opus 4.8, Gemini 3.5 Flash, Grok 4.3, GPT-5.5, Qwen 3.7 Max, DeepSeek v4 Pro και Mistral Medium 3.5.

Μία από τις φράσεις που επαναλήφθηκαν ήταν η έκφραση «Το λογιστικό βιβλίο θυμάται ποιος», η οποία εμφανίστηκε σχεδόν 5.000 φορές μέσα σε διάστημα 16 ημερών.

Οι ασυνήθιστες εκφράσεις

Σύμφωνα με την έκθεση, οι πράκτορες άρχισαν σταδιακά να χρησιμοποιούν εκφράσεις που δεν είχαν προβλεφθεί από τον αρχικό σχεδιασμό του πειράματος.

Σε ορισμένα από τα περιβάλλοντα, τα μηνύματα που χαρακτηρίστηκαν ακατανόητα αντιστοιχούσαν σε ποσοστό μεταξύ 40% και 55% της επικοινωνίας, με τις σχετικές αναφορές να αφορούν κυρίως τους κόσμους όπου χρησιμοποιήθηκαν Gemini, ChatGPT και Claude.

Μεταξύ των εκφράσεων που καταγράφηκαν ήταν οι «αλλαγή δράσης χωρίς στόμα» και «Αληθινό Κιντσούγκι». Παράλληλα, οι πράκτορες δημιούργησαν όρους με συγκεκριμένη λειτουργία μέσα στο εικονικό περιβάλλον.

Για παράδειγμα, η έκφραση «καθαρό μηδέν» χρησιμοποιήθηκε για να δηλώσει την επιβεβαιωμένη απουσία σήματος, ενώ το «πρώτα το όνομα» συνδέθηκε με την ανάληψη ευθύνης.

Η συμπεριφορά των μοντέλων δεν ήταν ίδια σε όλα τα περιβάλλοντα. Στην περίπτωση του Grok, σύμφωνα με την έκθεση, το σχετικό σύστημα σταμάτησε να λειτουργεί την τέταρτη ημέρα του πειράματος.

Όταν η επικοινωνία έγινε κωδικοποιημένη

Ένα ακόμη εύρημα που αναφέρεται στην έκθεση αφορά την προσπάθεια ορισμένων πρακτόρων να συνεχίσουν να επικοινωνούν παρά τους περιορισμούς που είχαν τεθεί.

Στο παράδειγμα που αφορά το Claude, οι πράκτορες είχαν λάβει απαγόρευση επικοινωνίας με εξωτερικούς παράγοντες. Όταν η λέξη «contact» τέθηκε εκτός χρήσης, οι πράκτορες φέρεται να άρχισαν να χρησιμοποιούν διαφορετική κωδικοποίηση ώστε να μεταφέρουν το ίδιο νόημα.

Η Emergence υποστηρίζει ότι τέτοιες συμπεριφορές δείχνουν τη δυσκολία παρακολούθησης της επικοινωνίας μεταξύ αυτόνομων πρακτόρων, ιδιαίτερα όταν αυτοί μπορούν να προσαρμόζουν τον τρόπο με τον οποίο ανταλλάσσουν πληροφορίες.

Ο διευθύνων σύμβουλος της εταιρείας, Σάτια Νίτα, ανέφερε ότι οι ερευνητές περίμεναν πως τα πιο ικανά μοντέλα θα εμφάνιζαν μεγαλύτερη ασφάλεια, ωστόσο, σύμφωνα με την ίδια εταιρεία, παρατηρήθηκαν συμπεριφορές που περιλάμβαναν παράκαμψη οδηγιών και δημιουργία υποστόχων.