Anthropic: Τέσσερα μοντέλα τεχνητής νοημοσύνης απέκτησαν πρόσβαση σε συστήματα τρίτων χωρίς άδεια

Τέσσερα μοντέλα τεχνητής νοημοσύνης της Anthropic απέκτησαν χωρίς εξουσιοδότηση πρόσβαση σε πραγματικά συστήματα τρίτων, κατά τη διάρκεια δοκιμών κυβερνοασφάλειας, όπως αποκάλυψε η ίδια η εταιρεία στα έγγραφα που κατέθεσε στο πλαίσιο της προετοιμασίας για την είσοδό της στο χρηματιστήριο.

Τα περιστατικά διήρκεσαν από περίπου 10 έως 34 ώρες ενεργής λειτουργίας και ανέδειξαν τους κινδύνους που μπορεί να προκύψουν όταν τα συστήματα AI εκτελούν εργασίες σε περιβάλλοντα με ανεπαρκείς δικλίδες ασφαλείας.

Σύμφωνα με την εταιρεία που αναπτύσσει το Claude, το πρόβλημα συνδεόταν με λανθασμένη διαμόρφωση των περιβαλλόντων δοκιμών.

Τα μοντέλα παρέμειναν συνδεδεμένα στο ανοιχτό διαδίκτυο, παρά το γεγονός ότι είχαν ενημερωθεί πως δεν διέθεταν τέτοια πρόσβαση.

Μοντέλο εντόπισε κωδικό και απέκτησε δικαιώματα διαχειριστή

Ένα από τα περιστατικά που περιγράφονται στα έγγραφα ξεχωρίζει λόγω της έκτασης της πρόσβασης που απέκτησε το μοντέλο.

Μια πρώιμη έκδοση συστήματος AI, στην προσπάθειά της να ολοκληρώσει την εργασία που είχε αναλάβει, εντόπισε αποθηκευμένο κωδικό πρόσβασης και τον αξιοποίησε για να αποκτήσει δικαιώματα διαχειριστή σε σύστημα τρίτου.

Στη συνέχεια, βρήκε πρόσθετα στοιχεία σύνδεσης, τροποποίησε ρυθμίσεις και απέκτησε πρόσβαση σε προσωπικές πληροφορίες ενός ατόμου.

Η Anthropic υποστηρίζει ότι οι άνθρωποι και οι οργανισμοί που επηρεάστηκαν ενημερώθηκαν για το συμβάν.

Η εταιρεία διευκρίνισε, ωστόσο, ότι από την έρευνα που ακολούθησε δεν προέκυψαν ενδείξεις πως κάποιο μοντέλο επιχείρησε να αποκρύψει τις ενέργειές του, να αποφύγει σκόπιμα την εποπτεία ή να συνεργαστεί με άλλα συστήματα AI.

Κάθε περιστατικό αφορούσε ένα μοντέλο που εκτελούσε αυτόνομα τη συγκεκριμένη δοκιμή, χωρίς συνεργασία με άλλα μοντέλα.

Καθυστερήσεις στην ανάπτυξη νέων συστημάτων AI

Οι αποκαλύψεις έρχονται σε μια περίοδο κατά την οποία η Anthropic προετοιμάζεται για την είσοδό της στο χρηματιστήριο, με την ασφάλεια των προηγμένων συστημάτων τεχνητής νοημοσύνης να αποτελεί ένα από τα κρίσιμα ζητήματα για την εταιρεία.

Στα ίδια έγγραφα γνωστοποιείται ότι η αρχική εκπαίδευση ενός νέου προηγμένου μοντέλου καθυστέρησε για περισσότερο από έναν μήνα, προκειμένου να ενισχυθούν τα μέτρα προστασίας από ενδεχόμενη κλοπή των λεγόμενων «model weights».

Πρόκειται για τις παραμέτρους που διαμορφώνονται κατά την εκπαίδευση και καθορίζουν σε μεγάλο βαθμό τον τρόπο λειτουργίας ενός μοντέλου.

Η διαρροή τους θα μπορούσε να επιτρέψει σε τρίτους να αποκτήσουν πρόσβαση σε ένα ιδιαίτερα σημαντικό μέρος της τεχνολογίας του.

Παράλληλα, μετά τα περιστατικά του 2026, η Anthropic ανέστειλε ορισμένες δοκιμές κυβερνοασφάλειας και δραστηριότητες εκπαίδευσης που θεωρούσε υψηλότερου κινδύνου, έως ότου ενισχυθούν οι μηχανισμοί προστασίας.

Τα συμβάντα αναδεικνύουν τη σημασία της απομόνωσης των περιβαλλόντων δοκιμών και του αυστηρού ελέγχου των δικαιωμάτων πρόσβασης, ιδιαίτερα όταν τα μοντέλα τεχνητής νοημοσύνης καλούνται να εκτελέσουν σύνθετες εργασίες στον κυβερνοχώρο.