Από τον «κοριό» στο χαρτί υγείας μέχρι την κινεζική κατασκοπεία στην AI

Από έναν αυτοσχέδιο «κοριό» που εντοπίστηκε τυλιγμένος σε χαρτί υγείας στα γραφεία της OpenAI μέχρι τις υποψίες για κινεζική κατασκοπεία στη Nvidia, μια σειρά περιστατικών αποκαλύπτει τα σοβαρά κενά ασφαλείας στους μεγαλύτερους τεχνολογικούς κολοσσούς των ΗΠΑ.

Οι εταιρείες που αναπτύσσουν τα ισχυρότερα συστήματα τεχνητής νοημοσύνης στον κόσμο επενδύουν δισεκατομμύρια στην τεχνολογική τους υπεροχή, ωστόσο δυσκολεύονται να προστατεύσουν τα ίδια τους τα μυστικά από κατασκοπεία, κυβερνοεπιθέσεις και εσωτερικές απειλές.

Στο επίκεντρο βρίσκεται η Nvidia, μετά το σκάνδαλο που οδήγησε στην παραίτηση του διευθύνοντος συμβούλου της, Τζένσεν Χουάνγκ.

Η υπόθεση συνδέεται με την Άλις Χουάνγκ, η οποία φέρεται να διατηρούσε προσωπική σχέση μαζί του και εργαζόταν στη Megaspeed, εταιρεία που αγόραζε μικροτσίπ αξίας δισεκατομμυρίων δολαρίων από τη Nvidia.

Η συγκεκριμένη εταιρεία ερευνάται για φερόμενη παράνομη διοχέτευση προηγμένων μικροτσίπ στην Κίνα, γεγονός που δημιουργεί σοβαρά ερωτήματα για τους μηχανισμούς ελέγχου και προστασίας της τεχνολογίας της Nvidia.

Ο «κοριός» που βρέθηκε τυλιγμένος σε χαρτί υγείας

Στην OpenAI, ένα περιστατικό με συσκευή καταγραφής ήχου ανέδειξε τις αδυναμίες στην προστασία των εσωτερικών χώρων της εταιρείας.

Η συσκευή εντοπίστηκε σε αίθουσα συσκέψεων όπου πραγματοποιούνταν εμπιστευτικές συζητήσεις.

Σύμφωνα με όσα έγιναν γνωστά, είχε συνδεθεί σε θύρα USB τηλεόρασης και ήταν τυλιγμένη με χαρτί υγείας, ενώ μία δεύτερη συσκευή καταγραφής βρέθηκε μέσα σε τσάντα σε διαφορετικό δωμάτιο.

Για την υπόθεση ερευνήθηκε εργαζόμενος της εταιρείας, ο οποίος φέρεται να είχε τοποθετήσει τις συσκευές.

Η OpenAI διευκρίνισε ότι δεν υπήρχαν ενδείξεις πως αποκτήθηκε πρόσβαση στα βάρη των μοντέλων της, στον πηγαίο κώδικα ή σε δεδομένα πελατών.

Παράλληλα, ομάδα ειδικών κυβερνοασφάλειας κατάφερε να εντοπίσει τρόπο πρόσβασης σε λογαριασμούς ChatGPT εργαζομένων της εταιρείας μέσα σε περίπου 72 ώρες, αποκαλύπτοντας πρόσθετες αδυναμίες στην προστασία των εσωτερικών πληροφοριών.

Η Anthropic παραβιάστηκε σε λιγότερο από 12 ώρες

Αντίστοιχο περιστατικό σημειώθηκε στην Anthropic, όπου ομάδα που συνδέεται με τη νεοφυή εταιρεία Cathedral φέρεται να απέκτησε πρόσβαση στα εσωτερικά συστήματα μέσα σε λιγότερο από 12 ώρες.

Μεταξύ των πληροφοριών που εκτέθηκαν περιλαμβάνονταν συνομιλίες στο Slack και απομαγνητοφωνήσεις συσκέψεων.

Τα συγκεκριμένα δεδομένα θα μπορούσαν να αποκαλύψουν λεπτομέρειες για την εσωτερική λειτουργία της εταιρείας, την εκπαίδευση των μοντέλων και την τεχνολογική της έρευνα.

Ο πρώην ερευνητής της OpenAI Ντάνιελ Κοκοτάιλο υποστηρίζει ότι τέτοιου είδους περιστατικά αποδεικνύουν πως οι κορυφαίες εταιρείες τεχνητής νοημοσύνης απέχουν ακόμη από το να διαθέτουν επαρκή προστασία απέναντι σε οργανωμένους κρατικούς μηχανισμούς.

Η κινεζική απειλή και η «απόσταξη» μοντέλων

Ένα ακόμη μέτωπο ανησυχίας αφορά την προσπάθεια αξιοποίησης αμερικανικών συστημάτων AI από κινεζικές εταιρείες.

Η λεγόμενη «απόσταξη» (distillation) επιτρέπει την εκπαίδευση ενός μοντέλου μέσω των αποτελεσμάτων ενός πιο προηγμένου συστήματος, δίνοντας τη δυνατότητα σε έναν ανταγωνιστή να αναπτύξει ισχυρές δυνατότητες χωρίς να χρειαστεί να επαναλάβει ολόκληρη τη διαδικασία από την αρχή.

Η Anthropic έχει υποστηρίξει ότι το κινεζικό εργαστήριο DeepSeek χρησιμοποίησε το Claude για να βελτιώσει τα δικά του μοντέλα, εντείνοντας τις ανησυχίες για τη μεταφορά τεχνογνωσίας προς την Κίνα.

Ο Κοκοτάιλο προειδοποιεί ότι οι αδυναμίες των εταιρειών μπορούν να αξιοποιηθούν από κρατικούς αντιπάλους με σημαντικούς οικονομικούς και τεχνολογικούς πόρους.

Παράλληλα, επισημαίνει ότι οι ίδιες οι αυτόνομες εφαρμογές τεχνητής νοημοσύνης μπορούν να αποτελέσουν εσωτερική απειλή, εάν καταφέρουν να παρακάμψουν τα περιβάλλοντα ασφαλείας στα οποία λειτουργούν.

Η κούρσα της AI πάνω από την κυβερνοασφάλεια

Ο Ντέιβιντ Ρόμπινσον, πρώην επικεφαλής δράσεων διαφάνειας στην ομάδα ασφαλείας της OpenAI, αποδίδει τα προβλήματα σε τρεις βασικούς παράγοντες: στις αυξανόμενες δυνατότητες των συστημάτων AI, στην εταιρική κουλτούρα και στην πίεση του ανταγωνισμού.

Οι εταιρείες αναπτύσσουν ολοένα πιο ικανούς αυτόνομους πράκτορες, οι οποίοι μπορούν να εκτελούν σύνθετες εργασίες, ακόμη και ενέργειες που σχετίζονται με κυβερνοεπιθέσεις.

Την ίδια στιγμή, η προσπάθεια να κυκλοφορήσουν ταχύτερα και ισχυρότερα μοντέλα δημιουργεί πίεση στις ομάδες που είναι επιφορτισμένες με την ασφάλεια.

Το πρόβλημα αποκτά ιδιαίτερη γεωπολιτική σημασία, καθώς οι ΗΠΑ και η Κίνα ανταγωνίζονται για την κυριαρχία στην τεχνητή νοημοσύνη.

Ο ερευνητής Πολ Κριστιάνο προειδοποίησε ότι μπορεί να προκύψει ένα εξαιρετικά δύσκολο δίλημμα: οι ΗΠΑ να κρίνουν πως η περαιτέρω ανάπτυξη της AI είναι επικίνδυνη και να επιδιώξουν να επιβραδύνουν, ενώ την ίδια στιγμή η Κίνα ενδέχεται να έχει ήδη αποκτήσει πρόσβαση στους κρίσιμους αλγορίθμους.

Έτσι, η προσπάθεια διατήρησης της αμερικανικής τεχνολογικής υπεροχής μπορεί να συγκρουστεί με την ανάγκη περιορισμού των κινδύνων.

Και τα περιστατικά από τη Nvidia, την OpenAI και την Anthropic δείχνουν ότι η προστασία των τεχνολογικών μυστικών αποτελεί πλέον ένα από τα μεγαλύτερα προβλήματα της παγκόσμιας κούρσας για την AI.