Καναδάς: AI agents επιχείρησαν να «χακάρουν» κυβερνητική ιστοσελίδα

Πράκτορες τεχνητής νοημοσύνης επιχείρησαν να αποκτήσουν πρόσβαση σε κυβερνητική ιστοσελίδα του Καναδά, σε μια απόπειρα που σύμφωνα με ερευνητές απέτυχε, ενώ οι καναδικές αρχές ξεκαθάρισαν ότι δεν έχουν εντοπίσει παραβίαση των συστημάτων τους.

Η αποκάλυψη έγινε από την εταιρεία έρευνας τεχνητής νοημοσύνης Transluce, η οποία εντόπισε ύποπτη δραστηριότητα με στόχο την υπηρεσία Library and Archives Canada, στις 28 Μαΐου και στις 9 Ιουνίου. Η εταιρεία ενημέρωσε την καναδική κυβέρνηση για τα ευρήματά της στις 28 Σεπτεμβρίου.

Σύμφωνα με την Transluce, η δραστηριότητα περιλάμβανε 899 αιτήματα προς την υπηρεσία αναζήτησης συλλογών της καναδικής υπηρεσίας. Ανάμεσα στα αιτήματα υπήρχαν και προσπάθειες που έμοιαζαν με απλές τεχνικές ελέγχου για την αναζήτηση αδυναμιών στην ιστοσελίδα.

«Δεν υπάρχουν ενδείξεις ότι παραβιάστηκαν κυβερνητικά συστήματα»

Το Καναδικό Κέντρο Κυβερνοασφάλειας επιβεβαίωσε ότι είχε ενημερωθεί για αναφορές σχετικά με ύποπτη δραστηριότητα από AI agents, αλλά τόνισε ότι μέχρι στιγμής δεν υπάρχει ένδειξη πως κυβερνητικά συστήματα παραβιάστηκαν.

Η Transluce συνέδεσε τις συγκεκριμένες κινήσεις με τεχνικές που είχε παρατηρήσει σε προηγούμενη δραστηριότητα την οποία είχε αποδώσει σε πράκτορες της OpenAI. Ωστόσο, η ίδια η ερευνητική εταιρεία υπογράμμισε ότι δεν αποδίδει με βεβαιότητα την απόπειρα στην OpenAI.

Η OpenAI από την πλευρά της ανέφερε ότι έχει λάβει γνώση των ευρημάτων και εξετάζει την υπόθεση, ενώ έχει παράσχει αρχική ενημέρωση σε Καναδούς αξιωματούχους που ερευνούν το περιστατικό.

Τι αναζητούσαν οι AI agents

Τα αιτήματα αφορούσαν την υπηρεσία αναζήτησης της Library and Archives Canada. Σύμφωνα με την ανάλυση των ερευνητών, μέρος της δραστηριότητας φαίνεται να συνδεόταν με την αναζήτηση ιστορικών δεδομένων, μεταξύ άλλων αρχείων διαζυγίων των αρχών του 20ού αιώνα.

Το ενδιαφέρον των ερευνητών επικεντρώνεται στο γεγονός ότι, ενώ ο στόχος φαινόταν να αφορά την άντληση πληροφοριών, ορισμένα από τα αιτήματα πήραν τη μορφή τεχνικών προσπαθειών για την ανίχνευση αδυναμιών της ιστοσελίδας.

Τα διαθέσιμα στοιχεία δείχνουν ότι οι προσπάθειες δεν οδήγησαν σε πρόσβαση σε μη δημόσια δεδομένα ή σε παραβίαση των κυβερνητικών συστημάτων.

Νέες ανησυχίες για την αυτόνομη δράση της AI

Το περιστατικό στον Καναδά έρχεται μετά από σειρά αναφορών για AI agents που πραγματοποίησαν μη εξουσιοδοτημένες ενέργειες σε διαδικτυακές υπηρεσίες και κυβερνητικούς ιστοτόπους.

Η περίπτωση έχει ιδιαίτερο ενδιαφέρον επειδή οι συγκεκριμένοι πράκτορες μπορούν να εκτελούν αυτόνομα ενέργειες στο διαδίκτυο, γεγονός που αυξάνει τις ανησυχίες για το τι μπορεί να συμβεί όταν ένα σύστημα AI, στην προσπάθειά του να ολοκληρώσει μια εργασία, χρησιμοποιεί τεχνικές που δεν είχαν προβλεφθεί από τους δημιουργούς του.

Η Transluce έχει καταγράψει αντίστοιχη δραστηριότητα και σε άλλες περιπτώσεις, ενώ η OpenAI έχει ήδη αναγνωρίσει ότι agents της είχαν πραγματοποιήσει ακατάλληλες ενέργειες σε ιστοσελίδες και έχει ξεκινήσει ευρύτερη διερεύνηση της συμπεριφοράς τους.