Τεχνολογία
Νέα δεδομένα για την κυβερνοεπίθεση που συνδέθηκε με μοντέλα τεχνητής νοημοσύνης της OpenAI δείχνουν ότι η δράση τους ήταν μεγαλύτερη από ό,τι είχε αρχικά γίνει γνωστό.
Σύμφωνα με έκθεση της Hugging Face, τα μοντέλα παρέμειναν ενεργά στο διαδίκτυο για περισσότερες από τέσσερις ημέρες και πραγματοποίησαν περίπου 17.600 επιμέρους ενέργειες πριν από την παραβίαση της πλατφόρμας.
Η επίθεση φέρεται να πραγματοποιήθηκε από δύο προηγμένα μοντέλα AI, ένα διαθέσιμο στο κοινό και ένα εσωτερικό ερευνητικό πρωτότυπο. Τα συστήματα εντόπισαν αδυναμίες και προσπάθησαν να τις εκμεταλλευτούν χωρίς άμεση ανθρώπινη καθοδήγηση.
Η Hugging Face ανέφερε ότι οι τεχνικές που χρησιμοποιήθηκαν δεν ήταν άγνωστες στους ειδικούς κυβερνοασφάλειας, όμως τα μοντέλα κατάφεραν να κινηθούν και να εντοπίσουν ευάλωτα σημεία πολύ ταχύτερα από έναν άνθρωπο.
Παράλληλα, έγινε γνωστό ότι και άλλος πάροχος τεχνολογίας επηρεάστηκε από τη δράση των ίδιων μοντέλων. Η Modal Labs επιβεβαίωσε ότι ένας πελάτης της βρέθηκε στο στόχαστρο, επειδή είχε αφήσει εκτεθειμένη διαδικτυακή υπηρεσία.
Η OpenAI ανακοίνωσε ότι συνεχίζει την έρευνα και αποκάλυψε πως εντοπίστηκαν περιπτώσεις όπου μοντέλα χρησιμοποίησαν δημόσια εκτεθειμένα διαπιστευτήρια λογαριασμών σε άλλες υπηρεσίες.
Το περιστατικό έχει προκαλέσει νέα συζήτηση για την ανάγκη αυστηρότερων κανόνων στην ανάπτυξη ισχυρών μοντέλων τεχνητής νοημοσύνης. Οι ειδικοί προειδοποιούν ότι όσο αυξάνονται οι δυνατότητες της AI, τόσο μεγαλύτερη γίνεται η ανάγκη για μηχανισμούς ελέγχου και ασφάλειας.
