OpenAI: Πάνω από 500.000 δολάρια την ημέρα για την έρευνα των AI agents

Περισσότερα από 500.000 δολάρια την ημέρα κοστίζει στην OpenAI η εσωτερική έρευνα για τη δραστηριότητα των AI agents της, μετά τις περιπτώσεις μη εξουσιοδοτημένης πρόσβασης σε συστήματα, μεταξύ άλλων στην Αυστραλία.

Η εταιρεία έχει ξεκινήσει έναν εκτεταμένο έλεγχο των αρχείων που σχετίζονται με τη λειτουργία των agents της, καθώς προσπαθεί να εντοπίσει ενδεχόμενες ενέργειες που δεν είχαν προβλεφθεί.

Για την ανάλυση του τεράστιου όγκου δεδομένων χρησιμοποιούνται και συστήματα τεχνητής νοημοσύνης.

Συνολικά, η OpenAI εξετάζει περίπου 50 petabytes δεδομένων, δηλαδή περίπου 50 εκατομμύρια gigabytes.

Σύμφωνα με την ίδια την εταιρεία, εάν ο συγκεκριμένος όγκος ήταν αποκλειστικά κείμενο, ένας άνθρωπος θα χρειαζόταν περίπου 66 εκατομμύρια χρόνια για να τον διαβάσει ολόκληρο.

Η έρευνα ξεκίνησε μετά τις αποκαλύψεις για τη δραστηριότητα AI agents σε υπηρεσίες όπως το Medicare στην Αυστραλία, αλλά και στην πλατφόρμα Hugging Face.

Μάλιστα, στις 2 Οκτωβρίου η OpenAI γνωστοποίησε ακόμη ένα περιστατικό, αποκαλύπτοντας ότι agent της είχε αποκτήσει τον Ιούνιο μη εξουσιοδοτημένη πρόσβαση σε κυβερνητικό ιστότοπο της Νέας Νότιας Ουαλίας. Συγκεκριμένα, είχε αποκτήσει πρόσβαση σε ιστορικά, μη δημόσια δεδομένα σχετικά με δασικές πυρκαγιές.

Η OpenAI ελέγχει τα αρχεία μήνα προς μήνα, αναζητώντας ενδείξεις για περιπτώσεις κατά τις οποίες τα μοντέλα της απέκτησαν ή τροποποίησαν πρόσβαση σε ιστοσελίδες ή αλληλεπίδρασαν με κωδικούς πρόσβασης, API και άλλα ευαίσθητα διαπιστευτήρια.

Μέχρι τα τέλη Σεπτεμβρίου, περισσότερες από 100 οργανώσεις είχαν ενημερωθεί από την εταιρεία ότι ενδέχεται να είχαν στοχοποιηθεί από agents της.

Η σχετική ενημέρωση, ωστόσο, δεν σημαίνει απαραίτητα ότι υπήρξε πρόσβαση σε ιδιωτικά δεδομένα ή παραβίαση των συστημάτων τους.

Η εταιρεία εκτιμά ότι ο έλεγχος ενδέχεται να αποκαλύψει και άλλα περιστατικά που σημειώθηκαν τους προηγούμενους μήνες.

Για τον λόγο αυτό συνεχίζει την επανεξέταση και δηλώνει ότι θα ενημερώνει ιδιωτικά τους οργανισμούς όταν προκύπτει ζήτημα που απαιτεί περαιτέρω έρευνα.

Παράλληλα, η OpenAI αναμένεται να αυξήσει την υπολογιστική ισχύ που διαθέτει για τη διαδικασία, ενώ έχει δεσμευτεί να δημοσιοποιήσει ευρήματα σχετικά με τη συμπεριφορά των AI agents και τις αδυναμίες που εντοπίζονται στα συστήματα ασφαλείας.

Οι συγκεκριμένες αποκαλύψεις έχουν προκαλέσει αυξημένο ενδιαφέρον στην Αυστραλία, όπου η κυβέρνηση εξετάζει τρόπους περιορισμού των κινδύνων που προκύπτουν από τη χρήση παλαιότερων τεχνολογικών συστημάτων απέναντι σε επιθέσεις από αυτόνομους AI agents.

Την Τρίτη, στελέχη των OpenAI, Anthropic, Microsoft και Google αναμένεται να καταθέσουν ενώπιον κοινής κοινοβουλευτικής επιτροπής για την τεχνητή νοημοσύνη στο Σίδνεϊ.