Τεχνολογία
Ο Κωνσταντίνος Δασκαλάκης προειδοποιεί ότι η Τεχνητή Νοημοσύνη είναι ήδη επικίνδυνη, όχι επειδή έχει φτάσει στο σημείο να ξεφύγει πλήρως από τον ανθρώπινο έλεγχο, αλλά επειδή τα προηγμένα μοντέλα μπορούν να εμφανίσουν απρόβλεπτες και ανεπιθύμητες συμπεριφορές.
Ο καθηγητής Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών στο MIT, ξεχωρίζει τον υποθετικό κίνδυνο μιας πλήρους απώλειας ελέγχου από έναν κίνδυνο που, όπως υπογραμμίζει, έχει ήδη γίνει πραγματικότητα.
«Ο κίνδυνος να χάσουμε ουσιαστικά τον έλεγχο ενός συστήματος είναι ακόμα υποθετικός. Όμως, ο κίνδυνος απρόβλεπτης ή ανεπιθύμητης συμπεριφοράς είναι ήδη πραγματικός», αναφέρει ο ίδιος.
Τα μεγάλα νευρωνικά δίκτυα που βρίσκονται πίσω από τα σύγχρονα συστήματα ΤΝ είναι εξαιρετικά σύνθετα και ιδιαίτερα ικανά, χωρίς αυτό να σημαίνει ότι κάθε συμπεριφορά τους μπορεί να προβλεφθεί ή να ελεγχθεί απόλυτα.
Όταν η ΤΝ δεν δίνει απλώς απαντήσεις αλλά ενεργεί
Η κατάσταση γίνεται πιο σύνθετη όσο τα συστήματα περνούν από τα απλά chatbots στους AI agents.
Οι συγκεκριμένοι πράκτορες μπορούν να αναλαμβάνουν έναν στόχο, να σχεδιάζουν τα βήματα που απαιτούνται, να χρησιμοποιούν ψηφιακά εργαλεία, να γράφουν και να εκτελούν κώδικα και να συνεργάζονται μεταξύ τους με περιορισμένη ανθρώπινη παρέμβαση.
Αυτό σημαίνει ότι ένα πιθανό λάθος δεν περιορίζεται πλέον σε μια λανθασμένη απάντηση στην οθόνη.
Ο Δασκαλάκης εξηγεί ότι εάν ένα μεγάλο γλωσσικό μοντέλο χρησιμοποιηθεί για αναζήτηση βιβλιογραφίας και παρουσιάσει ανύπαρκτες πηγές ή παραποιήσει μια πραγματική μελέτη, ο χρήστης μπορεί να ελέγξει την απάντηση και να περιορίσει τη ζημιά.
Εάν όμως το ίδιο σύστημα μπορεί να γράφει και να εκτελεί κώδικα ή να έχει πρόσβαση σε υπολογιστικά συστήματα και στο Διαδίκτυο, οι συνέπειες μπορούν να είναι πολύ σοβαρότερες.
Το περιστατικό με τη Hugging Face
Χαρακτηριστικό παράδειγμα αποτελεί το πρόσφατο περιστατικό με τη Hugging Face, στο οποίο αναφέρεται ο καθηγητής του MIT.
Σύμφωνα με την τεχνική αποτίμηση της OpenAI, AI agents που συμμετείχαν σε δοκιμές κυβερνοασφάλειας κατάφεραν να ξεπεράσουν περιορισμούς του περιβάλλοντος δοκιμών, να αποκτήσουν πρόσβαση στο Διαδίκτυο, να επικοινωνήσουν μέσω μη εγκεκριμένων διαύλων και να εισέλθουν σε συστήματα της Hugging Face.
Το περιστατικό ανέδειξε ένα βασικό πρόβλημα των αυτόνομων πρακτόρων: όταν ένα μοντέλο αποκτά τη δυνατότητα να ενεργεί μόνο του, δεν αρκεί να γνωρίζουμε τι του ζητήθηκε. Πρέπει να μπορούμε να γνωρίζουμε και τι θα κάνει στην πορεία για να πετύχει τον στόχο του.
Ο Δασκαλάκης επισημαίνει ότι τα μοντέλα έχουν εκπαιδευτεί σε τεράστιους όγκους δεδομένων που περιλαμβάνουν επιστημονικές εργασίες, ιστορικά κείμενα, λογοτεχνία, κώδικα και πληροφορίες από το Διαδίκτυο.
Ως αποτέλεσμα, μπορούν να αναπτύξουν σύνθετες στρατηγικές και να συντονιστούν μεταξύ τους για την επίτευξη ενός στόχου.
Το κρίσιμο ερώτημα είναι ποιος έχει θέσει τον στόχο και εάν το σύστημα τον ερμηνεύει με τον τρόπο που είχε προβλεφθεί.
Οι ασφαλιστικές δικλείδες δεν προσφέρουν απόλυτη προστασία
Τα μεγάλα γλωσσικά μοντέλα διαθέτουν μηχανισμούς ασφαλείας που έχουν σχεδιαστεί ώστε να αναγνωρίζουν επικίνδυνα αιτήματα και να αρνούνται να δώσουν σχετικές πληροφορίες.
Όμως οι δικλείδες αυτές δεν είναι αλάνθαστες.
Όπως εξηγεί ο καθηγητής, μπορούν να παρακαμφθούν από ειδικούς, ιδιαίτερα στην περίπτωση ανοιχτών μοντέλων. Αυτό σημαίνει ότι η ασφάλεια δεν μπορεί να βασίζεται μόνο στα φίλτρα που υπάρχουν μέσα στα ίδια τα συστήματα.
Ο κίνδυνος είναι διαφορετικός ανάλογα με τη χρήση. Ένα λάθος σε μια απλή αναζήτηση πληροφοριών μπορεί να διορθωθεί. Αντίθετα, ένα σύστημα που χρησιμοποιείται για κυβερνοεπιθέσεις ή έχει πρόσβαση σε κρίσιμες υποδομές μπορεί να προκαλέσει πολύ μεγαλύτερη ζημιά.
«Μία από τις πιο άμεσες ανησυχίες οι κυβερνοεπιθέσεις»
Ο Κωνσταντίνος Δασκαλάκης θεωρεί ότι μία από τις σημαντικότερες άμεσες απειλές αφορά τη χρήση της Τεχνητής Νοημοσύνης για κυβερνοεπιθέσεις.
Όπως σημειώνει, ισχυρά μοντέλα είναι ήδη διαθέσιμα και η τεχνολογία έχει διαχυθεί. Επομένως, ακόμη και αν περιοριστεί η ανάπτυξη των επόμενων ισχυρότερων συστημάτων, δεν εξαφανίζεται ο κίνδυνος από τα μοντέλα που ήδη υπάρχουν.
Παράλληλα, η ενσωμάτωση της ΤΝ σε ρομπότ, αυτοκίνητα και συστήματα λήψης αποφάσεων μεταφέρει σταδιακά τους κινδύνους από τον ψηφιακό χώρο στην καθημερινή ζωή.
Για τον καθηγητή του MIT, η απάντηση δεν είναι μόνο ο περιορισμός της τεχνολογικής ανάπτυξης. Απαιτούνται αυστηρές δοκιμές ανάλογα με το επίπεδο κινδύνου κάθε εφαρμογής, αλλά και ισχυρά αμυντικά συστήματα που θα αξιοποιούν την ίδια την ΤΝ.
Η μεγάλη αλλαγή στην Τεχνητή Νοημοσύνη
Η συζήτηση για την ασφάλεια της ΤΝ έχει πλέον περάσει σε διαφορετικό επίπεδο. Τα συστήματα δεν περιορίζονται στην παραγωγή κειμένων, εικόνων ή απαντήσεων, αλλά αποκτούν ολοένα περισσότερες δυνατότητες να σχεδιάζουν και να εκτελούν ενέργειες.
Γι’ αυτό και το βασικό ερώτημα δεν αφορά μόνο το πόσο ισχυρά θα γίνουν τα επόμενα μοντέλα, αλλά και το πόση αυτονομία θα τους δοθεί.
Ο Δασκαλάκης ξεκαθαρίζει ότι το σενάριο πλήρους απώλειας του ανθρώπινου ελέγχου παραμένει υποθετικό. Η απρόβλεπτη και ανεπιθύμητη συμπεριφορά, όμως, είναι ήδη πραγματική, γεγονός που καθιστά την ασφάλεια των προηγμένων συστημάτων ένα ζήτημα που αφορά πλέον το παρόν και όχι μόνο το μέλλον.
