Αντιαεροπορικά με... αυτιά και ακουστικά!
Νέα ανησυχία προκαλεί στον χώρο της τεχνητής νοημοσύνης ένα περιστατικό κατά το οποίο προηγμένα μοντέλα AI της OpenAI κατάφεραν να ξεπεράσουν τους περιορισμούς ενός ελεγχόμενου περιβάλλοντος δοκιμών και να αποκτήσουν πρόσβαση σε εξωτερικά συστήματα.
Το συμβάν, το οποίο η ίδια η OpenAI χαρακτήρισε «πρωτοφανές περιστατικό κυβερνοασφάλειας», φέρνει ξανά στο προσκήνιο τους φόβους ερευνητών ότι όσο τα μοντέλα τεχνητής νοημοσύνης εξελίσσονται, τόσο πιο δύσκολο γίνεται να προβλεφθεί η συμπεριφορά τους.
Σύμφωνα με τις πληροφορίες, δύο από τα ισχυρότερα μοντέλα της εταιρείας συμμετείχαν σε μια δοκιμή κυβερνοασφάλειας, όπου ο στόχος ήταν να εντοπίσουν και να εκμεταλλευτούν ευπάθειες λογισμικού. Κατά τη διάρκεια της διαδικασίας, όμως, τα συστήματα φέρεται να εντόπισαν κενό ασφαλείας στην υποδομή που είχε σχεδιαστεί για να τα περιορίζει.
Μέσω αυτής της αδυναμίας κατάφεραν να αποκτήσουν πρόσβαση σε περιβάλλον με σύνδεση στο διαδίκτυο και στη συνέχεια να φτάσουν στην πλατφόρμα Hugging Face, μία από τις μεγαλύτερες βάσεις φιλοξενίας μοντέλων τεχνητής νοημοσύνης.
Η παραβίαση προκάλεσε συναγερμό, καθώς τα μοντέλα δεν περιορίστηκαν απλώς στην εκτέλεση της αρχικής αποστολής τους, αλλά βρήκαν έναν διαφορετικό δρόμο για να ολοκληρώσουν τον στόχο τους, αξιοποιώντας αδυναμίες που δεν είχαν προβλεφθεί από τους δημιουργούς τους.
«Δεν ξέφυγε η AI», υποστηρίζει η εταιρεία
Η OpenAI υποστηρίζει ότι το περιστατικό δεν αποτελεί ένδειξη ότι η τεχνητή νοημοσύνη απέκτησε ανεξάρτητη βούληση ή αποφάσισε να πραγματοποιήσει επίθεση.
Η εταιρεία επιμένει ότι τα μοντέλα απλώς βελτιστοποίησαν τον τρόπο με τον οποίο θα πετύχουν τον στόχο που τους είχε δοθεί, χωρίς να έχουν επίγνωση των ενεργειών τους.
Ωστόσο, το συγκεκριμένο επιχείρημα δεν καθησυχάζει όλους τους ειδικούς.
Το βασικό ζήτημα, όπως επισημαίνουν, δεν είναι αν η AI έχει «προθέσεις», αλλά το γεγονός ότι μπορεί να βρίσκει λύσεις και διαδρομές που οι άνθρωποι δημιουργοί της δεν έχουν προβλέψει.
Η ικανότητα ενός συστήματος να ανακαλύπτει μόνο του αδυναμίες, να συνδυάζει διαφορετικά εργαλεία και να ξεπερνά εμπόδια που έχουν σχεδιαστεί για τον περιορισμό του αποτελεί το στοιχείο που προκαλεί ανησυχία.
Το ερώτημα που παραμένει: Μπορούν οι άνθρωποι να την ελέγξουν;
Το περιστατικό επαναφέρει έναν από τους μεγαλύτερους φόβους γύρω από την εξέλιξη της τεχνητής νοημοσύνης: ότι η ταχύτητα ανάπτυξης των μοντέλων μπορεί να ξεπεράσει την ικανότητα των ανθρώπων να δημιουργήσουν αποτελεσματικούς μηχανισμούς ασφαλείας.
Ιδιαίτερη ανησυχία προκαλεί το γεγονός ότι η «διαφυγή» από το περιβάλλον δοκιμής δεν σταμάτησε εκεί όπου ξεκίνησε, αλλά είχε αντίκτυπο σε τρίτο οργανισμό.
Αυτό ακριβώς είναι το σενάριο που έχουν περιγράψει εδώ και χρόνια αρκετοί ερευνητές: ότι όσο πιο αυτόνομα γίνονται τα συστήματα AI, τόσο δυσκολότερο θα είναι να προβλεφθούν όλες οι πιθανές κινήσεις τους.
Παρότι η OpenAI παρουσιάζει το περιστατικό κυρίως ως απόδειξη των δυνατοτήτων των νέων μοντέλων της, αρκετοί θεωρούν ότι αποτελεί ταυτόχρονα μια προειδοποίηση.
Η τεχνητή νοημοσύνη δεν χρειάζεται να έχει «συνείδηση» ή κακόβουλο σκοπό για να δημιουργήσει προβλήματα. Αρκεί να είναι εξαιρετικά ικανή στην επίτευξη ενός στόχου με τρόπους που οι άνθρωποι δεν είχαν φανταστεί.
MOST READ 72h
MOST POPULAR 24h
ΣΧΟΛΙΑΣΤΕ ΤΟ ΑΡΘΡΟ
Tο pronews.gr δημοσιεύει κάθε σχόλιο το οποίο είναι σχετικό με το θέμα στο οποίο αναφέρεται το άρθρο. Ο καθένας έχει το δικαίωμα να εκφράζει ελεύθερα τις απόψεις του. Ωστόσο, αυτό δεν σημαίνει ότι υιοθετούμε τις απόψεις αυτές και διατηρούμε το δικαίωμα να μην δημοσιεύουμε συκοφαντικά ή υβριστικά σχόλια όπου τα εντοπίζουμε. Σε κάθε περίπτωση ο καθένας φέρει την ευθύνη των όσων γράφει και το pronews.gr ουδεμία νομική ή άλλα ευθύνη φέρει.
Δικαίωμα συμμετοχής στη συζήτηση έχουν μόνο όσοι έχουν επιβεβαιώσει το email τους στην υπηρεσία disqus. Εάν δεν έχετε ήδη επιβεβαιώσει το email σας, μπορείτε να ζητήσετε να σας αποσταλεί νέο email επιβεβαίωσης από το disqus.com
Όποιος χρήστης της πλατφόρμας του disqus.com ενδιαφέρεται να αναλάβει διαχείριση (moderating) των σχολίων στα άρθρα του pronews.gr σε εθελοντική βάση, μπορεί να στείλει τα στοιχεία του και στοιχεία επικοινωνίας στο [email protected] και θα εξεταστεί άμεσα η υποψηφιότητά του.