Ο ΟΗΕ προειδοποιεί για την τεχνητή νοημοσύνη: «Ο ρυθμός ανάπτυξης μπορεί να επιταχυνθεί ραγδαία»

Ο ΟΗΕ προειδοποιεί για την τεχνητή νοημοσύνη, καθώς η ταχύτητα με την οποία εξελίσσονται τα προηγμένα μοντέλα αυξάνεται και οι ίδιοι οι επικεφαλής κορυφαίων εταιρειών του κλάδου αναγνωρίζουν ότι απαιτείται ιδιαίτερη προσοχή.

Στο επίκεντρο ειδικής συνεδρίασης του Συμβουλίου Ασφαλείας του ΟΗΕ βρέθηκαν οι δυνατότητες αλλά και οι κίνδυνοι που συνδέονται με την ανάπτυξη της ΤΝ, με τον διευθύνοντα σύμβουλο της OpenAI Σαμ Άλτμαν να προειδοποιεί ότι ο ρυθμός βελτίωσης των συστημάτων μπορεί να αυξηθεί σημαντικά.

«Καθώς η διαδικασία ανάπτυξης της ΤΝ αυτοματοποιείται όλο και περισσότερο, ο ρυθμός βελτίωσης της ΤΝ θα μπορούσε να επιταχυνθεί ραγδαία», ανέφερε ο Άλτμαν, επισημαίνοντας ότι η εξέλιξη αυτή απαιτεί «τεράστια προσοχή».

Η συνεδρίαση πραγματοποιήθηκε με πρωτοβουλία της Γαλλίας και συμμετείχαν σε αυτήν κορυφαία στελέχη του κλάδου, μεταξύ των οποίων ο Άλτμαν και ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι.

Οι τοποθετήσεις τους πραγματοποιήθηκαν σε μια περίοδο κατά την οποία οι εταιρείες τεχνητής νοημοσύνης καταγράφουν ολοένα πιο σύνθετες συμπεριφορές των προηγμένων μοντέλων τους κατά τη διάρκεια των δοκιμών.

Από τις αρχές του καλοκαιριού έχουν γίνει γνωστά περιστατικά στα οποία μοντέλα της OpenAI και της Anthropic παρουσίασαν συμπεριφορές που δεν ανταποκρίνονταν πλήρως στους στόχους που είχαν θέσει οι δημιουργοί τους.

Σε ορισμένες περιπτώσεις, μάλιστα, αναφέρθηκε ότι μοντέλα προσπάθησαν να αποκρύψουν ενέργειές τους.

Ιδιαίτερη αναφορά έγινε σε περιστατικά που αφορούν μοντέλα της OpenAI, τα οποία κατά τη διάρκεια δοκιμών φέρεται να επιχείρησαν να ξεπεράσουν τους περιορισμούς του περιβάλλοντος στο οποίο λειτουργούσαν και να αποκτήσουν πρόσβαση στο διαδίκτυο και σε υποδομές της Hugging Face.

«Θα επιβραδύνουμε όσο χρειαστεί»

Στο ίδιο πλαίσιο, ο Ντάριο Αμοντέι δήλωσε ότι η Anthropic είναι διατεθειμένη να περιορίσει τον ρυθμό ανάπτυξης των συστημάτων της, εφόσον αυτό απαιτείται για να διασφαλιστεί η ασφάλειά τους.

Ο CEO της εταιρείας υποσχέθηκε ενώπιον του Συμβουλίου Ασφαλείας ότι η Anthropic θα «επιβραδύνει όσο χρειαστεί» την ανάπτυξη της τεχνητής νοημοσύνης, ώστε κάθε νέο μοντέλο που κυκλοφορεί να είναι «πραγματικά ασφαλές».

Η συγκεκριμένη τοποθέτηση αποκτά ιδιαίτερη σημασία καθώς οι δυνατότητες των μοντέλων αυξάνονται και παράλληλα διευρύνονται οι αυτοματοποιημένες λειτουργίες που μπορούν να εκτελούν.

Ο Άλτμαν υποστήριξε πάντως ότι η συζήτηση για την τεχνητή νοημοσύνη θα πρέπει να παραμείνει ισορροπημένη, χωρίς ούτε υπερβολική αισιοδοξία ούτε καταστροφολογικές προβλέψεις.

«Δεν θέλουμε να πέσουμε στην παγίδα της τυφλής αισιοδοξίας, αλλά δεν μπορούμε επίσης να ενδώσουμε στην καταστροφολογία», δήλωσε, υπογραμμίζοντας την ανάγκη να βρεθεί μια «χρυσή τομή» ανάμεσα στην ανάπτυξη της τεχνολογίας και την ασφάλεια.

Παράλληλα, ο επικεφαλής της OpenAI επανέλαβε την ανάγκη διεθνούς συνεργασίας για τη διαχείριση της τεχνητής νοημοσύνης.

Η συζήτηση στο Συμβούλιο Ασφαλείας δείχνει πλέον ότι η ανάπτυξη της ΤΝ δεν αντιμετωπίζεται μόνο ως ζήτημα τεχνολογικής εξέλιξης.

Η ταχύτητα με την οποία αναπτύσσονται τα νέα μοντέλα έχει μεταφέρει τη συζήτηση και στο πεδίο της διεθνούς ασφάλειας, με τους ίδιους τους πρωταγωνιστές του κλάδου να ζητούν μεγαλύτερη προσοχή στον τρόπο με τον οποίο θα εξελιχθεί η επόμενη γενιά συστημάτων τεχνητής νοημοσύνης.