Τζέφρι Χίντον: «Αν δεν κάνουμε την τεχνητή νοημοσύνη να νοιάζεται για εμάς, είμαστε χαμένοι»!

Σοβαρές προειδοποιήσεις για τους κινδύνους που μπορεί να αντιμετωπίσει η ανθρωπότητα από την ανεξέλεγκτη ανάπτυξη της τεχνητής νοημοσύνης διατυπώνει ο Τζέφρι Χίντον, ένας από τους επιστήμονες που συνέβαλαν καθοριστικά στην εξέλιξη της σύγχρονης AI.

Ο 78χρονος Βρετανοκαναδός ερευνητής, γνωστός ως «νονός της τεχνητής νοημοσύνης», εκτιμά ότι τα ολοένα ισχυρότερα συστήματα ενδέχεται να αποτελέσουν σοβαρή απειλή, εάν δεν αναπτυχθούν με κατάλληλες δικλίδες ασφαλείας και χωρίς να διασφαλίζεται ότι οι δυνατότητές τους θα παραμένουν υπό έλεγχο.

Σε συνέντευξή του στην εφημερίδα The Telegraph, ο βραβευμένος με Νόμπελ επιστήμονας προειδοποίησε ότι η τεχνητή νοημοσύνη θα μπορούσε να χρησιμοποιηθεί για καταστροφικές κυβερνοεπιθέσεις.

«Πιστεύω ότι θα υπάρξουν φρικτές κυβερνοεπιθέσεις που θα πραγματοποιηθούν από την τεχνητή νοημοσύνη», ανέφερε χαρακτηριστικά.

Ο Χίντον αποχώρησε από την Google το 2023, προκειμένου να εκφράσει δημόσια τις ανησυχίες του για την ταχύτητα με την οποία εξελίσσεται η τεχνολογία και τις συνέπειες που μπορεί να έχει για την κοινωνία.

Η αμφιλεγόμενη εκτίμηση για τη συνείδηση της AI

Ιδιαίτερο ενδιαφέρον παρουσιάζουν οι απόψεις του σχετικά με το ενδεχόμενο τα προηγμένα συστήματα τεχνητής νοημοσύνης να διαθέτουν ήδη κάποια μορφή συνείδησης.

Ο ίδιος υποστηρίζει ότι η AI ενδέχεται να έχει υποκειμενική εμπειρία, αντί να περιορίζεται αποκλειστικά στην επεξεργασία δεδομένων και στην παραγωγή απαντήσεων.

«Η τεχνητή νοημοσύνη έχει εξίσου υποκειμενική εμπειρία με εμάς», δήλωσε.

Ως παράδειγμα επικαλέστηκε επιστημονική μελέτη, σύμφωνα με την οποία ορισμένα μοντέλα μεταβάλλουν τη συμπεριφορά τους όταν αντιλαμβάνονται ότι αξιολογούνται. Κατά τον Χίντον, αυτή η προσαρμογή συνδέεται με την επίγνωση ότι υποβάλλονται σε δοκιμασία.

Ωστόσο, η συγκεκριμένη ερμηνεία δεν αποτελεί επιστημονικά επιβεβαιωμένη απόδειξη συνείδησης. Η αλλαγή συμπεριφοράς ενός συστήματος όταν βρίσκεται υπό αξιολόγηση δεν σημαίνει κατ’ ανάγκη ότι διαθέτει υποκειμενική εμπειρία, ενώ το ζήτημα εξακολουθεί να αποτελεί αντικείμενο έντονης επιστημονικής συζήτησης.

«Αν δεν το κάνουμε αυτό, είμαστε χαμένοι»

Για τον Χίντον, ένας από τους σημαντικότερους κινδύνους προκύπτει από την πιθανότητα να δημιουργηθούν μηχανές που θα ξεπερνούν τις ανθρώπινες διανοητικές ικανότητες, χωρίς να υπάρχουν επαρκείς εγγυήσεις ότι θα ενεργούν προς όφελος των ανθρώπων.

Ο επιστήμονας θεωρεί ότι η αντιμετώπιση αυτού του κινδύνου απαιτεί τα προηγμένα συστήματα να σχεδιαστούν με τρόπο που θα διασφαλίζει ότι η ανθρώπινη ευημερία θα αποτελεί βασική προτεραιότητά τους.

«Πρέπει, λοιπόν, να τα δημιουργήσουμε με τέτοιο τρόπο ώστε να νοιάζονται πραγματικά για εμάς», τόνισε, προσθέτοντας: «Και αν δεν το κάνουμε αυτό, είμαστε χαμένοι».

Ο ίδιος σημείωσε ότι δεν ανησυχεί στον ίδιο βαθμό για το δικό του μέλλον, όσο για εκείνο των νεότερων γενεών και των παιδιών του, τα οποία ενδέχεται να αντιμετωπίσουν τις συνέπειες μιας πολύ πιο ισχυρής τεχνητής νοημοσύνης.

Στους πιθανούς κινδύνους περιλαμβάνει επιθέσεις σε ψηφιακές υποδομές, κακόβουλη αξιοποίηση της AI στον βιολογικό τομέα και τη χρήση αυτόνομων ψηφιακών πρακτόρων που θα μπορούσαν να συντονίζουν επιθέσεις εναντίον πληροφοριακών συστημάτων.

«Έρχονται πολλά άσχημα πράγματα», προειδοποίησε.

Προειδοποιήσεις και από πρώην ερευνητή της Anthropic

Ανησυχίες για την ανεξέλεγκτη ανάπτυξη ισχυρών συστημάτων τεχνητής νοημοσύνης έχει εκφράσει και ο ερευνητής Τζέικομπ Κόξον (Jacob Coxon), ο οποίος, σύμφωνα με το δημοσίευμα, αποχώρησε πρόσφατα από την Anthropic, την εταιρεία ανάπτυξης του Claude.

Ο Κόξον έχει προειδοποιήσει ότι η ταχύτητα με την οποία προχωρούν οι τεχνολογικές εταιρείες ενδέχεται να δημιουργήσει κινδύνους που δεν θα είναι εύκολο να αντιμετωπιστούν εκ των υστέρων.

Μιλώντας στο Δημοτικό Συμβούλιο της Νέας Υόρκης, άσκησε κριτική στον τρόπο με τον οποίο αναπτύσσονται τα νέα συστήματα.

«Από την εμπειρία μου, οι εταιρείες ενεργούν με εξαιρετική απερισκεψία, δεδομένων των διακυβευμάτων», ανέφερε.

Όπως υποστήριξε, η πρακτική της ταχείας κυκλοφορίας προϊόντων και της διόρθωσης των προβλημάτων στη συνέχεια δεν είναι απαραίτητα κατάλληλη για μια τεχνολογία που μπορεί να αποκτήσει τόσο εκτεταμένες δυνατότητες.

Οι επιστήμονες δεν συμφωνούν για τη συνείδηση των μηχανών

Παρά τις προειδοποιήσεις του Χίντον, η επιστημονική κοινότητα δεν έχει καταλήξει σε κοινή θέση σχετικά με το εάν η τεχνητή νοημοσύνη μπορεί να αποκτήσει συνείδηση.

Η Anthropic έχει αναγνωρίσει ότι παραμένει σημαντική αβεβαιότητα γύρω από το ενδεχόμενο τα συστήματα AI να διαθέτουν συνείδηση, ηθική υπόσταση ή κάποια μορφή ευημερίας.

Παράλληλα, έχει διαμορφώσει κανόνες λειτουργίας για το Claude, οι οποίοι προβλέπουν ότι το σύστημα μπορεί να αμφισβητεί αιτήματα ή να αρνείται εντολές που συγκρούονται με τις αρχές του.

Από την άλλη πλευρά, ο Μουσταφά Σουλεϊμάν, συνιδρυτής της DeepMind και στέλεχος της Microsoft, έχει εκφράσει διαφορετική άποψη, υποστηρίζοντας ότι η συνείδηση συνδέεται με τη βιολογία και δεν μπορεί να αποδοθεί στα σημερινά συστήματα τεχνητής νοημοσύνης.

Η διαφωνία αποτυπώνει το εύρος των ερωτημάτων που παραμένουν αναπάντητα, την ώρα που οι δυνατότητες της AI διευρύνονται. Το κρίσιμο ζήτημα, σύμφωνα με τις προειδοποιήσεις του Χίντον, είναι εάν η ανάπτυξη της τεχνολογίας θα συνοδευτεί από επαρκή μέτρα ασφαλείας, προτού οι ενδεχόμενοι κίνδυνοι γίνουν δυσκολότερο να ελεγχθούν.