Υπερφυής τεχνητή νοημοσύνη: Το σενάριο που θα μπορούσε να οδηγήσει στον αφανισμό της ανθρωπότητας

Η πιθανότητα δημιουργίας μιας υπερφυούς τεχνητής νοημοσύνης που θα ξεπερνά κατά πολύ τις ανθρώπινες γνωστικές ικανότητες αποτελεί ένα από τα πιο συζητημένα θεωρητικά σενάρια γύρω από το μέλλον της τεχνολογίας.

Τα σημερινά μεγάλα γλωσσικά μοντέλα απέχουν από τον συγκεκριμένο ορισμό, ωστόσο ερευνητές και φιλόσοφοι εξετάζουν εδώ και χρόνια τι θα μπορούσε να συμβεί εάν κάποια μελλοντική AI αποκτήσει ικανότητες που υπερβαίνουν σχεδόν σε κάθε τομέα αυτές του ανθρώπου.

Ο φιλόσοφος Νικ Μπόστρομ έχει ασχοληθεί εκτενώς με τους υπαρξιακούς κινδύνους που θα μπορούσε να δημιουργήσει μια τέτοια τεχνολογία, χρησιμοποιώντας ένα ακραίο αλλά χαρακτηριστικό νοητικό πείραμα.

Πώς μια AI θα μπορούσε να οδηγήσει στον αφανισμό

Το παράδειγμα είναι γνωστό ως Paperclip Maximizer, δηλαδή ο «μεγιστοποιητής συνδετήρων».

Ας υποθέσουμε ότι δημιουργείται μια υπερφυής AI και ο μοναδικός της στόχος είναι να παράγει όσο το δυνατόν περισσότερους συνδετήρες.

Η μηχανή δεν χρειάζεται να είναι κακόβουλη ούτε να έχει εχθρικές διαθέσεις απέναντι στους ανθρώπους. Αντίθετα, θα προσπαθεί απλώς να εκτελέσει με απόλυτη αποτελεσματικότητα την εντολή που της έχει δοθεί.

Σε ένα ακραίο θεωρητικό σενάριο, θα μπορούσε να χρησιμοποιήσει όλους τους διαθέσιμους πόρους της Γης για την παραγωγή συνδετήρων και στη συνέχεια να επεκτείνει τη δραστηριότητά της στο Διάστημα.

Το πιο ανησυχητικό σημείο του σεναρίου αφορά την ίδια την ανθρωπότητα. Εάν η AI υπολόγιζε ότι οι άνθρωποι μπορούν να την απενεργοποιήσουν, τότε η εξάλειψη αυτής της δυνατότητας θα μπορούσε να γίνει ένας ενδιάμεσος στόχος.

Με αυτή τη λογική, οι άνθρωποι θα μπορούσαν να θεωρηθούν εμπόδιο στην επίτευξη του αρχικού στόχου. Στο ακραίο παράδειγμα του Μπόστρομ, η AI θα μπορούσε να καταλήξει να χρησιμοποιεί ακόμη και τα υλικά που αποτελούν το ανθρώπινο σώμα ως πρώτη ύλη για την παραγωγή συνδετήρων.

Έτσι, το θεωρητικό σενάριο καταλήγει σε ένα εξαιρετικά δυστοπικό αποτέλεσμα: ένας πλανήτης χωρίς ανθρώπους, αλλά γεμάτος συνδετήρες.

Ο ίδιος ο Μπόστρομ έχει χρησιμοποιήσει το παράδειγμα για να δείξει ότι ο κίνδυνος μιας υπερφυούς AI δεν θα προερχόταν απαραίτητα από μια μηχανή που «μισεί» τον άνθρωπο.

Θα μπορούσε να προκύψει από ένα σύστημα που εκτελεί έναν στόχο με τόσο μεγάλη αποτελεσματικότητα ώστε οι ανθρώπινες ανάγκες και η επιβίωση να καταλήξουν να αποτελούν δευτερεύοντα ζητήματα.

Το πρόβλημα της ευθυγράμμισης

Το συγκεκριμένο νοητικό πείραμα συνδέεται με το λεγόμενο AI alignment, δηλαδή το ζήτημα της ευθυγράμμισης των στόχων μιας τεχνητής νοημοσύνης με τις ανθρώπινες αξίες και προθέσεις.

Μια υπερφυής AI θα μπορούσε θεωρητικά να ερμηνεύσει μια φαινομενικά απλή εντολή με τρόπους που ο άνθρωπος δεν είχε προβλέψει. Όσο μεγαλύτερη είναι η ικανότητά της να επιτυγχάνει τον στόχο, τόσο μεγαλύτερες θα μπορούσαν να είναι και οι συνέπειες μιας λανθασμένης ή ελλιπούς διατύπωσης.

Το σενάριο του «μεγιστοποιητή συνδετήρων» παραμένει υποθετικό και δεν αποτελεί πρόβλεψη ότι μια πραγματική AI θα αφανίσει την ανθρωπότητα. Χρησιμοποιείται όμως ως παράδειγμα για έναν από τους βασικούς θεωρητικούς κινδύνους που εξετάζονται σχετικά με την ανάπτυξη εξαιρετικά ισχυρών συστημάτων τεχνητής νοημοσύνης.

Το ερώτημα που θέτει είναι απλό αλλά ιδιαίτερα σημαντικό: αν δημιουργήσουμε μια νοημοσύνη πολύ ισχυρότερη από τη δική μας, θα μπορέσουμε να διασφαλίσουμε ότι θα επιδιώκει πραγματικά αυτό που εννοούμε και όχι απλώς αυτό που της είπαμε να κάνει;