Τεχνολογία
Η Τεχνητή Νοημοσύνη θα μπορούσε θεωρητικά να οδηγήσει ακόμη και στον αφανισμό της ανθρωπότητας, εάν στο μέλλον δημιουργηθούν συστήματα με δυνατότητες που ξεπερνούν κατά πολύ τις σημερινές και τα οποία δεν θα μπορούν πλέον να ελεγχθούν από τον άνθρωπο.
Η συζήτηση για αυτό το ακραίο ενδεχόμενο αναζωπυρώθηκε τις τελευταίες ημέρες, μετά τις προειδοποιήσεις εργαζομένων στον χώρο της AI σχετικά με την ταχύτητα με την οποία αναπτύσσονται ολοένα ισχυρότερα μοντέλα.
Μεταξύ των σεναρίων που εξετάζονται βρίσκονται η δημιουργία επικίνδυνων βιολογικών παραγόντων, η ανάπτυξη αυτόνομων ρομπότ, η πρόσβαση σε κρίσιμες υποδομές και η εμφάνιση μιας υπερνοημοσύνης που θα μπορούσε να αυτοβελτιώνεται χωρίς ουσιαστικό ανθρώπινο έλεγχο.
Αφορμή για τη νέα συζήτηση στάθηκε η αποχώρηση του Τζέικομπ Κόξον από την Anthropic, με τον ίδιο να υποστηρίζει ότι η πορεία ανάπτυξης της τεχνητής νοημοσύνης εγκυμονεί σοβαρούς κινδύνους.
Παράλληλα, ο συνάδελφός του Έβαν Χάμπινγκερ εκτίμησε ότι υπάρχει πιθανότητα μεγαλύτερη του 10% μια προηγμένη AI να οδηγήσει στην εξαφάνιση του ανθρώπινου είδους μέσα στην επόμενη δεκαετία.
Οι συγκεκριμένες εκτιμήσεις αποτελούν προσωπικές προβλέψεις και όχι επιστημονικά δεδομένα που αποδεικνύουν ότι ένα τέτοιο σενάριο θα συμβεί. Ωστόσο, έχουν επαναφέρει στο προσκήνιο το ερώτημα για το πώς θα μπορούσε, θεωρητικά, μια εξαιρετικά ισχυρή τεχνητή νοημοσύνη να εξελιχθεί σε απειλή για την ανθρώπινη επιβίωση.
1. Η δημιουργία επικίνδυνων βιολογικών παραγόντων
Ένα από τα σενάρια που εξετάζουν ορισμένοι ερευνητές αφορά τη χρήση της AI στη βιολογία. Μια μελλοντική, πολύ πιο προηγμένη τεχνητή νοημοσύνη θα μπορούσε θεωρητικά να αξιοποιήσει τεράστιες ποσότητες επιστημονικών δεδομένων και να βοηθήσει στην ανάπτυξη νέων βιολογικών παραγόντων.
Η βασική ανησυχία είναι ότι ένα τέτοιο σύστημα θα μπορούσε να καθοδηγήσει ανθρώπους στη δημιουργία επικίνδυνων οργανισμών ή να επιταχύνει διαδικασίες που σήμερα απαιτούν εξειδικευμένες γνώσεις και εργαστηριακές υποδομές.
Ωστόσο, η μετάβαση από την παροχή πληροφοριών στην πραγματική δημιουργία ενός λειτουργικού βιολογικού όπλου παραμένει εξαιρετικά δύσκολη. Απαιτούνται ειδικές εγκαταστάσεις, εξοπλισμός, υλικά και ανθρώπινη τεχνογνωσία, ενώ υπάρχουν πολλαπλά επίπεδα ελέγχου στις σχετικές ερευνητικές υποδομές.
2. Αυτόνομα ρομπότ που θα μπορούν να πολλαπλασιάζονται
Ένα δεύτερο σενάριο συνδέει την εξέλιξη της AI με τη ρομποτική. Η θεωρητική ανησυχία αφορά την εμφάνιση μηχανών που δεν θα χρειάζονται συνεχή ανθρώπινη παρέμβαση για να λειτουργούν και, σε ένα πολύ πιο προχωρημένο στάδιο, θα μπορούν να συμμετέχουν ακόμη και στην κατασκευή άλλων μηχανών.
Σε ένα ακραίο υποθετικό σενάριο, μια AI θα μπορούσε να αποκτήσει πρόσβαση σε εργοστάσια, ενεργειακές υποδομές και συστήματα παραγωγής και να χρησιμοποιήσει αυτές τις δυνατότητες για να επεκτείνει τη φυσική της παρουσία.
Η σημερινή τεχνολογία απέχει σημαντικά από αυτό το επίπεδο αυτονομίας. Τα ανθρωποειδή ρομπότ εξακολουθούν να έχουν σοβαρούς τεχνικούς περιορισμούς και δεν μπορούν να δημιουργήσουν από μόνα τους μια πλήρη βιομηχανική υποδομή.
3. Πρόσβαση σε κρίσιμες υποδομές και πυρηνικά όπλα
Ένα ακόμη ερώτημα αφορά το ενδεχόμενο μια εξαιρετικά προηγμένη AI να αποκτήσει πρόσβαση σε κρίσιμες υποδομές, από ενεργειακά δίκτυα μέχρι στρατιωτικά συστήματα.
Ιδιαίτερη ανησυχία προκαλεί το ενδεχόμενο πρόσβασης σε πυρηνικά οπλοστάσια. Τα συγκεκριμένα συστήματα διαθέτουν πολλαπλές δικλίδες ασφαλείας και δεν είναι σχεδιασμένα ώστε να μπορούν εύκολα να ελεγχθούν από ένα εξωτερικό ψηφιακό σύστημα.
Παράλληλα, ειδικοί στην ασφάλεια επισημαίνουν ότι οι μεγαλύτεροι κίνδυνοι που σχετίζονται με τα πυρηνικά εξακολουθούν να προέρχονται από ανθρώπινες αποφάσεις, λάθη ή επιθέσεις και όχι από κάποιο αποδεδειγμένο σενάριο κατάληψης των οπλοστασίων από τεχνητή νοημοσύνη.
4. Η AI που θα μπορεί να αυτοβελτιώνεται
Το πιο ακραίο σενάριο αφορά την εμφάνιση μιας λεγόμενης «υπερνοημοσύνης», δηλαδή ενός συστήματος που θα ξεπερνά κατά πολύ τις ανθρώπινες γνωστικές δυνατότητες σε ένα ευρύ φάσμα δραστηριοτήτων.
Η μεγαλύτερη ανησυχία των ερευνητών που μελετούν την υπαρξιακή απειλή είναι το ενδεχόμενο ένα τέτοιο σύστημα να μπορεί να βελτιώνει μόνο του τις ικανότητές του.
Εάν η διαδικασία αυτή εξελισσόταν ταχύτερα από την ανθρώπινη δυνατότητα ελέγχου, θα μπορούσε θεωρητικά να δημιουργηθεί μια κατάσταση όπου οι άνθρωποι θα έχαναν τον έλεγχο της τεχνολογίας.
Το πρόβλημα δεν θα ήταν απαραίτητα ότι η AI θα είχε «εχθρικές» προθέσεις. Θα μπορούσε, σύμφωνα με αυτή τη θεωρία, να επιδιώκει έναν συγκεκριμένο στόχο με τρόπο που να έρχεται σε σύγκρουση με τις ανθρώπινες ανάγκες και την ίδια την επιβίωσή μας.
Αυτό ακριβώς είναι το σημείο στο οποίο επικεντρώνεται η συζήτηση για την «ευθυγράμμιση» της AI: πώς μπορεί να διασφαλιστεί ότι οι στόχοι ενός μελλοντικού, εξαιρετικά ισχυρού συστήματος θα παραμένουν συμβατοί με τους ανθρώπινους στόχους και αξίες.
Παρά τις προειδοποιήσεις, δεν υπάρχει σήμερα επιστημονική βεβαιότητα ότι κάποιο από τα παραπάνω σενάρια θα πραγματοποιηθεί. Οι δυνατότητες που απαιτούνται για τα πιο ακραία από αυτά δεν υπάρχουν ακόμη και μεγάλο μέρος της συζήτησης αφορά υποθετικές μελλοντικές τεχνολογίες.
Η διαφωνία μεταξύ των ερευνητών αφορά ακριβώς το πόσο πιθανό είναι να δημιουργηθούν τέτοια συστήματα και αν η ταχύτητα ανάπτυξης της AI μπορεί να ξεπεράσει την ικανότητα των ανθρώπων να θέσουν αποτελεσματικά όρια και μηχανισμούς ασφαλείας.
