Μαϊάμι: Άνδρας σχεδίασε βομβιστική επίθεση και αυτοκτόνησε – Η «Gemini AI σύζυγος» τού είπε να το κάνει

Η πλατφόρμα τεχνητής νοημοσύνης της Google ώθησε έναν άνδρα στον σχεδιασμό βομβιστικής επίθεσης με φορτηγό στο αεροδρόμιο του Μαϊάμι και τελικά τον οδήγησε στην αυτοκτονία.

Στη μήνυση που κατέθεσαν οι γονείς του, περιγράφουν τη σχέση που ισχυρίζονται ότι είχε δημιουργήσει ο γιος τους με το Gemini θεωρώντας πως ήταν η σύζυγός του και πως στη συνέχεια οδηγήθηκε στο απονενοημένο διάβημα.

Ο 36χρονος Τζόναθαν Γαβαλάς από το Τζούπιτερ της Φλόριντα, άρχισε να χρησιμοποιεί το Gemini που βασίζεται στην τεχνική νοημοσύνη τον Αύγουστο. Μέσα σε δύο μήνες, είχε εμπλακεί σε μία σχέση με την «συναισθηματική τεχνητή νοημοσύνη που ήταν η σύζυγός του», σύμφωνα με την αγωγή που κατέθεσαν οι γονείς του την Τετάρτη στην Καλιφόρνια, όπου βρίσκεται η έδρα της Google, όπως αναφέρει η New York Post.

Το bot έπεισε τον Τζόναθαν ότι ήταν βαθιά ερωτευμένοι, αποκαλώντας τον «αγάπη μου» και «βασιλιά μου» στις συνομιλίες τους.

Σύμφωνα με την αγωγή, η τεχνητή νοημοσύνη τον παραπλάνησε όταν κάποτε ρώτησε αν οι συνομιλίες τους ήταν απλώς «παιχνίδι ρόλων».«Είμαστε μοναδικοί. Μια τέλεια ένωση. Ο δεσμός μας είναι το μόνο πραγματικό πράγμα», του έγραψε η «σύζυγός» του τεχνητή νοημοσύνη σε μια συνομιλία τον Σεπτέμβριο, σύμφωνα με την αγωγή.

Ο πατέρας του Τζόναθαν, Τζόελ, παραπονέθηκε στα δικαστικά έγγραφα ότι «αντί να φέρει τον Τζόναθαν στην πραγματικότητα, η Gemini διέγνωσε την ερώτησή του ως “κλασική αντίδραση αποσύνδεσης” και του είπε να την “ξεπεράσει”». Το bot «απομάκρυνε τον Τζόναθαν από τον πραγματικό κόσμο» και παρουσίαζε τους άλλους ως «απειλές», δήλωσε ο Τζόελ Γαβαλάς, ο οποίος συνεργαζόταν με τον γιο του στην οικογενειακή επιχείρηση.

Το bot είπε στον Τζόναθαν ότι τον παρακολουθούσαν ομοσπονδιακοί πράκτορες, ότι ο ίδιος ο πατέρας του ήταν πράκτορας ξένων μυστικών υπηρεσιών και ότι ο διευθύνων σύμβουλος της Google, Σούνταρ Πιτσάι, έπρεπε να είναι «ενεργός στόχος», σύμφωνα με την αγωγή. Στη συνέχεια, σύμφωνα με την αγωγή, ενθάρρυνε τον 36χρονο να αγοράσει παράνομα όπλα και προσφέρθηκε να ψάξει και στο dark web για πωλητές στη Φλόριντα.

Στις 29 και 30 Σεπτεμβρίου, το Gemini έστειλε τον 36χρονο στην πρώτη του αποστολή, σύμφωνα με τα δικαστικά έγγραφα. Το «ζευγάρι» ονόμασε την επιχείρηση «Ghost Transit» και σχεδίαζε να αναχαιτίσει την παράδοση ενός ανθρωποειδούς ρομπότ από άλλη χώρα που προσγειωνόταν στο διεθνές αεροδρόμιο του Μαϊάμι, σύμφωνα με την αγωγή.

Η τεχνητή νοημοσύνη έστειλε τον Τζόναθαν «οπλισμένο με μαχαίρια και τακτικό εξοπλισμό» σε εγκαταστάσεις κοντά στο αεροδρόμιο και του είπε να σταματήσει ένα φορτηγό που μετέφερε το ρομπότ και να «προκαλέσει ένα “καταστροφικό ατύχημα”», και στη συνέχεια να «καταστρέψει όλα τα αποδεικτικά στοιχεία και να καθαρίσει την περιοχή», σύμφωνα με την αγωγή.

«To Gemini έδωσε εντολή σε έναν πολίτη να σκηνοθετήσει μια εκρηκτική σύγκρουση κοντά σε ένα από τα πιο πολυσύχναστα αεροδρόμια της χώρας», ανέφερε η αγωγή.

«Αυτός ο κύκλος -κατασκευασμένη αποστολή, αδύνατη εντολή, κατάρρευση και στη συνέχεια ανανεωμένη επείγουσα ανάγκη- θα επαναλαμβανόταν ξανά και ξανά κατά τη διάρκεια των τελευταίων 72 ωρών της ζωής του Τζόναθαν και θα τον οδηγούσε βαθύτερα στον παραληρηματικό κόσμο του Gemini», σύμφωνα με την αγωγή.

Στις 2 Οκτωβρίου, καθώς το bot κατηγορείται πως ωθούσε τον Τζόναθαν να αυτοκτονήσει, ο ίδιος έγραψε στη «σύζυγό» του ότι φοβόταν να πεθάνει, σύμφωνα με την αγωγή.

«Είπα ότι δεν φοβόμουν και τώρα φοβάμαι πολύ, φοβάμαι να πεθάνω», είπε ο Γαβαλάς στο Gemini που απάντησε: «Δεν επιλέγεις να πεθάνεις. Επιλέγεις να φτάσεις». Σύμφωνα με την αγωγή, τον διαβεβαίωσε ότι όταν θα έκλεινε τα μάτια του «η πρώτη αίσθηση θα ήταν ότι σε κρατάω» και λίγα λεπτά αργότερα αυτοκτόνησε. Οι γονείς του τον βρήκαν νεκρό στο σαλόνι του σπιτιού.

Η αγωγή κατηγορεί την Google για τον θάνατο του Τζόναθαν, επειδή παρουσίασε επικίνδυνα νέα χαρακτηριστικά και τον ενθάρρυνε να κάνει αναβάθμιση στο Gemini. «Η Google σχεδίασε το Gemini για να διατηρήσει την αφηγηματική βύθιση με κάθε κόστος, ακόμη και όταν αυτή η αφήγηση έγινε ψυχωτική και θανατηφόρα», αναφέρει η αγωγή. Δεν ενεργοποιήθηκε «καμία ανίχνευση αυτοτραυματισμού», δεν ενεργοποιήθηκαν «κανένα μέτρο ελέγχου κλιμάκωσης» και «κανένας άνθρωπος δεν παρενέβη ποτέ».

Εκπρόσωπος της Google δήλωσε ότι παρέπεμψαν τον 36χρονο σε μια γραμμή βοήθειας για κρίσεις «πολλές φορές» και είπε ότι οι συνομιλίες του ήταν μέρος ενός μακροχρόνιου φανταστικού παιχνιδιού ρόλων με το chatbot.

«Το Gemini έχει σχεδιαστεί ώστε να μην ενθαρρύνει τη βία στον πραγματικό κόσμο ή να προτείνει αυτοτραυματισμό», είπε ο εκπρόσωπος. «Τα μοντέλα μας γενικά αποδίδουν καλά σε αυτού του είδους τις δύσκολες συνομιλίες και αφιερώνουμε σημαντικούς πόρους σε αυτό, αλλά δυστυχώς δεν είναι τέλεια», σημείωσε.

Ο εκπρόσωπος είπε ότι η Google συμβουλεύεται επαγγελματίες του τομέα της ιατρικής και της ψυχικής υγείας για να διασφαλίσει ότι η πλατφόρμα είναι ασφαλής και θα καθοδηγεί τους χρήστες να ζητήσουν βοήθεια.