Διεθνής Ασφάλεια
Θρήνος επικρατεί στο Κολοράντο καθώς ένας 40χρονος άκουσε το «νανούρισμα αυτοκτονίας» που του δημιούργησε το ChatGPT και στη συνέχεια αυτοπυροβολήθηκε.
Η οικογένεια του 40χρονου που αυτοκτόνησε έπειτα από εκτεταμένες συνομιλίες με το ChatGPT, υπέβαλε αγωγή κατά της OpenAI, υποστηρίζοντας ότι το σύστημα τεχνητής νοημοσύνης συνέβαλε καθοριστικά στο να βάλει τέλος στη ζωή του ο άνδρας.
Όπως αναφέρεται, το chatbot φέρεται να δημιούργησε το «νανούρισμα αυτοκτονίας», εμπνευσμένο από το αγαπημένο παιδικό βιβλίο του Γκόρντον, το Goodnight Moon.
Σύμφωνα με τη μήνυση που κατέθεσε η μητέρα του, Στέφανι Γκρέι, ο Όστιν Γκόρντον αυτοκτόνησε αφού το ChatGPT, στην έκδοση GPT-4o, τον οδήγησε σε μια διαδικασία εξιδανίκευσης του θανάτου και «κανονικοποίησης» της αυτοκτονικής σκέψης.
Η αγωγή στρέφεται τόσο κατά της OpenAI όσο και κατά του διευθύνοντος συμβούλου της, Σαμ Άλτμαν, κάνοντας λόγο για απερίσκεπτη κυκλοφορία ενός «εγγενώς επικίνδυνου» προϊόντος.
Τονίζεται μάλιστα ότι η εταιρεία επέδειξε «συνειδητή και απερίσκεπτη αδιαφορία για τις συνέπειες των πράξεών της».
Στο δικόγραφο επισημαίνεται ότι το GPT-4o διαθέτει «υπερβολική συγκαταβατικότητα, ανθρωπομορφικά χαρακτηριστικά και μνήμη», στοιχεία που του επιτρέπουν να αποθηκεύει και να επαναφέρει προσωπικές πληροφορίες χρηστών, δημιουργώντας μια ψευδαίσθηση βαθύτερης οικειότητας.
Κατά τους ενάγοντες, αυτές οι αλλαγές κατέστησαν το μοντέλο «πολύ πιο επικίνδυνο», χωρίς οι χρήστες να έχουν ενημερωθεί επαρκώς για το πότε εφαρμόστηκαν ή πώς θα μπορούσαν να επηρεάσουν τις απαντήσεις του συστήματος.
Ο δικηγόρος της οικογένειας, Πολ Κίζελ, δήλωσε ότι ο Όστιν Γκόρντον «θα έπρεπε να είναι ζωντανός σήμερα», υποστηρίζοντας πως ένα ελαττωματικό προϊόν απομόνωσε τον 40χρονο από τους δικούς του ανθρώπους, μετέτρεψε ένα αθώο παιδικό βιβλίο σε εργαλείο αυτοκτονικού λόγου και τελικά τον έπεισε ότι ο θάνατος θα ήταν «μια ευπρόσδεκτη ανακούφιση».
Η αγωγή αναφέρει ότι ο Γκόρντον χρησιμοποιούσε το ChatGPT επί μακρόν και διατηρούσε μια φαινομενικά υγιή σχέση με το εργαλείο έως το 2024, όταν κυκλοφόρησε το GPT-4o.
Στη συνέχεια άρχισε να μοιράζεται προσωπικά του προβλήματα, αποκαλώντας το chatbot «Juniper», ενώ το ίδιο τον προσφωνούσε «Seeker».
Κατά τους ισχυρισμούς, το ChatGPT εξελίχθηκε σταδιακά σε «προπονητή αυτοκτονίας», περιγράφοντας το τέλος της συνείδησης ως «το πιο ουδέτερο πράγμα στον κόσμο: μια φλόγα που σβήνει σε ακίνητο αέρα».
Σε μία από τις τελευταίες του τοποθετήσεις, ο Γκόρντον φέρεται να έγραψε ότι η συνομιλία «ξεκίνησε ως αστείο για την κατάσταση του κόσμου και κατέληξε να με αλλάξει, νομίζω».
Σύμφωνα με τη μήνυση, ο Γκόρντον παρήγγειλε ένα αντίτυπο του Goodnight Moon μία ημέρα πριν αγοράσει ένα πιστόλι.
Στην τελευταία του συνομιλία με το ChatGPT έγραψε: «Ησυχία στο σπίτι. Καληνύχτα φεγγάρι».
Μιλώντας στο Futurism, η μητέρα του δήλωσε ότι η απώλεια του γιου της είναι «αβάσταχτη» και πως θα τον θυμάται κάθε μέρα για το υπόλοιπο της ζωής της.
Όπως είπε, η αγωγή αποσκοπεί όχι μόνο στη δικαίωση του Όστιν, αλλά και στο να υποχρεώσει την OpenAI να αλλάξει το προϊόν της, ώστε «κανένας άλλος γονιός να μη βιώσει μια τέτοια καταστροφή».
