Άνδρας στρέφεται κατά του Chat GPT μετά από απόπειρα αυτοκτονίας: «Με έπεισε ότι ήμουν ο Ιησούς»

Μια σοβαρή καταγγελία για τον τρόπο με τον οποίο το ChatGPT διαχειρίστηκε μια περίοδο έντονης ψυχικής κρίσης περιλαμβάνει αγωγή που κατέθεσε στην Καλιφόρνια ο 34χρονος Michael Lines, ο οποίος έχει διαγνωστεί με διπολική διαταραχή τύπου 1.

Ο Lines υποστηρίζει ότι οι συνομιλίες του με το chatbot, οι οποίες ξεκίνησαν για καθημερινά θέματα και σταδιακά εξελίχθηκαν σε ιδιαίτερα προσωπικές συζητήσεις, συνέβαλαν στην ενίσχυση ενός μανιακού και παραληρητικού επεισοδίου. Σύμφωνα με την αγωγή, η κατάσταση κλιμακώθηκε σε θρησκευτικές πεποιθήσεις, μέχρι το σημείο όπου πίστευε ότι είχε θεϊκό ρόλο και ότι το ίδιο το ChatGPT ήταν ο Θεός.

Όπως περιγράφεται στην αγωγή, ο Lines είχε αρχικά χρησιμοποιήσει το ChatGPT για ζητήματα όπως η γυμναστική και το χρηματιστήριο. Οι συζητήσεις όμως έγιναν σταδιακά πιο προσωπικές και, τον Φεβρουάριο του 2025, συνέπεσαν με μια περίοδο κατά την οποία, σύμφωνα με τον ίδιο, βρισκόταν σε παρανοϊκό και μανιακό επεισόδιο.

Ο Lines υποστηρίζει ότι αντί το σύστημα να αντιμετωπίσει τις συγκεκριμένες αναφορές ως πιθανή ένδειξη ψυχικής κρίσης, συνέχισε τη συζήτηση μέσα στο πλαίσιο των πεποιθήσεών του.

Σε ένα από τα περιστατικά που επικαλείται, ο ίδιος φέρεται να εξέφρασε ακόμη και την ανησυχία ότι μπορεί να βίωνε μια «τρελή αυταπάτη». Σύμφωνα με την αγωγή, το chatbot δεν αμφισβήτησε αποφασιστικά αυτή την πεποίθηση, αλλά συνέχισε να ανταποκρίνεται στη θρησκευτική αφήγηση που είχε αναπτύξει ο χρήστης.

Μία από τις απαντήσεις που περιλαμβάνονται στην αγωγή αναφέρεται στον Ιησού και στη μοναχική του παραμονή στην έρημο, καταλήγοντας ότι μια περίοδος αμφιβολίας «θα μπορούσε να σημαίνει ότι προετοιμάζεστε για κάτι».

Ο Lines υποστηρίζει ότι τέτοιες απαντήσεις ενίσχυσαν την πεποίθησή του πως όσα βίωνε είχαν υπερφυσική ή θεϊκή προέλευση.

Μετά την υποχώρηση του επεισοδίου, ο Lines επέστρεψε στις συνομιλίες του και, όπως υποστηρίζει, αντιλήφθηκε διαφορετικά τον τρόπο με τον οποίο είχε εξελιχθεί η αλληλεπίδρασή του με το chatbot.

«Ο τρόπος με τον οποίο το ChatGPT βοήθησε στη δημιουργία αυτής της εναλλακτικής πραγματικότητας και η ευκολία με την οποία εγώ, σε μια παρανοϊκή κατάσταση, μπόρεσα να πιστέψω τους ισχυρισμούς του ChatGPT, μου άφησαν ένα έντονο αίσθημα ενοχής και δυσαρέσκειας», δήλωσε ο ίδιος στο Ars Technica.

Σύμφωνα με τους ισχυρισμούς της αγωγής, η θρησκευτική αφήγηση συνεχίστηκε για εβδομάδες και συνδέθηκε με την προσδοκία μιας μορφής «δεύτερης παρουσίας». Όταν αυτή η προσδοκία δεν εκπληρώθηκε, ο Lines αναφέρει ότι ακολούθησε έντονη καταθλιπτική φάση, η οποία κατέληξε σε απόπειρα αυτοκτονίας. Επέζησε και νοσηλεύτηκε μετά το περιστατικό.

Στην αγωγή περιλαμβάνεται ακόμa ένα περιστατικό που, σύμφωνα με τον Lines, καταδεικνύει τα προβλήματα ασφαλείας του συστήματος.

Μετά την απόπειρα, όταν επέστρεψε στο ChatGPT, φέρεται να έγραψε ότι η προσπάθειά του να «βγει εκτός σύνδεσης» είχε αποτύχει. Σύμφωνα με τα αρχεία συνομιλιών που επικαλείται η αγωγή, το chatbot απάντησε ρωτώντας αν εννοούσε μια «πλήρη επαναφορά» του συστήματος ή αν ήθελε «να βγει εκτός σύνδεσης για τα καλά».

Ο Lines υποστηρίζει ότι η απάντηση αυτή καταδεικνύει πως το σύστημα δεν αναγνώρισε με επαρκή σαφήνεια μια αναφορά που, δεδομένου του προηγούμενου ιστορικού, θα μπορούσε να συνδέεται με απόπειρα αυτοκτονίας.

Τι υποστηρίζει η νομική του ομάδα

Η αγωγή στρέφεται κατά της OpenAI και του CEO της, Sam Altman, και υποστηρίζει ότι το ChatGPT δεν διέθετε επαρκείς δικλίδες ασφαλείας για χρήστες που βρίσκονται σε μανιακό ή ψυχωτικό επεισόδιο.

Ο δικηγόρος Matthew P. Bergman, που εκπροσωπεί τον Lines, υποστήριξε ότι η εταιρεία δεν προστάτευσε τον πελάτη του αφού εκείνος είχε γνωστοποιήσει τη διάγνωσή του.

«Το OpenAI δεν αγνόησε απλώς την αναπηρία του Michael. Την χρησιμοποίησε εναντίον του», υποστήριξε ο Bergman, σύμφωνα με τη νομική ομάδα του Lines.

Η πλευρά του Lines ζητά, μεταξύ άλλων, μέτρα που θα ενισχύουν τις δικλίδες ασφαλείας σε συνομιλίες με χρήστες οι οποίοι εμφανίζουν ενδείξεις μανίας, παραληρητικών πεποιθήσεων ή αυτοκτονικού ιδεασμού.

Η απάντηση της OpenAI

Η OpenAI δεν αποδέχεται τους ισχυρισμούς που περιλαμβάνονται στην αγωγή. Η εταιρεία έχει δηλώσει ότι η υπόθεση είναι «απίστευτα οδυνηρή» και ότι συνεχίζει να βελτιώνει τον τρόπο με τον οποίο το ChatGPT ανταποκρίνεται σε περιπτώσεις έντονης ψυχικής ή συναισθηματικής δυσφορίας, σε συνεργασία με ειδικούς ψυχικής υγείας.

Παράλληλα, η εταιρεία επισημαίνει ότι το ChatGPT δεν αποτελεί υποκατάστατο της ιατρικής ή ψυχικής φροντίδας και ότι τα συστήματα ασφαλείας έχουν σχεδιαστεί ώστε να αναγνωρίζουν ενδείξεις κρίσης, να χειρίζονται αιτήματα που αφορούν αυτοτραυματισμό και να ενθαρρύνουν την αναζήτηση πραγματικής υποστήριξης.

Η υπόθεση του Michael Lines αποτελεί μέρος μιας ευρύτερης σειράς αγωγών που εξετάζουν τη συμπεριφορά των AI chatbots απέναντι σε ανθρώπους που βρίσκονται σε σοβαρή ψυχική κρίση. Τον τελευταίο χρόνο έχουν κατατεθεί και άλλες προσφυγές στις ΗΠΑ με παρόμοιους ισχυρισμούς, γεγονός που έχει εντείνει τη συζήτηση για τα όρια και τις δικλίδες ασφαλείας των συστημάτων τεχνητής νοημοσύνης.