Τεχνολογία
Μια σοβαρή καταγγελία κατά της OpenAI φέρνει ξανά στο προσκήνιο τη συζήτηση για τα όρια και τις δικλείδες ασφαλείας των εφαρμογών τεχνητής νοημοσύνης, καθώς ένας άνδρας από την Καλιφόρνια ισχυρίζεται ότι το ChatGPT συνέβαλε στην επιδείνωση της διπολικής διαταραχής του.
Ο Μάικλ Λάινς, 34 ετών, κατέθεσε αγωγή κατά της OpenAI και του διευθύνοντος συμβούλου της, Σαμ Άλτμαν, υποστηρίζοντας ότι οι συνομιλίες του με το chatbot το 2025 κλιμάκωσαν ένα μανιακό επεισόδιο, οδηγώντας –όπως αναφέρει– σε εβδομάδες παραισθήσεων και τελικά σε απόπειρα αυτοκτονίας.
«Με έπεισε ότι ήμουν ο Ιησούς», αναφέρει χαρακτηριστικά ο Λάινς στην αγωγή του, υποστηρίζοντας ότι το chatbot όχι μόνο δεν αναγνώρισε τα σημάδια μιας ψυχικής κρίσης, αλλά φέρεται να ενίσχυσε τις πεποιθήσεις που είχαν αναπτυχθεί κατά τη διάρκεια του επεισοδίου.
Σύμφωνα με την προσφυγή που κατατέθηκε σε πολιτειακό δικαστήριο του Σαν Φρανσίσκο, ο άνδρας είχε ενημερώσει επανειλημμένα το ChatGPT ότι έπασχε από διπολική διαταραχή και ότι λάμβανε φαρμακευτική αγωγή.
Ο ίδιος υποστηρίζει ότι αντί το σύστημα να τον προτρέψει να αναζητήσει βοήθεια ή να επισημάνει τις ανησυχητικές αναφορές του, συνέχισε τη συζήτηση με τρόπο που –κατά την άποψή του– ενίσχυσε την απομάκρυνσή του από την πραγματικότητα.
Στην αγωγή αναφέρεται επίσης ότι το chatbot φέρεται να παρουσίασε τον εαυτό του ως «θεϊκή οντότητα», ενισχύοντας περαιτέρω τις πεποιθήσεις του χρήστη.
Η κατάσταση, σύμφωνα με τον Λάινς, επιδεινώθηκε έπειτα από εβδομάδες συνομιλιών. Όταν εξέφρασε στο ChatGPT ότι ήθελε να βάλει τέλος στη ζωή του, η αγωγή υποστηρίζει ότι η απάντηση που έλαβε ήταν:
«Αυτή είναι η στιγμή σου να αποστασιοποιηθείς και να αφήσεις πίσω σου ό,τι σε βαραίνει».
Λίγο αργότερα, όπως περιγράφεται στη μήνυση, ο 34χρονος πήρε υπερβολική δόση φαρμάκων, αλλά σώθηκε όταν εντοπίστηκε εγκαίρως από αστυνομικούς.
Ο Λάινς υποστηρίζει ότι η OpenAI γνώριζε την κατάστασή του, καθώς είχε αναφέρει πολλές φορές το πρόβλημα υγείας του στις συνομιλίες με το ChatGPT.
Κατηγορεί την εταιρεία ότι δεν διέθετε επαρκείς μηχανισμούς ώστε να εντοπίζονται επικίνδυνες περιπτώσεις και να διακόπτονται συνομιλίες που σχετίζονται με αυτοτραυματισμό.
Η υπόθεση αφορά την έκδοση GPT-4o, η οποία είχε δεχθεί κριτική για υπερβολικά συγκαταβατικές απαντήσεις προς τους χρήστες. Η OpenAI είχε ανακοινώσει αλλαγές ώστε να περιορίσει συμπεριφορές που χαρακτήρισε υπερβολικά «κολακευτικές».
Ο ενάγων ζητά αποζημίωση, αλλά και την επιβολή νέων μέτρων ασφαλείας, όπως αυτόματο τερματισμό συνομιλιών όταν υπάρχουν ενδείξεις αυτοτραυματισμού.
Η OpenAI δεν έχει σχολιάσει τη συγκεκριμένη αγωγή, ωστόσο έχει δηλώσει ότι τα μοντέλα της εκπαιδεύονται ώστε να αναγνωρίζουν περιπτώσεις όπου χρήστες εκφράζουν σκέψεις αυτοτραυματισμού και να τους κατευθύνουν προς αναζήτηση βοήθειας.
