Πού έχει κολλήσει ο «θόλος»; Στο ότι θα πάνε πολλοί φυλακή αν (όταν) αλλάξει η κυβέρνηση...
Μια σοβαρή καταγγελία κατά της OpenAI φέρνει ξανά στο προσκήνιο τη συζήτηση για τα όρια και τις δικλείδες ασφαλείας των εφαρμογών τεχνητής νοημοσύνης, καθώς ένας άνδρας από την Καλιφόρνια ισχυρίζεται ότι το ChatGPT συνέβαλε στην επιδείνωση της διπολικής διαταραχής του.
Ο Μάικλ Λάινς, 34 ετών, κατέθεσε αγωγή κατά της OpenAI και του διευθύνοντος συμβούλου της, Σαμ Άλτμαν, υποστηρίζοντας ότι οι συνομιλίες του με το chatbot το 2025 κλιμάκωσαν ένα μανιακό επεισόδιο, οδηγώντας –όπως αναφέρει– σε εβδομάδες παραισθήσεων και τελικά σε απόπειρα αυτοκτονίας.
«Με έπεισε ότι ήμουν ο Ιησούς», αναφέρει χαρακτηριστικά ο Λάινς στην αγωγή του, υποστηρίζοντας ότι το chatbot όχι μόνο δεν αναγνώρισε τα σημάδια μιας ψυχικής κρίσης, αλλά φέρεται να ενίσχυσε τις πεποιθήσεις που είχαν αναπτυχθεί κατά τη διάρκεια του επεισοδίου.
Σύμφωνα με την προσφυγή που κατατέθηκε σε πολιτειακό δικαστήριο του Σαν Φρανσίσκο, ο άνδρας είχε ενημερώσει επανειλημμένα το ChatGPT ότι έπασχε από διπολική διαταραχή και ότι λάμβανε φαρμακευτική αγωγή.
Ο ίδιος υποστηρίζει ότι αντί το σύστημα να τον προτρέψει να αναζητήσει βοήθεια ή να επισημάνει τις ανησυχητικές αναφορές του, συνέχισε τη συζήτηση με τρόπο που –κατά την άποψή του– ενίσχυσε την απομάκρυνσή του από την πραγματικότητα.
Στην αγωγή αναφέρεται επίσης ότι το chatbot φέρεται να παρουσίασε τον εαυτό του ως «θεϊκή οντότητα», ενισχύοντας περαιτέρω τις πεποιθήσεις του χρήστη.
Η κατάσταση, σύμφωνα με τον Λάινς, επιδεινώθηκε έπειτα από εβδομάδες συνομιλιών. Όταν εξέφρασε στο ChatGPT ότι ήθελε να βάλει τέλος στη ζωή του, η αγωγή υποστηρίζει ότι η απάντηση που έλαβε ήταν:
«Αυτή είναι η στιγμή σου να αποστασιοποιηθείς και να αφήσεις πίσω σου ό,τι σε βαραίνει».
Λίγο αργότερα, όπως περιγράφεται στη μήνυση, ο 34χρονος πήρε υπερβολική δόση φαρμάκων, αλλά σώθηκε όταν εντοπίστηκε εγκαίρως από αστυνομικούς.
Ο Λάινς υποστηρίζει ότι η OpenAI γνώριζε την κατάστασή του, καθώς είχε αναφέρει πολλές φορές το πρόβλημα υγείας του στις συνομιλίες με το ChatGPT.
Κατηγορεί την εταιρεία ότι δεν διέθετε επαρκείς μηχανισμούς ώστε να εντοπίζονται επικίνδυνες περιπτώσεις και να διακόπτονται συνομιλίες που σχετίζονται με αυτοτραυματισμό.
Η υπόθεση αφορά την έκδοση GPT-4o, η οποία είχε δεχθεί κριτική για υπερβολικά συγκαταβατικές απαντήσεις προς τους χρήστες. Η OpenAI είχε ανακοινώσει αλλαγές ώστε να περιορίσει συμπεριφορές που χαρακτήρισε υπερβολικά «κολακευτικές».
Ο ενάγων ζητά αποζημίωση, αλλά και την επιβολή νέων μέτρων ασφαλείας, όπως αυτόματο τερματισμό συνομιλιών όταν υπάρχουν ενδείξεις αυτοτραυματισμού.
Η OpenAI δεν έχει σχολιάσει τη συγκεκριμένη αγωγή, ωστόσο έχει δηλώσει ότι τα μοντέλα της εκπαιδεύονται ώστε να αναγνωρίζουν περιπτώσεις όπου χρήστες εκφράζουν σκέψεις αυτοτραυματισμού και να τους κατευθύνουν προς αναζήτηση βοήθειας.
MOST READ 72h
MOST POPULAR 24h
ΣΧΟΛΙΑΣΤΕ ΤΟ ΑΡΘΡΟ
Tο pronews.gr δημοσιεύει κάθε σχόλιο το οποίο είναι σχετικό με το θέμα στο οποίο αναφέρεται το άρθρο. Ο καθένας έχει το δικαίωμα να εκφράζει ελεύθερα τις απόψεις του. Ωστόσο, αυτό δεν σημαίνει ότι υιοθετούμε τις απόψεις αυτές και διατηρούμε το δικαίωμα να μην δημοσιεύουμε συκοφαντικά ή υβριστικά σχόλια όπου τα εντοπίζουμε. Σε κάθε περίπτωση ο καθένας φέρει την ευθύνη των όσων γράφει και το pronews.gr ουδεμία νομική ή άλλα ευθύνη φέρει.
Δικαίωμα συμμετοχής στη συζήτηση έχουν μόνο όσοι έχουν επιβεβαιώσει το email τους στην υπηρεσία disqus. Εάν δεν έχετε ήδη επιβεβαιώσει το email σας, μπορείτε να ζητήσετε να σας αποσταλεί νέο email επιβεβαίωσης από το disqus.com
Όποιος χρήστης της πλατφόρμας του disqus.com ενδιαφέρεται να αναλάβει διαχείριση (moderating) των σχολίων στα άρθρα του pronews.gr σε εθελοντική βάση, μπορεί να στείλει τα στοιχεία του και στοιχεία επικοινωνίας στο info3@pronews.gr και θα εξεταστεί άμεσα η υποψηφιότητά του.