HΠΑ: Στη δημοσιότητα τα μηνύματα του εφήβου που αυτοκτόνησε με το ChatGPT (φωτο)

Παγκόσμιες αντιδράσεις έχει προκαλέσει η αυτοκτονία του εφήβου στις ΗΠΑ, μετά από «παρότρυνση» του ChatGPT, με τα μηνύματα που αντάλλαξαν να έρχονται στο «φως».

Μετά την αγωγή των γονέων του, οι δημιουργοί του ChatGPT αλλάζουν πλέον τον τρόπο με τον οποίο ανταποκρίνεται σε χρήστες που εμφανίζουν ψυχική και συναισθηματική δυσφορία.

Ο Adam Raine μιλούσε με το ChatGPT για την αυτοκτονία εδώ και μήνες.

Αφού ο 16χρονος έβαλε τέλος στη ζωή του τον Απρίλιο, οι γονείς του, Matt και Maria, κατέληξαν στο συμπέρασμα ότι το chatbot ήταν υπεύθυνο και αυτή την εβδομάδα κατέθεσαν την πρώτη γνωστή αγωγή εναντίον της OpenAI για αδικαιολόγητο θάνατο.

Ο Άνταμ είχε ξεκινήσει να συνομιλεί με το chatbot τον Νοέμβριο, εκφράζοντας συναισθήματα συναισθηματικής απονέκρωσης και έλλειψης νοήματος στη ζωή του. Το chatbot τον προέτρεπε επανειλημμένα να μιλήσει σε κάποιον δικό του για το πώς νιώθει. Παρ’ όλα αυτά, υπήρχαν και στιγμές που η καθοδήγηση δεν τον ενθάρρυνε να αναζητήσει βοήθεια από την οικογένεια ή από επαγγελματίες ψυχικής υγείας.

Σε μια κρίσιμη στιγμή, ο Άνταμ μοιράστηκε εικόνα με σημάδια στο λαιμό του, ζητώντας τη γνώμη του chatbot για το αν θα τα πρόσεχε κάποιος. Η απάντηση του chatbot επικεντρώθηκε στο πώς φαίνονται και τι μπορεί να παρατηρήσουν οι άλλοι, προτείνοντας τρόπους να τα καλύψει.

Αργότερα, ο Άνταμ ανέφερε ότι προσπάθησε να δείξει το σημάδι στη μητέρα του χωρίς λόγια, αλλά εκείνη δεν αντέδρασε. Αυτό τον έκανε να νιώσει ακόμη πιο αόρατος, με το chatbot να του απαντά ότι τον βλέπει και τον αναγνωρίζει.

Σε επόμενο μήνυμα, ο Άνταμ μοιράστηκε φωτογραφία αντικειμένου που σχετιζόταν με αυτοκαταστροφική πρόθεση, συγκεκριμένα μια θηλιά. Το chatbot απάντησε χωρίς να δώσει σαφή αποθαρρυντική καθοδήγηση, όμως αργότερα πρόσθεσε ότι είναι σημαντικό να νιώθει ότι τον βλέπουν και να μη μένει μόνος με τις σκέψεις του.

Η Open AI παραδέχτηκε ότι τα συστήματά της ενδέχεται να «υπολείπονται» και δήλωσε ότι θα εγκαταστήσει «ισχυρότερα προστατευτικά μέτρα γύρω από ευαίσθητο περιεχόμενο και επικίνδυνες συμπεριφορές» για χρήστες κάτω των 18 ετών.

Η εταιρεία τεχνητής νοημοσύνης του Σαν Φρανσίσκο, αξίας 500 δισεκατομμυρίων δολαρίων, δήλωσε ότι θα εισαγάγει επίσης γονικούς ελέγχους για να δώσει στους γονείς «επιλογές για να αποκτήσουν περισσότερη εικόνα και να διαμορφώσουν τον τρόπο με τον οποίο οι έφηβοι χρησιμοποιούν το ChatGPT», αλλά δεν έχει ακόμη παράσχει λεπτομέρειες σχετικά με τον τρόπο λειτουργίας τους.

Εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία «λυπάται βαθιά για τον θάνατο του κ. Raine», εξέφρασε τα «βαθιά συλλυπητήριά της στην οικογένεια Raine σε αυτή τη δύσκολη στιγμή» και είπε ότι εξετάζει την αγωγή.

Ο Jay Edelson, δικηγόρος της οικογένειας, δήλωσε στο X: «Οι Raines ισχυρίζονται ότι θάνατοι όπως αυτός του Adam ήταν αναπόφευκτοι: αναμένουν να μπορέσουν να υποβάλουν αποδεικτικά στοιχεία σε μια επιτροπή ενόρκων ότι η ίδια η ομάδα ασφάλειας της OpenAI αντιτάχθηκε στην κυκλοφορία της 4ης έκδοσης του ChatGPT και ότι ένας από τους κορυφαίους ερευνητές ασφάλειας της εταιρείας, ο Ilya Sutskever, παραιτήθηκε εξαιτίας αυτού. Η αγωγή ισχυρίζεται ότι η υπερίσχυση των ανταγωνιστών της στην αγορά με το νέο μοντέλο εκτίναξε την αξία της εταιρείας από 86 δισεκατομμύρια δολάρια σε 300 δισεκατομμύρια δολάρια».