Κόσμος
Ένας νεαρός Βέλγος αυτοκτόνησε πρόσφατα αφού μιλούσε με ένα chatbot με το όνομα ELIZA για αρκετές εβδομάδες, προκαλώντας εκκλήσεις για καλύτερη προστασία των πολιτών και την ανάγκη ευαισθητοποίησης.
«Χωρίς αυτές τις συνομιλίες με το chatbot, ο σύζυγός μου θα ήταν ακόμα εδώ», είπε η σύζυγος του άνδρα, σύμφωνα με τη La Libre. Αυτή και ο σύζυγός της ήταν και οι δύο τριάντα ετών, ζούσαν μια άνετη ζωή και είχαν δύο μικρά παιδιά.
Ωστόσο, πριν από περίπου δύο χρόνια, άρχισαν να εμφανίζονται τα πρώτα σημάδια προβλημάτων. Ο άνδρας έγινε πολύ οικολογικός και βρήκε καταφύγιο στο ELIZA, το όνομα που δόθηκε σε ένα chatbot που χρησιμοποιεί το GPT-J, ένα μοντέλο γλώσσας τεχνητής νοημοσύνης ανοιχτού κώδικα που αναπτύχθηκε από την EleutherAI.
Μετά από έξι εβδομάδες entantik;hw αλληλεπίδρασης με το πρόγραμμα Τεχνικής Νοημοσύνης, αυτοκτόνησε.
Την περασμένη εβδομάδα, η οικογένεια μίλησε με τον Mathieu Michel, Υπουργό Ψηφιοποίησης, τρου Βελγίου.
«Είμαι ιδιαίτερα συγκλονισμένος από την τραγωδία αυτής της οικογένειας. Αυτό που συνέβη είναι ένα σοβαρό προηγούμενο που πρέπει να ληφθεί πολύ σοβαρά υπόψη», είπε την Τρίτη.
Τόνισε ότι αυτή η υπόθεση υπογραμμίζει ότι είναι «ουσιαστικό να καθοριστούν με σαφήνεια οι ευθύνες ανάλογων προγραμμάτων.
«Με τη διάδοση του ChatGPT, το ευρύ κοινό ανακάλυψε τις δυνατότητες της τεχνητής νοημοσύνης στη ζωή μας όσο ποτέ άλλοτε. Ενώ οι δυνατότητες είναι ατελείωτες, ο κίνδυνος χρήσης του είναι επίσης μια πραγματικότητα που πρέπει να ληφθεί υπόψη.”
https://t.co/xTQtuKWbW4 – Belgian man dies by suicide following exchanges with chatbot : Grim. This is the downside of LLM-based chatbots with ineffective guardrails against toxic output.
"Without these conversations with the chatbot, my husband would still be here," the man's…
— jm_links (@jm_links) March 30, 2023
