Καλιφόρνια: Ποια μέτρα λαμβάνει για να σταματήσει τα chatbots της Τ.Ν. που «οδηγούν» στον θάνατο δεκάδες εφήβους

Η Καλιφόρνια λαμβάνει μέτρα προστασίας των εφήβων μπροστά στην ανεξέλεγκτα αυξανόμενη ανάπτυξη της Τεχνητής Νοημοσύνης και των chatbots, τα οποία έχουν συνδεθεί με την αύξηση των αυτοκτονιών των εφήβων, στην συγκεκριμένη πολιτεία των ΗΠΑ.

Και αυτό γιατί έθεσε σε ισχύ σήμερα (13/10) νόμους που – για πρώτη φορά στις ΗΠΑ- θέτουν κανόνες στα chatbots, τα προγράμματα της Τεχνητής Νοημοσύνης που προσομοιώνουν την ανθρώπινη επικοινωνία, με αφορμή τις αυτοκτονίες εφήβων που είχαν συνάψει «σχέση» με αυτά τα εργαλεία.

Την είδηση, ανακοίνωσε σήμερα (13/10) ο κυβερνήτης της Πολιτείας Γκάβιν Νιούσομ.

«Είδαμε πραγματικά φρικτά, τραγικά παραδείγματα νέων που έπεσαν θύματα τεχνολογιών χωρίς κανόνες και δεν θα μείνουμε με σταυρωμένα τα χέρια ενώ οι επιχειρήσεις αυτές δρουν χωρίς όρια και χωρίς να δίνουν λογαριασμό» είπε ο Νιούσομ σε μια ανακοίνωση του.

Ένας από τους νόμους, ο αποκαλούμενος SB243, αφορά την επιβολή κανόνων σε chatbots που παίζουν τον ρόλο «συντρόφου» ή «έμπιστου προσώπου», όπως αυτά που ανέπτυξαν οι πλατφόρμες Replika ή Character.AI.

Εναντίον της τελευταίας έχουν προσφύγει στη δικαιοσύνη οι γονείς ενός 14χρονου, του Σιούελ, που αυτοκτόνησε το 2024, αφού… ερωτεύτηκε ένα chatbot εμπνευσμένο από την τηλεοπτική σειρά Game of Thrones, το οποίο φέρεται ότι ενίσχυσε τις αυτοκτονικές σκέψεις του.

«Μπορούμε να συνεχίσουμε να ηγούμαστε στον τομέα της ΤΝ (…) αλλά πρέπει να δρούμε υπεύθυνα, προστατεύοντας τα παιδιά μας» πρόσθεσε ο κυβερνήτης της Καλιφόρνιας, της Πολιτείας όπου φιλοξενούνται οι κυριότεροι κολοσσοί του τομέα, όπως η OpenAI (ChatGPT), η Google (Gemini) και η xAI (Grok).

Εκτός από την επαλήθευση της ηλικίας του χρήστη, οι πλατφόρμες θα πρέπει να αναρτούν τακτικά μηνύματα με τα οποία θα υπενθυμίζουν στους χρήστες ότι ο συνομιλητής τους είναι ένα μηχάνημα (κάθε τρεις ώρες για τους ανήλικους).

Υποχρεώνονται επίσης να εντοπίζουν αυτοκτονικές σκέψεις, να παρέχουν πρόσβαση σε προγράμματα πρόληψης και να δίνουν στις αρχές στατιστικά στοιχεία για το θέμα αυτό.

«Η βιομηχανία της τεχνολογίας ενθαρρύνεται να προσελκύει την προσοχή των νέων εις βάρος των σχέσεών τους στον πραγματικό κόσμο» είχε δηλώσει ο γερουσιαστής Στιβ Παντίλα, ο εμπνευστής του νόμου.

«Οι αναδυόμενες τεχνολογίες, όπως τα chatbots και τα κοινωνικά δίκτυα, μπορεί να αποτελέσουν πηγή έμπνευσης, να εκπαιδεύσουν και να συνδέσουν μεταξύ τους τους ανθρώπους.

Χωρίς όμως, πραγματικά προληπτικά μέτρα, μπορούν επίσης να εκμεταλλευτούν, να παρασύρουν και να θέσουν σε κίνδυνο τα παιδιά μας», επέμεινε ο κυβερνήτης.