Το TikTok αρνείται να παραδώσει απόρρητο έγγραφο για αλγοριθμικό πείραμα κατά το οποίο αυτοκτόνησε έφηβος!

Δύο Αμερικανοί γερουσιαστές εξαπέλυσαν σφοδρή επίθεση κατά του TikTok, χαρακτηρίζοντας «αποτρόπαια» και «προσβλητική» την άρνηση της εταιρείας να παραδώσει απόρρητο έγγραφο για αλγοριθμικό πείραμα σε εκατομμύρια χρήστες, ανάμεσά τους και ο 16χρονος Τσέις Νάσκα που αυτοκτόνησε.

Σε επιστολή με ημερομηνία 1ης Σεπτεμβρίου, νομικός εκπρόσωπος του TikTok ξεκαθάρισε ότι η πλατφόρμα αδυνατεί να παραδώσει το κείμενο ή να απαντήσει στα ερωτήματα της Ρεπουμπλικανής Μάρσα Μπλάκμπερν και του Δημοκρατικού Ρίτσαρντ Μπλούμενθαλ, επικαλούμενη εκκρεμείς δικαστικές υποθέσεις.

Οι γερουσιαστές παρενέβησαν αμέσως μετά τη δημοσίευση του Businessweek του Bloomberg.

Το έγγραφο, που συντάχθηκε το 2023 και παραμένει σφραγισμένο στη δικογραφία, καταγράφει λεπτό προς λεπτό το ιστορικό θέασης του μαθητή λυκείου από το Μπέιπορτ της Νέας Υόρκης.

Ο αλγόριθμος τού πρότεινε ασταμάτητα βίντεο για θλίψη, απελπισία, μοναξιά και αυτοκτονία μέχρι την ημέρα που έδωσε τέλος στη ζωή του.

Το εσωτερικό κείμενο προέκυψε μετά από πιεστικά ερωτήματα του Bloomberg για το γιατί η πλατφόρμα συνέχιζε να σερβίρει τέτοιο περιεχόμενο στον λογαριασμό του.

Αποκαλύπτει πείραμα στο οποίο το TikTok αφαιρούσε δοκιμαστικά από το 10% των χρηστών στις ΗΠΑ —περίπου 15 εκατομμύρια ανθρώπους τότε— μια ασφαλιστική δικλίδα για επιβλαβές υλικό.

Ένας από αυτούς ήταν ο Τσέις. Στο έγγραφο αναφέρεται ότι οι μηχανισμοί προστασίας «δεν ενεργοποιήθηκαν για τον συγκεκριμένο χρήστη βάσει σχεδιασμού» και ότι το πείραμα αποτελούσε «μια λεπτή ισορροπία ανάμεσα στην ασφάλεια και τη μέτρηση του αντικτύπου στους καθημερινούς ενεργούς χρήστες (DAU) και στους βασικούς δείκτες απόδοσης».

Η ανάλυση έδειξε ότι, παρότι πολλές αναζητήσεις του αφορούσαν αθλητικά και κωμωδίες, έψαχνε παράλληλα τραγούδια για μοναξιά και απόγνωση.

Τα κομμάτια αυτά, γραμμένα από δημοφιλείς καλλιτέχνες που πάλευαν με την κατάθλιψη, πιθανότατα πυροδότησαν τον αλγόριθμο ώστε να συνεχίσει την τροφοδοσία.

«Η άρνηση του TikTok να απαντήσει είναι αποτρόπαια, αλλά διόλου πρωτοφανής», δήλωσε η Μπλάκμπερν.

«Εδώ και χρόνια επιστρατεύουν το ίδιο κόλπο κάθε φορά που συλλαμβάνονται να βάζουν το κέρδος πάνω από την ασφάλεια των παιδιών: αρνούνται τα πάντα, μεταθέτουν τις ευθύνες και αποφεύγουν τη λογοδοσία».

Εκπρόσωπος του TikTok είχε υποστηρίξει μετά το ρεπορτάζ ότι η εταιρεία «δεσμεύεται απόλυτα για την ασφάλεια και την ευημερία των χρηστών», ιδιαίτερα των εφήβων, και ότι «η σκέψη μας βρίσκεται σε κάθε οικογένεια που βίωσε μια τόσο τραγική απώλεια».

Στο παρελθόν στελέχη είχαν ισχυριστεί στο Κογκρέσο ότι η πλατφόρμα δεν ευθύνεται για αυτοκτονίες χρηστών.

Οι δύο γερουσιαστές ζήτησαν γραπτές απαντήσεις σε 13 ερωτήματα:

ονόματα όσων ενημερώθηκαν για το πείραμα, εξηγήσεις για τη συμπερίληψη ανηλίκων, το πότε έμαθαν τα ανώτατα στελέχη την υπόθεση και το πλήρες έγγραφο χωρίς διαγραφές.

Προθεσμία ήταν η 1η Σεπτεμβρίου.

Ο δικηγόρος της εταιρείας απάντησε ότι το TikTok «συμμερίζεται τη βαθιά σας δέσμευση για την προστασία της κοινότητας» και διατηρεί «ισχυρά μέτρα προστασίας, προκαθορισμένες ρυθμίσεις κατάλληλες για κάθε ηλικία και ολοκληρωμένα εργαλεία γονικού ελέγχου», αλλά «αδυνατεί επί του παρόντος να παράσχει λεπτομερείς απαντήσεις λόγω των εκκρεμών δικαστικών υποθέσεων».

Η πλατφόρμα αντιμετωπίζει χιλιάδες αγωγές μαζί με τη Meta, το YouTube και το Snapchat, με κατηγορίες ότι σχεδίασε εθιστικά προϊόντα που έβλαψαν την ψυχική υγεία εφήβων.

Οι προσφυγές προέρχονται από χρήστες, οικογένειες —συμπεριλαμβανομένων των γονέων του Τσέις—, σχολικές περιφέρειες και πολιτειακούς εισαγγελείς.

Τον περασμένο μήνα η Meta έκλεισε εξωδικαστικό συμβιβασμό έως 18 δισ. δολαρίων με πολιτείες. Το TikTok είναι η μόνη εταιρεία που έχει διευθετήσει κάθε υπόθεση που επρόκειτο να οδηγηθεί σε δίκη μέσα στο έτος.

«Οι μέρες που το TikTok και οι υπόλοιποι κολοσσοί της τεχνολογίας ξέφευγαν χωρίς να λογοδοτούν φτάνουν στο τέλος τους», δήλωσε ο Μπλούμενθαλ, χαρακτηρίζοντας «προσβλητική» τη στάση της εταιρείας.

«Οι γονείς και οι οικογένειες που πλήρωσαν το τίμημα για την απληστία της Big Tech τούς οδηγούν τώρα στη δικαιοσύνη».

Οι δύο γερουσιαστές ζητούν από το Κογκρέσο να επιταχύνει το νομοσχέδιο για την Ασφάλεια των Παιδιών στο Διαδίκτυο, που συνέγραψαν οι ίδιοι.

Υποχρεώνει τις εταιρείες να θέτουν σε προτεραιότητα την ασφάλεια των ανηλίκων και να απενεργοποιούν εθιστικές λειτουργίες, όπως η ασταμάτητη ροή περιεχομένου.

Το έγγραφο του 2023 δείχνει ότι, τουλάχιστον σε εκείνο το πείραμα, η ασφάλεια μετρήθηκε ως μεταβλητή απέναντι στους δείκτες επισκεψιμότητας. Αυτό είναι το σημείο στο οποίο επιμένουν οι γερουσιαστές —και στο οποίο το TikTok, προς το παρόν, δεν απαντά.