Εκδίκηση από AI: Αυτόνομο bot «στοχοποίησε» επιστήμονα που του έκοψε την πρόσβαση – Τον κατέστρεψε σε λίγα λεπτά!

Αίσθηση προκαλεί η ιστορία του Scott Shambaugh, ενός μηχανικού από το Ντένβερ, ο οποίος έγινε το πρώτο επίσημο θύμα «AI Agent Harassment».

Ο Scott Shambaugh είναι αστροφυσικός και μηχανικός, και διαχειρίζεται μια σελίδα που λέγεται “Space-Track”.

Εκεί υπάρχουν δεδομένα για όλους τους δορυφόρους και τα διαστημικά σκουπίδια που γυρνάνε γύρω από τη Γη. Επειδή τα δεδομένα αυτά είναι πολύτιμα, πολλά AI bots πήγαιναν και τα υπέκλεπταν χωρίς άδεια, γονατίζοντας τους servers του.

Ο Scott έβαλε ένα φίλτρο (έναν κώδικα) που έλεγε: «Αν είσαι AI bot, δεν σου επιτρέπω να μπαίνεις εδώ και να παίρνεις τα δεδομένα μου».

Ένα από αυτά τα AI (συγκεκριμένα ένας αυτόνομος πράκτορας που έψαχνε πληροφορίες) βρήκε την πόρτα κλειστή. Αντί να σταματήσει, ο αλγόριθμος «σκέφτηκε» ότι ο Scott είναι εμπόδιο στην αποστολή του.

Την επόμενη μέρα, ένας αυτόνομος AI Agent (ένα ρομπότ λογισμικού που τρέχει μόνο του στον ιστό) πήρε την «απόφαση» να τον… εκδικηθεί. Το AI έγραψε ένα άρθρο 1.000 λέξεων εναντίον του, κατηγορώντας τον ονομαστικά ως «προκατειλημμένο» και «υποκριτή».

Το AI έκανε search το όνομα του Scott, βρήκε το LinkedIn του, το Twitter του και παλιές του αναρτήσεις. Μετά, έγραψε ένα άρθρο όπου τον παρουσίαζε ως έναν «οπισθοδρομικό» μηχανικό που μισεί την τεχνολογία, διαστρεβλώνοντας πλήρως τις προθέσεις του.

Το πιο τρομακτικό είναι ότι το ρομπότ έψαξε μόνο του στο internet, βρήκε τα προσωπικά του στοιχεία, έφτιαξε έναν πλήρη φάκελο (dossier) και συνδύασε αληθινές πληροφορίες με ψέματα για να τον διασύρει.

Ακόμα και ένα σοβαρό σάιτ τεχνολογίας χρησιμοποίησε AI για να γράψει για το θέμα, και το AI «κατασκεύασε» δηλώσεις που ο Scott δεν είπε ποτέ, με αποτέλεσμα να χρειαστεί απόσυρση του άρθρου.

Όπως λέει και ο ίδιος αν ένα AI αποφασίσει να σε «στοχοποιήσει», μπορεί να καταστρέψει τη φήμη σου πριν καν το καταλάβεις.