Τεχνολογία
Μια συγκλονιστική μαρτυρία για το τι πραγματικά συμβαίνει πίσω από τις κλειστές πόρτες της Silicon Valley φέρνει στο φως η Κάρεν Χάο (Karen Hao), πρώην ρεπόρτερ του κορυφαίου MIT Technology Review, η οποία κατάφερε να διεισδύσει στα άδυτα της OpenAI ως “insider”.
Στο νέο της βιβλίο «Empire of AI», η Χάο, έχοντας μιλήσει με εκατοντάδες εργαζόμενους στην Open AI, προειδοποιεί ότι η ελίτ της τεχνολογίας έχει πάθει μια σχεδόν θρησκευτική εμμονή με τη δημιουργία μιας Υπερ-ευφυΐας (AGI), την οποία αντιμετωπίζουν ως έναν «ψηφιακό θεό».
Αν και η OpenAI ξεκίνησε ως ένας διαφανής, μη κερδοσκοπικός οργανισμός που θα βοηθούσε την ανθρωπότητα, η Χάο ανακάλυψε μια τελείως διαφορετική, σκοτεινή πραγματικότητα όταν μπήκε στα κεντρικά τους γραφεία:
Η ασφάλεια είχε τη φωτογραφία της και τη φρουρούσε σε κάθε βήμα. Οι ερευνητές ήταν τρομοκρατημένοι και νευρικοί, φοβούμενοι να μιλήσουν εκτός των εγκεκριμένων καναλιών.
Η παράνοια στην εταιρεία χτυπούσε κόκκινο. Ο πρώην επικεφαλής επιστήμονας, Ίλια Σουτσκέβερ, αναρωτιόταν κάποτε φωναχτά πώς θα μπορούσε να προστατεύσει τα συστήματα αν κάποιος… του έκοβε το χέρι για να προσπεράσει τον σαρωτή παλάμης!
Άλλο κορυφαίο στέλεχος, ο Ντάριο Αμοντέι, έγραφε τα ευαίσθητα έγγραφα στρατηγικής σε υπολογιστές εντελώς αποσυνδεδεμένους από το ίντερνετ και τα μοίραζε μόνο τυπωμένα σε χαρτί!
Η τελετή στο βουνό και η «Θεότητα» της AI
Η Χάο αποκαλύπτει ότι η ηγεσία της OpenAI αντιμετώπιζε την Τεχνητή Νοημοσύνη με σχεδόν θρησκευτικό φανατισμό. Σε μια μυστική τελετή της διοίκησης στα βουνά της Σιέρα Νεβάδα, κορυφαία στελέχη πραγματοποίησαν μια αλλόκοτη ιεροτελεστία: μαζεύτηκαν γύρω από μια φωτιά, όπου ο Σουτσκέβερ έκαψε ένα ομοίωμα της Υπερ-ευφυΐας (AGI) ως συμβολική πράξη ευλάβειας. Πρώην εργαζόμενοι εξομολογήθηκαν στη δημοσιογράφο ότι μόνο όταν παραιτήθηκαν και βγήκαν από αυτή την ιδεολογική «φούσκα» κατάφεραν επιτέλους να συνέλθουν και να προσγειωθούν στην πραγματικότητα.
Η Χάο κατηγορεί την OpenAI ότι παρέσυρε ολόκληρη τη βιομηχανία σε έναν επικίνδυνο ανταγωνισμό, ο οποίος βασίζεται απλώς στο να «ταΐζουν» τα μοντέλα με ατελείωτα δεδομένα (data scraping) και τεράστια υπολογιστική ισχύ. Αυτή η προσέγγιση, σύμφωνα με την ίδια, είναι κοινωνικά επιζήμια γιατί παράγει ανακριβείς πληροφορίες, μισές αλήθειες και παραβιάζει τα πνευματικά δικαιώματα.
Παράλληλα τα γιγαντιαία data centers καταναλώνουν απίστευτες ποσότητες ρεύματος και νερού, επιβαρύνοντας τον πλανήτη.
Υπάρχει άλλος δρόμος;
Η δημοσιογράφος ξεκαθαρίζει ότι δεν είναι κατά της AI. Προτείνει όμως να σταματήσει η τρελή κούρσα για τη δημιουργία μιας μηχανής που θα ξεπεράσει τον άνθρωπο, και η τεχνολογία να στραφεί σε πιο συγκεκριμένους, στοχευμένους τομείς, όπως η ανακάλυψη νέων φαρμάκων.
Όπως καταλήγει η ίδια, επτά χρόνια μετά την πρώτη της επίσκεψη στην OpenAI, περιμένει ακόμα μια πειστική απάντηση στο βασικό ερώτημα: «Γιατί, τελικά, η ανθρωπότητα έχει τόσο μεγάλη ανάγκη να φτιάξει έναν ψηφιακό θεό;»
