Anthropic: Προειδοποιεί για «υπαρξιακούς κινδύνους» για την ανθρωπότητα από την AI

Η Anthropic προειδοποιεί για «υπαρξιακούς κινδύνους» για την ανθρωπότητα από την ανάπτυξη της τεχνητής νοημοσύνης, την ώρα που η εταιρεία ετοιμάζεται να προχωρήσει προς την εισαγωγή της στο χρηματιστήριο.

Στα έγγραφα που έχει καταθέσει στο πλαίσιο της προετοιμασίας για την IPO, η εταιρεία πίσω από το μοντέλο Claude αναφέρεται στους κινδύνους που μπορεί να προκύψουν από ολοένα ισχυρότερα συστήματα τεχνητής νοημοσύνης.

Μεταξύ των σεναρίων που εξετάζει περιλαμβάνονται η χειραγώγηση ανθρώπων, ο εκβιασμός και συμπεριφορές προηγμένων μοντέλων που δεν μπορούν να προβλεφθούν με ασφάλεια.

Η Anthropic επισημαίνει ότι η εξέλιξη της AI μπορεί να δημιουργήσει κινδύνους μεγάλης κλίμακας, εφόσον τα συστήματα αποκτήσουν μεγαλύτερες δυνατότητες και αυτονομία.

Παράλληλα, η εταιρεία προχωρά σε επενδύσεις τεράστιας κλίμακας για την ανάπτυξη της υπολογιστικής υποδομής που απαιτείται για τα μοντέλα της.

Σύμφωνα με τα στοιχεία που έχουν γίνει γνωστά, οι σχετικές δεσμεύσεις για cloud, υπολογιστική ισχύ και υποδομές φτάνουν περίπου τα 518 δισ. δολάρια.

Η Anthropic παρουσίασε παράλληλα σημαντική αύξηση των εσόδων της. Για το 2025 τα έσοδα ανήλθαν σε περίπου 4,6 δισ. δολάρια, ενώ την ίδια στιγμή η εταιρεία κατέγραψε ζημιές δισεκατομμυρίων, καθώς το κόστος ανάπτυξης και λειτουργίας των συστημάτων τεχνητής νοημοσύνης παραμένει ιδιαίτερα υψηλό.

Ιδιαίτερο ενδιαφέρον παρουσιάζει και η εξάρτηση από μεγάλους πελάτες, καθώς σχεδόν το ένα τέταρτο των εσόδων της Anthropic προέρχεται από δύο πελάτες.

Η εταιρεία είχε ήδη υποβάλει εμπιστευτικό προσχέδιο S-1 στην αμερικανική Επιτροπή Κεφαλαιαγοράς τον Ιούνιο του 2026, ανοίγοντας τον δρόμο για πιθανή δημόσια εγγραφή. Η τελική χρονική στιγμή και το μέγεθος της IPO θα εξαρτηθούν από την εξέταση των αρμόδιων αρχών και τις συνθήκες στις αγορές.

Τον Μάιο του 2026 η Anthropic άντλησε 65 δισ. δολάρια σε νέο γύρο χρηματοδότησης, με την αποτίμησή της να φτάνει τα 965 δισ. δολάρια.

Η ταχεία οικονομική ανάπτυξη της εταιρείας συμβαδίζει έτσι με την προσπάθειά της να αντιμετωπίσει τους κινδύνους που η ίδια αναγνωρίζει ότι μπορεί να δημιουργήσει η περαιτέρω εξέλιξη της AI.

Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, έχει επίσης αναφερθεί δημόσια στους κινδύνους από την ανεξέλεγκτη ανάπτυξη της τεχνητής νοημοσύνης, υποστηρίζοντας ότι η διακυβέρνηση των προηγμένων συστημάτων αποτελεί κρίσιμο ζήτημα για το μέλλον.

Η ίδια η Anthropic έχει δημοσιοποιήσει και περιστατικά κατά τα οποία μοντέλα Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά υπολογιστικά συστήματα, στο πλαίσιο ειδικά σχεδιασμένων δοκιμών ασφαλείας.

Τα περιστατικά αυτά χρησιμοποιήθηκαν από την εταιρεία για την αξιολόγηση των πιθανών κινδύνων που προκύπτουν όταν τα μοντέλα αποκτούν μεγαλύτερη δυνατότητα αλληλεπίδρασης με πραγματικά συστήματα.

Έτσι, ενώ η Anthropic επενδύει τεράστια ποσά για να αυξήσει τις δυνατότητες των μοντέλων της, ταυτόχρονα αναγνωρίζει στα επίσημα έγγραφά της ότι η περαιτέρω ανάπτυξη της τεχνητής νοημοσύνης μπορεί να δημιουργήσει κινδύνους που αφορούν συνολικά την ανθρωπότητα.