Anthropic: Προειδοποιεί για «υπαρξιακούς κινδύνους» από την AI ενώ ετοιμάζεται για το χρηματιστήριο

Για τον κίνδυνο η τεχνητή νοημοσύνη να προκαλέσει ακόμη και «καταστροφικές ή υπαρξιακές απειλές για την ανθρωπότητα» προειδοποιεί η Anthropic, την ώρα που προετοιμάζει την είσοδό της στο αμερικανικό χρηματιστήριο.

Η εταιρεία που αναπτύσσει το chatbot Claude κατέθεσε τη Δευτέρα 26 Οκτωβρίου τα σχετικά έγγραφα, αποκαλύπτοντας οικονομικά στοιχεία και καταγράφοντας τους κινδύνους που θα μπορούσαν να επηρεάσουν τη μελλοντική της πορεία.

Στόχος είναι η εισαγωγή της στο Nasdaq, με χρηματιστηριακό σύμβολο ANT.

Η ημερομηνία της εισαγωγής, ο αριθμός των μετοχών που θα διατεθούν και το εύρος της τιμής τους δεν έχουν ακόμη ανακοινωθεί.

Ωστόσο, οι προσδοκίες για την αποτίμηση της εταιρείας είναι ιδιαίτερα υψηλές, καθώς η αγορά της τεχνητής νοημοσύνης προσελκύει ολοένα μεγαλύτερα κεφάλαια.

Οι κίνδυνοι που καταγράφει η ίδια η εταιρεία

Στα έγγραφα προς τους υποψήφιους επενδυτές, η Anthropic επισημαίνει ότι οι ανησυχίες για τις επιπτώσεις της τεχνητής νοημοσύνης διατυπώνονται τόσο από πολιτικούς και ρυθμιστικές αρχές όσο και από ερευνητές, στελέχη και εργαζομένους του κλάδου.

Όπως αναγνωρίζει, η ανάπτυξη ολοένα ισχυρότερων συστημάτων ενδέχεται να δημιουργήσει σοβαρούς κινδύνους, εάν δεν συνοδεύεται από αποτελεσματικές δικλίδες ασφαλείας και επαρκή ανθρώπινη εποπτεία.

Μεταξύ των σεναρίων που προκαλούν ανησυχία είναι η κακόβουλη αξιοποίηση της τεχνολογίας, η χρήση της για την ανάπτυξη όπλων, η ανεξέλεγκτη αναπαραγωγή συστημάτων, αλλά και η λειτουργία αυτόνομων εφαρμογών με περιορισμένη ανθρώπινη παρέμβαση.

Η εταιρεία δηλώνει ότι παραμένει προσηλωμένη στην ανάπτυξη τεχνητής νοημοσύνης που θα ωφελεί τους ανθρώπους. Παράλληλα, όμως, αναγνωρίζει ότι η ίδια η τεχνολογία μπορεί να δημιουργήσει προβλήματα που δεν είναι εύκολο να προβλεφθούν ή να αντιμετωπιστούν.

Οι οικονομικές επιδόσεις και οι μεγάλες επενδύσεις

Η Anthropic περιγράφει στα οικονομικά της στοιχεία μια εταιρεία με υψηλά έσοδα, αλλά και τεράστιες ανάγκες χρηματοδότησης για την ανάπτυξη των μοντέλων της.

Σύμφωνα με τα στοιχεία της κατάθεσης, τα έσοδά της κατά το πρώτο εξάμηνο του έτους ανήλθαν σε 16,3 δισ. δολάρια, ενώ τα διαθέσιμα μετρητά και τα ισοδύναμά τους διαμορφώνονταν σε 112,4 δισ. δολάρια.

Στα ίδια στοιχεία καταγράφονται ζημίες άνω των 80,7 δισ. δολαρίων για την περίοδο, ποσό που αποτυπώνει το μέγεθος των οικονομικών κινδύνων που περιγράφονται στην κατάθεση και χρειάζεται να αξιολογηθεί με βάση τις ακριβείς λογιστικές κατηγορίες και το περιεχόμενο των εγγράφων.

Η εταιρεία υποστηρίζει ότι οι μεγάλες επενδύσεις της έχουν μακροπρόθεσμο ορίζοντα και ενδέχεται αρχικά να φαίνονται υπερβολικές. Όπως αναφέρει χαρακτηριστικά, επιδιώκει να συνδυάζει τολμηρές επιλογές με προσεκτική διαχείριση και να κερδίζει την εμπιστοσύνη μέσα από επιτυχημένες αποφάσεις.

Παράλληλα, προειδοποιεί ότι η επιχειρηματική της πορεία εξαρτάται σε μεγάλο βαθμό από την ικανότητά της να αναπτύσσει ανταγωνιστικά και προηγμένα μοντέλα. Ενδεχόμενη αποτυχία σε αυτόν τον τομέα θα μπορούσε να επηρεάσει σημαντικά τα αποτελέσματά της.

Εξάρτηση από υποδομές και τσιπ

Στα έγγραφα, έκτασης περίπου 90 σελίδων για τους παράγοντες κινδύνου, η Anthropic περιγράφει και τις τεχνολογικές εξαρτήσεις που ενδέχεται να περιορίσουν την ανάπτυξή της.

Μεταξύ αυτών περιλαμβάνονται η εξάρτηση από περιορισμένο αριθμό παρόχων υπηρεσιών υπολογιστικού νέφους, η αυξημένη ζήτηση για ημιαγωγούς από κατασκευαστές στην Ταϊβάν και η συγκέντρωση μεγάλου αριθμού κέντρων δεδομένων στις ΗΠΑ.

Η εταιρεία αναγνωρίζει επίσης ότι ενδεχόμενα περιστατικά βλάβης που θα συνδέονταν με τα μοντέλα της, συμπεριλαμβανομένων ζητημάτων αυτοκτονίας ή ασφάλειας παιδιών, θα μπορούσαν να οδηγήσουν σε αυστηρότερες ρυθμιστικές παρεμβάσεις.

Αβέβαιο παραμένει, όπως επισημαίνει, και το εύρος της νομικής ευθύνης που θα μπορούσε να της αποδοθεί για ενέργειες οι οποίες πραγματοποιούνται από τα συστήματά της.

Οι προβληματισμοί αυτοί έρχονται σε μια περίοδο κατά την οποία οι μεγάλες τεχνολογικές εταιρείες επενδύουν τεράστια ποσά σε υπολογιστικές υποδομές, κέντρα δεδομένων και νέα μοντέλα AI.

Η Anthropic και η OpenAI ετοιμάζονται για το χρηματιστήριο

Η Anthropic ιδρύθηκε πριν από πέντε χρόνια από τον διευθύνοντα σύμβουλο Ντάριο Αμοντέι, την αδελφή του Ντανιέλα Αμοντέι και πέντε ακόμη συνιδρυτές. Τον Ιούνιο γνωστοποίησε την πρόθεσή της να εισαχθεί στο χρηματιστήριο.

Στην ίδια κατεύθυνση κινείται και η OpenAI, δημιουργός του ChatGPT, η οποία έχει επίσης γνωστοποιήσει σχέδια για είσοδο στις χρηματιστηριακές αγορές. Σύμφωνα με πρόσωπο που γνωρίζει τον σχεδιασμό της, η εισαγωγή της αναμένεται πλέον στις αρχές του επόμενου έτους.

Η προοπτική εισαγωγής των δύο εταιρειών στο χρηματιστήριο θεωρείται σημαντική εξέλιξη για τον κλάδο, καθώς θα επιτρέψει στους επενδυτές να αξιολογήσουν με μεγαλύτερη διαφάνεια τα οικονομικά τους μεγέθη, τις ανάγκες χρηματοδότησης και τις προοπτικές ανάπτυξής τους.

Νέα αγωγή για τραγούδια του Έλβις Πρίσλεϊ

Την ίδια στιγμή, η Anthropic αντιμετωπίζει και νέα νομική διαμάχη σχετικά με τη χρήση προστατευόμενου περιεχομένου για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης.

Τη Δευτέρα, κάτοχοι δικαιωμάτων μουσικής του Έλβις Πρίσλεϊ κατέθεσαν αγωγή εναντίον της, υποστηρίζοντας ότι χρησιμοποιήθηκαν εκατοντάδες τραγούδια του καλλιτέχνη για την εκπαίδευση του Claude.

Η υπόθεση εντάσσεται στις ευρύτερες δικαστικές αντιπαραθέσεις γύρω από τα πνευματικά δικαιώματα και το κατά πόσο εταιρείες τεχνητής νοημοσύνης μπορούν να αξιοποιούν προστατευμένα έργα για την ανάπτυξη των συστημάτων τους.

Τι περιμένουν οι επενδυτές

Ο Ματ Όρτον, επικεφαλής στρατηγικής αγοράς στη Raymond James Investment Management, εκτίμησε ότι οι επενδυτές αναμένουν ταχεία ανάπτυξη της Anthropic, αλλά και σημαντικές οικονομικές απώλειες όσο συνεχίζονται οι επενδύσεις στην τεχνολογία.

Όπως δήλωσε στο BBC, η δημοσιοποίηση των στοιχείων θα βοηθήσει την αγορά να κατανοήσει καλύτερα τις πηγές αύξησης των εσόδων της εταιρείας.

Από την πλευρά του, ο Πίτερ Άντερσεν, ιδρυτής της Andersen Capital Management, χαρακτήρισε στο Reuters την προγραμματισμένη εισαγωγή της Anthropic σημαντικό ορόσημο για την ανάπτυξη της τεχνητής νοημοσύνης.

Η πορεία της μετοχής όταν ξεκινήσει η διαπραγμάτευσή της αναμένεται να αποτελέσει ένδειξη για το κατά πόσο οι επενδυτές είναι διατεθειμένοι να συνεχίσουν να χρηματοδοτούν έναν κλάδο με μεγάλες προοπτικές, αλλά και σημαντικές τεχνολογικές, οικονομικές και ρυθμιστικές αβεβαιότητες.