O CΕΟ της Anthropic Ντάριο Αμοντέι παραδέχτηκε ότι κάποιοι προσπάθησαν να φτιάξουν βιολογικό όπλο με ΑΙ

Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, είπε δημόσια αυτό που η εταιρεία του δημοσίευσε δύο ημέρες νωρίτερα σε έκθεση απειλών: Χρήστες προσπάθησαν να αξιοποιήσουν τα μοντέλα της για βιολογική έρευνα διπλής χρήσης, μεταξύ άλλων για την ενίσχυση της μεταδοτικότητας ιών.

«Αυτό είναι τρομακτικό», είπε. Και πρόσθεσε ότι οι ΗΠΑ πρέπει να πάνε ακόμη και σε αυταρχικές χώρες, «ακόμη και στους Κινέζους», και να πουν ότι υπάρχουν απειλές που αφορούν όλους.

Η δήλωση έγινε σε συνέντευξη στο CBS «Sunday Morning» στις 13 Σεπτεμβρίου. Δεν περιέγραψε κατασκευή όπλου σε εργαστήριο.

Περιέγραψε απόπειρες κατάχρησης μοντέλου και κάλεσε σε «όριο ταχύτητας» στην ανάπτυξη της ΤΝ.

«Ούτε οι Κινέζοι το θέλουν αυτό. Δεν είναι προς το συμφέρον καμίας κυβέρνησης η βιοτρομοκρατλια», είπε. Πρότεινε επέκταση της λογικής της Σύμβασης για τα Βιολογικά Όπλα και στις χρήσεις της τεχνητής νοημοσύνης.

Η έκθεση της 10ης Σεπτεμβρίου μιλά για πέντε μελέτες περίπτωσης σε παράθυρο περίπου 30 ημερών και για δεκάδες ερευνητικές προσπάθειες που η εταιρεία έκρινε ανησυχητικές. Χρήστες παρέκαμψαν γεωγραφικούς αποκλεισμούς και απέκρυψαν τον σκοπό.

Τα παραδείγματα αφορούν έρευνα διπλής χρήσης σε λοιμώδη νοσήματα — μεταξύ αυτών γρίπη των πτηνών— καθώς και τοξίνες.

Η Anthropic τονίζει ότι δεν μπορεί να βεβαιώσει πρόθεση βλάβης: το ίδιο είδος γνώσης χρησιμεύει σε εμβόλια και σε κατάχρηση. Σε μία περίπτωση η αίτηση επιχορήγησης συνδεόταν με στρατιωτικό ερευνητικό ινστιτούτο· αυτό ανέβασε το επίπεδο συναγερμού. Οι λογαριασμοί μπλοκαρίστηκαν.

Ο επικεφαλής απειλών της εταιρείας, Τζέικομπ Κλάιν, είπε στους New York Times ότι δεν πρόκειται για καρτούν τύπου «θέλω όπλο να σκοτώσω τους πάντες».

Είναι «εξαιρετικά λεπτή κατάσταση».

Η Google, τις ίδιες ημέρες, ανέφερε ξεχωριστά απόπειρα στο Gemini για τεχνικό οδηγό σύνθεσης βιολογικών παραγόντων.