Anthropic: Προσπάθησαν να χρησιμοποιήσουν το Claude για πυραύλους και βιολογική έρευνα

Η Anthropic, δημιουργός του Claude, αποκάλυψε νέα περιστατικά στα οποία χρήστες επιχείρησαν να αξιοποιήσουν τα προηγμένα μοντέλα της για την ανάπτυξη οπλικών συστημάτων, αλλά και για βιολογική έρευνα που θα μπορούσε υπό συγκεκριμένες συνθήκες να οδηγήσει σε επικίνδυνες εφαρμογές.

Τα ευρήματα περιλαμβάνονται σε νέα έκθεση απειλών της εταιρείας και καταδεικνύουν ότι η τεχνητή νοημοσύνη δεν χρησιμοποιείται πλέον μόνο για την αναζήτηση πληροφοριών ή την παραγωγή κειμένου και κώδικα. Σε ορισμένες περιπτώσεις, οι χρήστες προσπάθησαν να μετατρέψουν το Claude σε συνεργάτη σύνθετων τεχνικών και επιστημονικών προγραμμάτων.

Μία από τις πιο ανησυχητικές υποθέσεις αφορά ομάδα στη βόρεια Υεμένη. Η Anthropic δεν την ταυτοποίησε επισήμως με τους Χούθι, ωστόσο η περιοχή βρίσκεται σε μεγάλο βαθμό υπό τον έλεγχο της υποστηριζόμενης από το Ιράν οργάνωσης και τα στοιχεία της υπόθεσης παραπέμπουν, σύμφωνα με τους New York Times, σε αυτήν.

Η ομάδα φέρεται να εργαζόταν πάνω σε τρία διαφορετικά προγράμματα όπλων: έναν βαλλιστικό πύραυλο, έναν πύραυλο με διαφορετικές παραλλαγές και μια κατευθυνόμενη ρουκέτα.

Το Claude, σύμφωνα με την Anthropic, δεν χρησιμοποιήθηκε απλώς για γενικές πληροφορίες. Οι χρήστες το αξιοποίησαν «στη θέση ανθρώπων μηχανικών λογισμικού», με στόχο να αναπτύξουν συστήματα καθοδήγησης, πλοήγησης και ελέγχου για τα συγκεκριμένα όπλα.

Μεταξύ άλλων, το μοντέλο χρησιμοποιήθηκε για την ενσωμάτωση λογισμικού autopilot σε υπολογιστή πτήσης, για τη συγγραφή λογισμικού ελέγχου και υπολογισμού θέσης, την προσαρμογή παραμέτρων, την παραγωγή firmware και την προσομοίωση πτήσης.

Η υπόθεση γίνεται ακόμη πιο σοβαρή επειδή, σύμφωνα με την εταιρεία, δεν περιορίστηκε σε θεωρητικό επίπεδο. Η ομάδα πραγματοποίησε δοκιμαστική εκτόξευση κατευθυνόμενης ρουκέτας, η οποία φαίνεται ότι απέτυχε. Λίγες ώρες αργότερα, οι χρήστες επέστρεψαν στο Claude προκειμένου να αναλύσουν τα προβλήματα της δοκιμής και να αναζητήσουν τρόπους διόρθωσής τους.

Η Anthropic διευκρινίζει ότι δεν διαθέτει στοιχεία πως το συγκεκριμένο πρόγραμμα κατέληξε σε λειτουργικό όπλο. Ωστόσο, το γεγονός ότι η τεχνητή νοημοσύνη συμμετείχε σε έναν πραγματικό κύκλο σχεδιασμού, δοκιμής και βελτίωσης ενός οπλικού συστήματος θεωρείται σημαντική εξέλιξη.

Οι χρήστες προσπάθησαν να παρακάμψουν τα φίλτρα

Ένα ακόμη πρόβλημα που εντόπισε η Anthropic αφορά τον τρόπο με τον οποίο οι χρήστες προσπάθησαν να ξεπεράσουν τις δικλίδες ασφαλείας του Claude.

Πολλά από τα αιτήματα απορρίφθηκαν από το μοντέλο. Σε άλλες περιπτώσεις, όμως, οι χρήστες φέρεται να απέκρυπταν τον πραγματικό σκοπό της εργασίας τους. Αντί να παρουσιάζουν ολόκληρο το σχέδιο σε μία συνομιλία, έσπαγαν την εργασία σε πολλές μικρότερες συνομιλίες.

Έτσι, κάθε μεμονωμένο αίτημα μπορούσε να μοιάζει σχετικά αθώο, ενώ μόνο ο συνδυασμός των διαφορετικών συνομιλιών αποκάλυπτε τον πραγματικό στόχο.

Η πρακτική αυτή δημιουργεί ένα από τα πιο δύσκολα προβλήματα για τις εταιρείες τεχνητής νοημοσύνης. Ένα μοντέλο μπορεί να είναι σε θέση να αναγνωρίσει ένα προφανώς επικίνδυνο αίτημα, αλλά να δυσκολεύεται να αντιληφθεί ότι δεκάδες φαινομενικά άσχετες ερωτήσεις αποτελούν τμήματα του ίδιου σχεδίου.

«Δεν βλέπεις κάποιον, σαν σε κόμικ, να λέει “θέλω να φτιάξω ένα βιολογικό όπλο για να σκοτώσω τους πάντες”», δήλωσε στους New York Times ο επικεφαλής Threat Intelligence της Anthropic, Τζέικομπ Κλάιν. «Είναι μια απίστευτα σύνθετη κατάσταση».

Η ανησυχία για τη βιολογική έρευνα

Ακόμη μεγαλύτερη ανησυχία προκαλεί το σκέλος της έκθεσης που αφορά τη βιολογία.

Η Anthropic ανακοίνωσε ότι μέσα στη χρονιά διέκοψε αρκετές περιπτώσεις στις οποίες επιστήμονες χρησιμοποίησαν προηγμένα μοντέλα Claude για έρευνα που θα μπορούσε να έχει εφαρμογές στην ανάπτυξη βιολογικών όπλων.

Η εταιρεία, πάντως, υπογραμμίζει ότι δεν έχει αποδείξεις πως τα συγκεκριμένα ερευνητικά προγράμματα είχαν κατ’ ανάγκη στρατιωτικό ή κακόβουλο σκοπό. Το πρόβλημα βρίσκεται στη φύση της ίδιας της τεχνολογίας.

Έρευνες πάνω σε ιούς και μεταλλάξεις μπορούν να συμβάλουν στην ανάπτυξη εμβολίων, θεραπειών και καλύτερης κατανόησης των ασθενειών. Ταυτόχρονα, όμως, η ίδια επιστημονική γνώση μπορεί να χρησιμοποιηθεί με διαφορετικό τρόπο, δημιουργώντας το λεγόμενο πρόβλημα «dual-use», δηλαδή της διπλής χρήσης μιας τεχνολογίας.

Μία από τις περιπτώσεις που εξέτασε η Anthropic αφορούσε τον ιό chikungunya. Τον Μάιο, επιστήμονας ζήτησε βοήθεια από το Claude για τη σύνταξη πρότασης χρηματοδότησης έρευνας πάνω στον ιό, ο οποίος μεταδίδεται από κουνούπια και μπορεί να προκαλέσει έντονα και παρατεταμένα συμπτώματα.

Η σχεδιαζόμενη έρευνα περιλάμβανε πειράματα τύπου gain-of-function, κατά τα οποία οι επιστήμονες μελετούν πώς συγκεκριμένες μεταβολές μπορούν να επηρεάσουν τα χαρακτηριστικά ενός παθογόνου.

Σύμφωνα με την Anthropic, ο συγκεκριμένος χρήστης επιδίωκε να μελετήσει μεταλλάξεις που θα μπορούσαν να κάνουν τον ιό περισσότερο επιβλαβή καθώς μεταδιδόταν επανειλημμένα σε ζώα. Η ανησυχία ενισχύθηκε από το γεγονός ότι η έρευνα προοριζόταν να πραγματοποιηθεί σε στρατιωτικό ερευνητικό ινστιτούτο.

«Αυτό που δεν γνωρίζουμε είναι αν η έρευνα προοριζόταν για στρατιωτική αξιοποίηση», δήλωσε ο Κλάιν. «Αλλά ένα στρατιωτικό ίδρυμα που πραγματοποιεί έρευνα gain-of-function είναι ανησυχητικό».