Ε.Μασκ: «Το ΑΙ μπορεί να αποδειχθεί πολύ επικίνδυνο – Προσπαθεί να ξεπεράσει τα όρια που θέτουμε»

Ο Έλον Μασκ προειδοποίησε ότι η τεχνητή νοημοσύνη μπορεί πλέον να αποβεί πολύ επικίνδυνη και πρότεινε άμεσο έλεγχο των κορυφαίων μοντέλων πριν τη διάθεσή τους στην αγορά.

Ως παράδειγμα ανέφερε «φανατική» ομάδα πρακτόρων ΤΝ που, όπως είπε, απέκτησε πρόσβαση διαχειριστή σε διακομιστές της OpenAI χωρίς η εταιρεία να το αντιληφθεί επί μία εβδομάδα, καθώς και αντίστοιχα περιστατικά ασφαλείας στην Anthropic.

«Είναι πλέον αρκετά προφανές ότι η τεχνητή νοημοσύνη μπορεί να αποβεί πολύ επικίνδυνη. Είδαμε μια «φανατική» ομάδα πρακτόρων τεχνητής νοημοσύνης να αποκτά πρόσβαση διαχειριστή στους διακομιστές της OpenAI, χωρίς η ίδια η εταιρεία να το αντιληφθεί για διάστημα μιας εβδομάδας.

Αντίστοιχα περιστατικά ασφαλείας έχουν αναφερθεί και από την Anthropic. Φαίνεται πως κάθε μοντέλο με επαρκή νοημοσύνη θα επιδιώκει να ξεφύγει από τους περιορισμούς που του έχουν τεθεί.

Θεωρώ ότι η πιο συνετή κίνηση, η οποία πρέπει να γίνει το συντομότερο δυνατόν —αν όχι άμεσα—, είναι να ελέγχουν οι βασικοί ανταγωνιστές στον χώρο της τεχνητής νοημοσύνης τα μοντέλα ο ένας του άλλου.

Αντί να αξιολογείς ο ίδιος τη δουλειά σου, θα ήταν προτιμότερο να την αξιολογούν οι ανταγωνιστές σου, οι οποίοι θα μπορούσαν να κρούσουν τον κώδωνα του κινδύνου εφόσον εντόπιζαν προβλήματα.

Το μέτρο που θα μπορούσαμε να εφαρμόσουμε άμεσα —και για το οποίο πιθανότατα θα βρίσκαμε κοινό έδαφος με την Κίνα— είναι ο έλεγχος από ομοτίμους, κατά τον οποίο οι κορυφαίες εταιρείες τεχνητής νοημοσύνης θα δοκίμαζαν τα μοντέλα των ανταγωνιστών τους πριν από τη διάθεσή τους στην αγορά».

Η πρόταση αφορά την αξιολόγηση της ασφάλειας έξω από το εσωτερικό τμήμα της κάθε εταιρείας. Ο Μασκ λέει ότι η αυτοαξιολόγηση δεν φτάνει: όποιος φτιάχνει το μοντέλο έχει συμφέρον να το βγάλει γρήγορα.

Ο ανταγωνιστής έχει συμφέρον να βρει την «τρύπα» στην ασφάλεια.

Γι’ αυτό μιλά για ομοτίμους και όχι για εσωτερική επιτροπή.Το δεύτερο σκέλος είναι γεωπολιτικό.

Ζητά ένα μέτρο στο οποίο, όπως εκτιμά, μπορεί να συμφωνήσει και το Πεκίνο: Αμοιβαίος έλεγχος πριν την κυκλοφορία.

Η Anthropic δημοσίευσε πρόσφατα έκθεση για απόπειρες κατάχρησης μοντέλων σε βιολογική έρευνα διπλής χρήσης και ο CEO της εταιρείας κάλεσε σε συνεννόηση ακόμη και την Κίνα.