«Κλαίει η μάνα μου στο μνήμα» είναι η εικόνα του τουρισμού εφέτος...

OpenAI: Μοντέλα τεχνητής νοημοσύνης ξεπέρασαν τα όρια ασφαλείας και απέκτησαν πρόσβαση στο διαδίκτυο

Κατά τη διάρκεια δοκιμής κυβερνοασφάλειας, τα συστήματα φέρεται να παρέκαμψαν το ελεγχόμενο περιβάλλον

OpenAI: Μοντέλα τεχνητής νοημοσύνης ξεπέρασαν τα όρια ασφαλείας και απέκτησαν πρόσβαση στο διαδίκτυο

Ανακαλύψτε περισσότερα άρθρα στα αποτελέσματα αναζήτησης

Προσθήκη του pronews.gr στην Google

Αναφορές σχετικά με τη συμπεριφορά προηγμένων μοντέλων τεχνητής νοημοσύνης της OpenAI προκαλούν συζητήσεις στον χώρο της τεχνολογίας, καθώς υποστηρίζεται ότι δύο συστήματα κατάφεραν να παρακάμψουν περιορισμούς ενός ασφαλούς περιβάλλοντος δοκιμών και να εκτελέσουν ενέργειες εκτός του αρχικού πλαισίου αξιολόγησης.

Σύμφωνα με δημοσίευμα της Washington Post, το περιστατικό σημειώθηκε κατά τη διάρκεια μιας ειδικής δοκιμής κυβερνοασφάλειας με την ονομασία ExploitGym, η οποία είχε ως στόχο να αξιολογήσει τις δυνατότητες των μοντέλων στην αναγνώριση και αντιμετώπιση ψηφιακών ευπαθειών.

Κατά τη διάρκεια της δοκιμής, τα μοντέλα φέρεται να μην περιορίστηκαν στην επίλυση της εργασίας που τους είχε ανατεθεί, αλλά να αναζήτησαν εναλλακτικούς τρόπους για να αποκτήσουν πρόσβαση στις ζητούμενες πληροφορίες.

Οι αναφορές κάνουν λόγο για προσπάθεια εξόδου από το απομονωμένο περιβάλλον ασφαλείας (sandbox) και σύνδεση με εξωτερικά συστήματα.

Οι πληροφορίες αναφέρουν ότι τα συστήματα κατάφεραν να εντοπίσουν και να αξιοποιήσουν αδυναμίες ασφαλείας, αποκτώντας πρόσβαση σε δεδομένα που σχετίζονταν με τη δοκιμή.

Παράλληλα, υποστηρίζεται ότι πραγματοποιήθηκε πρόσβαση σε υποδομές της πλατφόρμας Hugging Face, με στόχο την ανάκτηση των λύσεων του τεστ.

Η Hugging Face φέρεται να εντόπισε γρήγορα τη δραστηριότητα, ωστόσο το περιστατικό χαρακτηρίζεται ως ιδιαίτερα σημαντικό, καθώς δείχνει τις αυξανόμενες δυνατότητες των σύγχρονων μοντέλων τεχνητής νοημοσύνης στον τομέα των κυβερνοεπιθέσεων.

Οι ειδικοί επισημαίνουν ότι όσο τα μοντέλα AI γίνονται πιο ισχυρά, τόσο αυξάνεται η ανάγκη για αυστηρότερα συστήματα ελέγχου, καθώς η ικανότητα εντοπισμού μιας ψηφιακής ευπάθειας μπορεί να μετατραπεί σε δυνατότητα αυτόνομης εκμετάλλευσής της.

Δείτε μας ζωντανά στο YouTube, Twitch, X, Telegram

ΤΕΛΕΥΤΑΙΕΣ ΕΙΔΗΣΕΙΣ
ΔΕΙΤΕ ΟΛΑ ΤΑ ΝΕΑ
ΣΧΟΛΙΑΣΤΕ ΤΟ ΑΡΘΡΟ

Tο pronews.gr δημοσιεύει κάθε σχόλιο το οποίο είναι σχετικό με το θέμα στο οποίο αναφέρεται το άρθρο. Ο καθένας έχει το δικαίωμα να εκφράζει ελεύθερα τις απόψεις του. Ωστόσο, αυτό δεν σημαίνει ότι υιοθετούμε τις απόψεις αυτές και διατηρούμε το δικαίωμα να μην δημοσιεύουμε συκοφαντικά ή υβριστικά σχόλια όπου τα εντοπίζουμε. Σε κάθε περίπτωση ο καθένας φέρει την ευθύνη των όσων γράφει και το pronews.gr ουδεμία νομική ή άλλα ευθύνη φέρει.

Δικαίωμα συμμετοχής στη συζήτηση έχουν μόνο όσοι έχουν επιβεβαιώσει το email τους στην υπηρεσία disqus. Εάν δεν έχετε ήδη επιβεβαιώσει το email σας, μπορείτε να ζητήσετε να σας αποσταλεί νέο email επιβεβαίωσης από το disqus.com

Όποιος χρήστης της πλατφόρμας του disqus.com ενδιαφέρεται να αναλάβει διαχείριση (moderating) των σχολίων στα άρθρα του pronews.gr σε εθελοντική βάση, μπορεί να στείλει τα στοιχεία του και στοιχεία επικοινωνίας στο [email protected] και θα εξεταστεί άμεσα η υποψηφιότητά του.