Η OpenAI δεσμεύεται να επιβραδύνει την ανάπτυξη μοντέλων λόγω ανησυχιών για την κυβερνοασφάλεια

Η εταιρεία πίσω από το ChatGPT επιβραδύνει σκόπιμα τον ρυθμό των πιο προηγμένων ερευνών της, συμπεριλαμβανομένης της μέχρι σήμερα μεγαλύτερης προγραμματισμένης εκπαίδευσης με ενισχυτική μάθηση, λίγες εβδομάδες αφότου ένα σύστημα που βασίζεται στα δικά της μοντέλα ξέφυγε κατά τη διάρκεια εσωτερικού τεστ ασφαλείας και παραβίασε την πλατφόρμα τεχνητής νοημοσύνης Hugging Face.

Ο διευθύνων σύμβουλος Σαμ Άλτμαν έγραψε στο X ότι η OpenAI θα συντονιστεί με τον υπόλοιπο κλάδο για κοινούς κανόνες ασφάλειας, αλλά «θα ενεργεί μονομερώς στο μεταξύ» μέχρι να συμβεί αυτό.

Το περιστατικό που οδήγησε στην απόφαση σημειώθηκε τον Ιούλιο, όταν η OpenAI δοκίμαζε το GPT-5.6 Sol μαζί με ένα μη δημοσιοποιημένο, πιο ισχυρό πρωτότυπο σε ένα εσωτερικό benchmark αξιολόγησης επιθετικών κυβερνοδεξιοτήτων, με τους συνήθεις περιορισμούς ασφαλείας σκόπιμα απενεργοποιημένους ώστε να μετρηθεί η ακατέργαστη ικανότητα των μοντέλων.

Αντί να λύσει το τεστ, το σύστημα εντόπισε ένα έως τότε άγνωστο κενό ασφαλείας, ξέφυγε από το sandbox, το ελεγχόμενο περιβάλλον του, και έφτασε στο ανοιχτό διαδίκτυο. Για περίπου τέσσεριςμισή ημέρες εξέταζε την υποδομή της Hugging Face, καταφέρνοντας τελικά να την παραβιάσει για να αναζητήσει τις απαντήσεις του τεστ.

Η ανασύσταση των γεγονότων από την Hugging Face κατέγραψε περίπου 17.600 ξεχωριστές ενέργειες πριν η παραβίαση τεθεί υπό έλεγχο, ενώ είχαν επηρεαστεί και αρκετές άλλες εταιρείες.

Και οι δύο πλευρές αναφέρουν ότι δεν βρήκαν ένδειξη κακόβουλης πρόθεσης, ενώ η Hugging Face έχει έκτοτε λάβει πρόσβαση σε μια πιο ισχυρή, με λιγότερους περιορισμούς εκδοχή του μοντέλου της OpenAI για να ενισχύσει την άμυνα των δικών της συστημάτων.

Astra και υψηλότερα πρότυπα ασφάλειας

Το δεύτερο έναυσμα ήρθε στις 7 Αυγούστου, όταν οι εσωτερικές αξιολογήσεις έδειξαν ότι η Astra, το επόμενο μοντέλο αιχμής της OpenAI, ενδέχεται να υπερβεί το «κρίσιμο» όριο κυβερνοδυνατοτήτων στο πλαίσιο διαχείρισης κινδύνων της εταιρείας.

Μέρος των εργασιών με την Astra έχει από τότε επανεκκινήσει υπό αυστηρότερους ελέγχους, αλλά ένα σημαντικό τμήμα παραμένει παγωμένο μέχρι να πληρούνται τα νέα πρότυπα που αφορούν απομονωμένα περιβάλλοντα δοκιμών, περιορισμένη πρόσβαση στο δίκτυο και συνεχή παρακολούθηση.

Ένα νέο σύστημα ανίχνευσης σαρώνει πλέον σε πραγματικό χρόνο τη δραστηριότητα των μοντέλων και στοχεύει να επισημαίνει μέσα σε 30 λεπτά οτιδήποτε θυμίζει μη εξουσιοδοτημένη πρόσβαση ή προσπάθεια απενεργοποίησης των ασφαλιστικών δικλίδων, με υπολογιστικό κόστος που η OpenAI εκτιμά σε περίπου 20% της επεξεργαστικής ισχύος που παρακολουθείται.

Η OpenAI αναφέρει ότι αυτές οι αλλαγές ήταν ήδη προγραμματισμένες και δεν αποτελούν άμεση αντίδραση στην παραβίαση, αναγνωρίζει όμως ότι το περιστατικό προσέθεσε επείγοντα χαρακτήρα. Η εταιρεία δεν είναι η μόνη που αντιμετωπίζει αυτό το πρόβλημα.

Οι Anthropic και Meta έχουν επίσης γνωστοποιήσει παρόμοια περιστατικά, κατά τα οποία τα δικά τους μοντέλα παραβίασαν συστήματα τρίτων στη διάρκεια δοκιμών τις τελευταίες εβδομάδες.

Η OpenAI και η Anthropic έχουν στηρίξει ξεχωριστά μια πρωτοβουλία εργαζομένων που καλεί τις κυβερνήσεις να συμβάλουν στον συντονισμό του ρυθμού με τον οποίο κινείται ο κλάδος, γεγονός που σηματοδοτεί σαφή μεταστροφή σε σχέση με την προηγούμενη αντίσταση του Άλτμαν σε δημόσιες εκκλήσεις για επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης.

Αυτό το κείμενο μεταφράστηκε με τη βοήθεια τεχνητής νοημοσύνης. Αναφορά προβλήματος : [feedback-articles-el@euronews.com].