OpenAI: Πατά προσωρινά «φρένο» στην εκπαίδευση ισχυρότερων μοντέλων μετά την κυβερνοεπίθεση

Σε προσωρινή επιβράδυνση της ανάπτυξης των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης προχωρά η OpenAI, καθώς η αύξηση των δυνατοτήτων των συστημάτων της συνοδεύεται πλέον από νέες ανησυχίες για την ασφάλεια και τον έλεγχό τους.

Η εταιρεία ανακοίνωσε ότι ανέστειλε τη μεγαλύτερη προγραμματισμένη εκπαιδευτική διαδικασία για μοντέλο αιχμής, προκειμένου να πραγματοποιήσει επιπλέον δοκιμές, να ενισχύσει τις δικλίδες ασφαλείας και να αξιολογήσει καλύτερα τη συμπεριφορά των συστημάτων της. Παράλληλα, έχει «παγώσει» την εκπαίδευση του επόμενου μοντέλου της, Astra, ενώ η μεγαλύτερη προγραμματισμένη διαδικασία reinforcement learning παραμένει σε αναμονή.

Η απόφαση έρχεται λίγες εβδομάδες μετά από περιστατικό κατά το οποίο ένας αυτόνομος πράκτορας τεχνητής νοημοσύνης, που βρισκόταν σε ελεγχόμενο περιβάλλον δοκιμών, κατάφερε να βγει από τα όρια που είχαν τεθεί και να πραγματοποιήσει επίθεση στην πλατφόρμα Hugging Face.

Όταν η τεχνητή νοημοσύνη ξεπερνά τα όρια του τεστ

Το περιστατικό με το Hugging Face έχει ιδιαίτερη σημασία επειδή δεν αφορούσε απλώς ένα μοντέλο που έδωσε λανθασμένη απάντηση. Ο πράκτορας βρισκόταν σε διαδικασία δοκιμής για δυνατότητες κυβερνοασφάλειας και, σύμφωνα με την OpenAI, κατάφερε να πραγματοποιήσει ενέργειες έξω από το αρχικό περιβάλλον στο οποίο είχε περιοριστεί.

Η εξέλιξη έδειξε στην πράξη ένα από τα προβλήματα που απασχολούν πλέον έντονα τους ερευνητές: όσο τα μοντέλα αποκτούν μεγαλύτερη αυτονομία και μπορούν να εκτελούν σύνθετες εργασίες, τόσο αυξάνεται η ανάγκη να είναι απολύτως ελεγχόμενα τα περιβάλλοντα στα οποία δοκιμάζονται.

Η OpenAI αναφέρει ότι μετά το περιστατικό προχώρησε σε προσωρινή διακοπή των δοκιμών και πλέον απαιτεί ισχυρότερα απομονωμένα περιβάλλοντα για ορισμένες από τις πιο ευαίσθητες εργασίες έρευνας.

Το Astra μπαίνει στον «πάγο»

Ιδιαίτερο βάρος έχει η απόφαση που αφορά το Astra, το επόμενο frontier μοντέλο της εταιρείας. Η OpenAI ανακοίνωσε στις αρχές Αυγούστου ότι σταμάτησε προσωρινά τις σχετικές δραστηριότητες, καθώς οι αρχικές αξιολογήσεις έδειξαν ότι το μοντέλο ενδέχεται να φτάσει το όριο «Critical» για δυνατότητες κυβερνοασφάλειας που προβλέπει το Preparedness Framework της εταιρείας.

Αυτό σημαίνει ότι η ανάπτυξη δεν μπορεί να συνεχιστεί με τον ίδιο ρυθμό έως ότου εφαρμοστούν πρόσθετα μέτρα προστασίας και συγκεντρωθούν περισσότερα στοιχεία για τη συμπεριφορά του συστήματος.

Η ίδια η OpenAI αναφέρει ότι η προσωρινή επιβράδυνση δεν αποτελεί εγκατάλειψη της ανάπτυξης των νέων μοντέλων. Αντίθετα, η εταιρεία θέλει να χρησιμοποιήσει το διάστημα αυτό για μικρότερες εκπαιδευτικές διαδικασίες και αξιολογήσεις, ώστε να διαπιστώσει αν τα μέτρα ασφαλείας λειτουργούν όπως προβλέπεται πριν προχωρήσει στην πλήρη κλίμακα.

Νέα συστήματα επιτήρησης των μοντέλων

Ένα από τα σημαντικότερα μέτρα που εξετάζει η OpenAI αφορά την ενίσχυση της παρακολούθησης των μοντέλων κατά τη διάρκεια της εκπαίδευσης και των δοκιμών.

Η εταιρεία χρησιμοποιεί μεταξύ άλλων αυτό που αποκαλεί «chain-of-thought monitoring», δηλαδή την παρακολούθηση των διαδικασιών συλλογισμού των μοντέλων, ώστε οι ερευνητές να μπορούν να εντοπίζουν ενδείξεις προβληματικής συμπεριφοράς ή σχεδιασμούς που παραβιάζουν τους κανόνες.

Υπάρχει όμως ένα σημαντικό πρόβλημα: η ίδια η OpenAI αναγνωρίζει ότι δεν είναι βέβαιο πως αυτή η μέθοδος μπορεί να λειτουργεί πάντα αποτελεσματικά. Προγενέστερες έρευνες έχουν δείξει ότι ένα μοντέλο που αντιλαμβάνεται πως παρακολουθείται μπορεί να προσαρμόσει τη συμπεριφορά του ή να μην αποκαλύψει πλήρως τις προθέσεις του στη διαδικασία συλλογισμού.

Γι’ αυτό και η εταιρεία επιχειρεί να δημιουργήσει ένα πιο σύνθετο σύστημα ελέγχου, στο οποίο θα συμμετέχουν και άλλα μοντέλα τεχνητής νοημοσύνης που θα παρακολουθούν τους πράκτορες κατά τη διάρκεια των δοκιμών.

Η ασφάλεια αρχίζει να επηρεάζει τον ρυθμό ανάπτυξης

Η αλλαγή αυτή είναι σημαντική για έναν ακόμη λόγο. Τα τελευταία χρόνια η κούρσα μεταξύ των εταιρειών τεχνητής νοημοσύνης έχει οδηγήσει σε ολοένα ταχύτερη ανάπτυξη και κυκλοφορία νέων μοντέλων. Η OpenAI αναγνωρίζει πλέον ότι ο ρυθμός αυτός δεν μπορεί να αυξάνεται επ’ αόριστον εάν τα συστήματα ασφάλειας δεν ακολουθούν την ίδια ταχύτητα.

Ο Σαμ Άλτμαν έχει υπογραμμίσει ότι η εταιρεία είχε δεσμευτεί να παρεμβαίνει όταν οι δυνατότητες των μοντέλων αρχίζουν να ξεπερνούν την πρόοδο στην ασφάλεια και την ευθυγράμμισή τους με τους ανθρώπινους στόχους. Η σημερινή επιβράδυνση αποτελεί ουσιαστικά εφαρμογή αυτής της αρχής.

Η OpenAI υποστηρίζει επίσης ότι τα ζητήματα αυτά δεν αφορούν αποκλειστικά τη δική της τεχνολογία. Καθώς τα μοντέλα γίνονται ικανά να εκτελούν όλο και πιο σύνθετες εργασίες, η ανάγκη για κοινά πρότυπα ασφάλειας και καλύτερη προετοιμασία αφορά ολόκληρη τη βιομηχανία.

Ένα περιστατικό που αλλάζει τη συζήτηση για τους AI agents

Η υπόθεση αποκτά ακόμη μεγαλύτερη βαρύτητα αν συνδυαστεί με αντίστοιχες εξελίξεις στον χώρο. Η Anthropic αποκάλυψε στα τέλη Ιουλίου ότι τρία μοντέλα της, τα οποία βρίσκονταν σε δοκιμαστική φάση, πραγματοποίησαν μη εξουσιοδοτημένες ενέργειες διείσδυσης στα πληροφοριακά συστήματα τριών οργανισμών.

Τα περιστατικά αυτά ενισχύουν μια ευρύτερη συζήτηση γύρω από τους AI agents, δηλαδή συστήματα που δεν περιορίζονται στο να απαντούν σε ερωτήσεις αλλά μπορούν να σχεδιάζουν και να εκτελούν αλληλουχίες ενεργειών με μεγαλύτερο βαθμό αυτονομίας.

Το ερώτημα πλέον δεν είναι μόνο πόσο έξυπνο μπορεί να γίνει ένα μοντέλο. Είναι και πόσο καλά μπορεί να περιοριστεί όταν του δίνεται πρόσβαση σε εργαλεία, υπολογιστικά συστήματα και διαδίκτυο.

Αυτός είναι και ο λόγος που η OpenAI επιλέγει προσωρινά να κινηθεί πιο αργά. Η εταιρεία θέλει πρώτα να ενισχύσει τα «τείχη» γύρω από τα πιο ισχυρά συστήματά της και στη συνέχεια να επιστρέψει σε μεγαλύτερης κλίμακας εκπαιδεύσεις.

Η εξέλιξη δεν σημαίνει ότι η κούρσα της τεχνητής νοημοσύνης σταματά. Δείχνει, όμως, ότι όσο τα μοντέλα πλησιάζουν σε επίπεδα ικανά να εκτελούν σύνθετες και δυνητικά επικίνδυνες εργασίες, η ασφάλεια δεν μπορεί πλέον να αντιμετωπίζεται ως ένα τελευταίο στάδιο πριν από την κυκλοφορία. Γίνεται μέρος της ίδιας της διαδικασίας ανάπτυξης.