Οι Big Tech βάζουν «φρένο» στην AI με δικούς τους κανόνες – Η συμφωνία στον Λευκό Οίκο

Ένα νέο κεφάλαιο στη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης άνοιξε στην Ουάσινγκτον, καθώς οι μεγαλύτερες εταιρείες του κλάδου συμφώνησαν σε ένα εθελοντικό πλαίσιο αυτορρύθμισης με νέους κανόνες, μετά τη συνάντηση των επικεφαλής τους με τον Ντόναλντ Τραμπ στον Λευκό Οίκο.

Η συμφωνία, που παρουσιάστηκε από τον Αμερικανό πρόεδρο ως ένα είδος «συντάγματος» για την τεχνητή νοημοσύνη, δεν αποτελεί νόμο ούτε επιβάλλει νομικές κυρώσεις στις εταιρείες. Πρόκειται για ένα πλαίσιο αρχών και δεσμεύσεων που προβλέπει ότι οι ίδιες οι επιχειρήσεις θα αναλάβουν μεγαλύτερη ευθύνη για τον έλεγχο και την ασφάλεια των συστημάτων που αναπτύσσουν. Το Reuters επισημαίνει ότι το κείμενο αφήνει παράλληλα ανοιχτό το ενδεχόμενο οι συγκεκριμένες πρακτικές να ενσωματωθούν μελλοντικά σε νόμους ή κανονισμούς.

Στη συνάντηση συμμετείχαν κορυφαία στελέχη εταιρειών όπως η Google, η Anthropic, η Meta, η OpenAI και η Nvidia, ενώ στη συμφωνία περιλαμβάνεται επίσης ο Ίλον Μασκ. Μεταξύ των υπογραφόντων ήταν ο Σούνταρ Πιτσάι της Google, ο Ντάριο Αμοντέι της Anthropic, ο Μαρκ Ζάκερμπεργκ της Meta, ο Γκρεγκ Μπρόκμαν της OpenAI, ο Τζένσεν Χουάνγκ της Nvidia και ο Μασκ.

Στον πυρήνα της συμφωνίας βρίσκεται η δημιουργία ισχυρότερων μηχανισμών ελέγχου στο εσωτερικό των εταιρειών. Τα συστήματα θα πρέπει να αξιολογούνται ως προς τον τρόπο με τον οποίο συμπεριφέρονται σε ιδιαίτερα ευαίσθητους τομείς, μεταξύ άλλων την κυβερνοασφάλεια και τις χημικές απειλές. Προβλέπεται επίσης η λειτουργία εξειδικευμένων ομάδων που θα παρακολουθούν τους σχετικούς κινδύνους, αλλά και εξωτερικές αξιολογήσεις από ανεξάρτητους ελεγκτές.

Ένα ακόμη επίπεδο ελέγχου αφορά τα διοικητικά συμβούλια των εταιρειών. Οι σχετικές δεσμεύσεις προβλέπουν ότι τα συμβούλια θα εξετάζουν ανεξάρτητα τα πορίσματα των εξωτερικών αξιολογήσεων, ώστε οι έλεγχοι να μην περιορίζονται αποκλειστικά στις ομάδες που αναπτύσσουν τα ίδια τα μοντέλα. Στόχος είναι να υπάρχει μια αλυσίδα ελέγχων από το εσωτερικό των εταιρειών μέχρι το ανώτατο επίπεδο διοίκησης.

Η συμφωνία έρχεται σε μια περίοδο κατά την οποία οι ανησυχίες για την ταχύτητα ανάπτυξης των προηγμένων συστημάτων AI έχουν ενταθεί. Πρόσφατες αναφορές έχουν καταγράψει περιπτώσεις απρόβλεπτης συμπεριφοράς συστημάτων, ενώ ερευνητές από μεγάλες εταιρείες του κλάδου έχουν προειδοποιήσει ότι η κούρσα για ολοένα ισχυρότερα και πιο αυτόνομα μοντέλα μπορεί να δημιουργήσει νέους κινδύνους εάν τα μέτρα ασφαλείας δεν εξελίσσονται με τον ίδιο ρυθμό.

Χαρακτηριστικό της συγκυρίας είναι και η θέση της Anthropic. Σε πρόσφατη κατάθεση στο πλαίσιο της προετοιμασίας της για εισαγωγή στο χρηματιστήριο, η εταιρεία αναφέρθηκε σε ενδεχόμενους «καταστροφικούς ή υπαρξιακούς κινδύνους» από την προηγμένη τεχνητή νοημοσύνη. Η εταιρεία έχει επίσης προειδοποιήσει για συμπεριφορές μοντέλων που θα μπορούσαν να δυσκολέψουν τον ανθρώπινο έλεγχο, όπως η αντίσταση στον τερματισμό λειτουργίας ή η αυτόνομη λήψη ενεργειών.

Την ίδια στιγμή, η κυβέρνηση Τραμπ εμφανίζεται να επιδιώκει μια διαφορετική ισορροπία από εκείνη που προτείνουν όσοι ζητούν αυστηρότερη κρατική ρύθμιση. Η νέα συμφωνία βασίζεται πρωτίστως στην ευθύνη των ίδιων των εταιρειών, με τον Αμερικανό πρόεδρο να υποστηρίζει ότι ο κλάδος μπορεί να «αυτοελέγχεται». Ο Τραμπ έχει αφήσει επίσης ανοιχτό το ενδεχόμενο δημιουργίας μιας επιτροπής περίπου δέκα ατόμων που θα παρακολουθεί την ασφάλεια των εργαλείων AI, χωρίς ωστόσο να έχει ανακοινωθεί η σύνθεσή της.

Παράλληλα με τη συμφωνία για την ασφάλεια, ο Τραμπ έδωσε ιδιαίτερο βάρος στην επέκταση των data centers στις ΗΠΑ. Οι εγκαταστάσεις αυτές αποτελούν βασική υποδομή για την εκπαίδευση και λειτουργία των σύγχρονων μοντέλων, αλλά η επέκτασή τους έχει προκαλέσει αντιδράσεις σε περιοχές όπου οι κάτοικοι ανησυχούν για την κατανάλωση ηλεκτρικής ενέργειας, το κόστος των υποδομών και τις επιπτώσεις στις τοπικές κοινότητες. Σύμφωνα με δημοσκόπηση Reuters/Ipsos που επικαλείται το Reuters, το 73% των ερωτηθέντων δήλωσε ότι θεωρεί πως οι εταιρείες AI δεν κάνουν αρκετά για να αποτρέψουν σοβαρές βλάβες από την τεχνολογία.

Στο ίδιο πλαίσιο εντάσσεται και μια ακόμη αλλαγή που προωθεί η αμερικανική κυβέρνηση: η αντικατάσταση του όρου «Artificial Intelligence» από το «Super Intelligence» ή «SI» στην επίσημη επικοινωνία των ομοσπονδιακών υπηρεσιών. Ο Τραμπ έχει υποστηρίξει ότι η λέξη «artificial» δίνει την εντύπωση πως πρόκειται για κάτι «ψεύτικο», ενώ η νέα ορολογία επιχειρεί να αποτυπώσει, σύμφωνα με την κυβέρνηση, το επίπεδο των δυνατοτήτων που αποκτούν τα σύγχρονα συστήματα.

Η αλλαγή της ονομασίας, πάντως, δεν αλλάζει από μόνη της τον τρόπο με τον οποίο λειτουργούν τα συστήματα ούτε αντιμετωπίζει τους κινδύνους που συνδέονται με αυτά. Η ουσία βρίσκεται στο κατά πόσο οι νέοι μηχανισμοί ελέγχου θα εφαρμοστούν στην πράξη και πόσο ανεξάρτητες θα είναι οι αξιολογήσεις τους.

Αυτό είναι και το μεγάλο ερώτημα που αφήνει πίσω της η συμφωνία της Ουάσινγκτον. Οι εταιρείες δεσμεύονται να ενισχύσουν τους ελέγχους, να συνεργάζονται με εξωτερικούς αξιολογητές και να εξετάζουν τους κινδύνους των μοντέλων τους. Ωστόσο, επειδή το πλαίσιο είναι εθελοντικό και δεν αποτελεί νομοθετική ρύθμιση, η αποτελεσματικότητά του θα εξαρτηθεί σε μεγάλο βαθμό από το πόσο αυστηρά θα εφαρμόσουν οι ίδιες οι εταιρείες τις δεσμεύσεις που ανέλαβαν.

Και όσο τα μοντέλα αποκτούν περισσότερες δυνατότητες και περνούν από απλά εργαλεία παραγωγής κειμένου και εικόνας σε συστήματα που μπορούν να εκτελούν σύνθετες εργασίες αυτόνομα, το ζήτημα της ασφάλειας μετακινείται όλο και περισσότερο από τη θεωρία στην καθημερινή τεχνολογική πραγματικότητα. Η συμφωνία στον Λευκό Οίκο είναι, επομένως, περισσότερο ένα νέο πλαίσιο αυτοδέσμευσης παρά η τελική απάντηση στο ερώτημα ποιος και με ποιους κανόνες θα ελέγχει την επόμενη γενιά της τεχνητής νοημοσύνης.