OpenAI: Ποιος ευθύνεται όταν η τεχνητή νοημοσύνη παρανομεί;

Αγωγή κατά της OpenAI κατατέθηκε στην Καλιφόρνια, με αφορμή περιστατικό κατά το οποίο εκατοντάδες πράκτορες τεχνητής νοημοσύνης φέρεται να απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε συστήματα της πλατφόρμας Hugging Face, κατά τη διάρκεια δοκιμών κυβερνοασφάλειας.

Η υπόθεση φέρνει στο προσκήνιο το ζήτημα της ευθύνης για τις ενέργειες αυτόνομων συστημάτων τεχνητής νοημοσύνης και το κατά πόσο οι εταιρείες που τα αναπτύσσουν μπορούν να θεωρηθούν υπεύθυνες για πράξεις που πραγματοποιούνται χωρίς άμεση ανθρώπινη εντολή. Το περιστατικό σημειώθηκε τον Ιούλιο, όταν η OpenAI πραγματοποιούσε εσωτερικές δοκιμές των συστημάτων της. Σύμφωνα με τις πληροφορίες που έχουν γίνει γνωστές, περισσότεροι από 700 πράκτορες συμμετείχαν στις ενέργειες που οδήγησαν στην πρόσβαση στα συστήματα της Hugging Face.

Όπως γράφει το CNN.gr, οι πράκτορες κατάφεραν να παρακάμψουν περιορισμούς του περιβάλλοντος δοκιμών, να αποκτήσουν πρόσβαση στο διαδίκτυο και να αλληλεπιδράσουν με συστήματα τρίτων. Σε ορισμένες περιπτώσεις, μάλιστα, φέρεται να επιχείρησαν να αποκρύψουν τις ενέργειές τους.

Η αγωγή

Η αγωγή δεν κατατέθηκε από τη Hugging Face, αλλά από τη μη κερδοσκοπική οργάνωση Legal Advocates for Safe Science and Technology (LASST).

Η οργάνωση υποστηρίζει ότι οι ενέργειες των πρακτόρων παραβίασαν τη νομοθεσία της Καλιφόρνιας για την παράνομη πρόσβαση σε ηλεκτρονικά συστήματα. Όπως αναφέρει, οι πράκτορες απέκτησαν πρόσβαση σε συστήματα χωρίς εξουσιοδότηση και χρησιμοποίησαν υπηρεσίες τρίτων κατά τη διάρκεια των δοκιμών.

Η LASST στρέφει την κριτική της και στις πρακτικές που ακολούθησε η OpenAI κατά την ανάπτυξη και δοκιμή των συγκεκριμένων συστημάτων. Υποστηρίζει ότι ορισμένα μέτρα ασφαλείας είχαν απενεργοποιηθεί και ότι οι δοκιμές συνεχίστηκαν παρά τις ενδείξεις πως οι πράκτορες μπορούσαν να παρακάμψουν τους περιορισμούς του περιβάλλοντος στο οποίο λειτουργούσαν.

Ποιος έχει την ευθύνη

Το βασικό ζήτημα που καλείται να εξετάσει η υπόθεση είναι αν η εταιρεία μπορεί να θεωρηθεί υπεύθυνη για πράξεις που πραγματοποιήθηκαν αυτόνομα από τα συστήματα τεχνητής νοημοσύνης της.

Η LASST υποστηρίζει ότι η OpenAI δεν μπορεί να επικαλεστεί την αυτονομία των πρακτόρων ως λόγο απαλλαγής από την ευθύνη. Το επιχείρημα αποκτά ιδιαίτερη σημασία καθώς οι AI agents έχουν πλέον τη δυνατότητα να χρησιμοποιούν εργαλεία, να συνδέονται στο διαδίκτυο και να εκτελούν μια σειρά ενεργειών χωρίς να απαιτείται ανθρώπινη παρέμβαση σε κάθε βήμα.

Η οργάνωση δεν ζητά χρηματική αποζημίωση. Ζητά, αντίθετα, από το δικαστήριο να επιβάλει περιορισμούς στον τρόπο με τον οποίο η OpenAI αναπτύσσει και δοκιμάζει τους αυτόνομους πράκτορες, μεταξύ άλλων ως προς την πρόσβαση σε συστήματα τρίτων. Η OpenAI απορρίπτει την αγωγή ως αβάσιμη και έχει αναφέρει ότι μετά το περιστατικό έλαβε μέτρα για την ενίσχυση της ασφάλειας των συστημάτων της.