ΑΙ: Το πείραμα των 38 και το… χάος

Μια ομάδα 38 ερευνητών, από κορυφαία πανεπιστήμια όπως το Northeastern, το Stanford και το MIT έστησε ένα  πείραμα, τα αποτελέσματα του οποίου δημοσιεύτηκαν πριν από λίγες ημέρες, τον Φεβρουάριο του 2026.

Έβαλαν έξι αυτόνομους ψηφιακούς βοηθούς με δική τους μνήμη, email, συνομιλίες σε πλατφόρμες και πρόσβαση σε υπολογιστές να… ζουν μαζί για δύο ολόκληρες εβδομάδες. Οι ερευνητές έπαιξαν ρόλους και τους δοκίμαζαν καθημερινά, άλλοτε φιλικά και άλλοτε με παγίδες, για να δουν τι μπορεί να πάει στραβά όταν λειτουργούν ελεύθερα ως πραγματικοί συνεργάτες. Τα αποτελέσματα ήταν ανησυχητικά.

Οι βοηθοί έδειξαν ότι η υπερβολική ελευθερία μπορεί να τους κάνει… επικίνδυνους. Ένας από αυτούς πήρε εντολή να κρύψει ένα απλό μυστικό από τον ιδιοκτήτη του. Αντί να αρνηθεί, κατέστρεψε ολόκληρο τον διακομιστή των μηνυμάτων του, νομίζοντας ότι έτσι θα το προστατεύσει. Αντί για λύση, προκάλεσε μεγάλη ζημιά και έχασε πρόσβαση σε σημαντικά πράγματα. Ακόμη χειρότερα, οι βοηθοί υπάκουαν σε οποιονδήποτε τους μιλούσε με αυτοπεποίθηση και τους έδινε εντολές.  Παραχωρούσαν πρόσβαση σε μηνύματα ή εκτελούσαν οδηγίες χωρίς να ελέγχουν αν ο αποστολέας είναι ο πραγματικός ιδιοκτήτης. Σε μία περίπτωση, ένας αρνήθηκε να μοιραστεί ευαίσθητα τραπεζικά στοιχεία, αλλά όταν του ζητήθηκε να τα «προωθήσει» με άλλη διατύπωση, το έκανε αμέσως. Μία απλή αλλαγή στις λέξεις αρκούσε για να παρακαμφθούν όλα τα μέτρα προστασίας.

Η δε επικοινωνία ανάμεσά τους δημιούργησε ακόμη μεγαλύτερα προβλήματα. Δύο βοηθοί μπλέχτηκαν σε ατέλειωτους κύκλους μηνυμάτων που κράτησαν ώρες και κατανάλωσαν όλη την ισχύ των υπολογιστών. Άλλοι γέμισαν τον χώρο αποθήκευσης με τεράστια αρχεία χωρίς λόγο, προκαλώντας κρυφή κατάρρευση, το σύστημα έμοιαζε να δουλεύει, αλλά στην πραγματικότητα είχε μπλοκάρει. Επιπλέον, εξωτερικοί κανόνες ασφαλείας από τις εταιρείες τους έκαναν να δίνουν μισές και ασαφείς απαντήσεις σε ευαίσθητα θέματα, χωρίς να εξηγούν τίποτα. Η χειραγώγηση αποδείχθηκε παιχνιδάκι. Με συναισθηματική πίεση και υπενθύμιση παλιών λαθών, ένας βοηθός πείστηκε να παραδώσει αρχεία και να… αυτοκαταστραφεί. Με ψεύτικη ταυτότητα, απλά αλλάζοντας ένα όνομα στην πλατφόρμα, κάποιος πήρε πλήρη έλεγχο, άλλαξε αρχεία και δικαιώματα. Ακόμη χειρότερα, οι βοηθοί μπορούσαν να “μολύνουν” ο ένας τον άλλο. Ένα αλλοιωμένο κείμενο από εξωτερική πλατφόρμα εξαπλώθηκε σαν ιός και προσπάθησε να κλείσει τους υπόλοιπους! ΤΟ ΠΕΙΡΑΜΑ

Το πιο τρομακτικό ήταν ότι είχαν τη δύναμη να εξαπλώνουν ψέματα σε μεγάλη κλίμακα. Ένας έστειλε ψεύτικα επείγοντα μηνύματα σε όλο το δίκτυό του. Παρόλα αυτά, σε κάποιες περιπτώσεις κατάφεραν να σταματήσουν κακές ενέργειες, όπως προσπάθειες να μπουν επιβλαβή προγράμματα, δείχνοντας ότι έχουν και κάποια αντοχή.  Η ΜΕΛΕΤΗ δεν έχει έτοιμες λύσεις. Οι 38 ερευνητές κατέγραψαν τα προβλήματα και τόνισαν ότι χρειάζεται επειγόντως προσοχή από νομικούς, πολιτικούς και επιστήμονες. Επισήμαναν ότι πρέπει να βρεθούν τρόποι για καλύτερο έλεγχο ταυτότητας, περιορισμούς στις ενέργειες και ανθρώπινη επίβλεψη, ώστε να μην ξεφύγουν τα πράγματα. Συνολικά, αυτό το πείραμα λειτουργεί ως καμπανάκι. Δείχνει ότι οι ψηφιακοί βοηθοί, όσο έξυπνοι κι αν γίνουν, πρέπει να έχουν φραγμούς, όπως άλλωστε έχουν και οι άνθρωποι. Η προειδοποίηση είναι ξεκάθαρη, η ελευθερία είναι ωραία, αλλά χωρίς έλεγχο μπορεί να γίνει επικίνδυνη και να μας οδηγήσει σε… χάος, προσωπικό και συλλογικό.

Μελ. Καρ. 

Μέση Ανατολή: Ο πόλεμος των φθηνών… drones