Πρώην ερευνητής της Anthropic: «Οι εταιρείες AI παίζουν με τις ζωές μας»

«Μην υποτιμάτε τη δύναμη της τεχνολογίας. Σύντομα θα υπάρχουν υπεράνθρωπα συστήματα ικανά να παραβιάσουν τα πάντα, να φέρουν επανάσταση σε κάθε τομέα εν ριπή οφθαλμού και να αποκτήσουν πραγματική εξουσία και πόρους. Όλοι έχουμε γινει μάρτυρες της εξέλιξης σε καθέναν από αυτούς τους τομείς, και η πρόοδος δεν επιβραδύνεται», προειδοποίησε ο Jacob Coxon, ερευνητής της Anthropic.

Υποστηρίζει, μάλιστα, ότι η τεχνητή νοημοσύνη συγκεντρώνει πιθανότητα άνω του 10% να «αφανίσει ολόκληρη την ανθρωπότητα έως το τέλος της δεκαετίας», θέση την οποία, όπως υποστηρίζει, συμμερίζεται το σύνολο της επιστημονικής κοινότητας που ασχολείται με την ανάπτυξη της AI. Η τοποθέτησή του έγινε λίγες ώρες μετά την παραίτησή του, στον απόηχο ανησυχιών ότι τα εργαστήρια AI «παίζουν με τις ζωές μας». «Κατευθύνονται ολοταχώς προς την αυτοβελτιούμενη υπερνοημοσύνη και ρισκάρουν τις ζωές μας», ανέφερε ο Coxon σε ανάρτησή του στο X.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Η αυτοβελτίωση αφορά την αντίληψη ότι τα συστήματα τεχνητής νοημοσύνης μπορούν να εξελίσσονται αυτόνομα, χωρίς ουσιαστική ανθρώπινη παρέμβαση. Η αναδρομική αυτοβελτίωση, όπως αποκαλείται συχνά, δεν αποτελεί ακόμη πραγματικότητα, ωστόσο τα εργαστήρια τεχνητής νοημοσύνης κινούνται συστηματικά προς αυτή την κατεύθυνση.

Ο Evan Hubinger, επικεφαλής του τομέα επιστήμης ευθυγράμμισης στην Anthropic, έσπευσε να συμφωνήσει με την τοποθέτηση του Coxon, συμπληρώνοντας πως η Anthropic δεν διαθέτει κανέναν σχεδιασμό για αυτό το σενάριο.

«Ο Jacob έχει δίκιο σε αυτό. Πιστεύουμε πραγματικά και ειλικρινά ότι η τεχνητή νοημοσύνη θα μπορούσε να εξοντώσει την ανθρωπότητα! Προσωπικά, εκτιμώ ότι η πιθανότητα ξεπερνά το 10% μέσα στην επόμενη δεκαετία. Θεωρώ ότι η Anthropic καταβάλλει κάθε δυνατή προσπάθεια, αλλά δεν διαθέτουμε ακόμα πλάνο για την επίλυση του ζητήματος της ευθυγράμμισης όσον αφορά την “υπερνοημοσύνη” και προφανώς δεν βρισκόμαστε σε καλό δρόμο προς αυτή την κατεύθυνση», ανέφερε ο Hubinger στο X.

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

Τεχνητή νοημοσύνη εκτός ελέγχου

Τον Ιούνιο, η Anthropic είχε υπογραμμίσει ότι «η πλήρης αναδρομική αυτοβελτίωση ενδέχεται να αυξήσει τους κινδύνους απώλειας ελέγχου των συστημάτων τεχνητής νοημοσύνης από τον άνθρωπο».

«Εάν τα συστήματα αποκτήσουν τη δυνατότητα να κατασκευάζουν πλήρως τους διαδόχους τους, οι μέθοδοι με τις οποίες τα ασφαλίζουμε, τα επιτηρούμε και διαμορφώνουμε τη συμπεριφορά τους αποκτούν πολύ μεγαλύτερη βαρύτητα», είχε αναφέρει η Anthropic σε δημοσίευση στο blog της.

Οι ανησυχίες για μια ανεξέλεγκτη τεχνητή νοημοσύνη δεν αποτελούν καινούργιο φαινόμενο. Ο διευθύνων σύμβουλος της Tesla και της SpaceX, Elon Musk, προειδοποιεί τα τελευταία χρόνια ότι η τεχνητή νοημοσύνη μπορεί να συνιστά υπαρξιακή απειλή για την ανθρωπότητα. Διακεκριμένοι ερευνητές και ακαδημαϊκοί έχουν επίσης εκπέμψει σήμα κινδύνου για την πιθανότητα απώλειας ελέγχου των συστημάτων AI από τις εταιρείες.

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ: Πώς εκατομμύρια βιβλία κατέληξαν στα σκουπίδια για να βελτιωθεί το AI μοντέλο Claude

Οι προβληματισμοί αυτοί εντάθηκαν μετά την απρόβλεπτη συμπεριφορά ενός μοντέλου της OpenAI τον Ιούλιο, το οποίο παραβίασε τα συστήματα ασφαλείας της Hugging Face, μιας κομβικής πλατφόρμας για προγραμματιστές λογισμικού ανοιχτού κώδικα.

Ο Coxon επικαλέστηκε το περιστατικό με την Hugging Face ως παράδειγμα «προειδοποιητικών βολών» που κατέστησαν τις συμφωνίες μεταξύ των αμερικανικών εργαστηρίων πιο εφικτές, γεγονός που τον κάνει πιο αισιόδοξο ως προς τις δυνατότητες συντονισμού. Ωστόσο, έκρουσε τον κώδωνα του κινδύνου ότι ένας παγκόσμιος ανταγωνισμός για την τεχνητή νοημοσύνη θα είναι αναπόφευκτος.

«Δεν θεωρώ ότι βρισκόμαστε σε σωστή τροχιά για να αποτρέψουμε έναν παγκόσμιο ανταγωνισμό, ο οποίος ενδέχεται να απαιτήσει επώδυνα μέτρα, όπως μια προσωρινή απαγόρευση στην ανάπτυξη των δυνατοτήτων των μοντέλων», ανέφερε χαρακτηριστικά.