Anthropic (Claude): Η εταιρεία τεχνητής νοημοσύνης που φοβάται την τεχνητή νοημοσύνη

Υπάρχει κάτι σχεδόν οξύμωρο στην εικόνα της Anthropic. Μίας από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης στον κόσμο, η οποία ξοδεύει δισεκατομμύρια για να δημιουργήσει όλο και πιο ισχυρά μοντέλα AI, ενώ ταυτόχρονα προσλαμβάνει δεκάδες επιστήμονες για να βρουν τρόπους να τα… περιορίσουν.

Αν το καλοσκεφτεί κανείς, είναι σαν μια αυτοκινητοβιομηχανία να διαφημίζει το ταχύτερο αυτοκίνητο που κατασκεύασε ποτέ και την ίδια στιγμή να αναζητά τους καλύτερους μηχανικούς φρένων στον κόσμο.

Κάτι γνωρίζει.

Οι τελευταίες αγγελίες εργασίας της Anthropic δεν αφορούν software engineers ή data scientists που θα κάνουν το Claude πιο έξυπνο. Αφορούν ειδικούς στη βιοασφάλεια, στην κυβερνοασφάλεια, στις οικονομικές απάτες, στη χημική ασφάλεια, στις πυρηνικές απειλές, στην παραπληροφόρηση και στις επιχειρήσεις επιρροής. Άνθρωποι που δεν προσλαμβάνονται για να εξελίξουν την τεχνητή νοημοσύνη, αλλά για να ανακαλύψουν όλους τους πιθανούς τρόπους με τους οποίους μπορεί να χρησιμοποιηθεί εναντίον της κοινωνίας.

Και εδώ γεννάται ένα εύλογο ερώτημα.

Αν οι ίδιοι οι δημιουργοί της τεχνητής νοημοσύνης επενδύουν τόσο μεγάλο μέρος των πόρων τους στην προστασία από τις δυνατότητες της δικής τους τεχνολογίας, μήπως τελικά είναι εκείνοι που γνωρίζουν καλύτερα από όλους τι έρχεται;

Η δημόσια συζήτηση γύρω από την AI παραμένει εγκλωβισμένη σε σχετικά επιφανειακά ερωτήματα. Θα χαθούν θέσεις εργασίας; Θα γράφει καλύτερα κείμενα; Θα δημιουργεί καλύτερες εικόνες; Θα αντικαταστήσει τους προγραμματιστές;

Όμως οι εταιρείες που βρίσκονται στην πρώτη γραμμή δεν δείχνουν να ανησυχούν τόσο για αυτά.

Ανησυχούν για κάτι πολύ βαθύτερο.

Για το πώς ένα εξαιρετικά ικανό μοντέλο θα μπορούσε να βοηθήσει έναν κυβερνοεγκληματία να επιτεθεί σε κρίσιμες υποδομές. Για το πώς μπορεί να επιταχύνει τη δημιουργία βιολογικών απειλών. Για το πώς μπορεί να οργανώσει μαζικές καμπάνιες παραπληροφόρησης με τρόπο που κανείς άνθρωπος δεν θα μπορούσε να πετύχει μόνος του. Για το πώς μπορεί να γίνει εργαλείο οικονομικής εξαπάτησης ή κοινωνικής χειραγώγησης.

Δεν πρόκειται για σενάρια επιστημονικής φαντασίας.

Είναι οι ακριβείς τομείς στους οποίους η Anthropic επενδύει εκατομμύρια δολάρια για να δημιουργήσει μηχανισμούς άμυνας. Και όταν μια εταιρεία δεν επενδύει μόνο στην καινοτομία αλλά και στην πρόληψη της καταστροφής που αυτή θα μπορούσε να προκαλέσει, ίσως αξίζει να την ακούσουμε λίγο πιο προσεκτικά.

Το παράδοξο είναι ότι όσο πιο ασφαλή γίνονται τα μεγάλα μοντέλα, τόσο αυξάνεται η ισχύς τους. Και όσο αυξάνεται η ισχύς τους, τόσο μεγαλώνει και η ανάγκη για ακόμη περισσότερα μέτρα ασφαλείας. Είναι ένας φαύλος κύκλος στον οποίο η τεχνολογία εξελίσσεται γρηγορότερα από τους θεσμούς που καλούνται να την ελέγξουν.

Ίσως λοιπόν το πραγματικό δίλημμα να μην είναι αν η τεχνητή νοημοσύνη θα γίνει εξυπνότερη από τον άνθρωπο. Αυτό είναι πιθανό να συμβεί σε ολοένα περισσότερους επιμέρους τομείς.

Το πραγματικό ερώτημα είναι αν οι κοινωνίες, οι κυβερνήσεις και οι διεθνείς οργανισμοί θα καταφέρουν να κινηθούν με την ίδια ταχύτητα που κινείται η τεχνολογία.

Γιατί μέχρι σήμερα, η ιστορία μάς έχει διδάξει ότι κάθε μεγάλη τεχνολογική επανάσταση προηγείται της νομοθεσίας που τη ρυθμίζει. Η διαφορά είναι ότι αυτή τη φορά δεν μιλάμε για μια νέα πλατφόρμα κοινωνικής δικτύωσης ή για ένα ακόμη ψηφιακό εργαλείο.

Μιλάμε για μια τεχνολογία που μπορεί να αλλάξει την οικονομία, την εργασία, την εκπαίδευση, την πολιτική, την άμυνα και, τελικά, τον ίδιο τον τρόπο με τον οποίο λαμβάνονται οι αποφάσεις.

Η Anthropic πιθανότατα δεν φοβάται το Claude. Φοβάται τον άνθρωπο που θα επιχειρήσει να το χρησιμοποιήσει χωρίς όρια. Και ίσως αυτή να είναι η πιο ανησυχητική παραδοχή που έχει κάνει μέχρι σήμερα η βιομηχανία της τεχνητής νοημοσύνης. Όχι με δηλώσεις, αλλά με τις ίδιες τις προσλήψεις της.