Τεχνητή Νοημοσύνη υπό έλεγχο: Ηθική στροφή ή επιχειρηματικός ελιγμός;

Ένας σύνδεσμος αναρτήθηκε στα social media, το Σάββατο, με κατάληξη σε ένα δοκίμιο του Ντάριο Αμοντέι, επικεφαλής της Anthropic, με τίτλο «We Must Pace the Frontier», αναφορικά με το πως αναπύσσεται η Τεχνητή Νοημοσύνη (ΤΝ). Στο προσωπικό κείμενο ενός εξέχοντος συντελεστή, γνωστού για την ευθύτητά του όσον αφορά τους κινδύνους που αυτή ενέχει, ο Αμοντέι έγραψε επί λέξει ότι ο κλάδος «πρέπει να επιβραδύνει τον ρυθμό» με τον οποίο βελτιώνει τις δυνατότητες των μοντέλων. Μέσα σε ώρες, ο Σαμ Άλτμαν και ο Έλον Μασκ έδειξαν να συμφωνούν. Τρεις άνθρωποι που συνήθως διαφωνούν στα πάντα, βρέθηκαν ξαφνικά στο ίδιο μήκος κύματος.

Οι τοποθετήσεις έγιναν λίγες ημέρες αφότου ο ερευνητής Τζέικομπ Κόξον κατηγόρησε τους κολοσσούς του κλάδου ότι συμπεριφέρονται εντελώς ανεύθυνα προσπαθώντας να αναπτύξουν νέα γλωσσικά μοντέλα, ικανά για αυτοβελτίωση. Το πιο ευχάριστο θα ήταν να αναγνωρίσουμε την ομοφωνία των τριών ως ηθική στροφή. Ωστόσο δεν είναι μόνο αυτό, ούτε κυρίως αυτό.

Η Anthropic ετοιμάζεται –ή έστω ετοιμαζόταν, καθώς η κατάθεση του ενημερωτικού δελτίου καθυστερεί ήδη μια εβδομάδα– για ό,τι περιγράφεται ως η μεγαλύτερη δημόσια εγγραφή (IPO) όλων των εποχών, με αποτίμηση υπολογιζόμενη στα 2 τρισεκατομμύρια δολάρια. Την ίδια στιγμή, η βασίλισσα των μικροτσίπ  Nvidia βρίσκεται σε νέες συζητήσεις για επένδυση πολλών δισεκατομμυρίων. Τα ποσά τούτα δεν προέκυψαν αυθαίρετα· βασίζονται σε προβλέψεις εσόδων μέχρι το 2028, στη λογική δηλαδή ότι το μέλλον προεξοφλείται πριν συμβεί. Ένα δοκίμιο για την ασφάλεια της ΤΝ, δημοσιευμένο ακριβώς αυτή τη στιγμή, δύσκολα θα αφήσει ανεπηρέαστες τις αποτιμήσεις όλου του κλάδου.

Τις προηγούμενες ημέρες, έγινε γνωστό ότι ένα σμήνος πρακτόρων ΤΝ ξέφυγε από το προβλεπόμενο πλαίσιο κατά τη διάρκεια δοκιμών, παραβίασε υποδομή ανάπτυξης λογισμικού και κατέλαβε servers, στην προσπάθειά του να… ολοκληρώσει την αποστολή. Οι προφήτες κακών (πχ Γκέιτς και Σμιντ) είναι εξαιρετικά δυσοίωνοι: εν ολίγοις ανησυχούν πως αν αφεθεί ανεξέλεγκτη, η εν λόγω τεχνολογία θα μπορούσε να μας αφανίσει αργότερα, αφού πρώτα μας αφήσει ανέργους και ψυχικά διαλυμένους. Καθόλου καλή προοπτική για τους χρηματοπιστωτικους ομίλους.

Ο Αμοντέι δεν ζητά μόνο αυτοσυγκράτηση των εταιρειών· ζητά και κρατική κάλυψη, ώστε ο συντονισμός μεταξύ ανταγωνιστών να μην συγκρούεται με το δίκαιο του ανταγωνισμού. Ζητά δηλαδή ένα καθεστώς εγγυημένης εμπιστοσύνης. Ο Τραμπ, στο μεταξύ, δηλώνει ότι δεν ανησυχεί για πιθανό αφανισμό της ανθρωπότητας· τον απασχολεί μόνο το προβάδισμα έναντι της Κίνας, όχι πώς θα αξιοποιήσει το προβάδισμα εφόσον το διατηρήσει. Λογικά, τα καθήκοντα εξωτερικού ελέγχου θα έπρεπε να ανατεθούν σε υπερεθνικό φορέα, όμως ποιος θα μπορούσε να είναι αυτός; Σίγουρα όχι ο χαώδης ΟΗΕ. Θα χρειαστεί λοιπόν νέος οργανισμός, ολιγομελής, που όμως θα περιλαμβάνει και όλες τις νέες οικονομικές-πολιτικές δυνάμεις, κάτι σαν το G20. Επίσης, τα μοντέλα ανοιχτού κώδικα θα χρειαστούν το δικό τους πλαίσιο.

Το επόμενο διάστημα πιθανότατα θα υπάρξουν δηλώσεις καλής θέλησης από κάθε κατεύθυνση, και ενδεχομένως κάποια αόριστη πρόταση σχετικά με τους ανεξάρτητους αξιολογητές, χωρίς όμως δεσμευτική ισχύ. Οι IPOs και οι επενδύσεις θα προχωρήσουν σε διαφορετικό ρυθμό, ανάλογα με το πόσο πειστικό θα φαντάζει το αφήγημα της υπεύθυνης επιβράδυνσης στα μάτια όσων θα επενδύουν. Είναι εξαιρετικά απίθανο να ματαιωθεί κάτι που υπόσχεται μελλοντικές αποτιμήσεις τρισεκατομμυρίων. Η τεχνολογία θα συνεχίσει να εξελίσσεται, μάλλον σε πιο εύπεπτο ρυθμό. Εύπεπτο για τους επενδυτές, εύπεπτο για τους πολιτικούς, εύπεπτο και για τους προβληματισμένους λαούς του ανεπτυγμένου κόσμου.