Τεχνητή Νοημοσύνη: «Η καταστροφή δεν είναι νομοτέλεια»

«Ο δρόμος στον οποίο βρισκόμαστε οδηγεί στην καταστροφή». Η προειδοποίηση του Ντεξ Χάντερ-Τόρικ της Google DeepMind, που διατυπώθηκε στο Νέο Δελχί, επανέφερε στο προσκήνιο τον φόβο για την ανεξέλεγκτη εξέλιξη της Τεχνητή Νοημοσύνη. Είναι όμως πράγματι η καταστροφή αναπόφευκτη — ή μήπως το πραγματικό διακύβευμα βρίσκεται αλλού;

Ο Άρης Μαυρομμάτης, μαθηματικός και θεωρητικός τέχνης στο Πανεπιστήμιο Δυτικής Μακεδονίας, προσεγγίζει το ζήτημα χωρίς καταστροφολογία αλλά και χωρίς αφέλεια. Πριν λίγες μέρες εξέδωσε δύο συναρπαστικά βιβλία από τις εκδόσεις Καπόν: την «Τέχνη και Τεχνητή Νοημοσύνη. Από την μνήμη στο αλγόριθμο» και την «Φιλοσοφία και Τεχνητή Νοημοσύνη. Διαλογικά ίχνη», όπου διαχωρίζει την εντυπωσιακή «ασθενή» ΤΝ από το φιλοσοφικό ερώτημα της συνείδησης, φωτίζει τον πολιτικό πυρήνα της ηθικής ευθυγράμμισης και επαναφέρει στο επίκεντρο την έννοια της ανθρωποκεντρικής τεχνολογίας.

Σε μια εποχή όπου οι αλγόριθμοι γράφουν, δημιουργούν και αποφασίζουν, η συζήτηση δεν αφορά μόνο το τι μπορούν να κάνουν οι μηχανές. Αφορά το ποιος ορίζει τις αξίες τους, ποιος ελέγχει την ισχύ τους και — τελικά — ποια κοινωνία επιλέγουμε να οικοδομήσουμε.

Αναφέρεστε στη διάκριση μεταξύ ισχυρής και ασθενούς ΤΝ. Πόσο πιθανή είναι η ανάδυση μιας συνείδησης σε αυτό το πλαίσιο;

Η ασθενής Τεχνητή Νοημοσύνη, δηλαδή αυτή που ήδη χρησιμοποιούμε, είναι εντυπωσιακά αποτελεσματική. Μπορεί να γράφει, να μεταφράζει, να δημιουργεί εικόνες, να αναλύει τεράστιους όγκους δεδομένων και να λαμβάνει αποφάσεις σε χρόνο που ξεπερνά τις ανθρώπινες δυνατότητες. Όμως όλα αυτά τα κάνει χωρίς επίγνωση. Δεν βιώνει, δεν αισθάνεται, δεν έχει εσωτερικό κόσμο. Δεν γνωρίζει ότι γνωρίζει. Η λεγόμενη ισχυρή ΤΝ θα σήμαινε κάτι ποιοτικά διαφορετικό: ένα σύστημα που δεν επεξεργάζεται απλώς πληροφορίες, αλλά έχει αυτοαναφορά και εμπειρία του εαυτού του. Το ερώτημα, επομένως, δεν είναι μόνο τεχνολογικό. Είναι βαθιά φιλοσοφικό. Είναι η συνείδηση αποτέλεσμα πολυπλοκότητας; Αν αυξήσουμε αρκετά την υπολογιστική ισχύ, θα «ανάψει» ξαφνικά ένα εσωτερικό φως; Ή μήπως η συνείδηση συνδέεται άρρηκτα με το σώμα, το βίωμα, τη θνητότητα; Μέχρι σήμερα δεν υπάρχει καμία ένδειξη ότι οι μηχανές διαθέτουν συνείδηση. Αυτό που βλέπουμε είναι υψηλού επιπέδου προσομοίωση. Και όσο βελτιώνεται η προσομοίωση, τόσο μεγαλώνει ο πειρασμός να συγχέουμε τη λειτουργία με την ύπαρξη. Το μέλλον της συνείδησης δεν θα κριθεί πρώτα στα εργαστήρια, αλλά στον τρόπο που εμείς θα επιλέξουμε να παραμείνουμε άνθρωποι.

Στο ζήτημα της ηθικής ευθυγράμμισης (AI alignment), ποιος θα ορίσει τους όρους αυτής της ευθυγράμμισης; Υπάρχουν κίνδυνοι ως προς το ποιος θα αναλάβει αυτήν την ευθύνη;

Η «ηθική ευθυγράμμιση» σημαίνει ότι τα συστήματα Τεχνητής Νοημοσύνης πρέπει να λειτουργούν σύμφωνα με ανθρώπινες αξίες. Το κρίσιμο όμως ερώτημα είναι απλό και ταυτόχρονα βαθιά πολιτικό: Ποιες αξίες; Και ποιος αποφασίζει ποιες είναι αυτές; Δεν υπάρχει παγκόσμια, ουδέτερη ηθική. Οι αξίες διαμορφώνονται μέσα σε ιστορικά, πολιτισμικά και οικονομικά πλαίσια. Αν την ευθυγράμμιση την ορίσουν αποκλειστικά μεγάλες τεχνολογικές εταιρείες, τότε οι αλγόριθμοι θα ενσωματώνουν τις προτεραιότητες της αγοράς. Αν την καθορίσουν μόνο κυβερνήσεις, τότε υπάρχει ο κίνδυνος ενίσχυσης μηχανισμών ελέγχου. Αν την αναλάβουν υπερεθνικοί οργανισμοί, τότε τίθεται ζήτημα δημοκρατικής νομιμοποίησης και διαφάνειας. Η ΤΝ δεν είναι ουδέτερη. Κάθε σύστημα κουβαλά τις παραδοχές και τις επιλογές εκείνων που το σχεδιάζουν. Η «ευθυγράμμιση» δεν είναι απλώς μια τεχνική ρύθμιση. Είναι μεταφορά αξιών σε κώδικα. Και όταν οι αξίες μεταφέρονται σε κώδικα τότε αποκτούν ισχύ σε παγκόσμια κλίμακα. Ο μεγαλύτερος κίνδυνος δεν είναι μια «κακή» ΤΝ, αλλά μια ΤΝ που ενώ εμφανίζεται ως αντικειμενική, στην πραγματικότητα ενσωματώνει αόρατες ιεραρχίες και συμφέροντα. Όταν λοιπόν, η ηθική μετατρέπεται σε κώδικα, το ερώτημα δεν είναι αν ο αλγόριθμος θα υπακούει. Αλλά σε ποιον θα υπακούει.

Στο πεδίο της Τέχνης, τι είδους Τέχνη μπορεί να παραχθεί όταν βγάζεις από την εξίσωση τον φόβο του θανάτου και τον έρωτα ή την αγάπη της μάνας για το παιδί της; Δημιουργία χωρίς βιολογία υπάρχει;

Η ανθρώπινη Τέχνη δεν γεννήθηκε από άνεση. Γεννήθηκε από αγωνία. Από τον φόβο του θανάτου, από τον έρωτα που μας απογυμνώνει, από την αγάπη που μας κάνει ευάλωτους. Ο άνθρωπος δημιουργεί επειδή γνωρίζει ότι η ζωή του είναι πεπερασμένη. Δημιουργεί για να αφήσει ίχνος, για να συνομιλήσει με το μέλλον, για να δώσει μορφή σε αυτό που τον υπερβαίνει. Αυτή είναι η πρόθεση του δημιουργού. Η πρόθεση αυτή είναι βαθιά βιολογική. Είναι σώμα, μνήμη, απώλεια, προσδοκία. Όμως το έργο δεν ολοκληρώνεται εκεί. Ολοκληρώνεται όταν ένας θεατής σταθεί μπροστά του και συγκινηθεί. Η συγκίνηση ανήκει σε εκείνον που βλέπει, που θυμάται, που ταυτίζεται. Και εδώ χρειάζεται καθαρή διάκριση: άλλο η υπαρξιακή ώθηση που γεννά το έργο και άλλο το συναίσθημα που αυτό προκαλεί. Η Τεχνητή Νοημοσύνη μπορεί να παράγει μορφές ικανές να μας αγγίξουν. Μπορεί να δημιουργήσει εικόνες ή ήχους που ενεργοποιούν μνήμες και συναισθήματα. Όμως δεν αγαπά, δεν φοβάται τον θάνατο, δεν βιώνει απώλεια. Δεν δημιουργεί από ανάγκη ύπαρξης. Επομένως ναι, μπορεί να υπάρξει παραγωγή μορφών χωρίς βιολογία. Αλλά η Τέχνη ως πράξη αντίστασης απέναντι στη θνητότητα παραμένει ανθρώπινη.

Η μηχανή παράγει μορφές. Ο άνθρωπος δημιουργεί μέσα στη σκιά της θνητότητάς του.

Πώς θα εξηγούσατε την ιδέα της “ανθρωποκεντρικής τεχνολογίας”. Είστε αισιόδοξος πάνω σε αυτό; Ανθρωποκεντρική τεχνολογία σημαίνει ότι η τεχνολογία δεν σχεδιάζεται απλώς για να είναι ταχύτερη ή πιο αποδοτική, αλλά για να υπηρετεί την ανθρώπινη αξιοπρέπεια, την αυτονομία και την ελευθερία. Δεν αρκεί να ρωτάμε «τι μπορεί να κάνει;». Οφείλουμε να ρωτάμε «τι κάνει στον άνθρωπο;». Σήμερα πολλές τεχνολογικές εφαρμογές αναπτύσσονται με κριτήριο την απόδοση και την κερδοφορία. Η ανθρωποκεντρική προσέγγιση μετατοπίζει το κέντρο βάρους ρωτώντας: ενισχύει αυτή η τεχνολογία την κριτική σκέψη; Προστατεύει την Ιδιωτικότητα; Διευρύνει τις δυνατότητες του πολίτη ή τον καθιστά πιο ελεγχόμενο; Όταν η Τεχνητή Νοημοσύνη επηρεάζει την εργασία, την υγεία, την εκπαίδευση ή τη δημόσια πληροφόρηση, τότε δεν μιλάμε απλώς για εργαλείο. Μιλάμε για δύναμη που διαμορφώνει κοινωνικές δομές. Και κάθε τέτοια δύναμη χρειάζεται θεσμικά όρια, διαφάνεια και λογοδοσία. Είμαι συγκρατημένα αισιόδοξος. Το γεγονός ότι συζητούμε για ανθρωποκεντρική τεχνολογία σημαίνει ότι υπάρχει συνείδηση κινδύνου. Όμως η αισιοδοξία δεν είναι αυτονόητη. Προϋποθέτει πολιτική βούληση, δημοκρατικό έλεγχο και ενεργή συμμετοχή των πολιτών. Η τεχνολογία δεν θα γίνει ανθρωποκεντρική από μόνη της. Θα γίνει μόνο εφόσον οι θεσμοί αναλάβουν την ευθύνη να τη ρυθμίσουν και επιπλέον οι κοινωνίες απαιτήσουν, η τεχνολογία να υπηρετεί τον άνθρωπο και όχι την ισχύ.

Στην παγκόσμια σύνοδο για την τεχνητή νοημοσύνη που διοργανώθηκε στο Νέο Δελχί πριν λίγες μέρες, διατυπώθηκαν αρκετά απαισιόδοξες προβλέψεις, όπως αυτήν του Ντεξ Χάντερ-Τόρικ, του επικεφαλής επικοινωνίας της Google Deep Mind ο οποίος απηύθυνε έκκληση αφύπνισης προς τις κυβερνήσεις σχετικά με την εξέλιξη της τεχνητής νοημοσύνης, λέγοντας ότι «ο δρόμος στον οποίο βρισκόμαστε σήμερα οδηγεί στην καταστροφή». Συμφωνείτε με τέτοιους είδους προβλέψεις;

Οι δραματικές προειδοποιήσεις δεν πρέπει να απορρίπτονται ως υπερβολές. Όταν άνθρωποι που βρίσκονται στον πυρήνα της τεχνολογικής ανάπτυξης μιλούν για κίνδυνο, οφείλουμε να τους ακούμε προσεκτικά. Η Τεχνητή Νοημοσύνη μπορεί να επιταχύνει ανισότητες, να μεταβάλει ριζικά την εργασία, να συγκεντρώσει ισχύ και δεδομένα σε λίγα χέρια. Αυτοί οι κίνδυνοι είναι υπαρκτοί. Ωστόσο, η καταστροφή δεν είναι νομοτέλεια. Η ιστορία της τεχνολογίας δείχνει ότι οι κοινωνίες δεν καταστρέφονται από τα εργαλεία τους, αλλά από τον τρόπο που τα χρησιμοποιούν ή τα αφήνουν ανεξέλεγκτα. Η ΤΝ δεν είναι αυτόνομη μοίρα. Είναι ανθρώπινο κατασκεύασμα, ενταγμένο σε οικονομικά, πολιτικά και θεσμικά πλαίσια. Το να μιλά κανείς για «καταστροφή» μπορεί να λειτουργήσει ως αφύπνιση. Αλλά δεν αρκεί. Χρειάζεται ρύθμιση, διεθνής συνεργασία, θεσμική λογοδοσία και κυρίως παιδεία. Χωρίς αυτά, η τεχνολογία τείνει να υπηρετεί την ισχύ και όχι το κοινό καλό. Δεν είμαι ούτε αφελώς αισιόδοξος ούτε καταστροφολόγος. Είμαι ρεαλιστής. Η ΤΝ μπορεί να γίνει εργαλείο προόδου ή μηχανισμός αποσταθεροποίησης. Το αποτέλεσμα δεν θα κριθεί από την ταχύτητα των αλγορίθμων, αλλά από την ωριμότητα των κοινωνιών. Η τεχνολογία δεν οδηγεί από μόνη της στην καταστροφή. Ο δρόμος γίνεται επικίνδυνος όταν οι άνθρωποι αποσύρονται από την ευθύνη.

Ποια είναι τα εφόδια που πρέπει να έχει ο άνθρωπος προκειμένου να μπει προετοιμασμένος σε αυτήν την νέα εποχή, στο κατώφλι της οποίας βρισκόμαστε σήμερα;

Η νέα εποχή δεν απαιτεί μόνο τεχνικές δεξιότητες. Απαιτεί πρωτίστως πνευματικά και ηθικά εφόδια. Η γνώση του πώς λειτουργεί η Τεχνητή Νοημοσύνη είναι σημαντική. Αλλά ακόμη σημαντικότερη είναι η κατανόηση των ορίων της. Το πρώτο εφόδιο είναι η κριτική σκέψη. Να μπορούμε να διακρίνουμε την πληροφορία από το νόημα, την προσομοίωση από την κατανόηση, την ταχύτητα από τη σοφία. Το δεύτερο είναι η ηθική εγρήγορση. Η ΤΝ θα παίρνει όλο και περισσότερες αποφάσεις που επηρεάζουν ζωές. Ο άνθρωπος πρέπει να διατηρήσει την ικανότητα να θέτει ερωτήματα ευθύνης όπως: ποιος ωφελείται; ποιος αποκλείεται; ποιος ελέγχει; Το τρίτο είναι η αυτογνωσία. Όσο οι μηχανές γίνονται πιο «έξυπνες», τόσο πιο αναγκαίο γίνεται να γνωρίζουμε τι είναι αυτό που μας καθιστά ανθρώπινους: η ενσυναίσθηση, η δημιουργικότητα, η δυνατότητα να αναλαμβάνουμε ευθύνη για τις πράξεις μας. Και τέλος, η παιδεία. Όχι ως συσσώρευση πληροφοριών, αλλά ως καλλιέργεια κρίσης και χαρακτήρα. Μια κοινωνία μορφωμένων πολιτών μπορεί να κατευθύνει την τεχνολογία. Αντιθέτως, μια κοινωνία παθητικών χρηστών θα κατευθυνθεί από αυτήν. Η νέα εποχή δεν θα κριθεί από την ισχύ των μηχανών. Θα κριθεί από το αν οι άνθρωποι θα επιλέξουν να σταθούν απέναντί τους με κρίση, αυτογνωσία και Ευθύνη.