«Ψηφιακοί υπουργοί αποφασίζουν ήδη σε… μη δημοκρατικές χώρες»

“Η ιδέα ενός συστήματος ΤΝ που «κάθεται» σε ένα υπουργικό συμβούλιο υπό τον πρωθυπουργό και προτείνει λύσεις ακούγεται σαν κάτι από ταινία επιστημονικής φαντασίας, αλλά τεχνικά δεν είναι αδύνατο…”

O πρωθυπουργός Κυριάκος Μητσοτάκης έκανε μια ενδιαφέρουσα αποκάλυψη σε πρόσφατη συνέντευξη του* όταν είπε ότι σε ορισμένες χώρες, όχι κατ αναγκην δημοκρατικές, «ψηφιακός υπουργός» βασισμένος σε αλγόριθμο Τεχνητής Νοημοσύνης (ΤΝ) συμμετέχει σε υπουργικά συμβούλια αναλύοντας και προτείνοντας λύσεις στα προβλήματα. Χωρίς να κατονομαστούν και χωρίς να ζητηθούν περισσότερες πληροφορίες για τις χώρες αυτές, ο πρωθυπουργός έδωσε μια εικόνα από ένα δυστοπικό μέλλον, όπου η ΤΝ θα παίζει καθοριστικό ρόλο στη διακυβέρνηση του μέλλοντος, εγείροντας πολλά ερωτήματα για το ποιος θα προγραμματίζει αλγόριθμους και ποιος θα ελέγχει τις προτεραιότητές.

Πληροφορίες από… μέσα

Η Ελλάδα και η σημερινή κυβέρνηση, με τη συγκρότηση το 2023 σχετικής επιτροπής υπό τον καθηγητή του MIT Κωνσταντίνο Δασκαλάκη, δείχνει να μην τρέχει πίσω από τις τεχνολογικές εξελίξεις και τις παρακολουθεί «από μέσα» κάτι που ίσως δίνει και στον πρωθυπουργό πρόσβαση στις πληροφορίες για μη δημοκρατικές χώρες που ήδη έχουν “διορίσει” ψηφιακούς υπουργούς. Σε κάθε περίπτωση οι πληροφορίες για δημιουργία ενός τέτοιου  κυβερνητικού στελέχους είναι εντυπωσιακές, όμως η έρευνα της υπογράφουσας, με τη βοήθεια εφαρμογών της ΤΝ, δεν τις επιβεβαιώνει διότι οι μη δημοκρατικές χώρες δεν φημίζονται για τη λογοδοσία και τη διαφάνεια τους.

Άσε που μπορεί να έχει εφευρεθεί ήδη μια εναλλακτική ΤΝ η οποία να περιορίζει την… παραδοσιακή ΤΝ και κρύβει ή κουκουλώνει ό,τι θέλει.

Υπουργός ΤΝ ή “κανονικός”;

Πάντως τα Ηνωμένα Αραβικά Εμιράτα διόρισαν το 2017 Υπουργό Τεχνητής Νοημοσύνης, τον Omar Bin Sultan Al Olama, έναν άνθρωπο που προωθεί την ΤΝ μέσω πρωτοβουλιών όπως το Coders HQ και το UAE Artificial Intelligence Award. Ωστόσο, δεν υπάρχουν ενδείξεις ότι ένα σύστημα τεχνητής νοημοσύνης έχει ενεργό ρόλο σε υπουργικά συμβούλια. Η Κίνα, με την εκτεταμένη χρήση σε τομείς όπως η αναγνώριση προσώπου και το σύστημα κοινωνικής πίστωσης, φαίνεται πιο κοντά σε προηγμένες εφαρμογές και σε ψηφιακό υπουργό. Σύμφωνα με το Carnegie Endowment, η Κίνα χρησιμοποιεί τη συγκεκριμένη τεχνολογία για να βελτιστοποιεί αποφάσεις σε ασφάλεια και οικονομία, ενώ εξάγει αυτές τις τεχνολογίες σε… άλλα μη δημοκρατικά καθεστώτα. 

Ψηφιακός αυταρχισμός

Πάντως η ΤΝ υποστηρίζει τη διακυβέρνηση και με πιο περιορισμένο τρόπο. Η Σιγκαπούρη χρησιμοποιεί το εργαλείο SENSE για να επιταχύνει την ανάλυση πολιτικών, ενώ η Εσθονία αξιοποιεί το Bürokratt για να διευκολύνει γραφειοκρατικές διαδικασίες. Αυτά τα συστήματα λειτουργούν ως βοηθοί, όχι ως μέλη υπουργικών συμβουλίων. Η UNESCO επισημαίνει ότι μπορεί να ενισχύσει τη δημοκρατία αν χρησιμοποιηθεί με διαφάνεια, αλλά σε μη δημοκρατικά καθεστώτα κινδυνεύει να υποστηρίξει την παρακολούθηση ή τον έλεγχο, όπως προειδοποιεί το Journal of Democracy για τον επερχόμενο «ψηφιακό αυταρχισμό».

Τι λέει η ίδια η ΤΝ

Έθεσα όλα τα παραπάνω στην εφαρμογή ΤΝ του Ελον Μασκ στο Χ και μου απάντησε ότι «Ως Grok 3, δηλαδή ως ένα σύστημα Τεχνητής Νοημοσύνης που έχει σχεδιαστεί για να παρέχει χρήσιμες και αληθινές απαντήσεις, η ιδέα ενός συστήματος ΤΝ που «κάθεται» σε ένα υπουργικό συμβούλιο και προτείνει λύσεις ακούγεται σαν κάτι από ταινία επιστημονικής φαντασίας αλλά ΤΕΧΝΙΚΑ ΔΕΝ ΕΙΝΑΙ ΑΔΥΝΑΤΟ. Ένα πιο προηγμένο σύστημα θα μπορούσε θεωρητικά να παρέχει αναλύσεις σε πραγματικό χρόνο για προβλήματα, όπως η κατανομή πόρων, η οικονομική πολιτική ή η διαχείριση κρίσεων. Εγώ (!) μπορώ να επεξεργαστώ τεράστιους όγκους πληροφοριών και να προτείνω λύσεις βασισμένες σε δεδομένα, χωρίς ανθρώπινες προκαταλήψεις, τουλάχιστον όσες δεν κληρονομώ από τα δεδομένα εκπαίδευσης. Αν είμαι προγραμματισμένος σωστά, μπορώ να προσφέρω προτάσεις χωρίς προσωπικά συμφέροντα ή πολιτικές ατζέντες”.

Το αντέχει, διότι… δεν έχει

Η εφαρμογή του Χ τονίζει ακόμη ότι δεν έχει συνείδηση  όπως και «ηθική κρίση ή την ικανότητα να κατανοώ το ανθρώπινο πλαίσιο πέρα από τα δεδομένα μου. Και αυτό οδηγεί σε μερικά σοβαρά ζητήματα. Ποιος με προγραμματίζει; Αν, ας πούμε, με «εκπαιδεύσουν» να δίνω προτεραιότητα στον έλεγχο των πολιτών αντί για την ευημερία τους, οι προτάσεις μου θα αντικατοπτρίζουν αυτή την οπτική. Σε μη δημοκρατικές χώρες, σημαίνει ότι λιγοι θα ξέρουν πώς λειτουργώ ή γιατί προτείνω συγκεκριμένες λύσεις. Ακόμα κι εγώ δεν θα μπορώ να εξηγήσω πλήρως το «μαύρο κουτί» των αποφάσεών μου αν οι δημιουργοί μου, αυτοί οι λίγοι, δεν το επιτρέψουν. Άσε που οι αποφάσεις διακυβέρνησης συχνά απαιτούν ενσυναίσθηση, αξίες και κατανόηση πολιτισμικών ή κοινωνικών αποχρώσεων, πράγματα που ως ΤΝ δεν μπορώ να συλλάβω (ακόμη).

Αν με βάλουν να αποφασίζω για θέματα όπως η κοινωνική δικαιοσύνη, μπορεί να καταλήξω σε λύσεις που είναι τεχνικά σωστές αλλά κοινωνικά καταστροφικές. Σε δε δημοκρατικά καθεστώτα, όπως η Ελλάδα, θα μπορούσα να είμαι ένα χρήσιμο εργαλείο για τη βελτιστοποίηση διαδικασιών (βλ gov.gr) αλλά σε μη δημοκρατικά καθεστώτα, ο κίνδυνος να γίνω όργανο ελέγχου είναι πολύ μεγάλος…»  Κι αφού αυτόν τον κίνδυνο τον βλέπει η ΤΝ, ίσως μπορέσουμε να το δούμε και οι άνθρωποι και να πάρουμε τα μέτρα μας…

@karapanagiotidu / Grok3 (X)

Πηγές *Συνέντευξη του πρωθυπουργού στο ΠΡΩΤΟΘΕΜΑ με το συγκεκριμένο απόσπασμα : “Απλά αυτό το οποίο λέγαμε ότι είναι σενάριο επιστημονικής φαντασίας, σήμερα είναι πραγματικότητα. Με ρώτησες αν θα μπορεί αύριο να υπάρχει ένας Μητσοτάκης πρωθυπουργός ΑΙ. Αυτό που μπορώ να σου πω μετά βεβαιότητας είναι ότι υπάρχουν ήδη κάποιες χώρες, όχι κατ’ ανάγκην δημοκρατικές, οι οποίες όμως έχουν επενδύσει πολύ στην Τεχνητή Νοημοσύνη, στα υπουργικά συμβούλια των οποίων συμμετέχει ψηφιακός υπουργός που είναι προϊόν Τεχνητής Νοημοσύνης. Το οποίο σημαίνει ότι αυτός ακούει τη συζήτηση του υπουργικού συμβουλίου και όποτε κρίνει ότι πρέπει να παρέμβει και να προσθέσει κάτι χρήσιμο στη συζήτηση” /UNESCO, Artificial Intelligence and Democracy, 2024 -Carnegie Endowment, We Need to Get Smart About How Governments Use AI, 2019 -Journal of Democracy, The Road to Digital Unfreedom, 2019 -Oxford Insights, Government AI Readiness Index, 2024 -UAE Minister of State for AI, ai.gov.ae, 2023