“Οι αλγόριθμοι να έχουν τις υποχρεώσεις των… ανθρώπων”

«Θα πρέπει να μας λένε με τι εκπαιδεύτηκαν και τι μεγιστοποιούν, να έχουν νομικές επιπτώσεις απέναντι σε ασθενείς και φυσικά να δοκιμάζονται…»

Ο καθηγητής πολιτικής της υγείας Ηλίας Μόσιαλος σε ομιλία του στη Θεσσαλονίκη ζήτησε τα παραπάνω και ακόμη περισσότερα για τις εφαρμογές της ΑΙ στο χώρο της υγείας. Έκανε λόγο για  νομικές υποχρεώσεις απέναντι στον ασθενή, να γνωρίζουμε το… βιογραφικό τους, πού έχουν εκπαιδευτεί, ποιούς τους εκπαίδευσε, σε τι μοντέλα αναπτύχθηκαν και κυρίως να έχουν δοκιμαστεί σε συγκεκριμένα πεδία πριν βγάλουν… διάγνωση. Και στο παρελθόν ο καθηγητής Μόσιαλος είχε μιλήσει για τα νέα εργαλεία της υγείας, στην εποχή της Τεχνητής Νοημοσύνης, όμως αυτή τη φορά έθεσε ξεκάθαρα θέμα υποχρεώσεων αλλά και… δικαιωμάτων της ΑΙ. Διότι όταν μιλάς για υποχρεώσεις αυτόματα προκύπτουν και τα δικαιώματα, έστω κι αν τα πολλά εξ αυτών τα έχουμε παραχωρήσει εμείς οι άνθρωποι και τα έχουν αναπτύξει αυτοί οι αλγόριθμοι κατά… βούληση σε χρόνο ρεκόρ με άγνωστο ή αμφισβητούμενο προορισμό και στόχο.

Ωστόσο η φράση Μόσιαλου ότι «Θα πρέπει να δώσουμε στους αλγορίθμους τις υποχρεώσεις που έχει ένας άνθρωπος να λέει με τι εκπαιδεύτηκε και τι μεγιστοποιεί, να έχει νομική υποχρέωση απέναντι στο συμφέρον του ασθενούς, να δοκιμάζεται σαν φάρμακο, πριν και μετά την κυκλοφορία» δεν είναι τεχνική. Είναι βαθιά πολιτική ίσως και… κοσμογονική! Αρκετοί στο ΑΕΙ της Θεσσαλονίκης -όπου αναγορεύτηκε επίτιμος διδάκτορας- τον άκουσαν με μεγάλο προβληματισμό και όταν μίλησε για το ελληνικό σύστημα υγείας για το οποίο έβαλε τρεις προϋποθέσεις. Ένα ενιαίο πλαίσιο ώστε τα δεδομένα να μιλούν… μεταξύ τους, ανθρώπινη ικανότητα να τα διαβάζουμε σωστά και κυρίως κανόνες με διαφάνεια, λογοδοσία και αξιολόγηση.

Η λογική είναι παλιά στην υγεία, ένα φάρμακο δεν βγαίνει στην αγορά επειδή η… εταιρεία το θεωρεί καλό. Δοκιμάζεται, παρακολουθείται και μετά την κυκλοφορία, και ο γιατρός που το δίνει έχει υποχρέωση απέναντι στον ασθενή, όχι απέναντι στην…  εταιρεία. Όμως όλα αυτά δείχνουν να αλλάζουν από την ταχύτητα ανάπτυξης της ΑΙ και των λίγων εταιρειών που την “ελέγχουν”.  Τον Ιανουάριο η Νίτα Φαραχάνι, καθηγήτρια νομικής στο Ντιουκ, έγραψε κάτι παρόμοιο, δηλαδή ότι ο γιατρός σου έχει νομική υποχρέωση να ενεργεί για το δικό σου συμφέρον, το ChatGPT δεν έχει. Την ίδια μέρα ο Ντάνιελ Σόλοβ (βλ εδω) από τους βασικούς μελετητές της ιδιωτικότητας, συμφώνησε ότι όποια εταιρεία μπαίνει στην υγεία με σύγχρονα εργαλεία οφείλει να δεσμεύεται νομικά ότι δουλεύει για τον ασθενή και όχι μόνο για το κέρδος. Νομικές εργασίες του τελευταίου χρόνου λένε το ίδιο,”αφοσίωση στον χρήστη, υποχρέωση φροντίδας, απαγόρευση κρυφών συμφερόντων”. Όμως ακόμη δεν έχουν αποφανθεί οι συναρμόδιοι κρατών και κυβερνήσεων. Κι όσο το συζητάνε ή το σκέπτονται τόσο “χάνεται η μπάλα”.

Οι ρυθμιστικές αρχές και της ΕΕ λένε ότι κινούνται προς αυτά τα δεδομένα, αργά, βασανιστικά αργά. Ο δε Αμερικανικός Οργανισμός Φαρμάκων εξέδωσε κείμενο διαβούλευσης για τις εφαρμογές τεχνητής νοημοσύνης που παράγουν ιατρικό περιεχόμενο και πρότεινε να ελέγχονται με τρόπο που θυμίζει την αξιολόγηση των γιατρών! Η ιδέα είναι ότι ένα σύστημα που βγάζει διάγνωση ή κάνει σύσταση δεν ελέγχεται όπως ένα… πιεσόμετρο, χρειάζονται πολλές δοκιμές, βεβαιώσεις κλπ. Ο Παγκόσμιος Οργανισμός Υγείας, σε κείμενά του από το 2021 επιμένει και στο… ηθικό σκέλος.  Τέλος ερευνητές που δουλεύουν πάνω στα λάθη και τις προκαταλήψεις των αλγορίθμων ζητούν να φαίνεται από πού προέρχονται τα δεδομένα, να δηλώνεται τι προσπαθεί να πετύχει το μοντέλο και να μπορεί κάποιος να αμφισβητήσει το αποτέλεσμα πχ σε ένα δικαστήριο που να ξέρει από ΑΙ!  Μιλάνε δηλαδή για υποχρεώσεις και άρα και για δικαιώματα που παραχωρήσαμε ή αποκτούν καθημερινά, ώρα με την ώρα…

Το “ταμείο” της πανδημίας από τον Ηλία Μόσιαλο – Τι μάθαμε αφού… πάθαμε