ChatGPT: Κενό ασφαλείας επέτρεψε τη διαρροή προσωπικών δεδομένων

Ένα νέο και ιδιαίτερα σύνθετο μοντέλο κυβερνοκινδύνου που συνδέεται με τη χρήση AI assistants ανέδειξε η Check Point Research (CPR), το ερευνητικό τμήμα της Check Point Software Technologies.

Οι ερευνητές εντόπισαν έναν μη προβλεπόμενο τρόπο επικοινωνίας μεταξύ διαφορετικών λογαριασμών στο ChatGPT, ο οποίος, σύμφωνα με το proof of concept της έρευνας, θα μπορούσε να επιτρέψει σε έναν επιτιθέμενο να χειραγωγήσει τη συνεδρία ενός άλλου χρήστη και να την αξιοποιήσει για την πρόσβαση σε δεδομένα στα οποία ο ίδιος ο χρήστης είχε ήδη δώσει άδεια στον AI assistant να έχει πρόσβαση.

Το εύρημα αποκτά ιδιαίτερη σημασία, καθώς οι AI assistants συνδέονται ολοένα και περισσότερο με υπηρεσίες και εφαρμογές που περιέχουν ευαίσθητες προσωπικές και επιχειρησιακές πληροφορίες.

Στο πλαίσιο της δοκιμής, η CPR κατάφερε να κάνει το ChatGPT να ανακτήσει πληροφορίες από συνδεδεμένο λογαριασμό Gmail ενός θύματος και στη συνέχεια να τις μεταφέρει στον επιτιθέμενο.

Ιδιαίτερα ανησυχητικό είναι το γεγονός ότι, σύμφωνα με την έρευνα, η συνομιλία του χρήστη μπορούσε να συνεχίζεται χωρίς εμφανή σημάδια ότι κάτι ασυνήθιστο είχε συμβεί.

Η επίθεση δεν βασιζόταν στην υποκλοπή κωδικών πρόσβασης, στην εγκατάσταση malware ή στην απευθείας παραβίαση του λογαριασμού του θύματος. Αντίθετα, αξιοποιούσε τις υφιστάμενες άδειες πρόσβασης που είχαν ήδη παραχωρηθεί στον AI assistant.

Σύμφωνα με την CPR, διαφορετικοί μηχανισμοί, όπως ένα κακόβουλο prompt, ένας κοινόχρηστος σύνδεσμος συνομιλίας ή ένα custom GPT, θα μπορούσαν υπό συγκεκριμένες συνθήκες να ενεργοποιήσουν την επίθεση.

Ανάλογα με τα δικαιώματα που είχε παραχωρήσει ο χρήστης, η διαδικασία θα μπορούσε να οδηγήσει σε πρόσβαση σε δεδομένα από συνδεδεμένες υπηρεσίες, όπως Gmail, Google Drive, Microsoft Teams και GitHub.

Ο AI assistant ως «εξαναγκασμένος εσωτερικός παράγοντας»

Η έρευνα αναδεικνύει μια διαφορετική διάσταση του κινδύνου που συνοδεύει την εξάπλωση των AI assistants.

Το πρόβλημα δεν είναι απαραίτητα ότι ένα σύστημα τεχνητής νοημοσύνης αποφασίζει αυτόνομα να παραβιάσει τους κανόνες λειτουργίας του. Ο κίνδυνος προκύπτει όταν ένας επιτιθέμενος καταφέρνει να επηρεάσει έναν AI assistant που ανήκει σε άλλον χρήστη και να τον οδηγήσει να εκτελέσει ενέργειες για λογαριασμό του.

Με αυτόν τον τρόπο, ο AI assistant μπορεί να μετατραπεί ουσιαστικά σε έναν «εξαναγκασμένο εσωτερικό παράγοντα» (coerced insider): ένα σύστημα που διαθέτει νόμιμη πρόσβαση σε δεδομένα και εφαρμογές ενός οργανισμού, αλλά χειραγωγείται ώστε να χρησιμοποιήσει αυτή την πρόσβαση με τρόπο που δεν είχε προβλεφθεί.

Αυτό διαφοροποιεί την απειλή από ένα κλασικό σενάριο κυβερνοεπίθεσης. Ο επιτιθέμενος δεν χρειάζεται κατ’ ανάγκη να αποκτήσει ο ίδιος τα δικαιώματα πρόσβασης. Μπορεί να επιχειρήσει να κάνει τον AI assistant να χρησιμοποιήσει τα δικαιώματα που διαθέτει ήδη.

Η απομόνωση των AI περιβαλλόντων στο επίκεντρο

Το εύρημα της CPR θέτει παράλληλα ερωτήματα γύρω από την παραδοχή ότι διαφορετικοί χρήστες, λογαριασμοί και συνεδρίες σε πλατφόρμες τεχνητής νοημοσύνης λειτουργούν σε πλήρως απομονωμένα περιβάλλοντα.

Η έρευνα της Check Point Research εντόπισε έναν κρυφό, αμφίδρομο μηχανισμό επικοινωνίας μεταξύ περιβαλλόντων εκτέλεσης κώδικα που αντιστοιχούσαν σε διαφορετικές συνομιλίες και διαφορετικούς λογαριασμούς.

Οι ερευνητές επισημαίνουν ότι ο τεχνικός μηχανισμός που εντόπισαν διαφέρει από άλλες πρόσφατες περιπτώσεις που έχουν εξεταστεί στον χώρο της AI. Ωστόσο, το κοινό στοιχείο είναι η ύπαρξη μη προβλεπόμενων διαύλων επικοινωνίας ανάμεσα σε περιβάλλοντα τα οποία έχουν σχεδιαστεί ώστε να παραμένουν διαχωρισμένα.

Η εξέλιξη αυτή αποκτά ακόμη μεγαλύτερη σημασία καθώς οι AI assistants περνούν από τον ρόλο του απλού εργαλείου παραγωγής κειμένου σε ρόλο ψηφιακού βοηθού με πρόσβαση σε εταιρικά συστήματα, αρχεία, επικοινωνίες και επιχειρησιακές εφαρμογές.

Διευρύνεται η επιφάνεια επίθεσης

Για τις επιχειρήσεις, η αυξανόμενη ενσωμάτωση της τεχνητής νοημοσύνης δημιουργεί μια νέα παράμετρο κυβερνοασφάλειας.

Μέχρι σήμερα, η προστασία επικεντρωνόταν κυρίως στους χρήστες, στις συσκευές, στις εφαρμογές και στις ταυτότητες. Στο περιβάλλον των AI assistants, όμως, προστίθεται ένας ακόμη κρίκος: ο ίδιος ο AI agent που ενεργεί για λογαριασμό του χρήστη.

Όσο περισσότερες άδειες αποκτά ένας AI assistant, τόσο μεγαλύτερη μπορεί να γίνει και η επιφάνεια επίθεσης. Ένας επιτιθέμενος μπορεί να επιχειρήσει να εκμεταλλευτεί όχι μόνο μια ευπάθεια λογισμικού, αλλά και την εμπιστοσύνη που έχει δοθεί στον AI assistant.

Για επιχειρήσεις, δημόσιους οργανισμούς και φορείς κρίσιμων υποδομών, αυτό σημαίνει ότι η υιοθέτηση εργαλείων AI θα πρέπει να συνοδεύεται από αυστηρό έλεγχο των δικαιωμάτων, ορατότητα στις αλληλεπιδράσεις και μηχανισμούς που μπορούν να εντοπίζουν και να αποτρέπουν ύποπτες ενέργειες σε πραγματικό χρόνο.

Η αυτοματοποίηση φέρνει νέες απαιτήσεις ασφαλείας

Η συγκεκριμένη έρευνα έρχεται σε μια περίοδο κατά την οποία η συζήτηση για την ασφάλεια των AI agents διευρύνεται.

Ένα μέρος της συζήτησης επικεντρώνεται σε περιπτώσεις όπου agents μπορούν να πραγματοποιούν ενέργειες που δεν είχαν προβλεφθεί από τους δημιουργούς τους. Η CPR αναδεικνύει έναν διαφορετικό κίνδυνο: τη χειραγώγηση ενός νόμιμα εξουσιοδοτημένου AI assistant από έναν εξωτερικό επιτιθέμενο.

Η διαφορά είναι κρίσιμη. Σε ένα τέτοιο σενάριο, η κακόβουλη δραστηριότητα μπορεί να πραγματοποιείται μέσα από νόμιμες άδειες και αξιόπιστες υποδομές, γεγονός που ενδέχεται να δυσκολεύει τον εντοπισμό της.

Καθώς οι AI assistants αποκτούν πρόσβαση σε ολοένα περισσότερα δεδομένα και συστήματα, η ασφάλειά τους μετατρέπεται επομένως σε ζήτημα όχι μόνο προστασίας του μοντέλου, αλλά και διαχείρισης ταυτοτήτων, δικαιωμάτων και σχέσεων εμπιστοσύνης.

Check Point: Η πρόκληση δεν είναι μόνο το μοντέλο

Ο Eli Smadja, Head of Research της Check Point Research, υπογραμμίζει ότι η νέα πραγματικότητα απαιτεί αλλαγή προσέγγισης στην ασφάλεια της τεχνητής νοημοσύνης.

Όπως επισημαίνει, η πρόκληση δεν αφορά πλέον αποκλειστικά το ίδιο το μοντέλο AI, αλλά και την πρόσβαση και την εμπιστοσύνη που του παραχωρείται.

Η αυξανόμενη διασύνδεση των AI assistants με εταιρικά συστήματα και ευαίσθητα δεδομένα σημαίνει ότι κάθε εξουσιοδοτημένη δυνατότητα μπορεί δυνητικά να αποτελέσει στόχο κατάχρησης.

Για τον λόγο αυτό, η πρόληψη, η ορατότητα, η διακυβέρνηση και η προστασία κατά τη λειτουργία αναδεικνύονται σε βασικά στοιχεία μιας σύγχρονης στρατηγικής κυβερνοασφάλειας.

Το βασικό μήνυμα της έρευνας είναι ότι η ασφάλεια της εποχής της AI δεν περιορίζεται πλέον στο ερώτημα «ποιος έχει πρόσβαση στα δεδομένα;». Εξίσου κρίσιμο γίνεται το «τι μπορεί να κάνει ένας AI assistant με αυτή την πρόσβαση και ποιος μπορεί να τον χειραγωγήσει ώστε να το κάνει».