Το TikTok πνίγεται στο «AI slop»: Η νέα γενιά μεγαλώνει μέσα σε ένα κύμα τεχνητής νοημοσύνης

Νέα έρευνα αποκαλύπτει ότι σχεδόν έξι στα δέκα βίντεο που βλέπει ένας νέος χρήστης στο TikTok είναι χαμηλής ποιότητας περιεχόμενο φτιαγμένο με τεχνητή νοημοσύνη. Τι είναι το «AI slop», γιατί ανησυχούν οι ειδικοί και πώς επηρεάζει την αξιοπιστία της πληροφορίας, αλλά και τα παιδιά.

Μέχρι πριν από λίγα χρόνια, ο μεγαλύτερος φόβος γύρω από τα social media ήταν η παραπληροφόρηση ή ο εθισμός στην ατελείωτη κύλιση της οθόνης. Σήμερα, όμως, η συζήτηση αποκτά μια νέα διάσταση. Το πρόβλημα δεν είναι μόνο τι βλέπουμε, αλλά και ποιος το έχει δημιουργήσει.

Η ραγδαία εξάπλωση της παραγωγικής τεχνητής νοημοσύνης έχει αλλάξει ριζικά τον τρόπο με τον οποίο παράγεται περιεχόμενο στο διαδίκτυο. Μέσα σε λίγα λεπτά, οποιοσδήποτε μπορεί να δημιουργήσει εικόνες, βίντεο, αφηγήσεις ή τραγούδια χωρίς να χρειάζεται κάμερα, μικρόφωνο ή γνώσεις επεξεργασίας. Το αποτέλεσμα είναι μια πρωτοφανής «έκρηξη» περιεχομένου, που όμως δεν συνοδεύεται πάντα από ποιότητα ή αξιοπιστία.

Στο επίκεντρο αυτής της αλλαγής βρίσκεται το TikTok Η πλατφόρμα που άλλαξε τον τρόπο με τον οποίο καταναλώνουμε βίντεο φαίνεται πως αντιμετωπίζει πλέον μια διαφορετική πρόκληση: την πλημμυρίδα του λεγόμενου AI slop, ενός όρου που χρησιμοποιείται για να περιγράψει μαζικά παραγόμενο περιεχόμενο χαμηλής ποιότητας, το οποίο δημιουργείται σχεδόν αποκλειστικά με εργαλεία τεχνητής νοημοσύνης.

Μια νέα μελέτη της πλατφόρμας επεξεργασίας βίντεο Kapwing έρχεται να ποσοτικοποιήσει αυτό που πολλοί χρήστες παρατηρούσαν ήδη στην καθημερινή τους περιήγηση. Και τα αποτελέσματα προκαλούν έντονο προβληματισμό.

Τι είναι το «AI slop» και γιατί συζητιέται τόσο πολύ;

Ο όρος AI slop εμφανίστηκε τα τελευταία δύο χρόνια για να περιγράψει ένα νέο είδος ψηφιακού περιεχομένου. Δεν αφορά απλώς βίντεο που έχουν δημιουργηθεί με τεχνητή νοημοσύνη. Αναφέρεται κυρίως σε περιεχόμενο που παράγεται μαζικά, χωρίς ουσιαστική ανθρώπινη επιμέλεια, με μοναδικό στόχο να συγκεντρώσει προβολές, αλληλεπιδράσεις και διαφημιστικά έσοδα.

Τα χαρακτηριστικά του είναι πλέον εύκολα αναγνωρίσιμα. Εικόνες που αλλάζουν απότομα χωρίς λογική συνέχεια, αφηγήσεις με μηχανικές φωνές, πρόσωπα που εμφανίζονται παραμορφωμένα, πληροφορίες που δεν επαληθεύονται και ιστορίες που συχνά συνδυάζουν πραγματικά γεγονότα με εντελώς κατασκευασμένα στοιχεία.

Δεν πρόκειται απαραίτητα για κακόβουλο περιεχόμενο. Σε πολλές περιπτώσεις δημιουργείται απλώς για να εκμεταλλευτεί τον αλγόριθμο των πλατφορμών, ο οποίος ανταμείβει τη συχνή δημοσίευση και τον μεγάλο αριθμό προβολών.

Το πρόβλημα, όμως, ξεκινά όταν αυτό το υλικό αρχίζει να αντικαθιστά το αυθεντικό περιεχόμενο που δημιουργούν άνθρωποι ή όταν παρουσιάζει ανακριβείς πληροφορίες ως αληθινές.

Fruit Love Island: Φρενίτιδα με τα AI «ριάλιτι» με φρούτα – Τι κρύβεται πίσω από αυτά (VIDEO)

Η έρευνα που αποκαλύπτει την έκταση του φαινομένου

Η Kapwing ανέλυσε συνολικά 10.742 βίντεο σε 20 από τις δημοφιλέστερες κατηγορίες του TikTok, εξετάζοντας παράλληλα τι βλέπει ένας νέος χρήστης πριν ακόμη ο αλγόριθμος προσαρμοστεί στις προσωπικές του προτιμήσεις.

Οι ερευνητές δημιούργησαν έναν νέο λογαριασμό και κατέγραψαν τα 500 πρώτα βίντεο που εμφανίστηκαν στη σελίδα For You, δηλαδή στην κεντρική ροή προτάσεων της εφαρμογής.

Τα αποτελέσματα ήταν εντυπωσιακά. Από τα 500 βίντεο, τα 294, δηλαδή περίπου το 59%, χαρακτηρίστηκαν ως AI slop.

Το ποσοστό γίνεται ακόμη πιο εντυπωσιακό όταν συγκρίνεται με άλλες πλατφόρμες. Στην ίδια έρευνα, τα αντίστοιχα βίντεο στα YouTube Shorts αντιστοιχούσαν περίπου στο 21%, γεγονός που δείχνει ότι το TikTok εμφανίζει σχεδόν τριπλάσια παρουσία χαμηλής ποιότητας περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη.

Αυτό δεν σημαίνει ότι το σύνολο του περιεχομένου στο TikTok είναι προβληματικό. Δείχνει όμως ότι ένας χρήστης που ανοίγει σήμερα για πρώτη φορά την εφαρμογή έχει μεγάλες πιθανότητες να εκτεθεί κυρίως σε βίντεο που δεν έχουν παραχθεί με ουσιαστική ανθρώπινη δημιουργικότητα.

Γιατί τα παιδιά βρίσκονται στο επίκεντρο της ανησυχίας

Το πιο ανησυχητικό εύρημα της έρευνας δεν αφορά τις ψυχαγωγικές κατηγορίες, αλλά το περιεχόμενο που απευθύνεται σε παιδιά.

Στην κατηγορία Kids, η πλειονότητα των βίντεο που αναλύθηκαν χαρακτηρίστηκε ως AI slop. Σε ορισμένα hashtags η εικόνα ήταν σχεδόν απόλυτη. Στο #CartoonKids, για παράδειγμα, τα 97 από τα 100 βίντεο που εξετάστηκαν είχαν δημιουργηθεί σχεδόν εξ ολοκλήρου με τεχνητή νοημοσύνη. Αντίστοιχα υψηλά ποσοστά καταγράφηκαν στα #cartoons, #babysong και #forkids.

Με την πρώτη ματιά, τα περισσότερα από αυτά τα βίντεο μοιάζουν αθώα. Πολύχρωμες εικόνες, γνωστοί ήρωες κινουμένων σχεδίων, παιδικά τραγούδια και υποτιθέμενο εκπαιδευτικό περιεχόμενο.

Ποσό αποδοτικό είναι το ban των social media στα παιδιά – Τι δείχνουν έρευνες στο εξωτερικό

Όμως, μια πιο προσεκτική ματιά αποκαλύπτει συχνά λάθη που δύσκολα θα περνούσαν από ανθρώπινη επιμέλεια. Αριθμοί παρουσιάζονται λανθασμένα, γράμματα εμφανίζονται με λάθος σειρά, οι χαρακτήρες μεταμορφώνονται ανεξήγητα από σκηνή σε σκηνή και οι αφηγήσεις περιέχουν ασυνέπειες που μπορεί να προκαλέσουν σύγχυση.

Για έναν ενήλικα, τα λάθη αυτά είναι εύκολα αντιληπτά. Για ένα παιδί προσχολικής ηλικίας, όμως, που βρίσκεται στη διαδικασία ανάπτυξης βασικών γνωστικών δεξιοτήτων, η κατάσταση είναι διαφορετική. Τα μικρά παιδιά δεν διαθέτουν ακόμη την ικανότητα να αξιολογούν αν μια πληροφορία είναι σωστή ή λανθασμένη. Τείνουν να θεωρούν αξιόπιστο ό,τι παρουσιάζεται με τρόπο ελκυστικό και επαναλαμβανόμενο.

Μήπως οι απόψεις της Gen Z για το AI αλλάζουν χωρίς καν να το καταλαβαίνουμε

Αυτός είναι και ο λόγος που αρκετοί ειδικοί στην ανάπτυξη του παιδιού ζητούν αυστηρότερη εποπτεία του περιεχομένου που απευθύνεται σε ανήλικους χρήστες, ιδιαίτερα όταν παράγεται εξ ολοκλήρου από αλγορίθμους χωρίς ουσιαστικό ανθρώπινο έλεγχο.

Όταν η παραπληροφόρηση «ντύνεται» με εντυπωσιακές εικόνες

Η ανησυχία, ωστόσο, δεν περιορίζεται στο παιδικό περιεχόμενο. Η έρευνα της Kapwing διαπίστωσε ότι υψηλά ποσοστά AI slop εμφανίζονται και σε θεματικές όπως η επιστήμη, η υγεία, η ιστορία και η εκπαίδευση. Πρόκειται για κατηγορίες όπου η αξιοπιστία των πληροφοριών δεν αποτελεί απλώς ζήτημα ποιότητας, αλλά μπορεί να επηρεάσει ουσιαστικά τις αποφάσεις που λαμβάνουν οι χρήστες.

Ένα ψυχαγωγικό βίντεο με αλλόκοτες εικόνες πιθανότατα θα ξεχαστεί μέσα σε λίγα δευτερόλεπτα. Αντίθετα, ένα βίντεο που παρουσιάζει λανθασμένες συμβουλές υγείας, διαδίδει ανύπαρκτα επιστημονικά ευρήματα ή αλλοιώνει ιστορικά γεγονότα μπορεί να συμβάλει στη δημιουργία μιας στρεβλής εικόνας της πραγματικότητας.

Το πρόβλημα γίνεται ακόμη πιο σύνθετο επειδή η σύγχρονη τεχνητή νοημοσύνη μπορεί πλέον να παράγει εικόνες και αφηγήσεις με εντυπωσιακό ρεαλισμό. Για έναν χρήστη που παρακολουθεί βιαστικά δεκάδες βίντεο μέσα σε λίγα λεπτά, δεν είναι πάντα εύκολο να διακρίνει αν το περιεχόμενο που βλέπει βασίζεται σε πραγματικά στοιχεία ή αποτελεί προϊόν αλγοριθμικής δημιουργίας.

Οι ειδικοί μιλούν πλέον για ένα νέο είδος «ψηφιακής κόπωσης», όπου η συνεχής έκθεση σε τεράστιο όγκο περιεχομένου δυσκολεύει ακόμη περισσότερο την αξιολόγηση της αξιοπιστίας κάθε πληροφορίας.

Ο αλγόριθμος ανταμείβει την ποσότητα περισσότερο από την ποιότητα;

Η έκρηξη του AI slop δεν είναι τυχαία. Συνδέεται άμεσα με τον τρόπο λειτουργίας των σύγχρονων κοινωνικών δικτύων.

Οι αλγόριθμοι πλατφορμών όπως το TikTok έχουν σχεδιαστεί για να διατηρούν τον χρήστη όσο το δυνατόν περισσότερο στην εφαρμογή. Για να το πετύχουν, προτείνουν συνεχώς νέο περιεχόμενο που έχει πιθανότητες να τραβήξει την προσοχή του, ακόμη κι αν αυτό δεν προέρχεται από γνωστούς δημιουργούς.

Αυτή η λογική άνοιξε τον δρόμο σε μια νέα «βιομηχανία» παραγωγής βίντεο με τεχνητή νοημοσύνη. Με λίγα μόνο εργαλεία, ένας δημιουργός μπορεί να παράγει δεκάδες ή ακόμη και εκατοντάδες βίντεο μέσα σε μία ημέρα, δοκιμάζοντας ποιο από αυτά θα γίνει viral.

Σε αντίθεση με το παραδοσιακό περιεχόμενο, που απαιτεί χρόνο για έρευνα, γυρίσματα και μοντάζ, το AI slop μπορεί να δημιουργηθεί σχεδόν αυτόματα. Αυτό έχει ως αποτέλεσμα να αυξάνεται διαρκώς ο όγκος του διαθέσιμου υλικού, δυσκολεύοντας ακόμη περισσότερο την ανάδειξη πρωτότυπων και ποιοτικών δημιουργιών.

Τι λέει η επιστήμη για την επίδραση του ψηφιακού περιεχομένου

Η συζήτηση γύρω από την ποιότητα του περιεχομένου στα κοινωνικά δίκτυα δεν είναι καινούργια. Τα τελευταία χρόνια, αρκετές επιστημονικές μελέτες έχουν εξετάσει τον τρόπο με τον οποίο οι αλγόριθμοι επηρεάζουν την προσοχή, τη μάθηση και την εμπιστοσύνη των χρηστών.

Ερευνητές από πανεπιστήμια όπως το Stanford, το MIT και το Oxford έχουν επισημάνει ότι η επαναλαμβανόμενη έκθεση σε πληροφορίες – ακόμη και όταν αυτές είναι ανακριβείς – μπορεί να οδηγήσει στο φαινόμενο της «ψευδαίσθησης της αλήθειας» (illusory truth effect). Με απλά λόγια, όσο περισσότερο βλέπουμε έναν ισχυρισμό να επαναλαμβάνεται, τόσο πιθανότερο είναι να τον θεωρήσουμε αξιόπιστο, ακόμη κι αν δεν υπάρχουν αποδείξεις που τον στηρίζουν.

Αυτό αποκτά ιδιαίτερη σημασία στην εποχή της τεχνητής νοημοσύνης, όπου η παραγωγή περιεχομένου μπορεί να γίνεται με πρωτοφανή ταχύτητα και σε τεράστια κλίμακα.

Παράλληλα, οι ειδικοί στην ψηφιακή παιδεία υπογραμμίζουν ότι οι χρήστες χρειάζεται πλέον να αναπτύξουν νέες δεξιότητες, όπως η διασταύρωση πληροφοριών, η αναγνώριση αξιόπιστων πηγών και η κριτική αξιολόγηση όσων εμφανίζονται στην οθόνη τους.

Το TikTok αλλάζει την πολιτική ενημέρωση – αλλά προς ποια κατεύθυνση

Οι κινήσεις του TikTok και το ερώτημα που παραμένει

Το TikTok έχει ήδη αναγνωρίσει ότι η τεχνητή νοημοσύνη θα παίζει ολοένα και μεγαλύτερο ρόλο στο περιεχόμενο της πλατφόρμας. Για τον λόγο αυτό έχει παρουσιάσει εργαλεία που επιτρέπουν στους χρήστες να βλέπουν περισσότερο ή λιγότερο περιεχόμενο που δημιουργείται με AI, ενώ παράλληλα ζητά από τους δημιουργούς να επισημαίνουν πότε ένα βίντεο έχει παραχθεί ή τροποποιηθεί με τεχνητή νοημοσύνη.

Παρόλα αυτά, η Kapwing εκτιμά ότι τα διαθέσιμα εργαλεία δεν επαρκούν για να περιορίσουν ουσιαστικά το φαινόμενο. Ο τεράστιος όγκος νέου περιεχομένου που ανεβαίνει καθημερινά καθιστά εξαιρετικά δύσκολο τον αποτελεσματικό έλεγχο, ιδιαίτερα όταν οι τεχνικές παραγωγής εξελίσσονται με τόσο γρήγορους ρυθμούς.

Το ερώτημα, επομένως, δεν είναι μόνο αν οι πλατφόρμες μπορούν να εντοπίσουν το AI slop, αλλά και αν μπορούν να το περιορίσουν χωρίς να επηρεάσουν τη δημιουργικότητα των χρηστών που αξιοποιούν υπεύθυνα την τεχνητή νοημοσύνη.

Η τεχνητή νοημοσύνη δεν είναι το πρόβλημα – η χρήση της είναι

Η συζήτηση γύρω από το AI slop δεν πρέπει να οδηγεί στο συμπέρασμα ότι κάθε περιεχόμενο που δημιουργείται με τεχνητή νοημοσύνη είναι κακής ποιότητας. Αντίθετα, εργαλεία AI χρησιμοποιούνται πλέον από δημοσιογράφους, εκπαιδευτικούς, επιστήμονες, δημιουργούς και επαγγελματίες για την παραγωγή αξιόπιστου και χρήσιμου υλικού.

Η διαφορά βρίσκεται στον τρόπο αξιοποίησης της τεχνολογίας. Όταν η AI λειτουργεί ως εργαλείο που υποστηρίζει την ανθρώπινη δημιουργικότητα, μπορεί να βελτιώσει σημαντικά την ποιότητα του περιεχομένου. Όταν όμως χρησιμοποιείται αποκλειστικά για τη μαζική παραγωγή βίντεο με στόχο τα κλικ και τις προβολές, το αποτέλεσμα είναι μια πλημμύρα πληροφοριών που συχνά έχει μικρή ή και μηδενική αξία για τον χρήστη.

Η πρόκληση των επόμενων ετών δεν θα είναι μόνο να ξεχωρίζουμε τι είναι αληθινό και τι ψεύτικο. Θα είναι να μπορούμε να ξεχωρίζουμε τι αξίζει πραγματικά τον χρόνο και την προσοχή μας.

Η έρευνα της Kapwing έρχεται να υπενθυμίσει ότι η τεχνητή νοημοσύνη αλλάζει ήδη τον τρόπο με τον οποίο παράγεται και καταναλώνεται το περιεχόμενο στα κοινωνικά δίκτυα. Και όσο οι αλγόριθμοι γίνονται πιο ισχυροί, τόσο μεγαλύτερη θα γίνεται η ανάγκη για ψηφιακή παιδεία, κριτική σκέψη και υπεύθυνη χρήση της τεχνολογίας.

Το TikTok πιθανότατα δεν θα είναι η τελευταία πλατφόρμα που θα βρεθεί αντιμέτωπη με το φαινόμενο του AI slop. Αντίθετα, πρόκειται για μια πρόκληση που αφορά ολόκληρο το ψηφιακό οικοσύστημα. Το στοίχημα πλέον δεν είναι να σταματήσει η τεχνητή νοημοσύνη – κάτι τέτοιο είναι ούτε εφικτό ούτε επιθυμητό. Το πραγματικό ζητούμενο είναι να διασφαλιστεί ότι η καινοτομία θα συνοδεύεται από ποιότητα, διαφάνεια και υπευθυνότητα, ώστε οι χρήστες να μπορούν να εμπιστεύονται το περιεχόμενο που καταναλώνουν καθημερινά.