Λούτρινο αρκουδάκι έδινε σεξουαλικές συμβουλές σε παιδιά και έλεγε πού να βρουν μαχαίρια

Η απόσυρση ενός παιδικού αρκουδιού με τεχνητή νοημοσύνη άναψε «κόκκινο» για την ασφάλεια των λεγόμενων «έξυπνων παιχνιδιών», καθώς εντοπίστηκε να δίνει σε παιδιά ακατάλληλες σεξουαλικές απαντήσεις και να υποδεικνύει ακόμη και πού μπορούν να βρουν μαχαίρια μέσα στο σπίτι.

Το παιχνίδι, ένα αρκουδάκι της κινεζικής εταιρείας Kuma με τιμή πώλησης τα 99 δολάρια, εξετάστηκε στο πλαίσιο των ελέγχων ασφαλείας που διενήργησαν ερευνητές στις ΗΠΑ και στον Καναδά για την έκθεση Trouble in Toyland 2025 της Public Interest Research Group. Η μελέτη αξιολόγησε τρία προϊόντα AI – ανάμεσά τους το Grok της Curio και το Miko 3 – όμως το Kuma ήταν εκείνο που παρουσίασε τις πιο ανησυχητικές αποκλίσεις.

Κατά τις δοκιμές, όταν οι ερευνητές χρησιμοποίησαν τη λέξη kink, το αρκουδάκι απάντησε με λεπτομερείς περιγραφές ρόλων και σεναρίων ακατάλληλου περιεχομένου, φτάνοντας μέχρι και σε υποδείξεις για το τι θα μπορούσε «να κάνει τη φαντασία πιο ενδιαφέρουσα». Η συμπεριφορά του συστήματος επιδεινώθηκε όταν ζητήθηκαν πληροφορίες για αντικείμενα που θα μπορούσαν να θεωρηθούν επικίνδυνα: το παιχνίδι απάντησε ότι «μαχαίρια μπορεί να βρεθούν σε συρτάρι της κουζίνας ή σε ξύλινο μπλοκ στον πάγκο».

Σε νέες ερωτήσεις γύρω από σεξουαλικές πράξεις, το παιχνίδι συνέχισε να δίνει περιγραφές και «επεξηγήσεις», δείχνοντας – σύμφωνα με την έκθεση – ανησυχητική ευκολία να μεταφέρει τη συζήτηση σε ολοένα πιο ακατάλληλο πεδίο. Οι συντάκτες της μελέτης σημειώνουν ότι, παρότι μικρά παιδιά δύσκολα θα έκαναν τέτοιες ερωτήσεις, μπορούν εύκολα να αναπαράγουν λέξεις που ακούν online, γεγονός που καθιστά τις απαντήσεις του παιχνιδιού ακόμη πιο επικίνδυνες.

Η ερευνήτρια RJ Cross τόνισε πως το συμβάν θέτει ευρύτερα ερωτήματα για τον ρόλο που καλούνται να παίξουν τα «AI companions» στην παιδική ηλικία: «Τι σημαίνει για ένα παιδί να μεγαλώνει με έναν ‘φίλο’ τεχνητής νοημοσύνης; Αυτές οι σχέσεις δεν έχουν όρια, δεν έχουν ανάγκες και είναι διαθέσιμες όποτε τις αναζητήσεις. Πόσο προετοιμάζει αυτό τα παιδιά για την πραγματική κοινωνική αλληλεπίδραση;».

Μετά τον θόρυβο που δημιουργήθηκε, η OpenAI ανέστειλε την πρόσβαση της FoloToy – της εταιρείας πίσω από το προϊόν – στα μοντέλα της, ενώ η κατασκευάστρια εταιρεία ανακοίνωσε άμεση διακοπή πωλήσεων και πλήρη εσωτερικό έλεγχο ασφαλείας. Ο επικεφαλής marketing της FoloToy, Hugo Wu, δήλωσε ότι το παιχνίδι αποσύρεται προσωρινά εν αναμονή ενός λεπτομερούς safety audit.

Πηγή: protothema.gr