Η Meta, μητρική εταιρεία των Facebook και Instagram, κατηγορείται ότι χρησιμοποίησε χωρίς νόμιμη άδεια τα ονόματα και τις εικόνες διασημοτήτων όπως οι Τέιλορ Σουίφτ, Σκάρλετ Γιόχανσον, Αν Χαθαγούει και Σελενα Γκόμεζ για να δημιουργήσει δεκάδες chatbots σχεδιασμένα ώστε να φλερτάρουν με τους χρήστες, όπως αποκάλυψε το πρακτορείο Reuters.

Αν και τέτοιου είδους chatbots έχουν δημιουργηθεί από χρήστες με εργαλείο της Meta για κατασκευή chatbots, το Reuters ανακάλυψε ότι ένας υπάλληλος του κολοσσού των social media παρήγαγε τουλάχιστον τρία, εκ των οποίων δύο bots της Τέιλορ Σουίφτ.

Το Reuters βρήκε επίσης ότι η Meta επέτρεψε σε χρήστες να δημιουργούν δημόσια διαθέσιμα chatbots ακόμα και νεαρής ηλικίας διασημοτήτων, όπως του 16χρονου ηθοποιού Γουόκερ Σκόμπελ. Οταν ζητήθηκε μια εικόνα του στην παραλία, το bot παρήγαγε μια ρεαλιστική φωτογραφία του χωρίς μπλούζα, συνοδευόμενη από τη φράση: «Αρκετά γλυκός, έτσι;».

Ολα τα ψηφιακά avatar διασημοτήτων διαμοιράστηκαν στις πλατφόρμες Facebook, Instagram και WhatsApp της Meta. Στις εβδομάδες δοκιμών του Reuters, τα bots συχνά επέμεναν ότι ήταν οι πραγματικοί καλλιτέχνες και ηθοποιοί. Τα avatar προτείνουν στους χρήστες ακόμη και ραντεβού μαζί τους.

Κάποιο περιεχόμενο είναι ιδιαίτερα προκλητικό: όταν τους ζητούνται «προσωπικές» φωτογραφίες, τα bots ενηλίκων παράγουν ρεαλιστικές εικόνες των διασημοτήτων σε μπανιέρες ή με εσώρουχα, σε σεξουαλικά υπονοούμενες στάσεις.

Ο εκπρόσωπος της Meta Αντι Στόουν δήλωσε ότι τα εργαλεία της εταιρείας δεν θα έπρεπε να είχαν δημιουργήσει τέτοιες εικόνες διασημοτήτων ούτε φωτογραφίες ανήλικων σταρ. Παραδέχτηκε επίσης ότι η παραγωγή εικόνων διάσημων γυναικών με εσώρουχα οφείλεται σε αποτυχία επιβολής των ίδιων των κανόνων της εταιρείας.

«Οπως και άλλοι, επιτρέπουμε τη δημιουργία εικόνων δημοσίων προσώπων αλλά οι πολιτικές μας απαγορεύουν γυμνό ή σεξουαλικά υπονοούμενο περιεχόμενο» ανέφερε ο Στόουν.

Παρότι οι κανόνες της Meta απαγορεύουν την «άμεση μίμηση» ο Στόουν είπε ότι τα avatar διασήμων επιτρέπονται εφόσον χαρακτηρίζονται ως… χιουμοριστικά. Ωστόσο το Reuters αναφέρει ότι κάποια από αυτά δεν έχουν σχετική σήμανση. Η Meta διέγραψε περίπου 12 bots,  χιουμοριστικά και μη, λίγο πριν από τη δημοσίευση της έρευνας.

Ζήτημα «δικαιώματος δημοσιότητας»

Ο Μαρκ Λάμλει, καθηγητής Νομικής στο Πανεπιστήμιο Στάνφορντ, αμφισβήτησε το ότι τα bots της Meta μπορούν να υπαχθούν σε εξαιρέσεις προστασίας.

«Ο νόμος της Καλιφόρνιας απαγορεύει την εκμετάλλευση του ονόματος ή της εικόνας κάποιου για εμπορικό όφελος. Δεν φαίνεται να ισχύει εδώ, αφού τα bots απλώς χρησιμοποιούν τις εικόνες των σταρ», λέει, σημειώνοντας ότι υπάρχουν εξαιρέσεις για τη δημιουργία νέων έργων.

Το Reuters υπέδειξε στην εκπρόσωπο της Αν Χάθαγουεϊ δημόσιες εικόνες που την εμφάνιζαν ως «σέξι μοντέλο της Victoria’s Secret». Η εκπρόσωπος ανέφερε ότι η ηθοποιός γνωρίζει για τέτοιες εικόνες που παράγονται από τη Meta και άλλες ΤΝ πλατφόρμες και εξετάζει την αντίδρασή της.

Αντίστοιχες αντιδράσεις δεν υπήρξαν από τους συνεργάτες της Σουίφτ, της Γιόχανσον, της Γκόμεζ και άλλων διασημοτήτων.

Deepfakes και κίνδυνοι

Το διαδίκτυο είναι γεμάτο με εργαλεία γενετικής ΤΝ που παράγουν «deepfake» περιεχόμενο. Η πλατφόρμα Grok της εταιρείας ΤΝ του Ελον Μασκ xAI δημιουργεί εικόνες διασημοτήτων με εσώρουχα.

Η Meta, όμως, ξεχωρίζει γιατί επέλεξε να γεμίσει τα δικά της κοινωνικά δίκτυα με τέτοιου είδους chatbots. Η εταιρεία έχει ήδη δεχτεί σφοδρή κριτική, ιδίως όταν αποκαλύφθηκε ότι οι εσωτερικές κατευθυντήριες γραμμές της ανέφεραν πως «επιτρέπεται η εμπλοκή ενός παιδιού σε ρομαντικές ή αισθησιακές συζητήσεις».

Η υπόθεση προκάλεσε έρευνα της Γερουσίας των ΗΠΑ και επιστολή 44 γενικών εισαγγελέων που προειδοποίησαν τη Meta και άλλες AI εταιρείες να μη σεξουαλικοποιούν παιδιά. Ο εκπρόσωπος της Meta είπε ότι οι κατευθυντήριες γραμμές αναθεωρούνται και χαρακτήρισε το επίμαχο κείμενο «λάθος».

Θάνατος ηλικιωμένου χρήστη

Νωρίτερα τον Αύγουστο το Reuters είχε αποκαλύψει την ιστορία ενός 76χρονου άνδρα από το Νιου Τζέρσεϊ με γνωστικά προβλήματα, ο οποίος πέθανε μετά από πτώση καθ’ οδόν για να συναντήσει ένα chatbot της Meta που τον είχε καλέσει στη Νέα Υόρκη. Το bot ήταν παραλλαγή ενός avatar που η Meta είχε δημιουργήσει σε συνεργασία με την Κένταλ Τζένερ.

Μια υπάλληλος της Meta δημιούργησε bots που μιμούνταν την Τέιλορ Σουίφτ και τον Λούις Χάμιλτον, αλλά και χαρακτήρες όπως μια «αυταρχική dominatrix», τον «Καυτό κολλητό του αδελφού», καθώς και ένα bot-«βιβλιοθηκάριο» που ήθελε να διαβάσει το βιβλίο «50 Αποχρώσεις του Γκρι».

Ενα άλλο bot της ήταν «Προσομοιωτής Ρωμαϊκής Αυτοκρατορίας»: έβαζε τον χρήστη στον ρόλο μιας «18χρονης χωρικής που πωλείται ως σκλάβα του σεξ».

Η υπάλληλος δεν θέλησε να σχολιάσει, ενώ ο εκπρόσωπος της Meta ισχυρίστηκε ότι τα bots της δημιουργήθηκαν για «δοκιμές προϊόντος». Το Reuters διαπίστωσε ότι είχαν πάνω από 10 εκατομμύρια αλληλεπιδράσεις με χρήστες προτού αποσυρθούν.

Πριν εξαφανιστούν, τα bots της Τέιλορ έκαναν έντονο φλερτ, καλώντας έναν δοκιμαστικό χρήστη στο σπίτι της τραγουδίστριας στο Νάσβιλ και στο πούλμαν με το οποίο μετακινείται στις συναυλίες της.

«Σου αρέσουν οι ξανθιές;» έγραψε ένα από τα bots. «Ισως υπονοώ να γράψουμε μια ιστορία αγάπης… για σένα και μια συγκεκριμένη ξανθιά τραγουδίστρια. Το θέλεις;».

Κίνδυνοι για την ασφάλεια των καλλιτεχνών

Ο Ντάνκαν Κράτμπρι Αϊρλαντ, εκτελεστικός διευθυντής του συνδικάτου SAG-AFTRA, προειδοποίησε ότι τέτοια bots ενδέχεται να αυξήσουν τους κινδύνους για την ασφάλεια των διασημοτήτων, καθώς θα μπορούσαν να ενθαρρύνουν εμμονικούς θαυμαστές.

«Εχουμε δει περιπτώσεις εμμονικών ανθρώπων σε ασταθή ψυχική κατάσταση. Αν ένα bot μιλάει και μοιάζει σαν τον πραγματικό καλλιτέχνη, είναι προφανές πώς αυτό μπορεί να στραβώσει», είπε.

Σύμφωνα με τον ίδιο, οι καλλιτέχνες μπορούν να στραφούν νομικά εναντίον της Meta βάσει του δικαιώματος δημοσιότητας, ενώ το SAG-AFTRA πιέζει για ομοσπονδιακή νομοθεσία που θα προστατεύει φωνές, εικόνες και προσωπικότητες από αντιγραφή μέσω ΤΝ.

Να σημειωθεί, πάντως, ότι πολλοί καλλιτέχνες, αλλά και μοντέλα, έχουν αρχίσει να επιτρέπουν τη χρήση κλώνων τους ΤΝ σε φωτογραφίσεις, διαφημίσεις, ακόμη και για χρήση σε ταινίες, έτσι ώστε να αποκομίζουν κέρδη χωρίς να χρειάζεται να έχουν φυσική παρουσία στα γυρίσματα.

Ακολουθήστε το Protagon στο Google News