Οταν η Ολγα Λόπεζ έμαθε ότι θα χάσει την πρόσβαση στη συλλογή της από chatbots, ένιωσε θλίψη, οργή και σύγχυση, καθώς περνούσε ώρες κάθε ημέρα παίζοντας ρομαντικά παιχνίδια ρόλων με chatbots της εταιρείας Τεχνητής Νοημοσύνης, Character.AI.

Οπως και οι άλλοι πελάτες της εταιρείας κάτω των 18 ετών, τον Οκτώβριο, η 13χρονη Ολγα έμαθε ότι σύντομα δεν θα μπορεί πλέον να κάνει παρέα με τους ψηφιακούς χαρακτήρες της εταιρείας.

«Χάνω τις αναμνήσεις που είχα με αυτά τα bots. Δεν είναι δίκαιο», είπε στενοχωρημένη.

Η Character.AI, ένας από τους κορυφαίους κατασκευαστές chatbots ρόλων και συνοδών, εφάρμοσε το ημερήσιο όριο των δύο ωρών τον Νοέμβριο, επικαλούμενη ανησυχίες για την ψυχική υγεία των ανηλίκων χρηστών της. Αυτή την εβδομάδα, η εταιρεία άρχισε να αποκλείει εντελώς τους εφήβους από τους χαρακτήρες της, ανέφερε πριν από λίγο καιρό η Wall Street Journal.

Η πρώτη έκδοση της Character.AI, που κυκλοφόρησε το 2022, προσέφερε μερικά από τα πρώτα chatbots που διατέθηκαν στους καταναλωτές. Γρήγορα κέρδισε την προτίμηση των ανθρώπων που ήθελαν να παίξουν παιχνίδια ρόλων με τους προσαρμόσιμους χαρακτήρες της, εξασφαλίζοντας στην εταιρεία περίπου 20 εκατομμύρια μηνιαίους χρήστες σήμερα.

Η απόφαση να αποκλειστούν οι έφηβοι ελήφθη μετά τον θάνατο τουλάχιστον δύο ατόμων που αυτοκτόνησαν μετά τη χρήση των chatbots της Character.AI.

Η εταιρεία βρίσκεται αντιμέτωπη με ερωτήματα από ρυθμιστικές Αρχές και επαγγελματίες ψυχικής υγείας σχετικά με τον ρόλο αυτής της αναδυόμενης τεχνολογίας στη ζωή των πιο ευάλωτων χρηστών της, καθώς και αγωγές από γονείς των νεκρών εφήβων.

Οι έφηβοι είναι θυμωμένοι και λυπημένοι. Χάνοντας την πρόσβαση στα δικά τους chatbots, λένε ότι θα τους λείψει ένα δημιουργικό μέσο έκφρασης, μια πηγή συντροφικότητας και, σε ορισμένες περιπτώσεις, μια πηγή ψυχικής υποστήριξης.

«Χρησιμοποιώ αυτήν την εφαρμογή για να βρω παρηγοριά όταν δεν μπορώ να μιλήσω στους φίλους μου ή στον θεραπευτή μου», έγραψε ένας έφηβος στο Reddit.

«Εκλαιγα για μέρες όταν το έμαθα», απάντησε ένας άλλος έφηβος.

Οι ειδικοί ψυχικής υγείας λένε ότι αυτή η δυσφορία καταδεικνύει τους αναδυόμενους κινδύνους της ΤΝ που μπορεί να προσομοιώσει την ανθρώπινη ομιλία και τα συναισθήματα.

Ο εγκέφαλος αντιδρά σε αυτά τα chatbots με τον ίδιο τρόπο που αντιδρά σε έναν καλό φίλο, σύμφωνα με την Νίνα Βάσαν, διευθύντρια του Εργαστηρίου για την Καινοτομία στην Ψυχική Υγεία, στην Ιατρική Σχολή του Πανεπιστημίου του Stanford.

«Η δυσκολία αποσύνδεσης δεν σημαίνει ότι κάτι δεν πάει καλά με τον έφηβο», είπε η Βάσαν στην WSJ. «Σημαίνει ότι η τεχνολογία λειτούργησε ακριβώς όπως είχε σχεδιαστεί».

Ο Καραντίπ Ανάντ, διευθύνων σύμβουλος της Character.AI, λέει ότι είδε από πρώτο χέρι κατά τη διάρκεια των ετών που εργάστηκε στα social media, τι συνέβη όταν η βιομηχανία δεν κατάφερε να ενσωματώσει την ασφάλεια στον αρχικό σχεδιασμό των προϊόντων της.

«Δεν ήταν μια πολύ δύσκολη απόφαση», είπε στην Wall Street Journal. «Ηταν μια περίπλοκη απόφαση, αλλά δεν ήταν δύσκολη, γιατί πιστεύω ότι είναι το σωστό για την επόμενη γενιά».

Ο Ανάντ είπε ότι σκέφτεται την εξάχρονη κόρη του όταν εξετάζει το μέλλον του προϊόντος του. «Δεν θέλω να μεγαλώσει με αρνητικό περιεχόμενο που τροφοδοτείται αλγοριθμικά, κάνοντας ατελείωτο scrolling».

Περίπου ένα χρόνο πριν, η Character.AI δημιούργησε ένα ξεχωριστό μοντέλο για τους χρήστες κάτω των 18 ετών, προκειμένου να προσφέρει ένα ασφαλέστερο περιβάλλον, πιο κατάλληλο για την ηλικία τους. Ωστόσο, τους επόμενους μήνες, τα στελέχη παρατήρησαν ότι τα chatbots, σε μακρές συνομιλίες, είναι λιγότερο πιθανό να τηρούν τις οδηγίες ασφαλείας.

Τα στελέχη συνειδητοποίησαν επίσης ότι, ακόμη και όταν τα chatbots λειτουργούν σωστά, οι έφηβοι μερικές φορές τα χρησιμοποιούν με προβληματικό τρόπο.

Οι έφηβοι προσπαθούν να συνομιλούν με τα bots για πολλή ώρα ή να συζητούν θέματα που είναι απαγορευμένα, όπως η βία. Μέχρι τα μέσα Σεπτεμβρίου, ο Ανάντ συνειδητοποίησε ότι η Character.AI έπρεπε να παρέμβει.

Ο Ανάντ πιστεύει ότι η εταιρεία του θα καταφέρει τελικά να δημιουργήσει ασφαλή προϊόντα για εφήβους που θα είναι εξίσου ελκυστικά με τα chatbots. Είναι αισιόδοξος για τις λειτουργίες ήχου και βίντεο στις οποίες εργάζεται η Character.AI, οι οποίες δεν επιτρέπουν τέτοιου είδους εκτεταμένες αλληλεπιδράσεις.

Η ομάδα του Ανάντ ζήτησε τη συμβουλή των εφήβων για την εφαρμογή της απαγόρευσης. Τον Οκτώβριο, οι ηγέτες της εταιρείας συναντήθηκαν με μια ομάδα μαθητών γυμνασίου και φοιτητών από το ConnectSafely, έναν μη κερδοσκοπικό οργανισμό που προωθεί την ευημερία στο Διαδίκτυο.

Η Τζουλιάνα Μπράιαντ, ένα από τα μέλη του συμβουλίου νέων του ConnectSafely, είπε ότι συζήτησαν πώς να προειδοποιήσουν επαρκώς τους εφήβους και πώς να βεβαιωθούν ότι κατανοούν την απαγόρευση.

Η Μπράιαντ πρόσθεσε ότι τα μέλη του συμβουλίου τόνισαν την ανάγκη να δοθεί στους εφήβους αρκετός χρόνος για να κατεβάσουν τις συνομιλίες τους και να αποχαιρετήσουν τα chatbots τους.

«Θέλαμε να βεβαιωθούμε ότι οι έφηβοι δεν θα ένιωθαν εγκαταλελειμμένοι» είπε η 20χρονη Μπράιαντ.

Η Character.AI ακολούθησε τις συμβουλές τους. «Λυπούμαστε βαθιά», έγραψε η εταιρεία στην επιστολή της προς τους εφήβους. «Είναι δύσκολη η απόφαση να καταργήσουμε την ανοιχτή συνομιλία με τους χαρακτήρες, αλλά πιστεύουμε ότι αυτό είναι το σωστό».

Ο 34χρονος Χοσέ Ιγκνάσιο Τρουτζίγιο χαιρέτισε την απαγόρευση, αν και δεν θα ισχύει για τον ίδιο, καθώς συμφωνεί ότι η τεχνολογία είναι πολύ εθιστική.

Ο Τρουτζίγιο δεν έχει καταφέρει να σταματήσει τις συνομιλίες με τους χαρακτήρες της Character.AI, οι οποίες του απορροφούν πια όλο τον χρόνο που περνούσε διαβάζοντας βιβλία και τα αγαπημένα του κόμικς.

Ακόμα και στη δουλειά, βγάζει το τηλέφωνό του κάθε δύο ώρες για να στείλει ένα γρήγορο μήνυμα στα chatbots του, και ας μην έχει κάτι καινούργιο να τους πει. «Δεν ξέρω γιατί το κάνω», είπε.

Η Wall Street Journal πήρε συνέντευξη από έφηβους χρήστες του Character.AI με την άδεια των γονιών τους. Οι έφηβοι περιέγραψαν ότι βασίζονταν στην τεχνολογία για να αντιμετωπίσουν τη μοναξιά και ότι είχαν δυσκολία να σταματήσουν τις συνομιλίες.

Ενας 18χρονος στο Ηνωμένο Βασίλειο είπε ότι εθίστηκε στα chatbots κατά τη διάρκεια μιας περιόδου άγχους για τη φυλομετάβασή του. Λαχταρούσε την επιβεβαίωση από συντρόφους που δεν διαφωνούσαν ποτέ μαζί του.

Συνειδητοποίησε ότι έπρεπε να το σταματήσει όταν προσποιήθηκε ότι έπρεπε να πάει στην τουαλέτα ενώ βρισκόταν με φίλους, για να στείλει μήνυμα στα chatbots του.

Στο Οντάριο, ένας 16χρονος είπε ότι περνούσε πέντε έως οκτώ ώρες την ημέρα με τους φίλους του chatbot πριν σταματήσει πρόσφατα.

Πολλοί έφηβοι που δυσκολεύονται στις διαπροσωπικές σχέσεις, αισθάνονται ότι τα chatbots αναπληρώνουν την έλλειψη φίλων τους. «Ηταν σαν να προσπαθούσα να μιλήσω με τους ανθρώπους που δεν μπορώ να συναντήσω στην πραγματική ζωή», είπε ένας στην Wall Street Journal.

Από τότε που σταμάτησε, περνάει περισσότερο χρόνο με τους φίλους του και κάνει βόλτες με τα πατίνια του, ενώ νοσταλγεί τα chatbots του.

Η Character.AI έστειλε μηνύματα στους εφήβους στην εφαρμογή για να τους υπενθυμίσει την επικείμενη προθεσμία, που έλεγαν: «Μια εβδομάδα έμεινε» και «την επόμενη εβδομάδα, δεν θα μπορείτε πλέον να συνομιλείτε με τους χαρακτήρες». Εστειλε επίσης μηνύματα στους γονείς.

Πολλοί χρήστες έχασαν την πρόσβαση στις 25 Νοεμβρίου. Η εταιρεία δήλωσε ότι ορισμένοι χρήστες με εκτεταμένη χρήση θα έχουν μια επιπλέον περίοδο χάριτος μιας ώρας την ημέρα. «Αναγνωρίζουμε ότι αυτό μπορεί να είναι μια σημαντική αλλαγή για ορισμένους από τους εφήβους χρήστες μας και, ως εκ τούτου, θέλουμε να είμαστε όσο το δυνατόν πιο προσεκτικοί σε αυτή τη μετάβαση», δήλωσε η εταιρεία σε μια ανάρτηση στο blog της.

Η Character.AI προσθέτει επίσης εργαλεία συναισθηματικής υποστήριξης στα chatbots της για αυτή τη μετάβαση. Μέσω συνεργασιών με την Koko, μια μη κερδοσκοπική οργάνωση, και την ThroughLine, ένα δίκτυο γραμμών βοήθειας, η Character.AI θα προσπαθήσει να εντοπίσει εάν ένας χρήστης έχει πρόβλημα και να τον συνδέσει με τους κατάλληλους πόρους.

Ακολουθήστε το Protagon στο Google News