1351
O αλγόριθμος του Μιχάλ Κοσίνσκι «εκπαιδεύτηκε» να διακρίνει από φωτογραφίες αν κάποιος είναι ομοφυλόφιλος ή όχι | Creative Protagon / Shutterstock

Gay ή straight; Ρώτα τον αλγόριθμο…

Κική Τριανταφύλλη Κική Τριανταφύλλη 13 Ιουλίου 2018, 11:06
O αλγόριθμος του Μιχάλ Κοσίνσκι «εκπαιδεύτηκε» να διακρίνει από φωτογραφίες αν κάποιος είναι ομοφυλόφιλος ή όχι
|Creative Protagon / Shutterstock

Gay ή straight; Ρώτα τον αλγόριθμο…

Κική Τριανταφύλλη Κική Τριανταφύλλη 13 Ιουλίου 2018, 11:06

Ο Βλαντίμιρ Πούτιν δεν ήταν παρών εκείνη την ημέρα. Αντ’ αυτού όμως, ο πρωθυπουργός της Ρωσίας Ντμίτρι Μεντβέντεφ και αρκετά μέλη του υπουργικού συμβουλίου παρακολούθησαν προσεκτικά τον ψυχολόγο Μιχάλ Κοσίνσκι, που τους παρουσίασε μια πρωτοποριακή έρευνα για την τεχνολογία, τη μαζική χειραγώγηση και την τεχνητή νοημοσύνη (AI).

Πριν από ακριβώς ένα χρόνο, κάπου στα περίχωρα της Μόσχας, ο 36χρονος επίκουρος καθηγητής οργανωσιακής συμπεριφοράς στο Πανεπιστήμιο του Στάνφορντ μίλησε στους ρώσους κυβερνητικούς για την έρευνα, που είχε κάνει πριν από πέντε χρόνια ως τελειόφοιτος του πανεπιστημίου του Κέιμπριτζ. Είναι η έρευνα που ενέπνευσε τη δημιουργία της Cambridge Analytica.

Θυμίζουμε ότι σύμφωνα με τα στοιχεία που κατέθεσε ο Κρίστοφερ Γουίλι, πρώην στέλεχος της βρετανικής εταιρείας συμβούλων, τα προσωπικά δεδομένα περίπου 50 εκατομμυρίων χρηστών του Facebook κατέληξαν στα χέρια της Cambridge Analytica και χρησιμοποιήθηκαν στην προεκλογική εκστρατεία του Ντόναλντ Τραμπ, αλλά και στην εκστρατεία του Brexit.

Αυτό ήταν αρκετό για να προκαλέσει το ενδιαφέρον της ρωσικής κυβέρνησης, ο Κοσίνσκι, όμως κατάφερε να ενθουσιάσει το ακροατήριό του και με τη χρήση της τεχνητής νοημοσύνης (AI) για την ανίχνευση ψυχολογικών χαρακτηριστικών.

Kosinski-1-FB
Ο Μιχάλ Κοσίνσκι, επίκουρος καθηγητής στο πανεπιστήμιο του Στανφορντ, γεννήθηκε το 1982 στη Βαρσοβία (Photo: Michal Kosinski/Facebook)

Επιστρέφοντας από τη Μόσχα, ο Κοσίνσκι δημοσίευσε μια αμφιλεγόμενη εργασία με την οποία ισχυρίστηκε ότι με τη χρήση αλγορίθμων ανάλυσης προσώπου σε φωτογραφίες μπορεί κανείς να διακρίνει αν κάποιος είναι ομοφυλόφιλος ή ετεροφυλόφιλος. Εκτός από τη σεξουαλικότητα, ο Κοσίνσκι πιστεύει, εξάλλου, ότι η συγκεκριμένη τεχνολογία θα μπορούσε να χρησιμοποιηθεί για την ανίχνευση συναισθημάτων, IQ, ακόμη και της προδιάθεσης για διάπραξη ορισμένων εγκλημάτων.

Ο Κοσίνσκι έχει χρησιμοποιήσει επίσης αλγόριθμους για να διακρίνει (από φωτογραφίες) Αμερικανούς Ρεπουμπλικάνους και Δημοκρατικούς, σε ένα αδημοσίευτο πείραμα, το οποίο όπως δήλωσε σε δημοσιογράφο του Guardian, ήταν επιτυχημένο. Παραδέχτηκε, όμως, ότι τα αποτελέσματα μπορούν να αλλάξουν «ανάλογα με το εάν συμπεριλάβω γένια ή όχι».

Γεννημένος το 1982 στη Βαρσοβία, από γονείς, που και οι δύο ήταν μηχανικοί λογισμικού, ο Μιχάλ Κοσίνσκι διέθετε «υπολογιστή στο σπίτι, μάλλον πολύ νωρίτερα από τους δυτικούς της ίδιας εποχής». Στα τέλη της δεκαετίας του 1990, είχε ήδη τη δική του εταιρεία πληροφορικής και με τα έσοδά του από αυτή κατάφερε να χρηματοδοτήσει τις σπουδές του στο πανεπιστήμιο. Το 2008 άρχισε το διδακτορικό του στο Κέντρο Ψυχομετρίας του Πανεπιστημίου του Κέμπριτζ, το οποίο ειδικεύεται στη μέτρηση ψυχολογικών χαρακτηριστικών.

Και μερικά χρόνια αργότερα παρουσίασε το «OCEAN», ένα πρωτοποριακό μοντέλο που είχε αναπτύξει μαζί με μια ομάδα συναδέλφων του, το οποίο  συσχετίζει τα «Likes» του Facebook με τις απαντήσεις και τα αποτελέσματα από ένα τυποποιημένο ερωτηματολόγιο που χρησιμοποιούν οι ψυχολόγοι. Το μοντέλο αυτό, ισχυρίζονται, μπορεί να εντοπίσει το φύλο, τη σεξουαλικότητα, τις πολιτικές πεποιθήσεις και τα χαρακτηριστικά ενός ανθρώπου, με βάση μόνο ό,τι του αρέσει στο Facebook.

Ο στόχος της έρευνάς του, λέει ο Κοσίνσκι, είναι να υπογραμμίσει τους κινδύνους της τεχνολογίας. Ωστόσο, μιλάει στον Guardian με ενθουσιασμό για κάμερες που θα μπορούσαν να ανιχνεύουν ανθρώπους που είναι «χαμένοι, ανήσυχοι ή δυνητικά επικίνδυνοι». Μπορείτε να φανταστείτε τέτοιου είδους διαγνωστικά εργαλεία να παρακολουθούν δημόσιους χώρους για πιθανές απειλές: «Κάθε μια από αυτές τις προσεγγίσεις θέτει διάφορα ζητήματα προστασίας της ιδιωτικής ζωής, αλλά επιπλέον μπορούν, κυριολεκτικά, να σώσουν ζωές», λέει o Κοσίνσκι προσθέτοντας ότι «Η πρόοδος  κάνει πάντα τους ανθρώπους να αισθάνονται άβολα»…

Cambridge_Analytica_protest_1
Ο Κρίστοφερ Γουίλι, πρώην στέλεχος της Cambridge Analytica, αποκάλυψε το σκάνδαλο της χρήσης προσωπικών δεδομένων χρηστών του Facebook (Photo: Wikimedia.commons)

Οσο για το σκάνδαλο Cambridge Analytica, ισχυρίζεται πως τελικά δημιούργησε «την ψευδαίσθηση» ότι οι κυβερνήσεις μπορούν να προστατεύσουν τα προσωπικά δεδομένα των πολιτών τους. «Είναι ένας χαμένος πόλεμος», λέει, «Πρέπει να επικεντρωθούμε στην οργάνωση της κοινωνίας μας με τέτοιο τρόπο ώστε να διασφαλίσουμε ότι η νέα εποχή στην οποία δεν θα υπάρχει ιδιωτική ζωή, θα είναι ένα κατοικήσιμο και ωραίο μέρος για να ζεις».

Λέει, ακόμη, ότι ποτέ δεν θέλησε να αποδείξει ότι η τεχνητή νοημοσύνη θα μπορούσε να αποκαλύψει τη σεξουαλικότητα ενός ατόμου. Το περιγράφει ως μια τυχαία ανακάλυψη, κάτι στο οποίο «σκόνταψε» ξαφνικά. Η ιδέα τού ήρθε καθώς παρατηρούσε διάφορα προφίλ στο Facebook για μια άλλη μελέτη και ξαφνικά παρατήρησε ότι «οι εσωστρεφείς και οι εξωστρεφείς έχουν εντελώς διαφορετικά πρόσωπα».

Η φυσιογνωμική, δηλαδή η συσχέτιση σωματικών και ψυχικών γνωρισμάτων, φθάνει στην αρχαία Ελλάδα και στον Αριστοτέλη, και κορυφώνεται τον 19ο αιώνα, όταν ο γιατρός και ανθρωπολόγος Τσέζαρε Λομπρόζο δημοσίευσε το έργο του «Ο εγκληματίας άνθρωπος».  Η ανάλυση του Λομπρόζο βασιζόταν σε μια βαθιά ρατσιστική σχολή σκέψης, που θεωρούσε ότι οι εγκληματίες μοιάζουν με «άγριους και πιθήκους», παρόλο ότι παρουσίασε τα ευρήματά του με την ακρίβεια ενός ιατροδικαστή. Σύμφωνα με τις παρατηρήσεις του, οι κλέφτες ξεχώριζαν για τα «μικρά μάτια και το ανήσυχο βλέμμα» τους, οι βιαστές για τα «πρησμένα τους χείλη και βλέφαρα», ενώ οι δολοφόνοι είχαν μια μύτη που ήταν «συχνά γερακίσια και πάντα μεγάλη».

Ο Κοσίνσκι αντικατέστησε τους διαβήτες και τις κρανιογραφίες του Λομπρόζο με την μελέτη των νευρικών δικτύων για να ανακαλύψει ομοιότητες σε φωτογραφίες που βρήκε στο διαδίκτυο. Και επιμένει ότι υπάρχουν όλο και περισσότερα στοιχεία για τις συνδέσεις μεταξύ προσώπων και ψυχολογίας, ακόμη και αν είναι αόρατες στο ανθρώπινο μάτι. Τώρα, όμως με την πρόοδο της μηχανικής μάθησης, μπορούν να γίνουν αντιληπτές: «Πριν από 50 χρόνια δεν είχαμε αλγόριθμους  που θα μπορούσαν να εντοπίσουν μοντέλα», λέει, «Είχαμε μόνο ανθρώπους που έκριναν».

Σε εργασία που δημοσίευσαν πέρυσι, ο Μιχάλ Κοσίνσκι και ο προγραμματιστής του Στάνφορντ, Γιλούν Γουάνγκ, αναφέρουν ότι ένα σύστημα μηχανικής μάθησης μπορεί να διακρίνει με μεγάλη ακρίβεια ομοφυλόφιλους και ετεροφυλόφιλους από τις φωτογραφίες τους. Στην έρευνά τους χρησιμοποίησαν 35.326 φωτογραφίες από ιστοσελίδες γνωριμιών και αυτό που ο Κοσίνσκι περιγράφει ως λογισμικό αναγνώρισης προσώπου «off-the-shelf».

LOMBROSO-L'uomo_delinquente,_1897__Tipi_di_delinquenti_italiani_._(4157067329)
Εικονογράφηση από το έργο του Τσέζαρε Λομπρόζο «Ο εγκληματίας άνθρωπος» με φυσιογνωμίες ιταλών εγκληματιών (Photo: Wikimedia.Commons)

Με δύο εικόνες –ενός προσώπου ομόφυλοφιλου και ενός ετεροφυλόφιλου- ο αλγόριθμος «εκπαιδεύτηκε» να διακρίνει τι από τους δύο είναι κάποιος και το πέτυχε σε ποσοστό 81% σε περιπτώσεις που αφορούσαν φωτογραφίες ανδρών και στο 74% φωτογραφιών γυναικών. Αντίθετα, οι άνθρωποι κατάφεραν να αναγνωρίσουν ετεροφυλόφιλους και ομοφυλόφιλους σε ποσοστό 61% και 54%, αντίστοιχα. Και όταν έδειξαν στον αλγόριθμο πέντε εικόνες προσώπου ανά άτομο, η ακρίβειά του αυξήθηκε σε 91% για τους άνδρες και 83% για τις γυναίκες. «Σοκαρίστηκα όταν ανακάλυψα πόσο εύκολο είναι για έναν αλγόριθμο να κάνει διάκριση μεταξύ ομοφυλόφιλων και ετεροφυλόφιλων», λέει ο Κοσίνσκι στον Guardian, «Δεν ήξερα γιατί αυτό θα ήταν δυνατό».

Οταν, όμως, η εργασία του με τίτλο «AI gaydar» παρουσιάστηκε στο περιοδικό Economist υπήρξε άμεση αντίδραση. Μάλιστα, δύο από τις πιο σημαντικές οργανώσεις LGBTQ των ΗΠΑ απαίτησαν το πανεπιστήμιο του Στάνφορντ να αποστασιοποιηθεί από αυτό που ονόμασαν «επικίνδυνη και λανθασμένη έρευνα» του καθηγητή του.

Ακόμη, ο Κοσίνσκι δέχτηκε έναν καταιγισμό από e-mails ανθρώπων, που του έγραφαν ότι είναι μπερδεμένοι ως προς την σεξουαλικότητά τους και ελπίζουν ότι θα ελέγξει την φωτογραφία τους με τον  αλγόριθμό του (πράγμα που αρνήθηκε να κάνει). Εκδηλώθηκε επίσης θυμός γιατί ο Κοσίνσκι έκανε ένα πείραμα με μια τεχνολογία που θα μπορούσε να χρησιμοποιηθεί για εκτελέσεις ομοφυλοφίλων σε χώρες όπως το Ιράν και η Σαουδική Αραβία, όπου η ομοφυλοφιλία τιμωρείται με θάνατο.

Εντονη κριτική, εξάλλου, έχει ασκήσει και ο Αλεξάντερ Τόντοροφ, καθηγητής στο πανεπιστήμιο Πρίνστον. Σε άρθρο με τίτλο «Οι αλγόριθμοι αποκαλύπτουν τον σεξουαλικό προσανατολισμό ή απλώς εκθέτουν τα στερεότυπα μας;», που συνυπογράφει με δύο ερευνητές της AI στην Google, ο Τόντοροφ υποστηρίζει ότι οι μέθοδοι του Κοσίνσκι είναι «βαθιά λανθασμένες».

Kosinski-2-FB
Φωτογραφία του Μιχάλ Κοσίνσκι από το προφίλ του στο Facebook

Τα μοντέλα, που συλλέγονται από τους αλγορίθμους με τη σύγκριση χιλιάδων φωτογραφιών, μπορεί να έχουν ελάχιστη σχέση με τα πραγματικά χαρακτηριστικά των προσώπων, καθώς επηρεάζονται από παράγοντες όπως το μακιγιάζ, οι γενειάδες ή τα γυαλιά, ακόμα και η γωνία στην οποία βρισκόταν η κάμερα. Οι φωτογραφίες, που δημοσιεύουν διάφοροι χρήστες σε ιστοσελίδες γνωριμιών, επισημαίνει ο Τόντοροφ, προβάλλουν μια σειρά από μη πραγματικά στοιχεία του προσώπου τους.

Ο αμερικανός καθηγητής υποστηρίζει ακόμα ότι «ηθικά» η έρευνα του Κοσίνσκι είναι «απίστευτα αμφισβητήσιμη», καθώς θα μπορούσε να προσδώσει αξιοπιστία σε κυβερνήσεις που θα ήθελαν να χρησιμοποιήσουν τέτοιες τεχνολογίες. «Οι εξελίξεις στην τεχνητή νοημοσύνη και η μηχανική μάθηση επέτρεψαν στον επιστημονικό ρατσισμό να εισέλθει σε μια νέα εποχή», λέει.