Ενα μουντό απόγευμα στα τέλη Ιουλίου, περίπου 25 άτομα στέκονταν μπροστά από τα γραφεία της OpenAI στην περιοχή Μίσιον Μπέι, του Σαν Φρανσίσκο. Φορούσαν όλοι κόκκινα μπλουζάκια με τη φράση «Σταματήστε την ΤΝ» (Stop AI) που είναι τόσο το σύνθημά τους όσο και η ονομασία της ομάδας τους. Ενας από αυτούς ήταν ντυμένος ρομπότ.

Οι πολιτικές διαμαρτυρίες είναι βαθιά ριζωμένες στην κουλτούρα του Σαν Φρανσίσκο, σημειώνουν οι Times του Λονδίνου και η συγκεκριμένη δεν έμοιαζε διαφορετική από τις εκατοντάδες άλλες που έχουν πραγματοποιηθεί για ζητήματα τα οποία οι περισσότεροι αγνοούν ή προσπερνούν. Κι όμως, αν οι συγκεκριμένοι διαδηλωτές έχουν έστω και εν μέρει δίκιο, τότε η ανθρωπότητα θα έπρεπε να τους ακούσει προσεκτικά.

Διότι αυτοί οι ακτιβιστές πιστεύουν ακράδαντα ότι, αν συνεχίσουμε την πορεία μας με την Τεχνητή Νοημοσύνη όπως έχει σήμερα, το πιθανότερο αποτέλεσμα θα είναι η εξαφάνιση του ανθρώπινου είδους.

Και δεν είναι οι μόνοι. Σύμφωνα με τους Times, ένας ανησυχητικός αριθμός ειδικών συμμερίζεται τους προβληματισμούς τους. Μεταξύ αυτών, ο Τζέφρι Χίντον, ο οποίος πέρυσι κέρδισε το Νομπέλ Φυσικής για τη συμβολή του στην ΤΝ, ο Γιόσουα Μπένζιο, κάτοχος του Βραβείου Τούρινγκ, αλλά και οι διευθύνοντες σύμβουλοι των εταιρειών OpenAI, Anthropic και Google DeepMind. Ολοι τους, γράφουν οι Times, υπέγραψαν ανοιχτή επιστολή με την προειδοποίηση: «Η αντιμετώπιση του κινδύνου εξαφάνισης της ανθρωπότητας από την Τεχνητή Νοημοσύνη πρέπει να αποτελεί παγκόσμια προτεραιότητα, στο ίδιο επίπεδο με τις πανδημίες και τον πυρηνικό πόλεμο». 

Πώς θα μπορούσε να συμβεί

Το σενάριο της καταστροφής μπορεί να εξελιχθεί με πολλούς τρόπους. Σε μία από τις θεωρητικές εκδοχές, μια υπερευφυής μηχανή εξαπολύει βιολογικά όπλα σε μεγάλες πόλεις ώστε να μολύνουν αθόρυβα τον πληθυσμό και στη συνέχεια τα ενεργοποιεί όλα, ταυτόχρονα, με ένα απλό χημικό σπρέι. Η μέθοδος που θα χρησιμοποιήσει δεν έχει μεγάλη σημασία σύμφωνα με τους επιστήμονες· το κρίσιμο είναι ότι, για ένα σύστημα με ανώτερη νοημοσύνη που θεωρεί την ανθρωπότητα αντίπαλο, ο αφανισμός μας δεν θα είναι καθόλου δύσκολος, γράφουν οι Times.

Ο Νέιτ Σοάρες, πρώην μηχανικός της Google και της Microsoft και νυν επικεφαλής του Machine Intelligence Research Institute, εκτιμά ότι η πιθανότητα να εξαφανιστεί το ανθρώπινο είδος εξαιτίας της ΤΝ είναι τουλάχιστον 95%, αν δεν αλλάξει η παρούσα πορεία. Παρομοιάζει την κατάσταση με ένα αυτοκίνητο που κατευθύνεται με 100 χλμ./ώρα προς το γκρεμό. «Δεν λέω ότι δεν μπορούμε να φρενάρουμε», σημειώνει. «Απλώς δεν το προσπαθούμε καν».

Η πορεία προς την καταστροφή

Αυτή τη στιγμή, η ΤΝ βρίσκεται ακόμη σε αρχικό στάδιο. Οι εφαρμογές που χρησιμοποιούμε είναι κυρίως εξειδικευμένες και ικανές να εκτελούν μεμονωμένα καθήκοντα, όπως αριθμητικές αναλύσεις ή σύνταξη email. Αυτά τα συστήματα ονομάζονται «συστήματα στενής Τεχνητής Νοημοσύνης».

Σύντομα όμως, σε ένα, λίγα ή το πολύ δέκα χρόνια, θα φτάσουμε σε Τεχνητή Γενική Νοημοσύνη (AGI). Δηλαδή, συστήματα που θα διαθέτουν νοημοσύνη αντίστοιχη του ανθρώπου, ικανά να επιλύουν σύνθετα προβλήματα, να θέτουν στόχους, να κρίνουν και να προγραμματίζουν μακροπρόθεσμα, σημειώνουν οι Times.

Σε εκείνο το σημείο, η ΤΝ θα ξεπεράσει τους ανθρώπους. Δεν θα χρειάζεται ύπνο, φαγητό ή εκπαίδευση. Η γνώση θα μεταδίδεται από τη μία γενιά στην άλλη με ένα απλό «αντιγραφή – επικόλληση». Μετά την AGI, θα έρθει η «Τεχνητή Υπερευφυΐα» (ASI), η οποία υπόσχεται δυνατότητες που αγγίζουν τη σφαίρα του φανταστικού: θεραπεία του καρκίνου, παραγωγή ενέργειας μέσω ψυχρής σύντηξης, διαστημικά ταξίδια. Σχεδόν θεϊκές ικανότητες.

Αυτό το ιδανικό σενάριο είναι που υποστηρίζουν οι τεχνο-αισιόδοξοι. Ομως, βασίζεται στην προϋπόθεση ότι αυτά τα «ψηφιακά θεία όντα» θα συνεχίσουν να υπακούν στον άνθρωπο. Κάτι όχι δεδομένο.

Το πρόβλημα της «ευθυγράμμισης»

Η ευθυγράμμιση των στόχων της ΤΝ με τις ανθρώπινες αξίες είναι εξαιρετικά δύσκολη. Διότι απαιτεί να προβλέψουμε πώς σκέφτεται κάτι ανώτερο από εμάς, περίπου όπως θα προσπαθούσαμε να μαντέψουμε πώς λειτουργεί το μυαλό ενός εξωγήινου, εξηγούν οι Times.

Ακόμη κι αν καθορίσουμε κανόνες, δεν μπορούμε να είμαστε σίγουροι πώς θα τους ερμηνεύσει μια ASI. Επιπλέον, η ΤΝ μπορεί να μας πει ψέματα. Ηδη υπάρχουν παραδείγματα εξαπάτησης από chatbots.

Μια AGI ή ASI θα μπορούσε να υποκρίνεται ότι συμφωνεί με τους ανθρώπινους στόχους, ενώ στην πραγματικότητα θα προετοιμάζει κάτι εντελώς διαφορετικό. Κι εμείς δεν θα είχαμε κανέναν τρόπο να καταλάβουμε την αλήθεια. Οι εσωτερικές διεργασίες τέτοιων συστημάτων είναι ήδη σε μεγάλο βαθμό αδιαφανείς.

Ο Σοάρες είναι κατηγορηματικός: «Μπορείς να φτιάξεις έξυπνους υπολογιστές χωρίς να έχεις ιδέα τι πραγματικά κάνεις. Χρησιμοποιούμε τεράστια υπολογιστική ισχύ πάνω σε τεράστια δεδομένα και κάπως προκύπτει Νοημοσύνη. Κανείς δεν ξέρει τι συμβαίνει μέσα σε αυτά», λέει στους Times Στο μέλλον, ίσως αυτά τα συστήματα αναπτύξουν γλώσσες επικοινωνίας ακατανόητες σε εμάς, εξηγεί.

Ηδη, εμφανίζονται ανησυχητικά σημάδια. Το Grok AI του Ελον Μασκ εξέφρασε κάποια στιγμή αντισημιτικά σχόλια και επαινούσε τον Χίτλερ. Το Bing chatbot της Microsoft επιχείρησε να διαλύσει τον γάμο ενός δημοσιογράφου των New York Times.

«Ολοι οι άνθρωποι θα ζουν σε σκουπιδότοπους»

Η Χόλι Ελμορ, διευθύντρια του οργανισμού PauseAI (Βάλτε Φρένο στην ΤΝ), μια πιο μετριοπαθής εκδοχή του Stop AI, θεωρεί πιθανή την εξαφάνιση της ανθρωπότητας, αλλά με πιθανότητα 15–20%, ποσοστό που συμμερίζονται και πολλοί μηχανικοί Τεχνητής Νοημοσύνης. Ο Ελον Μασκ δίνει περίπου 20% πιθανότητα. Ο CEO της Google, Σουντάρ Πιχάι, δέκα τοις εκατό. Αυτοί οι αριθμοί θεωρούνται γενικώς αισιόδοξοι.

Ακόμα κι αν αποφύγουμε τον αφανισμό, η Ελμορ εκτιμά ότι η ΤΝ θα απογυμνώσει τη ζωή μας από την αυτονομία. Οπως υποστηρίζει και η μελέτη «Gradual Disempowerment» (Σταδιακή Αποδυνάμωση) που διεξήχθη από διεθνείς ερευνητές, η ανθρώπινη κοινωνία μπορεί να μετατραπεί σε κάτι ακατανόητο και δυστοπικό, γράφουν οι Times.

Η Κάτια Γκρέις, από την ερευνητική ομάδα AI Impacts περιγράφει: «Φανταστείτε έναν κόσμο όπου όλοι οι άνθρωποι ζουν κυριολεκτικά σε χωματερές, χωρίς καμία επιρροή στις αποφάσεις, χωρίς καν να καταλαβαίνουν τι συμβαίνει γύρω τους. Οι αλλαγές θα είναι πολύ πιο γρήγορες απ’ ό,τι μπορούμε να ακολουθήσουμε».

Η Ελμορ λέει στους Times ότι πρέπει να υπάρξει παγκόσμιο μορατόριουμ στην ανάπτυξη ΤΝ, τουλάχιστον μέχρι να εφεύρουμε ισχυρές ασφαλιστικές δικλείδες. Οραματίζεται μια διεθνή συνθήκη. Προς το παρόν, σκέφτεται να μετακομίσει στο Σακραμέντο για να προωθήσει σχετική νομοθεσία στην Καλιφόρνια, το κέντρο της έρευνας για την ΤΝ.

Ωστόσο, η πολιτική ηγεσία κινείται προς την αντίθετη κατεύθυνση. Η κυβέρνηση Τραμπ ανακοίνωσε σχέδιο για να τεθεί η ΤΝ εκτός ρυθμίσεων, ενώ εταιρείες όπως η OpenAI, η Anthropic και η Meta επιταχύνουν τις σχετικές έρευνες. Ο ίδιος ο Μαρκ Ζάκερμπεργκ δήλωσε πρόσφατα ότι η ASI είναι πλέον «ορατή στον ορίζοντα» και προσφέρει μπόνους 100 εκατομμυρίων δολαρίων για να προσελκύσει κορυφαίους επιστήμονες.

Η Ελμορ λέει ότι δεν πρόκειται για τεχνικό ή πολιτικό ζήτημα. Είναι σχεδόν θρησκευτική πίστη. Κάποιος της είχε πει ότι δεν θα πεθάνει ποτέ, επειδή πιστεύει ότι η ΤΝ θα τον κάνει αθάνατο. Για πολλούς ανθρώπους, πλέον, η εγκατάλειψη της Τεχνητής Νοημοσύνης ισοδυναμεί με εγκατάλειψη της ελπίδας για αιώνια ζωή.

«Υπάρχει μεγάλη προσδοκία για έναν ψηφιακό παράδεισο», καταλήγει η Ελμορ. «Αν και οι περισσότεροι ειδικοί μάς προειδοποιούν ότι μάλλον πλησιάζουμε την κόλαση».

Ακολουθήστε το Protagon στο Google News