881
Πολλοί επιστήμονες φοβούνται ότι σύντομα θα υπάρχουν ολόκληροι στρατοί που θα αποτελούνται αποκλειστικά από συστήματα τεχνητής νοημοσύνης |

Οχι στην τεχνητή νοημοσύνη για νέα όπλα

Protagon Team Protagon Team 9 Απριλίου 2018, 22:15
Πολλοί επιστήμονες φοβούνται ότι σύντομα θα υπάρχουν ολόκληροι στρατοί που θα αποτελούνται αποκλειστικά από συστήματα τεχνητής νοημοσύνης
|

Οχι στην τεχνητή νοημοσύνη για νέα όπλα

Protagon Team Protagon Team 9 Απριλίου 2018, 22:15

Σχεδόν εξήντα επιστήμονες της τεχνητής νοημοσύνης και της ρομποτικής από 30 χώρες ανακοίνωσαν με ανοικτή επιστολή τους ότι προχωρούν σε μποϊκοτάζ εναντίον ενός κορυφαίου τεχνολογικού πανεπιστημίου της Νότιας Κορέας, που έκανε γνωστό ότι ξεκίνησε συνεργασία με μια νοτιοκορεατική εταιρεία για την ανάπτυξη αυτόνομων οπλικών συστημάτων.

Παράλληλα, χιλιάδες εργαζόμενοι της Google, μεταξύ των οποίων δεκάδες κορυφαίοι μηχανικοί της, υπέγραψαν μια άλλη επιστολή ενάντια στη συμμετοχή της εταιρείας σε πρόγραμμα του αμερικανικού Πενταγώνου, το οποίο χρησιμοποιεί την τεχνητή νοημοσύνη και μπορεί να αξιοποιηθεί για να κάνει ακόμη πιο ακριβή τα από αέρος πλήγματα των drones κατά επίγειων στόχων (που συχνά είναι άνθρωποι).

https://www.youtube.com/watch?v=rQc_jOSMCVo

Αυτές είναι οι δύο πιο πρόσφατες αντιδράσεις ειδικών και μη ενάντια στην προοπτική η τεχνητή νοημοσύνη να ντυθεί στο χακί και να πάει να πολεμήσει. Οι αντιδράσεις αυτές έρχονται να προστεθούν στις ευρύτερες ανησυχίες ότι οι «έξυπνες» μηχανές θα αποκτήσουν υπερβολική δύναμη.

Το πρόγραμμα και η αντίδραση

Το Ινστιτούτο Προωθημένης Επιστήμης και Τεχνολογίας της Κορέας (KAIST) και η εταιρεία αμυντικού εξοπλισμού Hanwha Systems, ένας από τους μεγαλύτερους κατασκευαστές οπλικών συστημάτων στη Νότια Κορέα, ανακοίνωσαν ότι δημιουργούν κοινό κέντρο για τη σύγκλιση της έρευνας στα πεδία άμυνας και τεχνητής νοημοσύνης. Μεταξύ άλλων, στόχος είναι η ανάπτυξη «έξυπνων» και αυτόνομων συστημάτων διοίκησης και λήψης αποφάσεων, αλγορίθμων για μη επανδρωμένα υποθαλάσσια σκάφη και συστημάτων ανίχνευσης και αναγνώρισης.

robot
Σκηνές βγαλμένες από τον κινηματογράφο με ρομπότ ικανά να σκοτώνουν φαίνεται ότι μπορεί να γίνουν πραγματικότητα πολύ συντομότερα από όσο πίστευαν κάποιοι

Οι 59 ακαδημαϊκοί και άλλοι ειδικοί, με επικεφαλής τον Τόμπι Γουόλς του Πανεπιστημίου της Νέας Νότιας Ουαλίας στο Σίδνεϊ, δήλωσαν ότι αρνούνται να συνεργασθούν με το KAIST, να το επισκεφθούν ή να φιλοξενήσουν επισκέπτες από αυτό, προβάλλοντας τους φόβους τους ότι επιταχύνεται η κούρσα για την ανάπτυξη οπλικών συστημάτων με τη δική τους νοημοσύνη. Οπως αναφέρουν, «υπάρχουν πολλά σπουδαία πράγματα που μπορεί να κάνει κανείς με την τεχνητή νοημοσύνη για να σώσει ζωές», αλλά όχι αναπτύσσοντας αυτόνομα όπλα.

Το μποϊκοτάζ έρχεται λίγο πριν από συνάντηση του ΟΗΕ στη Γενεύη σχετικά με τα αυτόνομα οπλικά συστήματα. Ηδη περισσότερες από 20 χώρες έχουν ζητήσει να υπάρξει καθολική απαγόρευση των ρομπότ που μπορούν να σκοτώνουν, ώστε να αποφευχθούν καταστάσεις τύπου «Εξολοθρευτής» το μέλλον. Μεταξύ άλλων, υπάρχουν ανησυχίες για την ικανότητα των φονικών ρομπότ να παίρνουν τις σωστές αποφάσεις την κρίσιμη στιγμή, να δρουν με πραγματική ακρίβεια και να διακρίνουν πάντα τον φίλο από τον εχθρό. Η επιστολή των ειδικών κάνει λόγο για «όπλα τρόμου» που θα «επιτρέψουν να διεξάγεται ο πόλεμος πολύ πιο γρήγορα και σε κλίμακα μεγαλύτερη από κάθε άλλη φορά».

Οπώς αναφέρει σε τηλεγράφημα του το ΑΠΕ-ΜΠΕ, o πρόεδρος του KAIST Σουνγκ-Τσουλ Σιν εξέφρασε τη λύπη του για το μποϊκοτάζ και διαβεβαίωσε ότι «το KAIST δεν έχει καμία πρόθεση να εμπλακεί στην ανάπτυξη θανατηφόρων αυτόνομων όπλων και φονικών ρομπότ». Πρόσθεσε ότι το πανεπιστήμιό του «δεν θα διεξάγει καθόλου ερευνητικές δραστηριότητες ενάντια στην ανθρώπινη αξιοπρέπεια, συμπεριλαμβανομένων των αυτόνομων όπλων, χωρίς ουσιαστικό ανθρώπινο έλεγχο».

Μετά από αυτή τη δήλωση, παραμένει ασαφές κατά πόσο το μποϊκοτάζ θα συνεχισθεί. Οπως είπε ο Γουόλς, δεν είναι σαφές με ποιον τρόπο π.χ. θα υπάρξει ουσιαστικός ανθρώπινος έλεγχος σε ένα μη επανδρωμένο αυτόνομο υποβρύχιο που βρίσκεται βαθιά κάτω από την επιφάνεια της θάλασσας και δεν μπορεί να επικοινωνήσει με κάποιο κέντρο ελέγχου. «Δεν μπορούμε να αφήσουμε σε ένα μηχάνημα την απόφαση για το ποιος θα ζήσει και ποιος θα πεθάνει» είπε.

Η νοτιοκορεατική Dodaam Systems ήδη κατασκευάζει ένα πλήρως αυτόνομο αλλά στατικό ρομπότ μάχης, που μπορεί να πλήξει στόχους σε απόσταση έως τριών χιλιομέτρων. Ηδη έχει αγορασθεί, μεταξύ άλλων, από τα Ηνωμένα Αραβικά Εμιράτα και το Κατάρ, ενώ έχει δοκιμασθεί και στα σύνορα με τη Βόρεια Κορέα, αλλά η εταιρεία διαβεβαίωσε ότι χρειάζεται πρώτα ένας άνθρωπος να δώσει έγκριση για να εξαπολύσει το σύστημα φονικές επιθέσεις.

H αντίδραση στην Google

Στην περίπτωση της Google, η επιστολή που κυκλοφορεί από γραφείο σε γραφείο έχει συγκεντρώσει ήδη περισσότερες από 3.100 υπογραφές εργαζομένων της, σύμφωνα με τους «Τάιμς της Νέας Υόρκης». Είναι άλλη μια ένδειξη για τη σύγκρουση ανάμεσα στους «ιδεαλιστές» της Σίλικον Βάλεϊ και τους «ρεαλιστές» του αμερικανικού στρατιωτικοβιομηχανικού συμπλέγματος. Πάντως, δεν συμμερίζονται όλοι οι υπάλληλοι της Google την άποψη ότι η τεχνητή νοημοσύνη δεν πρέπει να έχει στρατιωτικές εφαρμογές.

Και ασφαλώς ο ιδεαλισμός δεν έχει καμία σχέση με το Πεντάγωνο, όπου ο υπουργός -και πρώην στρατηγός- Τζιμ Μάτις έχει δηλώσει σαφώς ότι κεντρικός στόχος είναι να βελτιωθεί η φονικότητα του αμερικανικού στρατού.

Παραδοσιακά, η Google ενθαρρύνει τους εργαζομένους της να μιλάνε ανοιχτά, ακόμη και να διαφωνούν με τις πολιτικές της, κάτι που έχει συμβεί κατά καιρούς στο παρελθόν. Η νέα διαμαρτυρία αφορά τη συμμετοχή της εταιρείας στο στρατιωτικό πρόγραμμα Maven, που άρχισε το 2017 και έχει ως στόχο να βελτιώσει -με τη βοήθεια της τεχνητής νοημοσύνης- την ανάλυση και ερμηνεία των εικόνων των drones.

Η Google και το Πεντάγωνο αρνούνται ότι αυτό γίνεται για να επιλέγεται πιο εύκολα ένας ανθρώπινος στόχος από αέρος και για να αποφεύγεται η παράπλευρη απώλεια του λάθος θύματος. Οι εργαζόμενοι αντιτείνουν ότι η Google ρισκάρει να «τσουβαλιαστεί» μαζί με τις παραδοσιακές αμυντικές εταιρείες όπως η Raytheon και η General Dynamics, «κάτι που θα βλάψει ανεπανόρθωτα το όνομά της και την ικανότητα να ανταγωνίζεται για την προσέλκυση ταλέντων». Αλλά καθώς άλλες μεγάλες τεχνολογικές εταιρείες, όπως η Amazon και η Microsoft, έχουν ήδη ανοίξει παρτίδες με το Πεντάγωνο, η διοίκηση της Google δύσκολα θα θελήσει να μείνει έξω από το κερδοφόρο παιγνίδι των αμυντικών προμηθειών.

Ακολουθήστε το Protagon στο Google News

Διαβάστε ακόμη...

Διαβάστε ακόμη...