359
| EPA/RITCHIE B. TONGO

Σύστημα τεχνητής νοημοσύνης παράγει κείμενα τόσο πειστικά ώστε καλύτερα να μην κυκλοφορήσει

Protagon Team Protagon Team 17 Φεβρουαρίου 2019, 12:12

Σύστημα τεχνητής νοημοσύνης παράγει κείμενα τόσο πειστικά ώστε καλύτερα να μην κυκλοφορήσει

Protagon Team Protagon Team 17 Φεβρουαρίου 2019, 12:12

Είναι μια περίπτωση απώλειας του μέτρου: οι επιστήμονες ξεπέρασαν τα όρια και τώρα κάνουν όχι ένα αλλά πολλά βήματα πίσω γιατί συνειδητοποιούν όσα έκαναν.

Οι ερευνητές της εταιρείας OpenAI αποφάσισαν να μη δώσουν σε ευρύτερη κυκλοφορία ένα μοντέλο τεχνητής νοημοσύνης γιατί ανακάλυψαν ότι είναι υπερβολικά καλό και ότι θα μπορούσε να έχει εξαιρετικά κακόβουλες χρήσεις.

Το επαναστατικό μοντέλο GPT2 είναι σε θέση να συνθέτει δημοσιογραφικά άρθρα, αλλά και λογοτεχνικά κείμενα, που είναι τόσο καλής ποιότητας ώστε δύσκολα ξεχωρίζουν από πραγματικά.

Η OpenAI έχει εξασφαλίσει μεταξύ άλλων χρηματοδότηση και από τον Ελον Μασκ, γράφει ο Guardian.

Το μοντέλο είναι στην πράξη μια γεννήτρια κειμένου που τροφοδοτείται με έτοιμο κείμενο, για παράδειγμα από ένα άρθρο, και φτιάχνει ένα νέο κάνοντας διάφορες προβλέψεις και ακολουθώντας το στυλ του αρχικού.

Εχει «εκπαιδευτεί» σε ένα τεράστιο σώμα με 10 εκατομμύρια άρθρα, ίσο σε μέγεθος με μια βιβλιοθήκη με δεκάδες χιλιάδες βιβλία. Οπως συμβαίνει στην τεχνητή νοημοσύνη, όσο καλύτερα «εκπαιδευτεί» το μοντέλο σε ένα μεγάλο σώμα, τόσο πειστικότερα αποτελέσματα δίνει.

Το GPT2, όπως γράφει ο Guardian, έχει ξεπεράσει τα ελαττώματα προηγούμενων  συστημάτων τεχνητής νοημοσύνης, τα οποία μπέρδευαν το συντακτικό στις μεγάλες προτάσεις ή «ξεχνούσαν» για ποιο θέμα ήταν το κείμενο που συνέθεταν.

Το πόσο καλό είναι το δείχνει το παράδειγμα του Guardian.

Εδωσαν στο GPT2 μερικές παραγράφους από ένα άρθρο της εφημερίδας για το Brexit και αυτό απάντησε με  ένα πειστικό άρθρο το οποίο είχε ακόμη και «δηλώσεις» από τον Τζέρεμι Κόρμπιν, οι οποίες φυσικά ήταν ανύπαρκτες.

Πέρα από τις κατασκευασμένες αλλά πειστικές ειδήσεις που μπορεί να παραγάγει, το μοντέλο θα μπορούσε να φτιάξει άπειρες κριτικές για προϊόντα, είτε απόλυτα θετικές είτε απόλυτα αρνητικές, να γεννήσει θεωρίες συνωμοσίας ή ακόμη και διχαστικό ή ρατσιστικό λόγο. Το περιθώριο για κατάχρηση αυτού του συστήματος σε περίπτωση διάθεσής του στο κοινό θα ήταν τεράστιο, οπότε η απόφαση να μείνει στο ράφι ήταν εύλογη.

Το μοντέλο έχει βέβαια και λιγότερο επικίνδυνες χρήσεις, όπως η μετάφραση ή η σύνοψη κειμένων, ενώ μπορεί να περάσει απλά τεστ κατανόησης κειμένου.

Ωστόσο παρά την απόφαση να μείνει το μοντέλο στο περιθώριο, οι άνθρωποι που το έφτιαξαν όπως και ο ευρύτερος κλάδος συμφωνούν ότι ακόμη είμαστε στα πρώτα βήματα μιας επανάστασης που θα σαρώσει την οικονομία και θα μας δώσει πολύ πιο εκλεπτυσμένα δείγματα.