Όταν ανοίγεις το email σου, αρκετά ανεπιθύμητα μηνύματα έχουν ήδη καταλήξει σε άλλον φάκελο. Κάποιο πρόγραμμα ξεχώρισε μια χρήσιμη ειδοποίηση από μια ύποπτη προσφορά, χωρίς να του έχει γράψει κάποιος οδηγίες για κάθε μήνυμα που θα εμφανιστεί ποτέ.
Εδώ αρχίζει μια από τις πιο χρήσιμες ιδέες της τεχνητής νοημοσύνης: μπορούμε να δώσουμε στον υπολογιστή παραδείγματα και να τον εκπαιδεύσουμε να βρίσκει σχέσεις μέσα τους. Το ενδιαφέρον δεν είναι μόνο ότι βρίσκει μια απάντηση. Είναι αν θα τα καταφέρει και στην επόμενη περίπτωση, που δεν έχει συναντήσει.
Πώς μαθαίνει να ξεχωρίζει ένα ανεπιθύμητο email;
Φαντάσου ότι προσπαθείς να φτιάξεις το φίλτρο μόνο με κανόνες. «Αν γράφει κερδίσατε, πέταξέ το». Αμέσως προκύπτει πρόβλημα: ένα πραγματικό μήνυμα για έναν διαγωνισμό μπορεί επίσης να γράφει «κερδίσατε». Και ένα ανεπιθύμητο μπορεί να αποφεύγει εντελώς αυτή τη λέξη.
Μια άλλη προσέγγιση είναι να χρησιμοποιήσεις πολλά μηνύματα που έχουν ήδη χαρακτηριστεί σωστά. Το πρόγραμμα δοκιμάζει να τα ξεχωρίσει, συγκρίνει τις απαντήσεις του με τους χαρακτηρισμούς και αλλάζει τον τρόπο με τον οποίο συνδυάζει τα στοιχεία. Επαναλαμβάνει αυτή τη διαδικασία, ώστε να κάνει λιγότερα λάθη στα παραδείγματα εκπαίδευσης.
Αυτό ονομάζεται μηχανική μάθηση. Το «μοντέλο» είναι το σύστημα που προκύπτει από την εκπαίδευση και χρησιμοποιείται για να εξετάσει καινούργια μηνύματα. Δεν του παραδίδουμε μία έτοιμη απάντηση για κάθε πιθανό email. Το εκπαιδεύουμε να χρησιμοποιεί σχέσεις που βρίσκει στα δεδομένα. Η εισαγωγή της Google στη μηχανική μάθηση εξηγεί αυτή τη βασική ιδέα.
Η σωστή απάντηση μπορεί να έχει βγει για λάθος λόγο
Ας αλλάξουμε εικόνα. Θέλουμε ένα μοντέλο να ξεχωρίζει φωτογραφίες με γάτες από φωτογραφίες με σκύλους. Του δείχνουμε πολλά παραδείγματα, μαζί με τη σωστή απάντηση για το καθένα.
Αν όμως όλες οι γάτες στη συλλογή είναι πάνω σε καναπέδες και όλοι οι σκύλοι στον κήπο, το σύστημα μπορεί να αξιοποιήσει το φόντο αντί για το ζώο. Στις γνωστές φωτογραφίες θα δείχνει εξαιρετικό. Σε μια γάτα μέσα στον κήπο ίσως μπερδευτεί.
Γι’ αυτό κρατάμε φωτογραφίες που δεν χρησιμοποιήθηκαν στην εκπαίδευση, για να το δοκιμάσουμε. Και φροντίζουμε τα παραδείγματα να έχουν ποικιλία: διαφορετικά ζώα, φωτισμό, γωνίες και φόντα.
Η δοκιμή πρέπει να είναι δίκαιη. Αν αλλάζουμε συνεχώς το μοντέλο βλέποντας τα ίδια αποτελέσματα, χρειαζόμαστε και μια τελική δοκιμή σε άλλα, ανέγγιχτα παραδείγματα. Το ζητούμενο είναι να αναγνωρίζει μια νέα γάτα, όχι να θυμάται το άλμπουμ μας. Η Google περιγράφει αυτό το πρόβλημα της υπερβολικής προσαρμογής.
Τι αλλάζει μέσα στη μηχανή;
Η εκπαίδευση αλλάζει πολλές αριθμητικές ρυθμίσεις μέσα στο μοντέλο. Αυτές καθορίζουν πώς συνδυάζονται τα στοιχεία που δέχεται και πώς προκύπτει η απάντηση. Δεν χρειάζεται να δούμε τις εξισώσεις για να καταλάβουμε τη διαφορά: πριν από την εκπαίδευση οι ρυθμίσεις μπορεί να δίνουν κακές απαντήσεις· ύστερα προσαρμόζονται με βάση τα παραδείγματα και τα λάθη.
Σε αρκετά σύγχρονα μοντέλα, η επεξεργασία γίνεται σε πολλά διαδοχικά στάδια. Η πληροφορία που προκύπτει στο ένα χρησιμοποιείται από το επόμενο. Αυτό επιτρέπει πιο σύνθετους συνδυασμούς από έναν κανόνα όπως «αν δω αυτή τη λέξη, κάνω εκείνο».
Μπορεί να έχεις ακούσει την ονομασία «νευρωνικό δίκτυο». Το όνομα είναι εμπνευσμένο από τη βιολογία, αλλά πρόκειται για υπολογιστική κατασκευή. Δεν είναι ένα πιστό αντίγραφο του ανθρώπινου εγκεφάλου.
Και πώς γράφει μια ολόκληρη απάντηση;
Ένα γλωσσικό μοντέλο εκπαιδεύεται πάνω σε κείμενα και μαθαίνει σχέσεις ανάμεσα σε λέξεις, νοήματα και τρόπους έκφρασης. Όταν του γράφεις, χρησιμοποιεί το διαθέσιμο κείμενο της συζήτησης και παράγει την απάντηση σταδιακά, επιλέγοντας κάθε επόμενο κομμάτι κειμένου.
Η πρόταση λέξεων στο κινητό προσφέρει μια πρώτη εικόνα αυτής της ιδέας. Ένα μεγάλο γλωσσικό μοντέλο, όμως, μπορεί να αξιοποιήσει πολύ ευρύτερο πλαίσιο και να συνδυάσει πιο σύνθετες σχέσεις. Μπορεί, για παράδειγμα, να μετατρέψει ένα μακρύ μήνυμα σε σύντομη περίληψη ή να εξηγήσει την ίδια ιδέα με διαφορετικό παράδειγμα.
Δεν λειτουργεί απλώς σαν κατάλογος έτοιμων απαντήσεων. Δημιουργεί κείμενο χρησιμοποιώντας όσα διαμορφώθηκαν κατά την εκπαίδευσή του και όσα του δίνουμε τώρα. Η Google εξηγεί τον ρόλο του πλαισίου στα γλωσσικά μοντέλα.
Η φυσική γλώσσα κάνει τη συζήτηση εύκολη. Δεν αρκεί, όμως, για να συμπεράνουμε ότι απέναντί μας υπάρχει πρόσωπο με συνείδηση ή εμπειρίες.
Αν το διορθώσω, έμαθε για πάντα;
Ζητάς από ένα μοντέλο να γράψει μια πρόσκληση. Η πρώτη βγαίνει επίσημη. Του λες «πιο φιλικά, για φίλους που έρχονται σπίτι» και η επόμενη αλλάζει ύφος. Το μοντέλο αξιοποίησε τη νέα οδηγία μέσα στη συζήτηση.
Αυτό δεν σημαίνει από μόνο του ότι άλλαξε η εκπαίδευσή του ή ότι θα κρατήσει τη διόρθωση για κάθε μελλοντικό χρήστη. Η χρήση ενός εκπαιδευμένου μοντέλου και η νέα εκπαίδευσή του είναι διαφορετικές διαδικασίες. Η αρχική έρευνα για το GPT-3 έδειξε, μεταξύ άλλων, πώς παραδείγματα μέσα στο κείμενο της οδηγίας μπορούσαν να αλλάξουν την επίδοση χωρίς νέα εκπαίδευση εκείνη τη στιγμή.
Παρόμοια διάκριση υπάρχει με την αναζήτηση. Αν μια εφαρμογή διαθέτει εργαλείο αναζήτησης, μπορεί να φέρει πρόσφατες πληροφορίες και να τις δώσει στο μοντέλο για την απάντηση. Αν δεν διαθέτει τέτοιο εργαλείο, μια αναφορά στα «σημερινά δεδομένα» δεν αποδεικνύει ότι έλεγξε κάτι σήμερα.
Γιατί ένα λάθος μπορεί να ακούγεται τόσο πειστικό;
Φαντάσου ότι ζητάς ένα βιβλίο για την ιστορία της πόλης σου. Το μοντέλο μπορεί να προτείνει έναν τίτλο, έναν συγγραφέα και μια χρονολογία που ταιριάζουν μεταξύ τους. Η πρόταση διαβάζεται άνετα. Μόνο που το βιβλίο μπορεί να μην υπάρχει.
Το σύστημα έχει καταφέρει να σχηματίσει μια πειστική απάντηση, αλλά αυτό δεν ισοδυναμεί με έλεγχο του βιβλίου σε κατάλογο. Η ίδια δυσκολία εμφανίζεται σε λάθος ημερομηνίες, παραπομπές ή λεπτομέρειες. Το βέβαιο ύφος δεν αποτελεί απόδειξη.
Το NIST καταγράφει αυτή την παραγωγή πειστικών αλλά λανθασμένων απαντήσεων ως σημαντικό πρόβλημα. Ένας σύνδεσμος βοηθά μόνο αν ανοίγει πραγματικά και αν η πηγή στηρίζει αυτό που γράφει η απάντηση. Δεν αρκεί να μοιάζει σωστός.
Πού μας βοηθά πραγματικά;
Επιστρέφουμε στο email. Ένα καλό φίλτρο μας γλιτώνει χρόνο, αλλά μπορεί να κρύψει ένα χρήσιμο μήνυμα. Ένα γλωσσικό μοντέλο μπορεί να ξεμπλοκάρει ένα δύσκολο κείμενο, αλλά μπορεί να προσθέσει μια λεπτομέρεια που χρειάζεται έλεγχο. Η αξία του φαίνεται σε μια συγκεκριμένη δουλειά και στα λάθη που κάνει εκεί.
Μπορείς να του δώσεις ένα κείμενο και να ζητήσεις να εξηγήσει μια παράγραφο με καθημερινό παράδειγμα. Ύστερα σύγκρινε την εξήγηση με το αρχικό: κράτησε τις βασικές προϋποθέσεις; Πρόσθεσε κάτι που δεν υπάρχει; Αν η απάντηση είναι ασαφής, μια δεύτερη ερώτηση μπορεί να βοηθήσει.
Η τεχνητή νοημοσύνη γίνεται πιο χρήσιμη όταν ξέρουμε ποια εργασία της αναθέτουμε και τι μπορούμε να ελέγξουμε. Όπως με τη φωτογραφία της γάτας στον κήπο, το κρίσιμο σημείο έρχεται όταν αφήνουμε τα γνώριμα παραδείγματα και τη δοκιμάζουμε σε κάτι καινούργιο.
Πηγές & περαιτέρω ανάγνωση
Συμπληρωματικές πηγές για το θέμα.