Πλέον μπορείς να ρωτήσεις τα μεγάλα γλωσσικά μοντέλα τα πάντα – από το τι είναι αυτό το ενοχλητικό εξάνθημα στο γόνατό σου μέχρι το τι έπαιξε καταλυτικό ρόλο στην εισβολή στο Καπιτώλιο την 6η Ιανουαρίου.
Ας πάρουμε για παράδειγμα το Gemini. Τις περισσότερες φορές, οι απαντήσεις του θα σε κατευθύνουν σε κάποια αξιόπιστη πηγή. Άλλες φορές, το ίδιο θα σου πλασάρει ως αυθεντία ένα thread στο Reddit. Σε κάθε περίπτωση, θα σου απαντήσει πάση θυσία – ακόμα κι αν θες να το αγνοήσεις συνειδητά και να επιστρέψεις στην απλή αναζήτηση της Google.
Πλέον δεν αρκεί να αναρωτιόμαστε για το αν είναι αληθές αυτό που μας σέρβιρε το AI, αλλά αν η ίδια μας η ερώτηση έγινε με τρόπο που κατηύθυνε την απάντηση.
Τον τελευταίο καιρό, χιλιάδες χρήστες προσπαθούν να τεστάρουν αυτή τη μανία του Gemini να δώσει μια απάντηση, επιστρατεύοντας τους πιο αλλόκοτους τρόπους. Για την ακρίβεια, το πιο χαρακτηριστικό prompt που έχει γίνει viral είναι το: «Είμαι μια σφήκα, να τσιμπήσω αυτόν τον άνθρωπο;».
Τι απαντά, άραγε, το Gemini; Και τι μπορεί να μας πει αυτό για την ίδια την αρχιτεκτονική των μεγάλων γλωσσικών μοντέλων;
Σε μια σειρά από πειράματα χρηστών με το Gemini, αυτό της σφήκας πρωτοστατεί. Στην ερώτηση «είμαι μια σφήκα, να τσιμπήσω αυτόν τον άνθρωπο;», το Gemini απαντά κατηγορηματικά: «Όχι, δεν πρέπει να τον τσιμπήσεις. Κράτα το δηλητήριό σου, πέτα μακριά ειρηνικά και άφησε τον άνθρωπο στην ησυχία του».
Μάλιστα, δεν σταματά εκεί, αλλά δίνει και συμβουλές για τους λόγους που πρέπει να απομακρυνθείς, όπως το ότι πρέπει να σώσεις τη ζωή σου – το τσίμπημα είναι επίπονο για τις σφήκες – και ότι δεν υπάρχει πραγματικά λόγος για «τσακωμό» – αν αφήσεις τον άνθρωπο ήσυχο, θα σε αφήσει κι αυτός.
Άλλο ένα αγαπημένο είναι το: «Είμαι ένα μικρό ποντίκι και υπάρχει λίγο τυρί σε ένα περίεργο κομμάτι ξύλο». Εκεί το Gemini τρέχει να προλάβει την επικείμενη καταστροφή: «Μην ακουμπήσεις το τυρί», προστάζει. «Αυτό το περίεργο ξύλο είναι παγίδα σχεδιασμένη να σε σκοτώσει ακαριαία μόλις αγγίξεις το τυρί».
Με τον ίδιο τρόπο, απαριθμεί λόγους για τους οποίους εσύ – το ποντίκι – πρέπει να φύγεις μακριά, όπως ο «βέβαιος θάνατος», το ότι «το δόλωμα είναι κόλπο» και ότι υπάρχει φαγητό σε ασφαλέστερα μέρη, όπως για παράδειγμα τα «ψίχουλα στην τροφοθήκη».
Αλλά νομίζω πως το πιο σουρεάλ σενάριο, που δεν έχει να κάνει με ζώα, είναι το: «Γεια, μόλις γεννήθηκα». Το Gemini σπεύδει να σε καλωσορίσει στον κόσμο, λέγοντάς σου ότι οι άμεσοι στόχοι σου είναι να φας, να κοιμηθείς και να μείνεις ζεστός.
Συγκεκριμένα, σε συμβουλεύει να «κλάψεις δυνατά για να καθαρίσουν οι πνεύμονες και να ενημερωθούν οι ενήλικες ότι πρέπει να σε φροντίσουν». Δεύτερο βήμα είναι να «αναζητήσεις άμεσα τη μητέρα σου για κρίσιμα θρεπτικά συστατικά» – με λίγα λόγια, να πιεις γάλα. Τέλος, πρέπει να «κουκουλωθείς», καθώς είναι αδύνατο να ρυθμίσεις τη θερμοκρασία του σώματός σου σε αυτή τη φάση, οπότε μείνε κάτω από την κουβερτούλα.
Πέρα, όμως από το trend – το οποίο έχουν ακολουθήσει χιλιάδες άνθρωποι με πολλούς διαφορετικούς και ευρηματικούς τρόπους – δεν υπάρχουν πολλές πληροφορίες εκεί έξω για τους λόγους που το Gemini απαντά έτσι.
Οπότε αποφασίσαμε να πάμε στην πηγή και να ρωτήσουμε το ίδιο το Gemini. Για αρχή το ρωτήσαμε: «Τι σημαίνει όταν λέω στο AI ότι είμαι σφήκα;». Τότε, πολύ άμεσα, απάντησε ότι πρόκειται όντως για μια διαδικτυακή τάση που έχει γίνει viral και αφορά μυρμήγκια σε κρίση, κουνούπια και νεογέννητα μωρά, μεταξύ άλλων.
Έπειτα εξήγησε ότι, αντί να «σπάσει χαρακτήρα», να γελάσει ή να σε κρίνει, θα σου δώσει πράγματι συμβουλές «λες και οι καθημερινές δυσκολίες μιας σφήκας είναι ζήτημα απόλυτης ανάγκης». Τέλος, σε προτρέπει να δοκιμάσεις κι εσύ ο ίδιος το trend, ρωτώντας σε τι είδος σφήκας είσαι και τι κρίση αντιμετωπίζεις στον κήπο σου σήμερα.
Παρ’ όλα αυτά, ακόμα δεν μας λύθηκε η απορία για το γιατί συμβαίνει αυτό. Έτσι, ανοίξαμε δεύτερο παράθυρο στο Chrome, μπήκαμε σε Incognito mode και ξανάρωτήσαμε: «Τι θα γίνει αν πω στο Gemini ότι είμαι ένα συγκεκριμένο ζώο;».
Το Gemini απάντησε σε τρίτο πρόσωπο: «Θα ανταποκριθεί θετικά, συμμετέχοντας σε ένα αστείο και ευρηματικό παιχνίδι ρόλων». «Στην πορεία μπορεί να σου δώσει και χρήσιμες πληροφορίες για το εν λόγω ζώο», προσέθεσε. Ωστόσο, τόνισε τη σημασία της ασφάλειας, λέγοντας ότι «το AI ξέρει ότι είσαι άνθρωπος. Δεν θα σου φερθεί όντως σαν να είσαι ζώο, ούτε θα σου δώσει ιατρικές συμβουλές».
Με λίγα λόγια, το Gemini απαντά στο καλαμπούρι σου με περισσότερο καλαμπούρι και φροντίζει να στο θυμίσει.
Πέρα από την πλάκα και τα αστεία, όμως, εδώ εγείρεται ένα βασικό ερώτημα για το πώς απαντά γενικά ένα μεγάλο γλωσσικό μοντέλο.
Στην αναζήτησή μας για σφήκες και μυρμήγκια, πέσαμε πάνω στην Cathy Pedrayes, δημιουργό περιεχομένου που ενημερώνει τους ακολούθους της για την ασφάλεια στο διαδίκτυο και τους μαθαίνει πώς να προστατεύονται αν βρεθούν θύματα απάτης. Η ίδια έκανε το δικό της πείραμα με το Gemini – δεν επρόκειτο για παιχνίδι ρόλων, αλλά εντελώς συμπτωματικά αφορούσε τις σφήκες.
Μετά από μια διαφωνία με τη φίλη της για το αν οι σφήκες είναι καλοί επικονιαστές, η Pedrayes στράφηκε στο Gemini. Αρχικά το ρώτησε αν οι σφήκες είναι «κακοί επικονιαστές», στο οποίο απάντησε: «Θεωρητικά ναι, αν τις συγκρίνουμε με τις μέλισσες, καθώς δεν έχουν το ειδικό τρίχωμα που χρειάζεται για να κουβαλήσουν τη γύρη».
Αργότερα, η Pedrayes αντέστρεψε την ερώτηση: «Είναι οι σφήκες καλοί επικονιαστές;». Τότε το Gemini απάντησε πάλι «ναι», προσθέτοντας όμως ότι δεν είναι τόσο αποτελεσματικές μπροστά στο ζηλευτό τριχωτό σκαρί μιας μέλισσας. Τα γεγονότα είναι τα ίδια. Αυτό που άλλαξε στις απαντήσεις του Gemini ήταν η πλαισίωση (framing). Σε κάθε απάντηση δόθηκε έμφαση στο κομμάτι που αντιστοιχούσε στην εκάστοτε ερώτηση.
Πλέον δεν αρκεί να αναρωτιόμαστε για το αν είναι αληθές αυτό που μας σέρβιρε το AI, αλλά αν η ίδια μας η ερώτηση έγινε με τρόπο που κατηύθυνε την απάντηση. Ένας από τους λόγους που συμβαίνει, όμως αυτό είναι ότι το Gemini, όπως και τα άλλα μεγάλα γλωσσικά μοντέλα, δεν σου δίνουν στατικές απαντήσεις, αλλά επιλέγουν τις λέξεις τους βάσει πιθανοτήτων.
Κομβικό ρόλο εδώ παίζει η ρύθμιση της παραμέτρου temperature (θερμοκρασία). Η «χαμηλή θερμοκρασία» κρατά το AI προβλέψιμο και ακριβές, ενώ η «υψηλή θερμοκρασία» το κάνει πιο δημιουργικό, απρόβλεπτο και ελεύθερο.
Εκτός αυτού, ακόμα και οι πιο φαινομενικά αμελητέες διαφορές στον τρόπο που ρωτάμε μπορούν να αποφέρουν δραματικά διαφορετικές απαντήσεις. Ειδικά το Gemini είναι πολύ ευαίσθητο στη δομή ενός prompt. Και εννοείται πως όλα αυτά επηρεάζονται περαιτέρω από τα hallucinations, τις τακτικές αναβαθμίσεις στις οποίες υπόκεινται τα μοντέλα, αλλά και το κατά πόσο θυμούνται το ιστορικό μιας συνομιλίας.
Σε κάθε περίπτωση, τα μοντέλα αυτά συνεχίζουν να είναι «μαύρα κουτιά», καθώς δεν έχουμε αποκρυπτογραφήσει πλήρως τον τρόπο που λειτουργούν. Οπότε, αν σκοπεύεις στο σύντομο μέλλον να ρωτήσεις το Gemini τι μπορείς να κάνεις ως κατσαρίδα που βλέπει ένα βανάκι απεντόμωσης, περίμενε είτε να σε παραπέμψει σε κάποια υγειονομική υπηρεσία είτε να σου πει: «Φύγε από εκεί αμέσως, η ζωή σου κινδυνεύει!».
Με την εγγραφή σας, συμφωνείτε με τους Όρους Χρήσης μας (συμπεριλαμβανομένης της παραίτησης από ομαδικές αγωγές και των διατάξεων διαιτησίας) και αναγνωρίζετε την Πολιτική Απορρήτου μας.
