Λίγα πράγματα είναι τόσο προσωπικά όσο η φωνή. «Φέρει ιστορία, σώμα, μνήμη, πράγματα που κανένας αλγόριθμος δεν έχει ακόμα μάθει να πλαστογραφεί πειστικά», λέει στο WIRED Greece η Έλενα Παπαβασιλείου, πρόεδρος του Σωματείου Ερμηνευτών Διαφημιστικών Κειμένων Ελλάδας (Σ.Ε.ΔΙ.Κ.Ε.).
Ο αλγόριθμος μπορεί να μην τα έχει καταφέρει ακόμη, δεν παύει όμως να προσπαθεί. Εδώ και καιρό, όπως σε άλλους κλάδους, η ενσωμάτωση της τεχνητής νοημοσύνης προκαλεί ανησυχία στους voice actors, για ένα μέλλον στο οποίο δεν θα είναι εξίσου απαραίτητη η δουλειά τους, αφού ένα κομμάτι της θα το κάνουν μηχανές.
«Η ανθρώπινη φωνή φέρει ιστορία, σώμα, μνήμη, πράγματα που κανένας αλγόριθμος δεν έχει ακόμα μάθει να πλαστογραφεί πειστικά».
Πόσο κοντά είμαστε, όμως, σε μια τέτοια πραγματικότητα; Θα αντικατασταθούν οι voice actors από το ΑΙ; Η Έλενα Παπαβασιλείου απαντά πως η τεχνητή νοημοσύνη «δεν είναι αντίπαλος, ούτε εχθρός», όμως θεωρεί πως η ενσωμάτωση πρέπει να γίνει παράλληλα με μια συζήτηση για το νομικό, ηθικό και οικονομικό σκέλος.
Το θέμα έχει απασχολήσει τη βιομηχανία διεθνώς. Γνωστοί ηθοποιοί, όπως η Scarlett Johansson και ο Stephen Fry, έχουν βρεθεί αντιμέτωποι με το φαινόμενο, όταν άκουσαν τη φωνή τους χωρίς να έχουν δώσει συγκατάθεση.
Μεγάλη συζήτηση έχει γίνει και στη μουσική. Οι τρεις μεγάλες δισκογραφικές -Universal Music Group, Sony Music Entertainment και Warner Music Group- κατέθεσαν το 2024 αγωγές κατά των πλατφορμών Suno και Udio για χρήση ηχογραφήσεων χωρίς άδεια κατά την εκπαίδευση των μοντέλων τους.
«Η πρακτική αυτή -γνωστή ως “voice cloning” ή “synthetic media”- έχει ήδη δημιουργήσει ανησυχία σε ολόκληρο τον κλάδο της δημιουργικής βιομηχανίας», σημειώνει η κ. Παπαβασιλείου.
«Άκουσα μια φωνή που μου μοιάζει»
Στην Ελλάδα, το φαινόμενο της κλωνοποίησης φωνής παραμένει σε μεγάλο βαθμό αδρανές στο επίπεδο της δημόσιας συζήτησης, αλλά όχι επειδή απουσιάζει από τις εξελίξεις. «Ένα μέλος μας ανέφερε ότι του έχει γίνει κάποια πρόταση, ενώ ένα άλλο ανακάλυψε ένα περιστατικό και απευθύνθηκε στην εταιρεία που συνεργάστηκε για να το σταματήσει», λέει η κ. Παπαβασιλείου. Τυπικά συμβόλαια που παραχωρούν δικαιώματα χρήσης φωνής δεν έχουν ακόμα κυκλοφορήσει στον κλάδο, σε εγχώριο επίπεδο, γιατί «οι εταιρείες γνωρίζουν ότι δεν θα τα υπογράφαμε χωρίς ειδική γνώση ή νομική προστασία».
Η κ. Παπαβασιλείου αναφέρεται στην περίπτωση του Άρι Γεροντάκη, δίγλωσσου εκφωνητή με εμπειρία από το 2002 σε διαφημίσεις, εταιρικά videos, χαρακτήρες και τραγούδι. Όπως εξήγησε ο ίδιος στο WIRED Greece, ανακάλυψε σε δύο ξεχωριστές περιπτώσεις πως εταιρείες με τις οποίες συνεργαζόταν -μία εγχώρια και μία στο εξωτερικό- είχαν χρησιμοποιήσει τη φωνή του χωρίς να δώσει συγκατάθεση.
Παλιότερα, η φωνή του ΑΙ ήταν εντελώς ρομποτική, όμως, πλέον, η τεχνολογία έχει εξελιχθεί και το αποτέλεσμα είναι πειστικό.
Όπως μας είπε, άκουσε τη φωνή του σε αρχεία τύπου «voice guide», που λειτουργούν ως οδηγοί για να «πατήσει» ο voice actor στην τελική ηχογράφηση, ώστε να ταιριάξει στον ρυθμό και να μην βγει εκτός χρόνου. Παλιότερα, εξηγεί, η φωνή του ΑΙ ήταν εντελώς ρομποτική, όμως, πλέον, η τεχνολογία έχει εξελιχθεί και το αποτέλεσμα είναι πειστικό. «Ήταν ωραίο και αυτό είναι το πρόβλημα. Θα μπορούσε να χρησιμοποιηθεί», λέει.
«Περίμενα να ακούσω έναν άλλον voice actor ή μια τέτοια φωνή, αλλά ακούω μια που μου μοιάζει και λέω “μισό λεπτό, αυτός είναι πολύ καλός”», θυμάται ο κ. Γεροντάκης. Και τότε του είπαν πως πήραν τη φωνή του και την πέρασαν από ΑΙ για να δουν πώς θα ακούγεται με τη χροιά του. Ο κ. Γεροντάκης τούς ενημέρωσε πως αυτό απαγορεύεται και τους ζήτησε να σβήσουν τα αρχεία. Και οι δύο εταιρείες προχώρησαν σε διαγραφή και του ζήτησαν συγγνώμη.
Μάλιστα, αναδεικνύοντας πως το τοπίο δεν έχει ακόμη ξεκαθαρίσει, ο κ. Γεροντάκης αναφέρει πως η ελληνική εταιρεία είχε άγνοια για το αν αυτή η πρακτική είναι παράνομη. «Αφού εσύ θα κάνεις τη δουλειά την τελική και εσύ θα πληρωθείς, τι πειράζει;», του είπαν. Ωστόσο, εκείνος ήταν κατηγορηματικός, καθώς η ανησυχία έχει να κάνει με την εκπαίδευση των μοντέλων και με το ενδεχόμενο η φωνή του να χρησιμοποιηθεί και από άλλους στη συνέχεια.
O κ. Γεροντάκης τονίζει πως δεν θα ήταν εντάξει με μια τέτοια χρήση, ακόμα κι αν είχε ζητηθεί από την αρχή η συγκατάθεσή του ή αν τον είχαν διαβεβαιώσει πως η φωνή δεν θα «ξεφύγει». «Είναι κομμάτι της δουλειάς μου να κάνω τέτοιους οδηγούς».
Για την Ελλάδα, ο κ. Γεροντάκης αναφέρει πως συχνά θεωρούμε πως είμαστε πίσω στην ενσωμάτωση τάσεων, όμως «να που γίνεται και εδώ». Εξηγεί πως απευθύνθηκε στο σωματείο για να επικοινωνήσουν με φορείς και να εξετάσουν το θέμα θεσμικά, καθώς υπάρχουν νόμοι που απαγορεύουν τη χρήση της όψης ή της φωνής χωρίς τη συγκατάθεσή σου.
«Έγινε δύο φορές, θα ξαναγίνει. Δεν μπορεί να είναι αλόγιστο», επισημαίνει.
Θεσμικό πλαίσιο
Το Σ.Ε.ΔΙ.Κ.Ε. δεν περιμένει τις εξελίξεις για να κινηθεί. «Βρισκόμαστε ήδη στη διαδικασία», σημειώνει η κ. Παπαβασιλείου, «και θα δημιουργηθεί πολύ σύντομα το θεσμικό πλαίσιο γιατί είναι αναγκαίο». Παράλληλα με τις επαφές με εγχώριους νομικούς κύκλους, ο σύλλογος αναμένει τις κατευθύνσεις που πρόκειται να έρθουν από την ΕΕ έως τα τέλη Ιουνίου.
«Η αναμενόμενη κατεύθυνση από Βρυξέλλες δεν είναι πάντως τυχαία», τονίζει η πρόεδρος του Σ.Ε.ΔΙ.Κ.Ε. «Ο ευρωπαϊκός νόμος για την ΤΝ (EU AI Act), που τέθηκε σε ισχύ τον Αύγουστο του 2024 και εφαρμόζεται σταδιακά έως το 2026, περιλαμβάνει ρητές υποχρεώσεις διαφάνειας για συνθετικό περιεχόμενο -δηλαδή οι χρήστες πρέπει να ενημερώνονται όταν ακούν ή βλέπουν AI-generated φωνή ή εικόνα».
«Στην άλλη πλευρά του Ατλαντικού», προσθέτει, «η SAG-AFTRA έχει ήδη διαπραγματευτεί ειδικές ρήτρες για AI στη συλλογική σύμβαση του 2023, απαιτώντας ρητή συγκατάθεση και αποζημίωση για κάθε χρήση ψηφιακού ομοιώματος ερμηνευτή -ένα πρότυπο που αρχίζουν να μελετούν και ευρωπαϊκά σωματεία».
Royalties: Το μοντέλο «ανά χρήση» και το ηθικό ζήτημα
Ένα από τα πιο πρακτικά και πιο αμφιλεγόμενα ερωτήματα είναι το πώς αποζημιώνεται ένας ερμηνευτής που έχει παραχωρήσει τη φωνή του: εφάπαξ ή ανά χρήση; Για την κ. Παπαβασιλείου, η απάντηση είναι συγκεκριμένη. «Θα προτιμούσαμε ανά χρήση», λέει, «γιατί παρότι AI, η βάση της φωνής προέρχεται από συγκεκριμένο επαγγελματία ερμηνευτή». Το μοντέλο αυτό δεν είναι ουτοπικό: η SAG-AFTRA έχει ήδη συνάψει συμφωνία με την πλατφόρμα Narrativ που επιτρέπει στα μέλη της να αδειοδοτούν ψηφιακά ομοιώματα της φωνής τους με ρητή συγκατάθεση και αποζημίωση ανά χρήση -ακριβώς το μοντέλο που υποστηρίζει και το Σ.Ε.ΔΙ.Κ.Ε.
Εξίσου κρίσιμο είναι το ζήτημα του ελέγχου περιεχομένου, η ηθική διάσταση του φαινομένου. Τι γίνεται αν η φωνή ενός ερμηνευτή χρησιμοποιηθεί σε περιεχόμενο αντίθετο με τις αξίες του; Ένας τρόπος άμυνας απέναντι σε τέτοια φαινόμενα είναι, αναφέρει η πρόεδρος του Σ.Ε.ΔΙ.Κ.Ε., η καταχώρηση στο συμφωνητικό. «Θα είναι ο βασικός κανόνας για να ξεκινήσει η όποια συνεργασία. Τίποτε δεν θα προχωρήσει χωρίς διμερή συμφωνία», εξηγεί.
«Αν μάθαινα πως έχω μια ανίατη ασθένεια ή ότι θα χάσω τη φωνή μου σε λίγο καιρό, θα το έκανα και θα μεταβίβαζα τα κέρδη στην οικογένειά μου. Η φωνή μου θα συνέχιζε να βγάζει λεφτά για τα παιδιά μου».
Στη διεθνή πρακτική, αυτές οι ρήτρες -γνωστές ως ethical use clauses- αποτελούν πλέον τυπικό αίτημα των συνδικαλιστικών οργανώσεων.
Η SAG-AFTRA, για παράδειγμα, όπως σημειώνει η πρόεδρος του Σ.Ε.ΔΙ.Κ.Ε., έχει διασφαλίσει ότι οι ερμηνευτές μπορούν να αποκλείουν συγκεκριμένες κατηγορίες χρήσης -όπως πολιτικές διαφημίσεις ή περιεχόμενο που αντιβαίνει στις αξίες τους- κατά τη δημιουργία του ψηφιακού τους ομοιώματος.
Το νομικό ζήτημα όμως είναι λεπτό: μόλις ένα φωνητικό δείγμα αποτελέσει μέρος ενός μοντέλου εκπαίδευσης, η τεχνική «απόσυρσή» του είναι ουσιαστικά αδύνατη. Γι’ αυτό ακριβώς, όπως τονίζει η κ. Παπαβασιλείου, «το συμβόλαιο πρέπει να προηγείται και να είναι εξαντλητικά συγκεκριμένο».
Ο κ. Γεροντάκης, μιλώντας για το θέμα των royalties, αναφέρει πως η χρήση της φωνής του -με συγκατάθεση ή όχι-, θα του έκανε κακό: «Θα εκχωρούσα δικαίωμα χρήσης της φωνής μου, που χρεώνω με το κομμάτι, για να χρησιμοποιείται εσαεί». Και, στην περίπτωση που του ζητούσαν τη φωνή του με πληρωμή ανά χρήση, αναφέρει πως δεν είναι εύκολο να ελέγξεις πόσες φορές χρησιμοποιείται.
«Είμαι εν ενεργεία και θέλω να εκμεταλλευτώ τη φωνή μου όσο πάει», λέει και περιγράφει τη μοναδική περίπτωση που θα έδινε τη δουλειά του σε τέτοιες πλατφόρμες: «Αν μάθαινα πως έχω μια ανίατη ασθένεια ή ότι θα χάσω τη φωνή μου σε λίγο καιρό, θα το έκανα και θα μεταβίβαζα τα κέρδη στην οικογένειά μου. Η φωνή μου θα συνέχιζε να βγάζει λεφτά για τα παιδιά μου».
Το uncanny valley της φωνής
Πόσο κοντά είμαστε στο σημείο όπου ο μέσος ακροατής δεν θα ξεχωρίζει πια τον άνθρωπο από τη μηχανή; Η κ. Παπαβασιλείου είναι προσεκτικά αισιόδοξη. «Ένας άνθρωπος διακατέχεται από πληθώρα συναισθημάτων και εκφράσεων που όσο και να εκπαιδεύσεις το AI να κάνει το ίδιο, κάτι θα λείπει και κάτι θα ακούγεται παράταιρο», λέει. Εργαλεία όπως το ElevenLabs, το Resemble AI και το Microsoft Azure Neural TTS έχουν φτάσει σε επίπεδο ρεαλισμού που ξεπερνά κάθε προσδοκία, αλλά έρευνες στον τομέα της ψυχοακουστικής επιβεβαιώνουν ότι ένα εκπαιδευμένο αυτί εντοπίζει ακόμα τις λεγόμενες «uncanny valley» στιγμές: εκείνες τις αποχρώσεις όπου η φωνή ακούγεται τεχνητά τέλεια, στερημένη από την ανθρώπινη ατέλεια που ακριβώς την κάνει αληθινή.
«Η ανθρώπινη φωνή φέρει ιστορία, σώμα, μνήμη», λέει η κ. Παπαβασιλείου. «Πράγματα που κανένας αλγόριθμος δεν έχει ακόμα μάθει να πλαστογραφεί πειστικά σε βάθος χρόνου».
Εγώ δεν λέω πως θα χάσουμε τις δουλειές μας, γιατί πιστεύω ότι ο κόσμος ήδη στρέφεται στο πιστοποιημένα ανθρώπινο.
Η πεποίθηση αυτή επιβεβαιώθηκε πρόσφατα στην παγκόσμια βιομηχανία των video games. Η περίπτωση του παιχνιδιού Arc Raiders της Embark Studios αποτελεί ένα εμβληματικό «πισωγύρισμα» που δικαιώνει τους δημιουργούς. Ενώ η εταιρεία ξεκίνησε χρησιμοποιώντας AI-generated φωνές, στη συνέχεια, μετά από αντιδράσεις, άλλαξε πορεία. Ο CEO της εταιρείας, Patrick Söderlund, παραδέχτηκε πρόσφατα ότι «υπάρχει διαφορά ποιότητας. Ένας πραγματικός επαγγελματίας ηθοποιός είναι καλύτερος από το AI». Η εταιρεία προχώρησε στην επαναηχογράφηση διαλόγων με ανθρώπους, υποβαθμίζοντας την τεχνητή νοημοσύνη σε εργαλείο εσωτερικών δοκιμών.
Αναφερόμενος σε τέτοια πισωγυρίσματα, ο κ. Γεροντάκης λέει πως είναι «δείγματα πως ο ανθρώπινος παράγοντας αναζητείται περισσότερο, είτε φταίει πως η τεχνολογία δεν είναι ακόμη αρκετά ώριμη, είτε ότι δεν τη θέλουμε γενικώς. Είναι φούσκα και θα σκάσει».
Ακόμα και με ένα πειστικό αποτέλεσμα, «και πάλι κάτι χάνεις, ειδικά στις τέχνες», τονίζει και προσθέτει: «Δημιουργείται αποξένωση αν δεν είναι ανθρώπινη η δημιουργία και ο κόσμος σύντομα θα στρέφεται στο οργανικό και το ανθρώπινο».
Και δείχνει μια διαφορετική αισιοδοξία, που στηρίζεται στο αναντικατάστατο της ανθρώπινης δημιουργίας: «Εγώ δεν λέω πως θα χάσουμε τις δουλειές μας, γιατί πιστεύω ότι ο κόσμος ήδη στρέφεται στο πιστοποιημένα ανθρώπινο. Το βασικότερο που μας κρατάει αυτή τη στιγμή σε ανθρωπιά, σε κάποια οργανική κατάσταση επικοινωνίας, είναι ο συντονισμός ανάμεσα στο συναίσθημα του δημιουργού και σε εκείνο του δέκτη, είτε πρόκειται για μουσική, κείμενο ή για ηθοποιούς και εκφωνητές», σημειώνει. Ο κ. Γεροντάκης θεωρεί πως, ακόμα και σε μια απλή, εμπορική διαφήμιση, ο ανθρώπινος παράγοντας και το συναίσθημα μπορούν να κάνουν τη διαφορά. «Τη στιγμή της δημιουργίας υπάρχει συναίσθημα και όταν κάποιος το δέχεται συντονίζεται με το συναίσθημα του δημιουργού. Όσο κι αν προχωρήσει το ΑΙ, αυτό δε θα το πετύχει».
«Δεν είναι εχθρός» -αρκεί να κινηθούμε πρώτοι
Από τη μεριά της, η κ. Παπαβασιλείου λέει: «Το AI είναι ένα εργαλείο ταχύτητας και ακρίβειας. Δεν είναι αντίπαλος, ούτε εχθρός». Πιστεύει ότι ερμηνευτές και αλγόριθμοι μπορούν να ακολουθήσουν παράλληλους δρόμους -και η πρακτική ήδη δείχνει τον τρόπο: αρκετοί ερμηνευτές χρησιμοποιούν σήμερα AI εργαλεία για demo παραγωγές με κλάσμα του παραδοσιακού κόστους, για να δοκιμάσουν τόνους πριν φτάσουν στο στούντιο, ή για να επεκτείνουν τη γεωγραφική τους εμβέλεια σε γλωσσικές αγορές που δεν θα μπορούσαν να φτάσουν αλλιώς.
Για την ώρα, σε κλάδους όπως ο δικός του, ο κ. Γεροντάκης δεν βρίσκει κάτι θετικό στη χρήση του ΑΙ.
Η κ. Παπαβασιλείου επισημαίνει πως η ιστορία έχει δείξει ότι κάθε τεχνολογική επανάσταση -από το ραδιόφωνο ως τα podcasts- αρχικά τρομάζει τους δημιουργούς και τελικά μπορεί να διευρύνει την αγορά τους. Η διαφορά αυτή τη φορά, επισημαίνει, είναι ότι η τεχνολογία μιμείται ακριβώς αυτό που ο καλλιτέχνης προσφέρει. Γι’ αυτό χρειάζεται σύμβαση, νόμος και επαγρύπνηση. Αλλά και, όπως λέει η ίδια, «θάρρος να τη χρησιμοποιήσουμε ως σύμμαχο, πριν άλλοι τη χρησιμοποιήσουν εναντίον μας».
