Με τον όρο deepfake (από τις λέξεις deep learning – βαθιά μάθηση και fake – πλαστό) περιγράφουμε φωτογραφίες, βίντεο ή ηχητικά αρχεία που έχουν υποστεί ψηφιακή επεξεργασία μέσω τεχνητής νοημοσύνης. Το σύστημα εκπαιδεύεται πάνω σε εικόνες ενός ανθρώπου (π.χ. ενός πολιτικού, ενός CEO ή ενός διάσημου ηθοποιού) και μαθαίνει να αναπαράγει τις εκφράσεις, το βλέμμα και τις κινήσεις των χειλιών του με τρομακτική ακρίβεια.
Η τεχνολογία έχει φτάσει πράγματι σε τέτοιο επίπεδο που επιτρέπει τη χρήση deepfake σε πραγματικό χρόνο.
Μέχρι πρόσφατα, η διαδικασία αυτή απαιτούσε μέρες. Έπρεπε να τραβήξεις ένα βίντεο, να το «ταΐσεις» στο AI μοντέλο και να περιμένεις τις ώρες της επεξεργασίας για να πάρεις το τελικό, ψεύτικο αρχείο. Επίσης, μπορεί να χρειαζόταν να κάνεις χειροκίνητες παρεμβάσεις, καθώς η τεχνολογία δεν μπορούσε να παράγει ένα πλήρως πειστικό αποτέλεσμα. Τώρα τα δεδομένα έχουν αλλάξει.
Πλέον, βλέπουμε deepfakes σε πολλές μορφές. Έχουμε δει σε καμπάνιες πολιτικών, σε φάρσες, σε απάτες ή κυβερνοεπιθέσεις, αλλά και σε πορνογραφικό περιεχόμενο.
Γίνεται live deepfake σε πραγματικό χρόνο;
Η απάντηση είναι «ναι, αλλά…»
Έχουμε ακούσει πολλές περιπτώσεις όπου deepfakes έχουν χρησιμοποιηθεί για εξαπάτηση. Πρόσφατα, ο σύμβουλος εθνικής ασφάλειας του πρωθυπουργού της Ελλάδας υποστήριξε πως εξαπατήθηκε από τη χρήση τέτοιας τεχνολογίας -κάτι που οι φαρσέρ που τον στόχευσαν αρνούνται.
Η τεχνολογία έχει φτάσει πράγματι σε τέτοιο επίπεδο που επιτρέπει τη χρήση deepfake σε πραγματικό χρόνο.
Αυτό σημαίνει ότι μπορείς να κάθεσαι μπροστά στην κάμερα του υπολογιστή σου, να μιλάς ζωντανά στο Zoom, στο Teams ή στο Discord, και οι άλλοι στην οθόνη τους να βλέπουν και να ακούνε έναν εντελώς διαφορετικό άνθρωπο. Καθώς κουνάς το κεφάλι σου, χαμογελάς ή ανοιγοκλείνεις τα μάτια σου, το AI «κολλάει» το ψηφιακό προσωπείο πάνω στο πρόσωπό σου, ακολουθώντας τις συσπάσεις των μυών σου ζωντανά. Παρακολουθεί τις κινήσεις του προσώπου και προσαρμόζει το συνθετικό πρόσωπο καρέ-καρέ.
Από τις φάρσες… στην απάτη εκατομμυρίων
Αυτή η εξέλιξη άνοιξε την πόρτα σε εντελώς διαφορετικούς κόσμους εξαπάτησης. Υπάρχουν άνθρωποι που χρησιμοποιούν την τεχνολογία για να κάνουν πλάκα, εμφανιζόμενοι, για παράδειγμα, σε συνομιλίες παριστάνοντας διάσημα πρόσωπα.
Υπάρχει, όμως, και το «βαθύ» έγκλημα, όπου τα πράγματα σοβαρεύουν. Απατεώνες πραγματοποιούν βιντεοκλήσεις με υπαλλήλους οικονομικών τμημάτων εταιρειών, παριστάνοντας το αφεντικό τους, και τους διατάζουν να εγκρίνουν επείγουσες μεταφορές εκατομμυρίων ευρώ.
Σε μια από τις πιο διάσημες υποθέσεις στο Χονγκ Κονγκ, σύμφωνα με την τοπική αστυνομία, ένας υπάλληλος πείστηκε να μεταφέρει 25 εκατομμύρια δολάρια, αφού συμμετείχε σε τηλεδιάσκεψη όπου όλοι οι υπόλοιποι συμμετέχοντες (συνάδελφοι και αφεντικό) ήταν deepfakes.
Η σκοτεινή πλευρά: Μη συναινετική πορνογραφία
Πέρα από το οικονομικό έγκλημα, η πιο διαδεδομένη χρήση των deepfakes εντοπίζεται στην παραγωγή μη συναινετικού πορνογραφικού υλικού. Σύμφωνα με στατιστικά στοιχεία ψηφιακών εταιρειών ασφαλείας, η συντριπτική πλειονότητα των deepfake βίντεο που κυκλοφορούν στο διαδίκτυο αφορούν πορνογραφία, με τα περισσότερα θύματα να είναι γυναίκες.
Οι απατεώνες ή οι εκδικητικοί χρήστες «κλέβουν» μερικές απλές φωτογραφίες προσώπου από τα μέσα κοινωνικής δικτύωσης ανυποψίαστων γυναικών (από διάσημες ηθοποιούς μέχρι μαθήτριες και συναδέλφους στο γραφείο) και τις ενσωματώνουν σε πορνογραφικά βίντεο. Η πρακτική αυτή, αποτελεί μια ακραία μορφή ψηφιακής κακοποίησης και εκβιασμού, η οποία έχει αναγκάσει τις κυβερνήσεις παγκοσμίως, αλλά και την Ευρωπαϊκή Ένωση, να θεσπίσουν ποινικές κυρώσεις για όσους δημιουργούν ή διακινούν τέτοιο υλικό.
Γιατί δεν είναι (ακόμα) τόσο εύκολο όσο ακούγεται
Πίσω από τους εντυπωσιακούς τίτλους των ειδήσεων, όμως, κρύβεται μια διαφορετική πραγματικότητα. Το να στήσεις ένα deepfake που θα ξεγελάσει κάποιον σε πραγματικό χρόνο απαιτεί ιδανικές συνθήκες, τεράστια προετοιμασία και πολλή τύχη.
Στην πράξη, οι επίδοξοι απατεώνες έρχονται γρήγορα αντιμέτωποι με μεγάλα εμπόδια.
Όσον αφορά το λογισμικό, υπάρχουν προγράμματα ανοιχτού κώδικα, όπως το DeepFaceLive, τα οποία είναι ελεύθερα διαθέσιμα. Οποιοσδήποτε με βασικές τεχνικές γνώσεις μπορεί να τα κατεβάσει και να δημιουργήσει μια «εικονική κάμερα» για να τροφοδοτήσει το Zoom ή το Skype.
Τα περισσότερα προγράμματα που είναι εύκολα προσβάσιμα λειτουργούν καλά αν κάθεσαι απόλυτα σταθερός, με τον φωτισμό να πέφτει ομοιόμορφα στο πρόσωπό σου. Αν το δωμάτιο είναι σκοτεινό, αν στρίψεις το κεφάλι σου απότομα ή αν περάσει το χέρι σου μπροστά από την κάμερα, ο αλγόριθμος «μπερδεύεται». Το ψηφιακό προσωπείο τρεμοπαίζει ή παραμορφώνεται, προδίδοντας τη φάρσα.
Επιπλέον, το να αλλάξεις το πρόσωπο είναι το μισό πρόβλημα. Το να αλλάξεις και τη φωνή ζωντανά απαιτεί επιπλέον υπολογιστική ισχύ. Επίσης, μεγάλο πρόβλημα είναι η φυσικότητα. Όταν συνδυάζεις live βίντεο και live ήχο, δημιουργείται μια καθυστέρηση μερικών χιλιοστών του δευτερολέπτου. Αυτός ο κακός συγχρονισμός των χειλιών με τον ήχο χτυπάει «καμπανάκι» στον συνομιλητή.
Υπάρχει και η ανάγκη για προ-εκπαιδευμένα μοντέλα. Αν κάποιος θέλει να φτιάξει ένα πολύ πειστικό αποτέλεσμα, δεν μπορεί να βασιστεί σε μια απλή φωτογραφία. Πρέπει να έχει βίντεο και διάφορες γωνίες του προσώπου, αλλά και εκφράσεις, για να φτιάξει ένα ρεαλιστικό μοντέλο του στόχου του.
Τι χρειάζεται σε πόρους και ισχύ
Επίσης, για να στήσει κανείς ένα live deepfake υψηλής ποιότητας χρειάζεται υπολογιστική ισχύ και κατάλληλο λογισμικό.
Το κλειδί είναι η κάρτα γραφικών (GPU). Για να γίνει η αλλαγή προσώπου σε πραγματικό χρόνο χωρίς σπασίματα, απαιτείται μια σύγχρονη, ισχυρή κάρτα γραφικών.
Όσον αφορά το λογισμικό, υπάρχουν προγράμματα ανοιχτού κώδικα, όπως το DeepFaceLive, τα οποία είναι ελεύθερα διαθέσιμα. Οποιοσδήποτε με βασικές τεχνικές γνώσεις μπορεί να τα κατεβάσει και να δημιουργήσει μια «εικονική κάμερα» για να τροφοδοτήσει το Zoom ή το Skype.
Για τους λόγους αυτούς, μια επιτυχημένη απάτη σε πραγματικό χρόνο, ειδικά όταν στοχεύει υπηρεσίες που έχουν ενεργά μέτρα ασφαλείας και εκπαιδευμένα στελέχη, είναι ακόμη δύσκολη. Μια στοχευμένη απάτη υψηλού επιπέδου, εναντίον μεγάλων οργανισμών ή κρατικών αξιωματούχων, εξακολουθεί να απαιτεί σημαντική προετοιμασία, πρόσβαση σε υλικό του θύματος και τεχνική εξειδίκευση. Ωστόσο, τα εμπόδια εισόδου έχουν μειωθεί σημαντικά σε σχέση με λίγα χρόνια πριν, καθώς υπάρχουν πλέον διαθέσιμα εργαλεία και υπηρεσίες που απλοποιούν τη διαδικασία.
Πώς καταλαβαίνεις το deepfake;
Παρά την τρομακτική εξέλιξη, η τεχνολογία σε πραγματικό χρόνο έχει ακόμα «ρωγμές» λόγω της πίεσης για άμεση επεξεργασία.
Αν ο συνομιλητής γυρίσει απότομα το κεφάλι του στο πλάι, το AI συχνά χάνει τα όρια του προσώπου και το ψηφιακό προσωπείο «σπάει» ή τρεμοπαίζει. Παράλληλα, τα live deepfakes δυσκολεύονται να συγχρονίσουν τέλεια την αντανάκλαση του φωτός στα μάτια ή το άνοιγμα και κλείσιμο των βλεφάρων.
Αν κοιτάξεις προσεκτικά τα όρια γύρω από το σαγόνι, τα αυτιά και τα μαλλιά, εκεί που τελειώνει το ψηφιακό πρόσωπο και αρχίζει το πραγματικό κεφάλι, συνήθως υπάρχει μια ανεπαίσθητη θολούρα.
Πάντως, πολλά προβλήματα των σημερινών live deepfakes είναι υπολογιστικά. Όσο οι κάρτες γραφικών γίνονται ισχυρότερες και τα μοντέλα αποδοτικότερα, η καθυστέρηση μειώνεται και η ποιότητα αυξάνεται. Αυτό σημαίνει ότι πολλά από τα σημερινά σημάδια ενδέχεται να εξαφανιστούν τα επόμενα χρόνια.
