Μέχρι πρόσφατα, το ερώτημα «ποιος χειρίζεται ένα εργαλείο» δεν έμπαινε καν: ήταν πάντα ο άνθρωπος. Αυτό που άλλαξε, κατά τον Νίκο Λεβαντή, είναι ότι το εργαλείο έχει πλέον «μια αυτονομία, έχει άποψη, έχει ίσως αντίλογο». «Και μόνο που ρωτάμε αν μπορούμε να διατηρήσουμε τον έλεγχο είναι breaking news», είπε.
Ο Λεβαντής, VP Marketing της εταιρείας κυβερνοασφάλειας Obrela, μελετά στη διδακτορική του διατριβή την αλγοριθμική λήψη αποφάσεων και τη διακυβέρνηση της τεχνητής νοημοσύνης στον δημόσιο τομέα. Μίλησε στο fireside chat «Ποιος λογοδοτεί για τις μηχανές;» στο TECH4GOOD. Το event διοργάνωσε το WIRED Greece σε συνεργασία με τη Socialinnov, στις 6 Οκτωβρίου, στο Ίδρυμα Βασίλη & Ελίζας Γουλανδρή.
«Όταν δεν μπορούμε να εξασφαλίσουμε την ειρήνη, μπορούμε τουλάχιστον να εξασφαλίσουμε τα operations».
Για να μείνει ο έλεγχος στον άνθρωπο, είπε ο Λεβαντής, οι χειριστές πρέπει να γίνουν πιο εξειδικευμένοι. Παρομοίωσε το AI με ένα άλογο που θέλεις να κουμαντάρεις, και το αποτέλεσμα δεν έρχεται αυτόματα. Ο κίνδυνος είναι να αφεθούμε στην πρωτοβουλία του. Θύμισε τον Tim Cook, που σε ομιλία του στο MIT το 2017 είχε πει ότι τον ανησυχούν λιγότερο οι υπολογιστές που σκέφτονται σαν άνθρωποι και περισσότερο οι άνθρωποι που σκέφτονται σαν μηχανές, χωρίς να υπολογίζουν τις συνέπειες. «Όταν αφήνεσαι στο τι θα αποφασίσει μια μηχανή, δεν έχεις το ownership. Εκεί είναι η παγίδα».
Η Obrela, εξήγησε, στηρίζεται στο human-governed AI. Η ασφάλεια, κατά τον Λεβαντή, είναι πρωταρχική ανάγκη του ανθρώπου από την εποχή των σπηλαίων, και η αίσθηση μόνιμης ασφάλειας δεν θα υπάρξει ποτέ, γιατί πάντα θα εμφανίζεται ένας καινούργιος κίνδυνος. Γι’ αυτό η εταιρεία εστιάζει στον ανθρώπινο παράγοντα: στον «warrior» που εμπιστεύεται να ελέγξει το εργαλείο AI, αλλά και να βρει τη λύση ακόμη και στο άγνωστο. «Δεν είναι προδιαγεγραμμένες οι συνθήκες», είπε, και η κυβερνοασφάλεια «είναι πόλεμος».
«Μένουμε στον άνθρωπο, έχοντας ως δεδομένο ότι χρησιμοποιούμε την καλύτερη τεχνολογία που υπάρχει εκεί έξω», πρόσθεσε. «Είμαστε υπόλογοι απέναντι στους πελάτες μας και δεν θα τους παραπέμψουμε στο Claude αν πάει κάτι στραβά. γι’αυτό και είμαστε από τις πρώτες εταιρείες παγκοσμίως που προσφέρουμε Cyber Warranty, για τη βασική μας υπηρεσία, το MDR». Για την ασφάλεια, όπως είπε, «πάντα θα λογοδοτούμε εμείς».
Στον δημόσιο τομέα και στις κρίσιμες υποδομές το διακύβευμα μεγαλώνει, επειδή συχνά δεν υπάρχει εναλλακτική. Μπορείς πάντα να διαλέξεις άλλο κατάστημα εστίασης, όχι όμως αεροδρόμιο, παροχή νερού ή ενέργειας. Εκεί το ζητούμενο είναι η ανθεκτικότητα. Η επίθεση θεωρείται δεδομένη. Η άμυνα συνυπολογίζει τις ευπάθειες του οργανισμού, τον επιτιθέμενο και τις ικανότητές του, και το τι διακυβεύεται. «Όταν δεν μπορούμε να εξασφαλίσουμε την ειρήνη, μπορούμε τουλάχιστον να εξασφαλίσουμε τα operations», σημείωσε. «We keep your business in business», είπε, και εξήγησε: «Δεν λέμε ότι δεν θα δεχτείς επίθεση, αλλά ότι θα συνεχίσεις να λειτουργείς το οποίο είναι το κεντρικό, να παραμένει ένας οργανισμός ανεμπόδιστος, παρά τις επιθέσεις».
Η συζήτηση έφτασε και στο Autonomy, το προηγούμενο event του WIRED Greece, και στην εξάρτηση κρατών και οργανισμών από λίγες μεγάλες τεχνολογικές εταιρείες. Ο Λεβαντής είπε ότι στο cloud και στο διαδίκτυο τα σύνορα ουσιαστικά δεν υπάρχουν και ότι η επιστροφή σε κλειστά εθνικά συστήματα θα ήταν αναχρονιστική. Η απάντηση, κατά τον ίδιο, είναι περισσότερες επιλογές. Όταν μπορείς να αλλάξεις υπηρεσία, ακόμη κι αν βρίσκεται σε άλλη χώρα, «η ευθύνη επιστρέφει σε εσένα, και το integrity πάλι σε εσένα και η αυτονομία σε εσένα».
Τα φθηνότερα εργαλεία AI δεν σημαίνουν αυτόματα και περισσότερη ασφάλεια, είπε ο Λεβαντής. Η τεχνητή νοημοσύνη, πρόσθεσε, δεν είναι υποδομή που μοιράζεις σε όλους, αλλά κάτι που πρέπει να ενταχθεί σωστά σε κάθε οργανισμό συνυπολογίζοντας το ρίσκο. «Πιο πολλές πόρτες σε ένα σπίτι δεν σημαίνουν ότι ο κλέφτης δεν μπορεί να μπει», αν δεν τις λειτουργείς σωστά. Και το τι διακυβεύεται σε κάθε περίπτωση, για τον Λεβαντή, μπορεί να το αξιολογήσει μόνο ο άνθρωπος.
«Η ασφάλεια δεν είναι ζητούμενο της τεχνολογίας», είπε. «Δεν μας ζητάει ο υπολογιστής να τον προστατεύσουμε. Εμείς θέλουμε να προστατεύσουμε εμάς».
Με την εγγραφή σας, συμφωνείτε με τους Όρους Χρήσης μας (συμπεριλαμβανομένης της παραίτησης από ομαδικές αγωγές και των διατάξεων διαιτησίας) και αναγνωρίζετε την Πολιτική Απορρήτου μας.
