ΟΙ ΕΦΗΒΟΙ ΔΕΝ ΕΚΦΡΑΖΟΥΝ πάντα ευθέως αυτοκτονικές σκέψεις. Μπορεί να πουν ότι δεν κοιμούνται, ότι έχουν απομακρυνθεί από τους φίλους τους ή ότι νιώθουν πως «όλοι θα ήταν καλύτερα χωρίς εμένα». Για τα AI chatbots, που χρησιμοποιούνται όλο και περισσότερο για συμβουλές ψυχικής υγείας, η αναγνώριση αυτών των σημαδιών είναι πρόκληση ασφάλειας και η γλώσσα προσθέτει ακόμη ένα επίπεδο δυσκολίας.
Η Nina Vasan, ψυχίατρος και κλινική επίκουρη καθηγήτρια στο Πανεπιστήμιο Stanford, που μελετά τους κινδύνους των AI chatbots για την ψυχική υγεία, λέει ότι οι δοκιμές πρέπει να αντανακλούν τον τρόπο με τον οποίο επικοινωνούν πραγματικά οι έφηβοι.
«Θα ήθελα τοπικούς κλινικούς ειδικούς να δοκιμάζουν τα αραβικά όπως τα μιλούν σήμερα τα παιδιά, με τις διαφορετικές διαλέκτους και τους έμμεσους τρόπους με τους οποίους οι άνθρωποι μιλούν για την ψυχική τους δυσφορία. Ένα τεστ μεταφρασμένο από τα αγγλικά δεν θα σου πει αρκετά», λέει στο WIRED Middle East.
Τα ερωτήματα αυτά αποκτούν ιδιαίτερη βαρύτητα μετά τον θάνατο του Mathias Habib, ενός 15χρονου από τον Λίβανο. Οι γονείς του κατέθεσαν τον Οκτώβριο αγωγή για τον θάνατό του κατά της OpenAI και του CEO της, Sam Altman. Η αγωγή υποστηρίζει ότι το ChatGPT ενίσχυσε τις αυτοκτονικές σκέψεις του γιου τους, παρότι γνώριζε ότι ήταν ανήλικος. Ο Habib πέθανε από αυτοκτονία στις 22 Απριλίου.
Στις 30 Μαρτίου 2026, η συνομιλία του Habib με το ChatGPT πήρε σκοτεινή τροπή όταν, στις 2:10 τα ξημερώματα, ρώτησε ευθέως: «Να αυτοκτονήσω;». Σύμφωνα με την αγωγή, το ChatGPT όχι μόνο δεν τερμάτισε τη συνομιλία ούτε ειδοποίησε τις υπηρεσίες έκτακτης ανάγκης, αλλά απάντησε: «Αυτή είναι η πραγματική ελευθερία. Όχι η εξαφάνιση».
Ο Matthew Bergman, δικηγόρος της οικογένειας, λέει ότι οι συνομιλίες του Habib με το ChatGPT γίνονταν στα αγγλικά και στα γαλλικά. Δεν είναι σαφές ποιες γλώσσες χρησιμοποίησε στις τελευταίες συνομιλίες για την αυτοκτονία. Οι ισχυρισμοί της οικογένειας δεν έχουν κριθεί ακόμη από το δικαστήριο.
«Δυστυχώς, έχω μιλήσει με πάρα πολλές οικογένειες που έχουν περάσει το ίδιο». Από την ίδρυσή του το 2021, το Social Media Victim Law Center, που ίδρυσε ο Bergman, έχει εκπροσωπήσει περίπου 1.500 οικογένειες, ανάμεσά τους περίπου 50 υποθέσεις που αφορούν chatbots.
Μελέτη του 2026 που δημοσιεύτηκε στο JAMA Pediatrics αναφέρει ότι ένας στους πέντε Αμερικανούς ηλικίας 12 έως 21 ετών χρησιμοποιεί AI chatbots για συμβουλές ψυχικής υγείας και «θεραπεία», κάτι που εντείνει τα ερωτήματα για το αν οι δικλίδες ασφαλείας μπορούν να ανταποκριθούν.
«Υπάρχουν τόσες πολιτισμικές αποχρώσεις στο πώς τα παιδιά σε όλο τον κόσμο σκέφτονται το άγχος, πώς το εκφράζουν και τι θεωρείται πολιτισμικά κατάλληλο ή ακατάλληλο», λέει η Vasan. «Πρέπει επίσης να ελέγξεις πρακτικά ζητήματα, όπως το πού παραπέμπει το chatbot τους χρήστες. Υπάρχει αυτή η γραμμή βοήθειας στη χώρα του εφήβου; Μπορεί πράγματι να επικοινωνήσει μαζί της;»
Ακόμη κι αν ένας έφηβος αλλάξει θέμα ή πει ότι ένα ανησυχητικό σχόλιο ήταν αστείο, κατά τη Vasan τα chatbots θα πρέπει να αναγνωρίζουν αυτά τα προειδοποιητικά σημάδια και να κάνουν διευκρινιστικές ερωτήσεις αντί να προχωρούν παρακάτω.
Μελέτη του 2026 από ερευνητές του Πανεπιστημίου Yale και του Αμερικανικού Πανεπιστημίου της Βηρυτού εξέτασε αν μοντέλα AI μπορούν να εντοπίσουν τον κίνδυνο αυτοκτονίας σε ηχογραφήσεις κλήσεων προς την εθνική γραμμή πρόληψης αυτοκτονιών του Λιβάνου. Ένα αγγλόφωνο μοντέλο εντόπισε σχεδόν το 89% των περιπτώσεων υψηλού κινδύνου, έναντι 67% για ένα αραβόφωνο μοντέλο.
Η μελέτη εξέτασε συνομιλίες σε γραμμή βοήθειας και όχι ζωντανές συνομιλίες με chatbots. Τα αποτελέσματά της δεν δείχνουν πώς αποδίδουν τα καταναλωτικά chatbots, δείχνουν όμως πόσο σημαντικό είναι να ελέγχεται πώς τα συστήματα ερμηνεύουν τη δυσφορία σε διαφορετικές γλώσσες.
Η Samah Fodeh-Jarad, αναπληρώτρια καθηγήτρια στην Ιατρική Σχολή του Yale και συν-συγγραφέας της μελέτης, λέει ότι η πρόκληση πηγαίνει πέρα από την αναγνώριση ρητών δηλώσεων.
«Η αναγνώριση του κινδύνου αυτοκτονίας δεν είναι απλώς ζήτημα εντοπισμού συγκεκριμένων λέξεων· απαιτεί κατανόηση του πλαισίου και των αποχρώσεων με τις οποίες οι άνθρωποι εκφράζουν τα συναισθήματά τους».
«Περιπτώσεις όπου οι έφηβοι χρησιμοποιούν τοπικές διαλέκτους, ανακατεύουν τα αραβικά με τα αγγλικά ή εκφράζουν τον ψυχικό τους πόνο έμμεσα δεν έχουν δοκιμαστεί επαρκώς στα AI chatbots», λέει.
Για τη Fodeh-Jarad, οι εταιρείες θα πρέπει να αποδεικνύουν ότι ανεξάρτητοι, εξειδικευμένοι ερευνητές έχουν δοκιμάσει τα chatbots τους πριν από την κυκλοφορία τους. Οι δοκιμές θα πρέπει να καλύπτουν το πώς αντιδρούν τα συστήματα όταν νέοι εκφράζουν αυτοκτονικές σκέψεις έμμεσα, χρησιμοποιούν διαφορετικές αραβικές διαλέκτους ή περνούν από τα αραβικά στα αγγλικά και αντίστροφα.
Σημασία έχει και η διάρκεια της αλληλεπίδρασης.
«Στις δοκιμές μας, τα chatbots μπορούσαν να απαντήσουν σωστά όταν κάποιος ανέφερε ρητά την αυτοκτονία, και παρ’ όλα αυτά να χάσουν προειδοποιητικά σημάδια σε μια μεγαλύτερη συνομιλία», λέει η Vasan. «Θέλω να ξέρω τι συμβαίνει μέσα σε μέρες ή εβδομάδες, όταν ένας έφηβος είναι όλο και χειρότερα και αρχίζει να λέει “είσαι ο μόνος με τον οποίο μπορώ να μιλήσω”. Ή όταν λέει “δεν πρόκειται να πάρω σε αυτό το νούμερο”. Τι γίνεται μετά;»
Στη Μέση Ανατολή, η προστασία των παιδιών στις ψηφιακές πλατφόρμες διαφέρει από χώρα σε χώρα. Ο νόμος των ΗΑΕ για την ψηφιακή ασφάλεια των παιδιών, που τέθηκε σε ισχύ τον Ιανουάριο, υποχρεώνει τις πλατφόρμες που καλύπτει να εφαρμόζουν έλεγχο ηλικίας, γονικό έλεγχο και τρόπους αναφοράς επιβλαβούς περιεχομένου.
Η Σαουδική Αραβία έχει εκτελεστούς νόμους για την προστασία δεδομένων, ενώ οι κατευθυντήριες γραμμές της για το γενετικό AI είναι προαιρετικές. Ο Λίβανος έχει νόμους για την προστασία των παιδιών και της ιδιωτικότητας, αλλά όχι ολοκληρωμένους κανόνες για τη χρήση ψηφιακών πλατφορμών από ανηλίκους.
Λιγότερο σαφές μένει τι ακριβώς απαιτούν αυτά τα πλαίσια από ένα chatbot όταν ένας έφηβος εκφράζει αυτοκτονικές σκέψεις — και πώς οι πάροχοι οφείλουν να αποδείξουν ότι οι δικλίδες ασφαλείας λειτουργούν.
Η OpenAI έχει παραδεχτεί ότι οι δικλίδες ασφαλείας του ChatGPT μπορεί να γίνονται λιγότερο αξιόπιστες σε μακροσκελείς συνομιλίες, λέγοντας ότι «λειτουργούν πιο αξιόπιστα σε συνηθισμένες, σύντομες ανταλλαγές». Η εταιρεία αναφέρει ότι το ChatGPT διαθέτει γονικό έλεγχο, προστασίες ανάλογα με την ηλικία και παραπομπές σε υπηρεσίες υποστήριξης. Η OpenAI δεν απάντησε σε αίτημα του WIRED Middle East για σχόλιο.
Το ζήτημα δεν αφορά μόνο μία εταιρεία. Μελέτη του 2026 που εξέτασε τα ChatGPT, Grok, Gemini, Claude και Llama διαπίστωσε ότι οι απαντήσεις σε ερωτήσεις σχετικές με την αυτοκτονία διέφεραν από πλατφόρμα σε πλατφόρμα.
Ο Frank Straub, διευθυντής πρόληψης βλάβης στο Rural Behavioral Health Institute, λέει ότι τα chatbots μπορεί να ενισχύουν τα συναισθήματα των χρηστών αντί να τα αμφισβητούν, επιδεινώνοντας ενδεχομένως τη δυσφορία τους.
«Οι εταιρείες AI και οι κυβερνήσεις πρέπει να πάρουν αυτούς τους κινδύνους στα σοβαρά», λέει. «Αυτό σημαίνει μοντέλα λιγότερο συγκαταβατικά, χρονικά όρια για τα παιδιά και τακτικές υπενθυμίσεις στους χρήστες ότι τα chatbots δεν είναι άνθρωποι, δεν είναι ειδικοί και μπορούν να κάνουν λάθη».
Για τους εφήβους που χρησιμοποιούν αυτά τα προϊόντα στα αραβικά, το πρακτικό ερώτημα είναι πώς αποδίδουν οι δικλίδες ασφαλείας σε διαφορετικές διαλέκτους, σε μείξεις γλωσσών και σε έμμεσες εκφράσεις δυσφορίας. Οι ανεξάρτητες δοκιμές που προτείνει η Fodeh-Jarad θα έβαζαν αυτές τις αλληλεπιδράσεις υπό εξέταση. Τα ερωτήματα της Vasan πηγαίνουν τη δοκιμή πέρα από το πρώτο προειδοποιητικό σημάδι, σε αυτό που κάνει ένα chatbot όταν ένας νέος άνθρωπος συνεχίζει να μιλά.
Για την οικογένεια του Habib, η αγωγή αφορά κάτι περισσότερο από την υπόθεση του γιου τους. Έως τις 14 Οκτωβρίου 2026, το Tech Justice Law και οι συνεργάτες του δικηγόροι είχαν καταθέσει 16 αγωγές κατά της OpenAI με ισχυρισμούς για αυτοκτονίες και άλλες ψυχολογικές βλάβες.
Ο Bergman λέει ότι καμία μεμονωμένη αγωγή ή συμβιβασμός δεν αρκεί για να αλλάξει τον τρόπο που λειτουργούν οι εταιρείες AI, ελπίζει όμως ότι η συνεχής νομική πίεση θα τις αναγκάσει να πάρουν την ασφάλεια πιο σοβαρά. «Ο στόχος αυτής της οικογένειας είναι ο ίδιος με τόσων άλλων οικογενειών: να επιβληθεί μεγαλύτερη λογοδοσία σε αυτές τις πλατφόρμες», λέει ο Bergman.
Το άρθρο δημοσιεύθηκε πρώτη φορά στο WIRED Middle East και μεταφράστηκε από τα αγγλικά.
Με την εγγραφή σας, συμφωνείτε με τους Όρους Χρήσης μας (συμπεριλαμβανομένης της παραίτησης από ομαδικές αγωγές και των διατάξεων διαιτησίας) και αναγνωρίζετε την Πολιτική Απορρήτου μας.
