Η Sabrina Javellana ήταν ένα ανερχόμενο αστέρι στην τοπική πολιτική – μέχρι που τα deepfakes «εκτροχίασαν» τη ζωή της.
Τα περισσότερα πρωινά, πριν μπει στο δημαρχείο του Hallandale Beach της Φλόριντα, μιας μικρής πόλης βόρεια του Μαϊάμι, η Sabrina Javellana καθόταν στο πάρκινγκ και παρακολουθούσε τους λογαριασμούς της στο Twitter και το Instagram. Αφού κέρδισε μια θέση στην επιτροπή της πόλης Hallandale Beach το 2018, σε ηλικία 21 ετών, έγινε μια από τις νεότερες εκλεγμένες αξιωματούχους στην ιστορία της Φλόριντα, σημειώνουν οι New York Times. Οι προοδευτικές πολιτικές θέσεις της είχαν μερικές φορές αποφέρει εχθρούς της: Αφού πρότεινε στα τέλη του 2019 την αλλαγή του ονόματος ενός κρατικού οδικού άξονα με την ονομασία Dixie Highway, δεχόταν τακτικά υβριστικές και βίαιες απειλές στα μέσα κοινωνικής δικτύωσης- η καταδίκη της αστυνομικής βίας και οι εκκλήσεις της για μεταρρύθμιση της ποινικής δικαιοσύνης προκάλεσαν επιθετική ρητορική από μέλη των τοπικών αρχών επιβολής του νόμου. Τα ενοχλητικά μηνύματα δεν ήταν κάτι καινούργιο για εκείνη.
Το πρωί της 5ης Φεβρουαρίου 2021, όμως, παρατήρησε κάτι ασυνήθιστο. «Γεια σας, απλά ήθελα να σας ενημερώσω ότι κάποιος μοιράζεται φωτογραφίες σας στο διαδίκτυο και σας συζητά με αρκετά χυδαίο τρόπο», άρχιζε. «Ισχυρίζεται ότι είναι ένας από τους «άντρες φίλους« σου».
Η Javellana πάγωσε. Ποιος μπορεί να έστειλε αυτό το μήνυμα; Ζήτησε αποδείξεις και ο αποστολέας απάντησε με pixelated screenshots από ένα νήμα φόρουμ που περιείχε φωτογραφίες της. Υπήρχαν σχόλια που αναφέρονταν στην πολιτική της καριέρα. Είχε η δουλειά της τραβήξει την οργή αυτών των ανθρώπων; Τελικά, με τη βοήθεια ενός φίλου της, βρήκε ένα σύνολο αρχειοθετημένων σελίδων από τον διαβόητο ιστότοπο φόρουμ 4chan. Οι περισσότερες από τις εικόνες είχαν αντληθεί από τα μέσα κοινωνικής δικτύωσης της και είχαν σχολιαστεί με αισχρά, μισογυνικά σχόλια: «δεν είναι αρκετά λεπτή», «θα την έκανα γυναίκα», «κανένας λογικός άνθρωπος δεν θα έβγαινε με ένα τόσο ηλίθιο πλάσμα». Αλλά μια εικόνα πιο κάτω στο νήμα τη σταμάτησε. Στεκόταν μπροστά σε έναν ολόσωμο καθρέφτη με το κεφάλι της γερμένο στο πλάι, χαμογελώντας παιχνιδιάρικα. Είχε δημοσιεύσει μια σχεδόν πανομοιότυπη selfie, στην οποία φορούσε ένα καφέ μπλουζάκι με λαιμόκοψη και ασορτί φούστα, στον λογαριασμό της στο Instagram το 2015. «Ήταν ακριβώς η ίδια φωτογραφία», δήλωσε η Javellana για την παραποιημένη εικόνα. «Αλλά δεν φορούσα ρούχα».
Τα deepfakes
Υπήρχαν αρκετές ακόμα. Αυτές ήταν deepfakes: εικόνες που δημιουργούνται από τεχνητή νοημοσύνη και χειραγωγούν την εικόνα ενός ατόμου, συγχωνεύοντάς την με άλλες για να δημιουργήσουν μια ψεύτικη εικόνα ή ένα βίντεο, μερικές φορές πορνογραφικό, με τρόπο που να φαίνεται αυθεντικό. Αν και το ψεύτικο υλικό με εικόνες με ανάλογο περιεχόμενο υπάρχει εδώ και δεκαετίες χάρη στο λογισμικό επεξεργασίας εικόνας, τα deepfakes ξεχωρίζουν για την εντυπωσιακή τους αληθοφάνεια. Ακόμη και η Javellana συγκλονίστηκε από τη φαινομενική αυθεντικότητά τους.
Φοβόταν όλο και περισσότερο
«Δεν ήξερα ότι αυτό ήταν κάτι που συνέβαινε σε καθημερινούς ανθρώπους», δήλωσε η Javellana. Αναρωτήθηκε αν κάποιος άλλος είχε δει τις φωτογραφίες ή τα υβριστικά σχόλια στο διαδίκτυο. Αρκετά από τα θέματα υπονοούσαν ακόμη και ότι οι άνθρωποι στο φόρουμ την γνώριζαν. «Ζω στην κομητεία Broward», έγραφε ένα σχόλιο. «Μόλις αποφοίτησε από το FIU». Άλλοι χρήστες απείλησαν με σεξουαλική βία. Τις ημέρες που ακολούθησαν, η Javellana γινόταν όλο και πιο φοβισμένη. Σταμάτησε να περπατάει μόνη της τη νύχτα και άρχισε να ελέγχει τριπλά ότι οι πόρτες και τα παράθυρά της ήταν κλειδωμένα πριν κοιμηθεί. Σε μια προσπάθεια να προστατεύσει την προσωπική της ζωή, έκανε το Instagram της ιδιωτικό και αφαίρεσε φωτογραφίες της με μαγιό.
Η ανακάλυψη των εικόνων άλλαξε τον τρόπο με τον οποίο η Javellana λειτουργούσε επαγγελματικά. Η συμμετοχή σε εκδηλώσεις Τύπου ήταν μέρος της δουλειάς της, αλλά τώρα ένιωθε άγχος κάθε φορά που κάποιος σήκωνε την κάμερά του. Ανησυχούσε ότι οι δημόσιες εικόνες της θα μετατρέπονταν σε πορνογραφία, γι’ αυτό κάλυπτε όσο περισσότερο μπορούσε το σώμα της, προτιμώντας τις ψηλοκομμένες μπλούζες και τα σακάκια. Ήξερε ότι δεν ενεργούσε ορθολογικά – οι άνθρωποι θα μπορούσαν να δημιουργήσουν νέα deepfakes ανεξάρτητα από το πόσο δέρμα έδειχνε στον πραγματικό κόσμο – αλλά η αλλαγή του στυλ της την έκανε να νιώθει μια αίσθηση ελέγχου. Αν τα deepfakes γίνονταν viral, κανείς δεν θα μπορούσε να δει πώς ντυνόταν. Παρόλο που εκμυστηρεύτηκε σε μερικούς φίλους της τις ημέρες και τις εβδομάδες μετά την ανακάλυψη των εικόνων, κράτησε την εμπειρία της κυρίως για τον εαυτό της. Ζούσε με τη μητέρα της και τον αδελφό της, αλλά δεν μπορούσε να πείσει τον εαυτό της να τους το πει. Ήταν μια φιλιππινέζικη καθολική οικογένεια που σπάνια μιλούσε για το σεξ. Θα μπορούσε να τους αποκαλύψει τις εικόνες; Θα πίστευαν -ή οποιοσδήποτε άλλος- ότι δεν ήταν πραγματικές; Εξάλλου, η Javellana, που θεωρούσε τον εαυτό της προστάτη και τροφοδότη της οικογένειάς της, δεν ήθελε να τους επιβαρύνει.
«Ένιωθα ότι δεν είχα επιλογή για το τι μου συνέβαινε ή τι συνέβαινε στο σώμα μου», είπε η Javellana. «Δεν είχα κανέναν έλεγχο πάνω στο ένα πράγμα στο οποίο βρίσκομαι κάθε μέρα».
«Χτένιζε» το διαδίκτυο για να ανακαλύψει πληροφορίες
Τα βράδια καθόταν μόνη της στην κρεβατοκάμαρά της, χτενίζοντας το διαδίκτυο για πληροφορίες σχετικά με την «κατάχρηση προσωπικών εικόνων» ή τη μη συναινετική ανταλλαγή σεξουαλικών εικόνων, η πιο γνωστή μορφή της οποίας είναι το «πορνό εκδίκησης» (revenge porn). Στις δεκαετίες του 1990 και του 1980, καθώς η πρόσβαση σε κινητά με φωτογραφικές μηχανές και το διαδίκτυο έγινε ευρέως διαδεδομένη, έγινε εύκολο για ένα άτομο να μοιραστεί προσωπικές φωτογραφίες ενός άλλου ατόμου χωρίς τη συγκατάθεσή του σε ιστότοπους.
Η «συμβολή» των deepfakes
Ακολούθησαν τα αποκαλυπτικά βίντεο, με τους ανθρώπους να ανεβάζουν εκατοντάδες χιλιάδες ώρες μη συναινετικού περιεχομένου στο διαδίκτυο. Τα deepfakes πρόσθεσαν ένα νέο στοιχείο: ένα άτομο θα μπορούσε να βρεθεί να εμφανίζεται σε σεξουαλικό περιεχόμενο χωρίς ποτέ να έχει εμπλακεί σε σεξουαλική δραστηριότητα.
Η τεχνολογία κέρδισε για πρώτη φορά την εθνική προσοχή όταν χρησιμοποιήθηκε για τη δημιουργία παραπλανητικού και ψευδούς πολιτικού περιεχομένου, όπως ένα παραποιημένο βίντεο που μοιράστηκε ο Ντόναλντ Τραμπ στο Twitter το 2019, το οποίο περιείχε πλάνα της Νάνσι Πελόζι που προφανώς έβγαζε λανθασμένα τα λόγια της. Τα τελευταία χρόνια, ωστόσο, το μεγαλύτερο μέρος του deepfake υλικού στο διαδίκτυο έχει γίνει πορνογραφικό. Αν και οι πληροφορίες ήταν λιγοστές, ο Javellana βρήκε άρθρα που προειδοποιούσαν για την αυξανόμενη απειλή των deepfakes. Η τεχνητή νοημοσύνη εξελισσόταν τόσο γρήγορα ώστε οποιοσδήποτε με υπολογιστή ή smartphone μπορούσε να έχει πρόσβαση σε μια σειρά από εφαρμογές για να δημιουργεί εύκολα εικόνες χρησιμοποιώντας τα ομοιώματα ατόμων. Μια μελέτη που επικαλείται το Υπουργείο Εσωτερικής Ασφάλειας σημείωσε ότι, σε ένα σημείο, πάνω από το 90% των deepfake βίντεο περιείχαν μη συναινετικές, σεξουαλικά αποκαλυπτικές εικόνες, στη συντριπτική τους πλειοψηφία γυναίκες. Το 2021, ωστόσο, η συντριπτική πλειονότητα των κρατών δεν είχε νόμους που να απαγορεύουν τη διανομή deepfake πορνογραφίας. Ως αποτέλεσμα, υπήρχαν πολύ λίγες οδηγίες σχετικά με το τι πρέπει να κάνετε αν διαπιστώσετε ότι κάποιος είχε δημιουργήσει πορνογραφικό περιεχόμενο με το ομοίωμά σας.
Την ημέρα που ανακάλυψε τις εικόνες, η Javellana επικοινώνησε με ένα μέλος του τοπικού αστυνομικού τμήματος, το οποίο την παρέπεμψε στο τμήμα ηλεκτρονικού εγκλήματος του Τμήματος Επιβολής του Νόμου της Φλόριντα. Στο τηλέφωνο με τον νομικό σύμβουλο του τμήματος, η Javellana εξέθεσε την κατάσταση και έστειλε με ηλεκτρονικό ταχυδρομείο έναν σύνδεσμο με τις εικόνες του 4chan. Ενώ περίμενε να λάβει απάντηση, η αναζήτησή της για βοήθεια την οδήγησε στην Carrie Goldberg, μια δικηγόρο που είχε συγκεντρώσει την προσοχή των μέσων ενημέρωσης ως συνήγορος για τα δικαιώματα των θυμάτων και τη σεξουαλική ιδιωτική ζωή μετά την επιτυχή εκδίκαση αρκετών πολύκροτων υποθέσεων πορνογραφικού περιεχομένου εκδίκησης. Η εταιρεία της Γκόλντμπεργκ έλαβε την πρώτη υπόθεση deepfake το 2019, όταν μια A-list celebrity ζήτησε βοήθεια με πορνό που χρησιμοποιούσε το ομοίωμά της. Ενώ οι διασημότητες εξακολουθούν να αποτελούν στόχο – υπάρχουν βίντεο deepfake πορνό με χιλιάδες γυναίκες διασημότητες – οι εξελίξεις στην τεχνολογία έχουν επιτρέψει στους κακοποιούς να στοχεύουν άτομα εκτός του δημόσιου βίου. Μια ευρέως προσβάσιμη εφαρμογή τεχνητής νοημοσύνης επεξεργάστηκε περισσότερες από 600.000 φωτογραφίες απλών πολιτών τις πρώτες 15 ημέρες μετά την κυκλοφορία της το 2023.
Αδυναμία της αστυνομίας να την βοηθήσει
Καθώς η Javellana κατάλαβε ότι η αστυνομία δεν θα μπορούσε να τη βοηθήσει να αφαιρέσει τις εικόνες, άρχισε να πανικοβάλλεται. Είχε δουλέψει σκληρά για να δημιουργήσει μια καριέρα στην πολιτική για τον εαυτό της και να κερδίσει τον σεβασμό των μεγαλύτερων συναδέλφων της. Τώρα ένιωσε ένα κύμα τρόμου καθώς φανταζόταν ότι οι άνθρωποι στο Δημαρχείο εξέταζαν προσεκτικά τις εικόνες. Και τι θα γινόταν με την οικογένειά της, τους φίλους της, τους γείτονές της;
Τώρα φανταζόταν τον εαυτό της να εξηγεί σε μελλοντικούς εργοδότες -ή σε μέλη του σχολικού συμβουλίου- ότι κάποιος είχε δημιουργήσει ψεύτικες εικόνες με σεξουαλικό περιεχόμενο χωρίς τη συγκατάθεσή της και ότι οι εικόνες ήταν ανοιχτά προσβάσιμες στο διαδίκτυο. Πέρασε σχεδόν ένας χρόνος, και καθώς οι προσπάθειες της Javellana να προστατεύσει τον εαυτό της ναυάγησαν, ο θυμός της αποσαθρώθηκε σε μούδιασμα. Αν δεν μπορούσε να κάνει τίποτα για να βγάλει τις εικόνες από το διαδίκτυο, ήθελε τουλάχιστον να τις σβήσει από τη μνήμη της. Απομακρύνθηκε από τους φίλους της, οι οποίοι φοβόταν ότι δεν θα καταλάβαιναν την κατάστασή της. Κανείς στη δουλειά της δεν γνώριζε για τα deepfakes – φοβόταν να γίνει γνωστή στους συναδέλφους της ως «το κορίτσι με τις γυμνές φωτογραφίες».
Τι άλλαξε το 2022
Ένα πρωί του Ιανουαρίου του 2022, η Javellana διάβαζε τις ειδήσεις στο τηλέφωνό της όταν βρήκε ένα άρθρο σχετικά με ένα νομοσχέδιο που εισήγαγε η Δημοκρατική γερουσιαστής της πολιτείας της Φλόριντα Lauren Book και το οποίο θα ποινικοποιούσε τα μη συναινετικά deepfakes στην πολιτεία. Η γερουσιαστής Book είχε τη δική της εμπειρία με αυτή την τεχνολογία. Τον Νοέμβριο του 2021, καθόταν στο τραπέζι της κουζίνας της, αφού είχε αφήσει τα παιδιά της στο σχολείο, όταν έφτασε ένα γραπτό μήνυμα από έναν άγνωστο αριθμό: «Έχω μια πρόταση για εσάς». Ακολούθησαν δύο γυμνές φωτογραφίες της γερουσιαστή Book- ο δράστης απείλησε ότι θα τις δημοσιοποιούσε.
Η έρευνα που ακολούθησε αποκάλυψε πολυάριθμες deepfake εικόνες της γερουσιαστή Book στο διαδίκτυο. Εβδομάδες αργότερα, άρχισε να συντάσσει νομοθεσία που θα γινόταν γνωστή ως νομοσχέδιο 1798 της Γερουσίας – μία από τις πρώτες προσπάθειες στη χώρα να αντιμετωπιστούν τα πορνογραφικά deepfakes στο διαδίκτυο.
Η Javellana πήρε ένα screenshot του άρθρου, τόνισε τη διατύπωση σχετικά με τα deepfakes και το δημοσίευσε στο Twitter, μαζί με μια περίληψη της δικής της εμπειρίας. «Τραυματίστηκα πέρυσι όταν έμαθα ότι δημιουργούνταν «deepfake» εικόνες μου», έγραψε. Ήταν η πρώτη φορά που αναγνώρισε δημοσίως τη δοκιμασία της. «Το έφερα στο F.D.L.E., αλλά δεν ήταν σε θέση να ερευνήσουν την πηγή, καθώς ο νόμος της Φλόριντα δεν ασχολείται με αυτό το θέμα. Σας ευχαριστώ @LeaderBookFL για τη δουλειά σας σε αυτό το θέμα και λυπάμαι πολύ που σας συνέβη αυτό».
Το νομοσχέδιο πέρασε στην επιτροπή με ψήφους 8-0. Τις επόμενες ημέρες, η Javellana μίλησε στα μέσα ενημέρωσης και κατονόμασε συγκεκριμένα τους χρήστες του 4chan ως αρχιτέκτονες πίσω από τη δοκιμασία της. Αυτό ξεσήκωσε μια νέα καταιγίδα εικόνων με την Javellana και τη γερουσιαστή Book. Λίγο αργότερα, κάποιος στο διαδίκτυο μοιράστηκε τον προσωπικό αριθμό τηλεφώνου και τη διεύθυνση της Javellana. Τα σχόλια που απευθύνονταν σε αυτήν περιέγραφαν σεξουαλική επίθεση και ένας χρήστης απειλούσε να πάει με το αυτοκίνητο στο σπίτι της. Στη συνέχεια ήρθε το αποκορύφωμα: οι παρενοχλητές αποκάλυψαν το όνομα και τον αριθμό τηλεφώνου της μητέρας της και της έστειλαν με μήνυμα τις σεξουαλικές εικόνες. Η Javellana τρομοκρατήθηκε. Οι χειρότεροι φόβοι της γίνονταν πραγματικότητα. Όσο περισσότερο μιλούσε για την εμπειρία της, τόσο περισσότερη παρενόχληση υπέστη.
Αφού το νομοσχέδιο πέρασε ομόφωνα από τη Βουλή και τη Γερουσία της Φλόριντα, ο κυβερνήτης Ron DeSantis υπέγραψε το S.B. 1798 σε νόμο στις 24 Ιουνίου 2022. Εκείνη την περίοδο, τέσσερις άλλες πολιτείες – η Βιρτζίνια, η Χαβάη, η Καλιφόρνια και το Τέξας – είχαν θεσπίσει νόμους κατά της διάδοσης των deepfakes. Οι κάτοικοι της Φλόριντα θα προστατεύονταν από την κατάχρηση deepfake – φαινομενικά, τουλάχιστον. Τώρα που η κυκλοφορία τέτοιων εικόνων ποινικοποιήθηκε ρητά, το F.D.L.E. και οι τοπικές αρχές επιβολής του νόμου θα μπορούσαν να ερευνήσουν τις καταγγελίες των θυμάτων. Όσοι κυκλοφορούν deepfakes θα μπορούσαν να κατηγορηθούν, να τους επιβληθούν πρόστιμα και ενδεχομένως να φυλακιστούν. Τα θύματα θα μπορούσαν τώρα να ασκήσουν και αστικές αγωγές. Νομοθετικές λύσεις όπως αυτή είναι ένα σημαντικό βήμα προς την κατεύθυνση της αποτροπής εφιαλτών όπως αυτός της Javellana- προσφέρουν στα θύματα πιθανή οικονομική αποζημίωση και μια αίσθηση δικαιοσύνης, ενώ παράλληλα σηματοδοτούν ότι θα υπάρξουν συνέπειες για τη δημιουργία μη συναινετικών σεξουαλικών εικόνων.
Αλλά για τον Javellana, το νομοσχέδιο της Φλόριντα δεν ήταν πανάκεια. Ένα βράδυ τον περασμένο Φεβρουάριο, αναρωτήθηκε αν οι άνθρωποι εξακολουθούσαν να δημοσιεύουν και να σχολιάζουν εικόνες της. Προς απογοήτευσή της, ανακάλυψε εντελώς νέα θέματα και εικόνες που δημοσιεύτηκαν τον Οκτώβριο του 2023, ένα χρόνο μετά την έναρξη ισχύος του νόμου και σχεδόν τρία χρόνια αφότου ανακάλυψε τα πρώτα deepfakes. Ήλπιζε ότι οι επιτιθέμενοι θα έχαναν το ενδιαφέρον τους μόλις αποχωρούσε από την επιτροπή της πόλης, αλλά οι εικόνες εξαπλώνονταν σε νέους ιστότοπους, όπως το Discord, η δημοφιλής πλατφόρμα κοινωνικών μηνυμάτων.
Οι ειδικοί προειδοποιούν ότι ο περιορισμός των deepfakes θα απαιτήσει από τις εταιρείες τεχνολογίας να ελέγχουν τις πλατφόρμες τους για καταχρηστικό περιεχόμενο και να αφαιρούν εφαρμογές που θα μπορούσαν να διευκολύνουν την παρενόχληση.
Πηγή: NYT
