του Έκτορα-Ξαβιέ Δελαστίκ
Από την αρχή της δημόσιας πρόσβασης στο ChatGPT, ο καθημερινός διάλογος μεταξύ των ανθρώπων συμπεριλαμβάνει την ανησυχία για «θανατηφόρα συστήματα A.I.» τα οποία μπορεί να ξεκινήσουν για πολεμικούς σκοπούς και να μας αφανίσουν. Τι συμβαίνει και τι πρόκειται να συμβεί ρεαλιστικά, παρά ως σενάριο του Black Mirror;
Όπως έχουμε αναλύσει στο παρελθόν, τα λεγόμενα «συστήματα τεχνητής νοημοσύνης» ως επί το πλείστον χρησιμοποιούνται είτε για να χωρίσουν αντικείμενα σε κατηγορίες (π.χ. σε μια κάμερα αυτοκινήτου να χωρίσουν το οπτικό πεδίο σε «σήματα τροχαίας», «οχήματα», «πεζούς», «δρόμο»), είτε για να αποφασίσουν ποια χαρακτηριστικά ενός αντικειμένου είναι σημαντικά ή όχι ανάλογα με το σκοπό μας. Ένα παράδειγμα για τη δεύτερη περίπτωση μπορεί να είναι ένα πρόγραμμα που αναγνωρίζει ποιες αντιδράσεις του κοινού (π.χ. ώρες θέασης, παραμονή του δείκτη στο εικονίδιο, «αστεράκια» κ.α.) συνδέονται ισχυρά με την επιτυχία μιας σειράς στο Netflix. Με την εταιρία φυσικά μετά να χρησιμοποιεί αυτούς τους δείκτες για να ανεβάσει, κατεβάσει, ή και απαλείψει τελείως σειρές από την πλατφόρμα της.
Θα δούμε μέσω της άμεσης επικαιρότητας τι σημαίνει η εφαρμογή αυτών των λειτουργιών στο πεδίο μιας γενοκτονίας.
Γενοκτονία Τεχνητής Νοημοσύνης
Ένα μέρος του πολέμου είναι η χρήση του ως εργαστηρίου για τη δοκιμή πολεμικών τεχνολογιών. Ένα δεύτερο μέρος, είναι η χρήση των Μ.Μ.Ε. και της πολεμικής ενημέρωσης ως ευκαιρία για δωρεάν διαφημιστικό χρόνο των πολεμικών βιομηχανιών. Δεν είναι τυχαίο άλλωστε πως το βιβλίο Προπαγάνδα και Παραπληροφόρηση του Άρη Χατζηστεφάνου ξεκινά ακριβώς με αυτό το σύμπλεγμα σχέσεων, μέσω των οποίων πείθεται ο πληθυσμός μιας χώρας να ανεχτεί τη φτώχεια για χάρη των εξοπλισμών.
Τί συμβαίνει όμως όταν δε μιλάμε για έναν πόλεμο -άρα μια σύγκρουση μεταξύ στρατών- αλλά για μια γενοκτονία; Τί συμβαίνει όταν οι νέες τεχνολογίες δημιουργούνται εξ’ αρχής για να στραφούν εναντίον πολιτών, αόπλων, κατοικιών; Πώς δοκιμάζονται αυτές οι τεχνολογίες, και ποιο είναι το κοινό προς το οποίο θα διαφημιστούν; Κυρίως, ποια θα είναι η εξαγώγιμη μορφή τους, μόλις φύγουν από το πεδίο των μαχών;
Πρέπει να μιλήσουμε λοιπόν για τη γενοκτονία στη Γάζα, την πρώτη ίσως γενοκτονία υψηλής τεχνολογίας. Βασιζόμενοι στις αποκαλύψεις της συνεργασίας +972 Magazine και Local Call, θα περιγράψουμε εν συντομία τα τρία συστήματα που βρίσκονται σε χρήση και για τα οποία έχουν διαρρεύσει αρκετές πληροφορίες.
«Lavender»
Χαρακτηρίζει μεμονωμένα άτομα ως «πιθανούς στόχους», αποδίδοντάς τους πιθανότητες να είναι μέλη της Χαμάς και ποια είναι η πιθανή τους σημαντικότητα. Σχεδόν κάθε άτομο που διαμένει στη Γάζα θεωρείται εκ προοιμίου ως πιθανό μέλος της Χαμάς, αποκτά μια βαθμολογία από 1 έως το 100 για την πιθανότητα αυτή, και ο ρόλος του προγράμματος είναι να την υπολογίσει. Τα στοιχεία στα οποία βασίζεται είναι κυριολεκτικά ό,τι στοιχεία έχει στη διάθεσή του το Ισραήλ ως κατοχική δύναμη: το να βρίσκεται σε ομάδα στο What’s App με τουλάχιστον ένα αναγνωρισμένο μέλος της Χαμάς, το να έχει αλλάξει αρκετές φορές κινητό, το να έχει αλλάξει αρκετές φορές διεύθυνση, οι φιλίες του στα μέσα κοινωνικής δικτύωσης, οι επαφές στο κινητό, κυριολεκτικά οτιδήποτε.
Με αυτόν τον τρόπο, το πρόγραμμα δημιουργεί επί της ουσίας λίστες για πιθανή εκτέλεση. Μια απλή χαλάρωση των κριτηρίων είναι αρκετή για να αυξηθούν κατά δεκάδες χιλιάδες οι πιθανοί «στόχοι». Όπως ανέφερε μια από τις πηγές της έρευνας, αφιέρωνε μόνον 20 δευτερόλεπτα σε κάθε στόχο πριν αδειοδοτήσει το βομβαρδισμό του – μόνο για να επιβεβαιώσει πως ο στόχος που είχε αναγνωρίσει το Lavender ήταν άνδρας.
«Habsora»
Εάν το Lavender αφορά τη στοχοποίηση ανθρώπων, το Habsora (όρος που αναφέρεται στο χριστιανικό ευαγγέλιο) αφορά τη στοχοποίηση δωματίων και κτιρίων για βομβαρδισμό.
Η στοχοποίηση ενός κτιρίου για βομβαρδισμό ώστε να δολοφονηθεί ένας στόχος είναι μια βαθιά γραφειοκρατική διαδικασία. Περιλαμβάνει μελέτες για το ποιες ώρες είναι ο στόχος παρών, πόσο συχνά, τί άλλα άτομα μένουν στο κτίριο και αν είναι και αυτά στόχοι, πώς αυτό είναι χτισμένο κ.ο.κ. Το τελικό αποτέλεσμα είναι μια έκθεση που δίνει σενάρια βομβαρδισμού για τους διάφορους τύπους βομβών, τις πιθανότητες δολοφονίας του στόχου αναλόγως της ώρας και της ημέρας και την εκτίμηση των παράπλευρων απωλειών για κάθε σενάριο.
Το Lavender αυτοματοποιεί αυτή τη διαδικασία, η οποία παρήγαγε 50 στόχους το χρόνο, παράγοντας 100 στόχους την ημέρα. Ταυτόχρονα, μια απλή γραφειοκρατική αλλαγή στο «ποιες είναι οι αποδεκτές παράπλευρες απώλειες» αρκεί για να χρησιμοποιηθεί η παρουσία πιθανών στόχων ως η αφορμή για εκατόμβες θυμάτων.
«Where’s Daddy?»
Δεδομένου του τρόπου με τον οποίο είναι δομημένα τα συστήματα παρακολούθησης στη Γάζα, προκύπτει ένα ερώτημα: ποιος είναι ο πιο φθηνός και σίγουρος τρόπος να εξοντωθεί ένας στόχος; Η απάντηση του ισραηλινού στρατού ήταν μια βεντάλια συστημάτων παρακολούθησης σε πραγματικό χρόνο. Το «Where’s Daddy?» συγκεκριμένα παρακολουθεί εκατοντάδες ή χιλιάδες στόχους ταυτόχρονα και δίνει ειδοποίηση για βομβαρδισμό συγκεκριμένα όταν ο στόχος έμπαινε στο σπίτι του – με αποτέλεσμα το ξεκλήρισμα ολόκληρων οικογενειών.
Το σκεπτικό πίσω από ένα τέτοιο σύστημα είναι απλό: το σπίτι ενός ανθρώπου συνήθως είναι ένα απλό χαμόσπιτο ή πολυκατοικία, οπότε εύκολα μπορούν να χρησιμοποιηθούν απλές βόμβες χαμηλού κόστους. Ο ίδιος ο στόχος άλλωστε συνήθως θα βρίσκεται εκεί για να κοιμηθεί ή για να δει την οικογένειά του, οπότε για αρκετά λεπτά ώστε να ειδοποιηθεί το κοντινότερο διαθέσιμο αεροσκάφος και να φέρει σε πέρας το βομβαρδισμό.
Συστήματα παρακολούθησης, η εξαγωγική βιομηχανία του Ισραήλ
Μια σειρά πολύ χρήσιμων στοιχείων και συμπερασμάτων προέρχεται από το Δρ. Σιρ Χέβερ, ερευνητή και συντονιστή της εκστρατείας για Μποϊκοτάζ, Απόσυρση Επενδύσεων, Κυρώσεις (BDS). Κατ’ αρχάς, υπάρχει ένας πολύ ιδιαίτερος εναγκαλισμός της ιδιωτικής πολεμικής βιομηχανίας του Ισραήλ με τον κρατικό μηχανισμό, τόσο σε επίπεδο στελεχών, όσο και σε επίπεδο πολιτικής. Αυτός φτάνει στο σημείο να ορίζεται η πολιτική διακρατικών συμμαχιών του Ισραήλ με γνώμονα και εργαλείο τα συστήματα που οι ιδιωτικές του εταιρίες θέλουν να εξάγουν.
Αυτή η διαλεκτική σχέση, με ιδιωτικές εταιρίες να απαιτούν διακρατικές συμμαχίες με ολοκληρωτικής νοοτροπίας κυβερνήσεις και με το ισραηλινό Υπουργείο Εξωτερικών να θεμελιώνει προαποφασισμένες διακρατικές συμμαχίες με την εξαγωγή συστημάτων όπλων ή παρακολούθησης έχει και μια δεύτερη όψη. Τις σχέσεις εξάρτησης που δημιουργούνται από αστικές τάξεις που «εθίζονται» στις πληροφορίες που μπορούν να τους παρέχουν τα ισραηλινά συστήματα παρακολούθησης.
Ειδικά με δεδομένο το σκάνδαλο των υποκλοπών του Predator, έχει τεράστια σημασία το γεγονός ότι από η πρώτη υποκλοπή που επιβεβαιώθηκε αφορούσε τον Κουκάκη, οικονομικό συντάκτη ο οποίος ερευνούσε τραπεζικά ζητήματα. Από εκεί και πέρα τοποθετούνται οι παρακολουθήσεις επιχειρηματιών, έμπιστων προσώπων ολιγαρχών και πολιτικών και στρατιωτικών στελεχών. Η εικόνα που δημιουργείται είναι μιας αστικής τάξης μέρος της οποίας ζήτησε και απαίτησε ένα πρόγραμμα παρακολουθήσεων με σκοπό το άμεσο οικονομικό και πολιτικό όφελος.
Και η οποία φυσικά θεώρησε αρκετά καλή «τιμή» το γεγονός ότι οι ισραηλινές υπηρεσίες θα έχουν πρόσβαση σε όλα τα αποτελέσματα, άρα και την πολιτική ισχύ που αυτά επάγουν.
Πώς μπορεί να δούμε τα συστήματα που περιγράψαμε στις ζωές μας;
Τα συστήματα που περιγράψαμε περιληπτικά (Lavender, Habsora, Where’s Daddy?) είναι δημιουργημένα για συνθήκες πολέμου. Όμως η ερευνητική σκέψη πάντα διαχωρίζει τον πυρήνα ενός συστήματος (ο οποίος μπορεί να βρει πολλαπλές εφαρμογές) από το περίβλημα (το οποίο είναι η συγκεκριμένη εφαρμογή, π.χ. η αναγνώριση πιθανών στόχων).
Αναφορικά με το Lavender, τα πράγματα είναι πολύ σαφή: πρόκειται για ένα σύστημα που υπολογίζει πόσο πολύ ταιριάζει κάθε άτομο μιας χώρας σε κάποιο «προφίλ». Χώρες με ενεργή ρατσιστική πολιτική (π.χ. οι Η.Π.Α., ή η Ινδία του Μόντι) έχουν άμεση χρήση για τέτοια συστήματα, ώστε να αναγνωρίσουν άτομα που ανήκουν σε ανεπιθύμητες ομάδες ή σε κινήματα στήριξής τους.
Ακόμα ευρύτερη εφαρμογή θα έχουν παράγωγα αυτού του συστήματος στα χέρια επιχειρήσεων, πολιτικών προσώπων και του οργανωμένου εγκλήματος της αστικής τάξης. Η αναγνώριση και παρακολούθηση δημοσιογράφων, μαρτύρων δημοσίου συμφέροντος, δικηγόρων, μαρτύρων και υποστηρικτικού προσωπικού που εμπλέκεται σε σημαντικές υποθέσεις είναι το «ιερό δισκοπότηρο» αυτών των μηχανισμών. Ας μην ξεχνούμε άλλωστε πως δημοσιογράφοι και δικηγόροι σε τέτοιες υποθέσεις ήταν οι πρώτοι στόχοι των προγραμμάτων παρακολούθησης Pegasus και Predator, δείχνοντας πως υπάρχει ζήτηση.
Παράγωγα του συστήματος Habsora μπορούν να επιτελέσουν περίπου τον ίδιο ρόλο, αναγνωρίζοντας σημεία συνάντησης ή τόπους εργασίας ανθρώπων που εργάζονται πάνω σε υποθέσεις δημοσίου συμφέροντος. Ακόμα περισσότερο, πρέπει να αναλογιστούμε μια πραγματικότητα στην οποία αναθεωρείται το δικαίωμα στην πολιτική διαμαρτυρία (απειλούμενη απέλαση Παλαιστίνιου φοιτητή στο Columbia), ακόμα και το δικαίωμα στην έκτρωση.
Στα χέρια ακροδεξιών κυβερνήσεων ή/και πολιτικών οργανώσεων με ισχυρά κεφάλαια πίσω τους, η αναγνώριση χώρων που συνδέονται με πολιτικές οργανώσεις, «κινήματα από τα κάτω» κ.α., μπορεί να είναι ένα άκρως επικίνδυνο εργαλείο. Ακόμα και οι πολίτες που σε μια τέτοια περίπτωση θα ήταν ιδεολογικά με την πλευρά της κυβέρνησης, πρέπει να αναλογιστούν πως θεωρούνται και αυτοί εκ προοιμίου ύποπτοι και απέχουν μερικές «λάθος» κοινωνικές γνωριμίες από το να αναβαθμιστούν σε στόχους μέτριας προτεραιότητας.
Τέλος, το σύστημα «Where’s Daddy?» παρέχει ίσως τα πιο χρήσιμα και επικίνδυνα για τις πολιτικές ελευθερίες παράγωγα. Πρόκειται εξ’ αρχής για σύστημα παρακολούθησης κινήσεων σε ευρεία κλίμακα. Ποιος επιχειρηματίας δε θα ήθελε να γνωρίζει εάν υπάρχουν «περίεργες» μετακινήσεις στενών συνεργατών ανταγωνιστών του; Ποια κυβέρνηση δε θα ήθελε να γνωρίζει πότε υπάρχουν συναντήσεις άνω των δέκα ατόμων κάθε πολιτικής οργάνωσης; Ποιο στέλεχος του οργανωμένου εγκλήματος με άκρες στην Αστυνομία δε θα ήθελε να γνωρίζει κινήσεις των ανταγωνιστών του;
Η δύναμη αυτού του συστήματος άλλωστε βρίσκεται στο ότι διενεργεί χιλιάδες παρακολουθήσεις κινήσεων ταυτόχρονα, οπότε «όλοι οι καλοί χωράνε».
Κατακλείδα
Τα συστήματα που περιγράψαμε έχουν δύο κοινά χαρακτηριστικά. Πρώτον, ότι η ανάπτυξη και το (πιθανό) εμπόριό τους αποτελούν μέρος κρατικής έρευνας και ανάπτυξης και κρατικής εξωτερικής πολιτικής. Συγκεκριμένα, του κράτους του Ισραήλ, το οποίο έχει αποδείξει πως κάνει επιθετικές εξαγωγές συστημάτων που επιτρέπουν σε κυβερνήσεις να αντιμετωπίζουν άοπλους πολίτες.
Δεύτερον, πως τα δεδομένα τα οποία προαπαιτούν αυτά τα συστήματα δεν είναι κάτι στο οποίο έχει πρόσβαση ένας πολίτης ή μια επιχείρηση. Δημοτολόγια, ιατρικά δεδομένα, δεδομένα κινητής τηλεφωνίας, οικογενειακές καταστάσεις και πολλά άλλα, είναι δεδομένα τα οποία βρίσκει κανείς μόνο σε βάσεις δεδομένων κρατικών υπηρεσιών. Αυτό ακριβώς προκαθορίζει και τους τελικούς αγοραστές, καθώς μόνο κυβερνήσεις έχουν τα δεδομένα και τους πόρους να εγκαταστήσουν, εκπαιδεύσουν και χρησιμοποιήσουν αυτά τα συστήματα και κάθε παράγωγό τους.
Δεδομένων αυτών, «ποιος φυλάει τους φύλακες;».
