του Έκτορα-Ξαβιέ Δελαστίκ
«Οι άνθρωποι είμαστε πλέον μειοψηφία στο internet». Εκκινούμε από μια από τις πλέον αστείες θεωρίες συνωμοσίας. Διαχωρίζουμε τις εντυπώσεις από τα γεγονότα, την ακροδεξιά ρητορεία και τον ωμό εντυπωσιασμό. Καταλήγουμε σε μια καλύτερη κατανόηση της οικονομίας του διαδικτύου, των ηλεκτρονικών απατών και των δικτύων προπαγάνδας.
Η θεωρία του «νεκρού ίντερνετ»
Πρόκειται για μια θεωρία συνωμοσίας, η οποία ξεκινά από τη διαπίστωση πως πολλές αναρτήσεις και άλλο περιεχόμενο στο διαδίκτυο φαίνονται σα να είναι αντιγραμμένο κείμενο ή/και αποτέλεσμα αυτοματοποιημένων λογαριασμών και τεχνητών εφαρμογών (bots). Πολύ περισσότερο, σε «μεγάλα σταυροδρόμια» του διαδικτύου, όπως λογαριασμοί influencers, σχόλια κάτω από άρθρα της επικαιρότητας και ενημερωτικές ιστοσελίδες ποικίλου περιεχομένου, δημιουργείται κάποιες φορές η εντύπωση πως το διαδίκτυο αποτελείται από bots που μιλάνε με bots και μερικούς ανθρώπους να παρακολουθούν.
Φυσικά, ως θεωρία συνωμοσίας που σέβεται τον εαυτό της, από την αρχή προσπαθεί να ερμηνεύσει αυτό το συναίσθημα ως ένα χθόνιο σχέδιο της αμερικανικής κυβέρνησης για τον έλεγχο του πληθυσμού. Τί συμβαίνει όμως όταν αντί να δημιουργούμε σκιάχτρα, εξετάσουμε την ουσία των γεγονότων;
Πόσα bots υπάρχουν;
Ξεκινήσαμε ήδη από ένα σχεδόν αδύνατο ερώτημα, για δύο πολύ σημαντικούς λόγους. Πρώτον, ο ίδιος ο ορισμός του bot είναι πολύ δύσκολος. Στα Μέσα Κοινωνικής Δικτύωσης (ΜΚΔ), μπορούμε να πούμε πως bot είναι ένας λογαριασμός που μοιάζει ανθρώπινος εκ πρώτης όψεως (συχνά τον έχει αρχικά επιμεληθεί πραγματικός άνθρωπος), αλλά πίσω από τις αναρτήσεις δεν υπάρχει άνθρωπος. Τί όμως μπορούμε να πούμε για ένα λογαριασμό που έχει μεν από πίσω του άνθρωπο, αλλά ανεβάζει περιεχόμενο με αυτόματο τρόπο ή/και σε πολλές πλατφόρμες ταυτόχρονα; Ας ονομάσουμε έναν τέτοιο λογαριασμό cyborg.
Όπως βλέπετε, ήδη από την τρίτη παράγραφο βρισκόμαστε σε «γκρίζα ζώνη»: πόση αυτοματοποίηση αρκεί για να «νιώσουμε» πως ένας λογαριασμός δεν είναι αυθεντικός; Μια σύντομη μελέτη της Έριν Γκάλαχερ για τα δίκτυα προπαγάνδας στη Βενεζουέλα του 2017 αποκαλύπτει μια μεγάλη αυτοματοποίηση της προπαγάνδας ενάντια στο Μαδούρο. Την ίδια χρονιά, μια ανάλογη μελέτη για το διάλογο στο Twitter περί της κατάργησης της «ουδετερότητας του internet» δείχνει πως κι εκεί υπάρχει ένα ελάχιστο ποσοστό αυτοματοποίησης στους υπέρμαχους της ουδετερότητας (με άλλα λόγια, της πλευράς των χρηστών). Μια ανάλυση από τον Τζεφ Κάο για την πλευρά της κατάργησης της ουδετερότητας (την πλευρά των παρόχων internet) εκτιμά πως σχεδόν το σύνολο της εκστρατείας αυτής της πλευράς φαίνεται να είναι σε κάποιο βαθμό τεχνητό.
Πολιτικά bots
Το Twitter επέτρεπε για μεγάλο διάστημα την πρόσβαση ερευνητικών ομάδων σε μεγάλους όγκους δημόσιων δεδομένων (π.χ. μπορούσε μια ομάδα να μελετήσει μαζικά το δίκτυο ακολούθων και retweets ενός λογαριασμού πολιτικού προσώπου), οπότε και υπάρχει ένα σύνολο μελετών σε αυτήν την πλατφόρμα. Μια σειρά εργαλεία επικεντρώθηκαν ακριβώς στην προσπάθεια αναγνώρισης bots (και όχι cyborgs, τα οποία είναι γκρίζα ζώνη όπως είπαμε). Έρευνα του 2018 με ένα από αυτά τα εργαλεία εκτίμησε πως το 61% των ακολούθων του Τραμπ στο Twitter ήταν bots.
Σε ελληνικά δεδομένα, η πρακτική αυτή δεν είναι καθόλου ασυνήθιστη στον πολιτικό κόσμο, με το πιο χτυπητό παράδειγμα να αποτελεί ο Άδωνις Γεωργιάδης. Σύμφωνα με ανάλυση του 2017, ορδές πολιτών ερωτεύτηκαν τον πολιτικό του λόγο εν όψει δημοψηφίσματος ώστε να δημιουργήσουν ξαφνικά λογαριασμούς στο Twitter ώστε να τον ακολουθήσουν, να αναπαράγουν το λόγο του και να επιτίθενται σε πολιτικούς τους αντιπάλους. Πρέπει να σημειώσουμε πως το γεγονός ότι οι λογαριασμοί αυτοί ακολουθούν αυστηρές ώρες γραφείου στη δραστηριότητά τους μπορεί να υποδεικνύει διαφημιστικό κύκλωμα με ανθρώπους που διαχειρίζονται αυτοματοποιημένους λογαριασμούς (cyborgs), παρά καθ’ εαυτό bots.
Φυσικά δε μπορούμε να μην αναφέρουμε την αποτυχημένη προσπάθεια του ισραηλινού «υπουργείου προπαγάνδας» να κάνει αυτοματοποιημένη παρέμβαση στα ΜΚΔ χρησιμοποιώντας bots. Μετά από μικρό διάστημα άρχισε να «ρετάρει» και να δημοσιεύει περιεχόμενο και επιχειρήματα που στρέφονταν κατά της ισραηλινής κυβέρνησης. Ή, σε πιο σοβαρό επίπεδο, την επιχείρηση προπαγάνδας με χρήση bots εναντίον της παρουσίας Ιρλανδών στρατιωτών στο Λίβανο το 2024, στον οποίο σχεδίαζε επίθεση το Ισραήλ.
Τα περισσότερα bots δεν κάνουν αιτήματα φιλίας
Τα προφίλ στα ΜΚΔ είναι στην πραγματικότητα ένα μάλλον μικρό μέρος των bots που κυκλοφορούν. Ένα μέρος του κοινού μας χρησιμοποιεί μηχανές αναζήτησης για να μας διαβάσει. Αυτές λειτουργούν ακριβώς επειδή bots περιδιαβαίνουν συνεχώς το διαδίκτυο, καταγράφοντας τα περιεχόμενα ιστοσελίδων ώστε να τις παρουσιάσουν στα αποτελέσματα. Αρκετά ανάλογα bots λειτουργούν συνεχώς ένα μέρος της υποδομής του διαδικτύου και των υπηρεσιών, αν και αφανή. Θα μπορούσαμε αρκετά από αυτά να τα περιγράψουμε ως «καλά bots» (good bots), υπό την έννοια ότι συνήθως λειτουργούν με έναν διαχειρίσιμο τρόπο και προσφέρουν μια υπηρεσία.
Στην εποχή των εργαλείων «Τεχνητής Νοημοσύνης»(AI), δημιουργούνται πλήθη bots τα οποία τείνουν να δημιουργούν τεράστια προβλήματα. Κανένα από αυτά τα προβλήματα δεν οφείλεται σε «ρομπότ που ξέφυγαν από τον έλεγχο». Αντιθέτως, πρόκειται για χρήση τους με λογική απληστίας και συχνά με διάθεση ανεξέλεγκτης λογοκλοπής, ώστε να αποσπασθούν δεδομένα τα οποία χρησιμοποιούνται για να εκπαιδευτούν νέα συστήματα AI.
Το επόμενο βήμα στο φάσμα είναι τα αμιγώς «κακά bots» (bad bots). Το γεγονός ότι μπορούν να δημιουργηθούν και χρησιμοποιηθούν δυνητικά απεριόριστα αντίγραφα ενός bot, τα κάνει πολύ χρήσιμα σε κυβερνοεπιθέσεις. Υπάρχει πλούσιο ιστορικό χρήσης δικτύων υπολογιστών και bots που χρησιμοποιούνται σε πολιτικές επιθέσεις διαφόρων τύπων, από μαζικές επιθέσεις που ρίχνουν έναν ιστότοπο έως την αυτοματοποιημένη εύρεση αδυναμιών σε έναν ιστότοπο ή υπηρεσία.
Εδώ πρέπει να προσθέσουμε και την εξαιρετικά επιτυχημένη χρήση bots σε οικονομικές απάτες, όπως π.χ. την αυτόματη αγορά ειδών για να δημιουργηθεί τεχνητή έλλειψη και να γίνει η επαναπώλησή τους (π.χ. σε συλλέκτες) σε υψηλή τιμή, ή τη αυτοματοποιημένη κλοπή εικόνων και τη χρήση τους σε μπλουζάκια χωρίς την άδεια των καλλιτεχνών.
Είμαστε μειοψηφία στο διαδίκτυο
Μπορούμε (ίσως) να μετρήσουμε προφίλ στα ΜΚΔ, αλλά είναι απολύτως αδύνατο να καθορίσουμε τον αριθμό των εν ενεργεία bots που αναφέραμε στην προηγούμενη παράγραφο, καθώς εμφανίζονται, κάνουν τον κύκλο εργασιών τους και εξαφανίζονται. Ώρα να μιλήσουμε για την ποσότητα.
Μια από τις εκθέσεις που παρακολουθούμε εδώ και χρόνια αφορά την εξέλιξη της παρουσίας των bots στο διαδίκτυο. Το πρώτο ενδιαφέρον συμπέρασμα είναι πως για πρώτη φορά κατά τις μετρήσεις της συγκεκριμένης εταιρίας, το 2024 ο συνολικός όγκος κίνησης λόγω bots ξεπέρασε αυτόν που οφείλεται σε ανθρώπους.
Το δεύτερο ενδιαφέρον συμπέρασμα είναι πως η έκρηξη οφείλεται συγκεκριμένα στα «κακά bots» (37% της κίνησης του διαδικτύου), δείχνοντας πως ο τομέας κυβερνοεπιθέσεων και κυρίως οικονομικής απάτης είναι ο πιο αναπτυσσόμενος τομέας του διαδικτύου.
Το τρίτο συμπέρασμα αφορά την τεχνοφοβία που αγγίξαμε από την αρχή του άρθρου. Συστήματα A.I. συχνά περιγράφονται ως μια «εξωτερική» απειλή για την ανθρωπότητα. Στην πράξη όμως χρησιμοποιούνται από τον τομέα των απατών για τη γρήγορη συγγραφή κώδικα. Αυτό βρίσκεται πίσω από την έκρηξη στον όγκο των «απλών» bots, τα οποία είναι γραμμένα από χρήστες και υπαλλήλους με συγκριτικά χαμηλές τεχνολογικές δυνατότητες. Με άλλα λόγια, τη στιγμή που κατακλυζόμαστε από άρθρα για «κίνδυνο από ανεξέλεγκτες μηχανές», αυτό που συμβαίνει πραγματικά είναι ο… εκδημοκρατισμός της οικονομικής απάτης, καθώς αυτά τα εργαλεία κάνουν αυτόν τον τομέα πιο προσβάσιμο στις μικρομεσαίες επιχειρήσεις του οργανωμένου εγκλήματος.
Κατακλείδα
Τα συμπεράσματα στα οποία μας οδηγούν τα παραπάνω είναι αρκετά σαφή. Πρώτον, η οικονομία του διαδικτύου απευθύνεται με διαφορά σε οικονομικές ανάγκες επιχειρήσεων και οργανισμών με κεφάλαια, παρά στις ανάγκες των χρηστών του διαδικτύου. Δεύτερον, η παρουσία των bots αυξάνεται για καθαρά οικονομικούς και πολιτικούς λόγους σε τέτοια επίπεδα, που η ίδια η δομή των ιστοσελίδων και των συστημάτων ασφαλείας καθοδηγείται πλέον από τη διαχείριση απειλών από bots, παρά της απειλής από ανθρώπους.
Τρίτον, η πολιτική διαμάχη στο διαδίκτυο διεξάγεται πλέον με όρους αυτοματοποίησης από κρατικούς οργανισμούς και εταιρίες προς όφελος κρατικών πολιτικών, ή ευνοούμενων πολιτικών προσώπων. Οι προοδευτικοί χώροι έχουν μικρή χρήση τέτοιων εργαλείων, παράγοντας αυθεντικό περιεχόμενο, το οποίο όμως εύκολα μπορεί να θαφτεί κάτω από τον ωμό όγκο ρομποτικής προπαγάνδας.
Τέταρτον, η ανησυχία για τη χρήση A.I. στην ενημέρωσή μας είναι πολύ συχνά εκτός πραγματικότητας. Η πραγματική προπαγάνδα γράφεται με πολύ πιο παραδοσιακούς τρόπους και η αυτοματοποίηση της αναπαραγωγής της γίνεται με πολύ απλά εργαλεία. Η πραγματική απειλή από τη χρήση του A.I. αφορά κυρίως την παραδοσιακή απειλή που προέρχεται «από τα πάνω» και τώρα αποκτά ένα νέο εργαλείο για να περικόψει τα κόστη της.
Πέμπτον, ο δρόμος προς ένα μέλλον βιώσιμο προς τον άνθρωπο (ένα διαδίκτυο το οποίο να μην κερδίζει πατώντας πάνω στις ανασφάλειες και τα προσωπικά δεδομένα μας) και το περιβάλλον (λιγότερα data centers και σπατάλη πόρων για κρυπτονομίσματα και λοιπές απάτες) είναι ζήτημα καθαρά πολιτικό. Με πολιτικούς όρους τίθεται εναντίον μας και με πολιτικούς όρους θα πρέπει να ανατραπεί αυτή η ισορροπία.
