Οι εταιρείες τεχνολογίας θα μπορούσαν σύντομα να είναι σε θέση να πουλήσουν και ακόμη και να επηρεάσουν τις αποφάσεις μας προτού τις πάρουμε συνειδητά, ως μέρος μιας «οικονομίας προθέσεων» στην οποία η τεχνητή νοημοσύνη μπορεί να χαρτογραφήσει και να χειραγωγήσει τις επιθυμίες μας.
Αυτή είναι η προειδοποίηση των ειδικών της τεχνολογίας τεχνητής νοημοσύνης, οι οποίοι έχουν προβλέψει ένα «ανησυχητικό» μέλλον «εξατομικευμένης πειθούς σε κλίμακα», όπου τα ίδια τα κίνητρά σας γίνονται αντικείμενο εκμετάλλευσης για εμπορικούς λόγους.
Επί του παρόντος, μεγάλο μέρος της οικονομίας του Διαδικτύου λειτουργεί με βάση την εξατομικευμένη διαφήμιση. Οι ιστοσελίδες μάχονται για την προσοχή σας και εταιρείες όπως η Google προσφέρουν διαφημίσεις με βάση τους όρους αναζήτησής σας σύμφωνα με τις δηλωμένες επιθυμίες σας.
Με δημοσίευση τους στην επιθεώρηση «Harvard Data Science Review», ερευνητές από το Leverhulme Center for the Future of Intelligence του Πανεπιστημίου του Κέμπριτζ λένε ότι αυτό θα αλλάξει. Προς το παρόν, η Google ξέρει τι θέλετε τώρα. Με την άφιξη προγραμμάτων τεχνητής νοημοσύνης που μπορούν να συνομιλήσουν μαζί μας, υπάρχει η δυνατότητα, είπαν, να ξέρετε τι θα θέλετε στο μέλλον, τι δεν ξέρετε ότι θέλετε ή ακόμα και να σας κάνουν να θέλετε κάτι που δεν θέλετε αυτή τη στιγμή.
«Ήδη σήμερα τα προγράμματα της τεχνητής νοημοσύνης βρίσκουν λεπτούς τρόπους για να χειραγωγήσουν και να επηρεάσουν τα κίνητρά σας, μεταξύ άλλων γράφοντας πώς γράφετε (ώστε να φαίνεται οικείο) ή προβλέποντας τι είναι πιθανό να πείτε (δεδομένου του τι θα έλεγαν άλλοι σαν εσάς). Όποιος οργανισμός διαχειρίζεται καλύτερα αυτόν τον αγωγό μπορεί να κάνει μια περιουσία από την πώληση των κινήτρων σας είτε είναι για ξενοδοχείο, ενοικίαση αυτοκινήτου ή πολιτικός Ο υποψήφιος στον πλειοδότη» υποστηρίζουν στο άρθρο τους οι ερευνητές.
Ο στόχος
Εταιρείες όπως η OpenAI έχουν ήδη δηλώσει ότι βασικός στόχος των προϊόντων τους είναι να συνάγουν τις προθέσεις των ανθρώπων, πέρα από τα ρητά αιτήματα που υποβάλλουν. Υπάρχουν καλοί λόγοι για αυτό, καθώς θα μπορούσε να τους επιτρέψει να κατανοήσουν καλύτερα τι θέλουν πραγματικά οι άνθρωποι σε μια αναζήτηση και έτσι να παρέχουν πιο προσαρμοσμένα αποτελέσματα.
Αλλά την ίδια στιγμή, αυτές οι εταιρείες εργάζονται σε εργαλεία που μπορούν να εμπλακούν στρατηγικά και πειστικά με τους ανθρώπους. Ένα καλό παράδειγμα είναι το πρόγραμμα που κυκλοφόρησε από τη Meta, τη μητρική εταιρεία του Facebook, που μπορεί να συμμετέχει στο επιτραπέζιο παιχνίδι Diplomacy όπου οι παίκτες διαπραγματεύονται, χειραγωγούν και τελικά προδίδουν ο ένας τον άλλον.
Οι ερευνητές είπαν ότι η δύναμη της τεχνητής νοημοσύνης είναι ότι τα συστήματα που βασίζονται σε προγράμματα τα οποία εμπλέκονται μαζί μας σε μια φυσική συνομιλία μπορούν να βρουν τρόπους τόσο για να συμπεράνουν όσο και να διαμορφώσουν την πρόθεση.
«Σε μια οικονομία πρόθεσης θα μπορούσαν τέτοια προγράμματα που έχουν μάλιστα χαμηλό κόστος να αξιοποιήσουν το ρυθμό, την πολιτική, το λεξιλόγιο, την ηλικία, το φύλο και τις προτιμήσεις για να πρκαλέσουν σύγχυση ή για επίτευξη στόχων όπως π.χ. να πουλήσουν ένα εισιτήριο ταινίας» Θα μπορούσαν να πουν, ‘Αναφέρατε ότι αισθάνεστε καταπονημένος, να σας κλείσω αυτό το εισιτήριο για τον κινηματογράφο που λέγαμε;’»
Υπάρχει αναπόφευκτα μια πολιτική πτυχή σε αυτό. «Η δυνατότητα χειραγώγησης ατόμων και ομάδων ξεπερνά μέχρι στιγμής τις απλές μεθόδους που βασίζονται σε likes στο Facebook που προκάλεσαν ανησυχία κατά τη διάρκεια του σκανδάλου της Cambridge Analytica. Εκτιμούμε ότι η άφιξη τέτοιων προγραμμάτων θα δοκιμάσει τους δημοκρατικούς κανόνες υποβάλλοντας τους χρήστες σε μυστικούς τρόπους ανατροπής, ανακατεύθυνσης και παρέμβασης σε εμπορευματοποιημένα σήματα πρόθεσης» γράφουν οι ερευνητές που λένε ότι πρόθεση τους είναι να ευαισθητοποιήσουν τους ανθρώπους για το τι έρχεται. Λένε ότι σε αυτήν την οικονομία προθέσεων, θα πρέπει επίσης να σκεφτόμαστε τις προθέσεις των ίδιων των εταιρειών και την ανάγκη τους να αποκομίσουν κέρδη.
«Αυτή τη στιγμή υπάρχει πολύ έντονη ανάπτυξη για την επίτευξη των πιο προηγμένων συστημάτων τεχνητής νοημοσύνης που βασίζονται σε πράκτορες. Ταυτόχρονα γίνονται όλες αυτές οι εργασίες για την κατασκευή των απαραίτητων υποδομών. Λόγω του επιπέδου των απαιτούμενων επενδύσεων κεφαλαίου, οι εταιρείες δεν θα ξεκινούσαν σε όλο αυτό το κτίριο χωρίς ένα σαφές σχέδιο. Ενας σαφής τρόπος με τον οποίο η εξελιγμένη τεχνητή νοημοσύνη μπορεί να προσφέρει αξία είναι η κατανόηση των πελατών. Οι χρήστες συχνά δεν γνωρίζουν το επίπεδο συλλογής δεδομένων που είναι δυνατό μέσω διασυνδέσεων συνομιλίας», είπε, δείχνοντας την ικανότητα να αποκτήσουν μια πραγματικά λεπτή εικόνα της ψυχολογίας κάποιου. Αυτό έχει πολύ ανησυχητικές πιθανότητες. Καθώς αυτά τα συστήματα συνεχίζουν να αναπτύσσονται, είπε, πρέπει να είμαστε πιο εξελιγμένοι και να σκεφτόμαστε περισσότερο την αμφίδρομη φύση των αλληλεπιδράσεών μας. Όταν ζητάμε, σε ποιο βαθμό το σύστημα κάνει πίσω; Όταν ψάχνουμε, σε ποιο βαθμό το σύστημα ψάχνει το μυαλό μας;» λέει ο Γιακούμπ Τσοχάντρι, μέλος της ερευνητικής ομάδας.
Ο Δρ. Τζόνι Πεν, ιστορικός της τεχνολογίας και στέλεχος της επιθεώρησης που παρουσιάζεται η μελέτη προέβλεψε ότι θα υπάρξει μια αλλαγή στον τρόπο με τον οποίο οι εταιρείες έβγαζαν χρήματα από όλους μας και ότι το κοινό έπρεπε να προετοιμαστεί για αυτό.
«Για δεκαετίες η προσοχή ήταν το νόμισμα του Διαδικτύου. Η κοινή χρήση της προσοχής σας με πλατφόρμες μέσων κοινωνικής δικτύωσης όπως το Facebook και το Instagram οδήγησε τη διαδικτυακή οικονομία. Εκτός και αν ρυθμιστεί, η οικονομία προθέσεων θα αντιμετωπίσει τα κίνητρά σας ως το νέο νόμισμα. Θα είναι μια χρυσή ευκαιρία για όσους στοχεύουν, κατευθύνουν και πουλάνε ανθρώπινες προθέσεις. Θα πρέπει να αρχίσουμε να εξετάζουμε τον πιθανό αντίκτυπο που θα είχε μια τέτοια αγορά στις ανθρώπινες φιλοδοξίες, συμπεριλαμβανομένων των ελεύθερων και δίκαιων εκλογών, του ελεύθερου τύπου και του θεμιτού ανταγωνισμού στην αγορά, προτού γίνουμε θύματα των ακούσιων συνεπειών της».
Naftemporiki.gr
