Lecture de pensée : l'IA devrait-elle savoir ce que nous pensons ?

• Auteur :
• Nom de l'auteur

  Prévision quantique
• 16 janvier 2023

Les scientifiques développent des technologies d'interface cerveau-ordinateur (BCI) pour "lire" directement le cerveau humain à travers des implants de puces et d'électrodes. Ces innovations puisent dans le cerveau humain en utilisant de nouvelles méthodes pour communiquer avec les ordinateurs et les dispositifs de contrôle. Cependant, ce développement peut potentiellement mettre fin à la vie privée telle que nous la connaissons.

Contexte de lecture de pensée

Des scientifiques des États-Unis, de Chine et du Japon ont utilisé l'imagerie par résonance magnétique fonctionnelle (IRMf) pour mieux comprendre l'activité cérébrale. Ces appareils d'IRMf suivent le flux sanguin et les ondes cérébrales plutôt que simplement l'activité cérébrale. Les données collectées à partir du scan sont converties en un format d'image par un réseau neuronal complexe appelé algorithme Deep Generator Network (DGN). Mais d'abord, les humains doivent former le système sur la façon dont le cerveau pense, y compris la vitesse et la direction que le sang prend pour atteindre le cerveau. Une fois que le système suit le flux sanguin, il produit des images des informations qu'il recueille. Le DGN produit des images visuelles de haute qualité en scannant les visages, les yeux et les motifs textuels. Sur la base de cette recherche, l'algorithme est capable de faire correspondre les images décodées 99% du temps.

D'autres recherches sur la lecture de pensée sont encore plus avancées. En 2018, Nissan a dévoilé la technologie Brain-to-Vehicle qui permettrait aux véhicules d'interpréter les commandes de conduite à partir du cerveau du conducteur. De même, des scientifiques de l'Université de Californie à San Francisco (USCF) ont publié les résultats d'une étude sur l'activité cérébrale soutenue par Facebook en 2019 ; l'étude a montré qu'il est possible d'utiliser la technologie des ondes cérébrales pour décoder la parole. Enfin, le BCI de Neuralink a commencé les tests en 2020 ; le but est de connecter directement les signaux cérébraux aux machines.

Impact perturbateur

Une fois perfectionnées, les futures technologies de lecture de la pensée auront des applications de grande envergure dans tous les secteurs et domaines. Les psychiatres et les thérapeutes pourraient un jour compter sur cette technologie pour découvrir des traumatismes profonds. Les médecins peuvent être en mesure de mieux diagnostiquer leurs patients et de les traiter ensuite avec des médicaments plus appropriés. Les personnes amputées peuvent être capables de porter des membres robotiques qui réagissent instantanément à leurs commandes mentales. De même, les forces de l'ordre pourraient utiliser cette technologie pendant les interrogatoires pour s'assurer que les suspects ne mentent pas. Et dans un environnement industriel, les travailleurs humains pourront peut-être un jour contrôler des outils et des machines complexes (un ou plusieurs) de manière plus sûre et à distance.

Cependant, la lecture de pensées par l'IA peut devenir un sujet controversé d'un point de vue éthique. De nombreuses personnes considéreront cette évolution comme une atteinte à la vie privée et une menace pour leur bien-être, ce qui incitera de nombreux groupes de défense des droits de l'homme à s'opposer à ces méthodes et dispositifs. De plus, selon le South China Morning Post, la technologie de lecture cérébrale de la Chine est déjà utilisée pour détecter les changements émotionnels chez les employés dans plusieurs contextes, comme dans les chaînes de production en usine. Ce n'est qu'une question de temps avant qu'une ou plusieurs nations tentent d'appliquer cette technologie à l'échelle de la population pour surveiller les pensées de leur population respective.

Une autre affirmation est que la plupart des scientifiques pensent que ML est toujours incapable de détecter et de décoder correctement comment et ce que les humains pensent, ressentent ou désirent. À partir de 2022, le cerveau reste un organe trop complexe pour être décomposé en composants et en signaux, tout comme la technologie de reconnaissance faciale s'oppose en tant qu'outil pour identifier avec précision les émotions humaines. L'une des raisons est qu'il existe de nombreuses façons pour les gens de masquer leurs véritables sentiments et pensées. En tant que tel, l'état des technologies ML est encore loin de décoder la complexité de la conscience humaine.

Implications de la lecture de pensée

Les implications plus larges de la lecture de la pensée peuvent inclure :

• Entreprises minières, logistiques et manufacturières utilisant de simples casques de lecture de l'activité cérébrale pour déterminer la fatigue des employés et alerter des accidents potentiels. 
• Dispositifs BCI permettant aux personnes à mobilité réduite de communiquer avec des technologies d'assistance, telles que des appareils intelligents et des ordinateurs.
• Entreprises de technologie et de marketing utilisant les outils BCI pour exploiter les informations personnelles afin d'améliorer les campagnes de marketing et de commerce électronique.
• Législation nationale et internationale régissant l'utilisation et les applications des technologies BCI dans la société.
• Les militaires appliquant la technologie BCI pour permettre une connexion plus profonde entre les soldats et les véhicules de combat et les armes qu'ils commandent. Par exemple, les pilotes de chasse utilisant BCI peuvent être en mesure de piloter leur avion avec des temps de réaction plus rapides.
• Certains États-nations déploient des technologies de lecture de pensée d'ici les années 2050 pour garder leurs citoyens respectifs en ligne, en particulier les groupes minoritaires.
• Repousse et protestations des groupes civiques contre les technologies de lecture cérébrale conçues pour espionner la population. 

Questions à considérer

• Quel rôle le gouvernement devrait-il jouer dans la réglementation de la technologie BCI ?
• Quels sont les autres dangers potentiels d'avoir des appareils capables de lire nos pensées ?