Va t-on un jour avoir des Firewalls du cerveaux ?
Crypter nos ondes cérébrales ?
Sourcrire une assurance numérique anti-intrusion émotionnelle ?
Ou sauvegarder les cerveaux (encore intacts) de nos enfants sur des clés USB ?
Avec l’accélération de l’IA et la mutation des réseaux sociaux, la sécurité cognitive (Cognitive Security) ou CogSec gagne ses lettres de noblesse et suscite l’intérêt de nouveaux chercheurs y compris en Chine.
Mais quelle est la définition de la Sécurité Cognitive ? la Cognitive Security s’intéresse à la façon dont l’information est produite, comprise et partagée entre groupes et individus. C’est elle qui, par exemple, va creuser l’impact à grande échelle d’une IA qui fournit la connaissance sans forcément passer par la compréhension.
Se demander ce que devient, à terme, une société saturée d’information mais à la cognition anémique.
Certains qui y voient une question d’autodétermination mentale. Ils estiment même qu’elle décidera du futur des pays et de leurs gouvernements.
Ce qui se joue est considérable : la liberté de contrôler nos propres pensées, notre cognition et notre conscience.
Le deuxième enjeu de santé mentale
Selon des chercheurs comme Knut Jasserbeg, la Sécurité Cognitive est une urgence globale et nationale. Pour protéger la liberté cognitive, les systèmes d’information doivent être conçus selon des principes éthiques transparents et des garanties pratiques solides. Ces technologies doivent favoriser la pensée critique, minimiser la manipulation et éviter d’exploiter les biais cognitifs. C’est dans cette optique que l’IA (le fera-t-elle ?) devrait renforcer l’autonomie de l’utilisateur, simplifier les processus complexes et promouvoir une prise de décision éclairée.
Les stratégies clés de Sécurité Cognitive sont les suivantes :
-
Donner aux utilisateurs les moyens de garder le contrôle de leurs processus mentaux.
-
Favoriser la résilience mentale en minimisant la surcharge cognitive et en encourageant la réflexion.
-
Assurer le respect de la vie privée en protégeant contre la surveillance intrusive ou l’exploitation des données.
Et de nouvelles branches de Sécurités Cognitives s’ouvrent chaque jour. La Sécurité Cognitive Intrinsèque, par exemple, est un domaine émergent qui vise à protéger notre esprit des interférences extérieures. Elle vise à protéger nos décisions, notre vie privée et notre autonomie mentale, en particulier avec la croissance de l’IA, des interfaces cerveau-ordinateur et la neurotechnologie.
Son but :
-
Détecter les manipulations à l’aide d’algorithmes d’IA.
-
Sécuriser les données cérébrales grâce au cryptage, de manière similaire à la protection des données en ligne.
-
Assurer une conception technologique éthique qui respecte les limites mentales.
La Sécurité Cognitive a des applications potentielles dans le monde réel dans les domaines de la santé, de l’éducation et des médias sociaux. Elle pourrait par exemple garantir que les implants cérébraux soient sûrs et éthiques, protéger les étudiants des algorithmes manipulateurs et empêcher les plateformes de médias sociaux d’exploiter industriellement nos drivers psychologiques.
Mettre l’Anti Brain Rot à l’échelle
La mise en œuvre de la sécurité cognitive nécessite une collaboration entre les scientifiques, les gouvernements et les entreprises technologiques. Inspirées par la neurosecurity des organisations comme le Center for Humane Technology et le Forum économique mondial réfléchissent d’ores et déjà à des cadres pour protéger la liberté cognitive. Aux US, les militaires du Cognitive Security Research Lab préparent des parades aux nouveaux risques d’attaques cognitives.
Le passé récent a maintes fois prouvé la fragilité de nos digues mentales face à la vélocité et à la crédibilité de la désinformation. Il nous faut désormais comprendre que le Freedom of speech n’est pas le Freedom of reach.
La Sécurité Cognitive est aujourd’hui d’autant plus nécessaire qu’il y a un mois, un logiciel de prévention de LLM Laundering a montré que 33% des informations délivrées par les IA étaient déjà contaminées par de la propagande de désinformation et l’affaire récente du vrai-faux auteur d’Hypnocratie n’est qu’une preuve de plus de la porosité de nos défenses cognitives.
« Orwell avait peur que la vérité soit dissimulée. Huxley avait peur que la vérité soit noyée dans un flux non pertinent.» prophétisait Neil Postman dans son livre culte, Amusing ourselves to death
Il y a quelques années les algorithmes addictifs de Zuck avaient fait de nous des idiots utiles. Aujourd’hui, le plus grand risque que nous font courir les nouveaux algorithmes est de nous transformer en idiots inutiles.
L’enjeu de la sécurité Cognitive est donc existentiel : notre capacité à opérer mentalement et critiquement dans un monde saturé d’algorithmie et de contre-algorithmie.
Ce qui se joue aujourd’hui n’est pas notre liberté de penser mais notre capacité à penser.
Notre intégrité humaine en quelque sorte.