Trends by Umanz : 🧠 Sécurité Cognitive, un firewall pour le cerveau ?
“Le vrai problème de l’humanité est le suivant : nous avons des émotions paléolithiques,
des institutions médiévales et des technologies de dieux”
Edward Osborne Wilson
L’un de mes Screenthoughts préférés est : Tu n'es pas le roi de ton cerveau. Tu es le mec creepy qui se tient derrière le roi en disant
– Un choix des plus judicieux, sire
Nous savions déjà, grâce aux biais cognitifs, que nous n’étions pas les maîtres de nos cerveaux.
Les machines vont-elles nous aider ?
Outre ma légère obsession pour les nutriments digitaux. Une phrase me hante depuis des années : le problème n’est pas tant les machines qui viendront mais les machines que nous deviendrons.
Aujourd'hui, la combinaison de réseaux sociaux codés pour fracasser nos vannes de cortisol, d’algorithmes dopés à l’audience et les conséquences encore inconnaissables de l’IA ouvrent le champ passionnant de la sécurité cognitive. Je vous en parle tout de suite.
Avant de partager l’essai sur la sécurité cognitive, le texte méditatif de la semaine nous invite à explorer, avec le philosophe Luis de Miranda, le verbe discrétiser.
L’humain, sans cesse, donne forme au réel, c’est-à-dire qu’il l’édite, qu’il fait un montage plus ou moins sensé et personnel à partir de la soupe disparate de l’être. Seulement, la société de consommation numériste, par son goût de la saturation et sa peur du vide perçu à tort comme identique au rien, tend à transformer ses sujets en spectateurs remastérisés, assujettis à un excès d’informations, le cerveau comprimé par d’incessants stimuli binaires, comme des oies que l’on gave, plutôt qu’assemblant activement des éléments hétérogènes et distincts pour tenter d’en faire un monde.
Le cyberespace, si nous déléguons notre imaginaire au pur numérisme, deviendra effectivement un vaste amas d’appartements solitaires où chacun de nous se croira magicien parce qu’il sera entouré de machines habiles à « reproduire le réel » sans autre participation que celle d’appuyer sur une touche, à la façon d’un rat entraîné à se nourrir en actionnant une manivelle. En informatique, transformer une réalité en ordre binaire et codé se dit « discrétiser ». Et en effet, on peut dire que le risque du tout numérique est de rendre l’humain très discret…
Sécurité Cognitive, quesaco ?
Va t-on un jour avoir des Firewalls du cerveaux ?
Crypter nos ondes cérébrales ?
Sourcrire une assurance numérique anti-intrusion émotionnelle ?
Ou sauvegarder les cerveaux (encore intacts) de nos enfants sur des clés USB ?
Avec l'accélération de l’IA et la mutation des réseaux sociaux, la sécurité cognitive (Cognitive Security) ou CogSec gagne ses lettres de noblesse et suscite l’intérêt de nouveaux chercheurs y compris en Chine.
Mais quelle est la définition de la Sécurité Cognitive ? la Cognitive Security s'intéresse à la façon dont l’information est produite, comprise et partagée entre groupes et individus. C’est elle qui, par exemple, va creuser l’impact à grande échelle d’une IA qui fournit la connaissance sans forcément passer par la compréhension.
Se demander ce que devient, à terme, une société saturée d’information mais à la cognition anémique.
Certains qui y voient une question d’autodétermination mentale. Ils estiment même qu’elle décidera du futur des pays et de leurs gouvernements.
Ce qui se joue est considérable : la liberté de contrôler nos propres pensées, notre cognition et notre conscience.
Le deuxième enjeu de santé mentale
Selon des chercheurs comme Knut Jasserbeg, la Sécurité Cognitive est une urgence globale et nationale. Pour protéger la liberté cognitive, les systèmes d'information doivent être conçus selon des principes éthiques transparents et des garanties pratiques solides. Ces technologies doivent favoriser la pensée critique, minimiser la manipulation et éviter d'exploiter les biais cognitifs. C’est dans cette optique que l’IA (le fera-t-elle ?) devrait renforcer l'autonomie de l'utilisateur, simplifier les processus complexes et promouvoir une prise de décision éclairée.
Les stratégies clés de Sécurité Cognitive sont les suivantes :
Donner aux utilisateurs les moyens de garder le contrôle de leurs processus mentaux.
Favoriser la résilience mentale en minimisant la surcharge cognitive et en encourageant la réflexion.
Assurer le respect de la vie privée en protégeant contre la surveillance intrusive ou l'exploitation des données.
Et de nouvelles branches de Sécurités Cognitives s’ouvrent chaque jour. La Sécurité Cognitive Intrinsèque, par exemple, est un domaine émergent qui vise à protéger notre esprit des interférences extérieures. Elle vise à protéger nos décisions, notre vie privée et notre autonomie mentale, en particulier avec la croissance de l'IA, des interfaces cerveau-ordinateur et la neurotechnologie.
Son but :
Détecter les manipulations à l'aide d'algorithmes d'IA.
Sécuriser les données cérébrales grâce au cryptage, de manière similaire à la protection des données en ligne.
Assurer une conception technologique éthique qui respecte les limites mentales.
La Sécurité Cognitive a des applications potentielles dans le monde réel dans les domaines de la santé, de l'éducation et des médias sociaux. Elle pourrait par exemple garantir que les implants cérébraux soient sûrs et éthiques, protéger les étudiants des algorithmes manipulateurs et empêcher les plateformes de médias sociaux d'exploiter industriellement nos drivers psychologiques.
Mettre l’Anti Brain Rot à l’échelle
La mise en œuvre de la sécurité cognitive nécessite une collaboration entre les scientifiques, les gouvernements et les entreprises technologiques. Inspirées par la neurosecurity des organisations comme le Center for Humane Technology et le Forum économique mondial réfléchissent d'ores et déjà à des cadres pour protéger la liberté cognitive. Aux US, les militaires du Cognitive Security Research Lab préparent des parades aux nouveaux risques d’attaques cognitives.
Le passé récent a maintes fois prouvé la fragilité de nos digues mentales face à la vélocité et à la crédibilité de la désinformation. Il nous faut désormais comprendre que le Freedom of speech n'est pas le Freedom of reach.
La Sécurité Cognitive est aujourd'hui d’autant plus nécessaire qu’il y a un mois, un logiciel de prévention de LLM Laundering a montré que 33% des informations délivrées par les IA étaient déjà contaminées par de la propagande de désinformation et l’affaire récente du vrai-faux auteur d’Hypnocratie n’est qu’une preuve de plus de la porosité de nos défenses cognitives.
« Orwell avait peur que la vérité soit dissimulée. Huxley avait peur que la vérité soit noyée dans un flux non pertinent.» prophétisait Neil Postman dans son livre culte, Amusing ourselves to death
Il y a quelques années les algorithmes addictifs de Zuck avaient fait de nous des idiots utiles. Aujourd'hui, le plus grand risque que nous font courir les nouveaux algorithmes est de nous transformer en idiots inutiles.
L'enjeu de la sécurité Cognitive est donc existentiel : notre capacité à opérer mentalement et critiquement dans un monde saturé d'algorithmie et de contre-algorithmie.
Ce qui se joue aujourd'hui n’est pas notre liberté de penser mais notre capacité à penser.
Notre intégrité humaine en quelque sorte.
Quel sera ton second act ?
Il arrive un moment où la vie te regarde dans les yeux et te dit “ Et maintenant ?”
Un moment où la vie cesse d’être une promesse et devient une urgence.
Un moment où tu vois, sous tes yeux, la nostalgie et le futur se disputer ton présent.
Il y a une gigantesque déconnexion à l'œuvre dans la société. On nous dit qu’il y a une app pour ça, une pilule pour ça, une posture de Yoga pour ça, mais la vérité c’est que nous n’avons pas mis à jour nos outils intérieurs de fabrication du sens et de connaissance de soi, y compris au travail, face à une société et des phases de vie qui ont radicalement changé.
Découvrez Second Act, mon cabinet de transition de vie, un passeport de sérénité pour la deuxième partie de vie.
Les Screenthoughts de la semaine
Du travail à l’oeuvre
Ce qui gâche une excuse
Le problème de l’argent
Signe des temps et temps des signes
On ne parle plus du climat ? Si justement, et même de l’impact “stratosphérique” des satellites sur la couche d’ozone.
Dans cette startup innovante, il n’y a pas de boss et les décisions sont prises via une monnaie interne appelée le Will.
LinkedIn désespère de plus en plus de gens normaux autour de moi. Heureusement, l’excellent Romain Enjalbert (à la manoeuvre graphique sur l’essai Qui mème me suive) a produit un intrigant pdf de mise en abyme sur le @#%&! 🤬💢💣🤯😤👊🧨d’algorithme LinkedIn.
L’année dernière j’avais écrit un mot vaut mille images. Je dois faire amende honorable et constater que parfois une image vaut (toujours) mille mots. Et en plus, c’est sur LinkedIn, si, si…
C’est tout pour cette semaine, je vous retrouve la semaine prochaine avec retour de nouvelles perplexités.
D’ici là, comme toujours, gardez le cap 🧭.
Waloyo Yamoni, nous surmontons le vent.
Cette newsletter est avant tout un projet de coeur. De nombreuses personnes et sociétés me demandent souvent : comment travailler ensemble ? Actuellement, je consacre 80% de mon temps à “Second Act”, mon cabinet d’accompagnement en transitions pro ou perso. 10% de mon temps à des Keynotes en entreprise sur les Soft Skills élégants: la Curiosité, l’esprit du débutant, l’émerveillement, l’impact, la loyauté, l’art de la conversation etc. Ainsi que des ateliers et séminaires exclusifs pour les comités de direction. Et 10%, par pur plaisir, à une activité de conseil en positionnement et en identité d’entreprise que j’ai gardée de mes anciennes activités chez Google, Reuters et Dow Jones. Elle me permet de produire, pour les marques et les entreprises des positionnement et des contenus uniques, aussi différenciés que des guitaristes punks dans un orchestre de mariachis.