Pourquoi utiliser l'IA sans lui faire confiance : le pharmakon

Est-ce que tu manges le deuxième chamallow ?

Est-ce que tu manges le chamallow ? Je t'explique. Dans les années soixante-dix, des chercheurs de Stanford ont mené une expérience avec des enfants. Ils posaient un chamallow devant chacun d'eux et leur disaient : si tu attends cinq minutes sans le manger, tu en auras un deuxième. Puis ils laissaient l'enfant seul dans la pièce. Certains attendaient. D'autres croquaient dedans à peine la porte fermée.

En suivant ces enfants sur plusieurs décennies, les chercheurs ont découvert que cette capacité à différer la gratification, à résister à l'immédiateté pour obtenir plus et mieux plus tard, était corrélée à beaucoup de choses dans leur vie : la réussite scolaire, la santé, la qualité des relations.

Alors je te pose la question autrement. Face à l'intelligence artificielle, tu es plutôt du genre à attendre, ou du genre à croquer dedans sans regarder ce que tu manges ?

Pour répondre, il faut d'abord parler d'un concept vieux de plusieurs millénaires : le pharmakon.

Le pharmakon : remède, poison et bouc émissaire à la fois

Pharmakon est un mot grec ancien qui ne se traduit pas en un seul mot français. Il désigne à la fois le remède, le poison et le bouc émissaire, trois sens dans la même racine (c'est d'ailleurs l'origine du mot « pharmacie »). Le philosophe Jacques Derrida a repris ce concept, et Bernard Stiegler l'a appliqué à la technique.

L'idée centrale : certains objets, certaines inventions ne sont ni purement bons ni purement mauvais. Ils sont les deux à la fois, et on ne peut pas séparer les deux faces. Platon se méfiait déjà de l'écriture : il pensait qu'elle allait atrophier la mémoire humaine. Il avait tort sur la conclusion, mais pas complètement tort sur le diagnostic.

L'imprimerie était un pharmakon. Internet est un pharmakon. Et l'IA est un pharmakon.

Ce qui veut dire qu'on ne peut pas se contenter de la conversation « l'IA, c'est bien ou c'est mal ? ». Cette question est mal posée. La vraie question, c'est : à quel prix ? Qu'est-ce qu'on gagne, et qu'est-ce qu'on paie en retour, souvent sans s'en rendre compte ?

Le prix biologique de chaque avancée technique

Chaque évolution technologique a un coût, et ce coût est biologique.

On a inventé la voiture : une avancée formidable, avec un coût biologique en retour. On a beaucoup moins marché, on ne s'est plus déplacé à cheval, ce qui restait, même sans qu'on y pense, un exercice physique. On est devenu plus sédentaire.

Prends un exemple que tu connais bien : le GPS. Avant, quand tu te déplaçais dans une ville inconnue, tu lisais une carte, tu retenais le nom des rues, tu construisais mentalement une représentation spatiale, tu te trompais, tu recalculais toi-même, tu te souvenais du chemin pour la fois suivante.

Depuis le GPS, les études neurologiques le montrent : on sollicite beaucoup moins l'hippocampe, la zone du cerveau impliquée dans la mémoire spatiale et la navigation, au profit de cet outil externe. Et ce qu'on ne sollicite plus finit par s'affaiblir. Il n'y a rien à juger là-dedans : c'est simplement ainsi que ça fonctionne au niveau neurologique. En anglais, on dirait : use it or lose it.

Remplace maintenant « navigation spatiale » par raisonnement critique, par capacité à tolérer l'incertitude, par effort de mémorisation, par habitude de vérifier une source.

L'IA est conçue, précisément et délibérément, pour réduire la friction cognitive, pour que tu n'aies plus à fournir l'effort. Et c'est là que le pharmakon opère : le remède, c'est le soulagement, le gain de temps, la puissance de traitement, la disponibilité permanente d'une réponse. Le poison, c'est que ce soulagement, à force, affaiblit les muscles qu'il remplace.

Et comme pour le chamallow, cet affaiblissement ne se voit pas tout de suite. Il se voit dans cinq ans, dans dix ans, quand tu réalises que tu n'arrives plus à suivre un raisonnement long sans aide, que tu ne tolères plus le vide, l'hésitation, le « je ne sais pas encore », que tu attends que quelque chose recalcule à ta place.

La vraie fracture n'est pas numérique, elle est épistémique

On parle beaucoup de fracture numérique, entre ceux qui ont accès à la technologie et ceux qui n'y ont pas accès. C'est une réalité. Mais je crois qu'il y a une fracture plus discrète qui se creuse en ce moment. Je l'appelle la fracture épistémique. La question n'est pas d'y avoir accès : elle est de savoir évaluer ce qu'on reçoit.

L'IA est extrêmement convaincante dans la forme. Elle décrit avec fluidité, avec une apparence de cohérence, avec un ton assuré. Elle ne dit jamais « je doute ». Elle ne dit jamais « je ne suis pas sûre ». Elle énonce, comme le GPS énonce. Et cette assurance formelle est trompeuse, parce qu'elle peut cacher une erreur aussi bien qu'une vérité.

Moi, je suis le genre de personne qui va mettre l'IA face à ses erreurs, qui va lui dire « là, tu me racontes n'importe quoi », et qui va obtenir une correction. Je suis le genre de personne qui ne suit pas le GPS quand mon sens de l'orientation, mon instinct, ou juste mon esprit de contradiction, me dit que ce n'est pas par là. Et je l'assume, même s'il m'arrive de me tromper.

Les épistémologues ont un nom pour cette posture : le doute actif. Rien à voir avec de la méfiance pathologique : c'est une posture intellectuelle qui consiste à ne jamais considérer une source comme définitivement fiable, à continuer à chercher la faille, à considérer qu'une hypothèse n'est jamais prouvée, seulement pas encore réfutée.

Ce doute actif demande de l'énergie. Et c'est précisément ce que l'IA est conçue pour nous éviter de fournir : en cela, elle répond à un besoin réel de notre cerveau, celui d'économiser son énergie. L'IA nous propose de déléguer le doute.

Certaines personnes vont accepter cette proposition, et ce n'est pas de la paresse. Ça peut être de la fatigue, du manque de temps, ou l'habitude de faire confiance à ce qu'on te dit. D'autres vont continuer à vérifier, à recroiser les infos, à contredire. La vraie fracture, elle est là : qui a conservé le muscle du doute, et qui l'a laissé s'affaiblir.

La nuance du deuxième chamallow

Je reviens sur l'histoire du chamallow, parce qu'il y a une nuance qu'on oublie souvent de mentionner.

Des recherches plus récentes ont montré que la capacité à attendre n'était pas seulement une question de volonté ou de caractère. Elle était aussi liée au contexte de confiance dans lequel l'enfant avait grandi. L'enfant qui croque tout de suite dans le marshmallow n'est pas forcément impulsif. C'est peut-être qu'il a appris, par expérience, que les promesses ne se tiennent pas toujours, et qu'un tien vaut mieux que deux tu l'auras.

Ça change la lecture de cette fracture épistémique. Peut-être que ceux qui délèguent leur jugement à l'IA sans vérifier ne manquent pas de capacité critique. Peut-être qu'ils manquent de confiance en leur propre jugement. Peut-être qu'ils ont appris quelque part que leur avis comptait moins que celui de l'autorité en face d'eux, et que remettre en question coûte plus que ça ne rapporte.

Pourquoi je n'ai pas peur de l'IA

Je vais terminer par une question que je me suis posée en préparant cet épisode, sans avoir de réponse définitive. Juste une intuition.

Pourquoi est-ce que moi, je n'ai pas peur de l'IA ? Pourquoi je l'utilise, je la contredis, je la corrige, je lui dis quand elle se trompe, sans sentir qu'elle menace ma capacité à penser ?

Est-ce que c'est ma formation scientifique, cette habitude d'investiguer, de chercher la faille, de considérer qu'aucune hypothèse n'est vraie jusqu'à preuve du contraire ? Ça forge sûrement quelque chose. Mais je crois qu'en fait, c'est surtout ça : j'ai confiance en mon propre raisonnement.

Pas une confiance aveugle, je sais que je me trompe régulièrement. Une confiance de base : mon jugement a de la valeur, ma façon de voir les choses mérite d'exister face à ce que l'outil me propose. Et je pense que cette confiance-là est la condition du libre arbitre face à la technologie.

Ça ne tient ni à l'intelligence ni à l'expertise technique. Ça tient au rapport qu'on a à soi-même. Est-ce que tu te fais suffisamment confiance pour dire « non, ce n'est pas par là », même quand le GPS insiste ? Est-ce que tu te fais suffisamment confiance pour attendre le deuxième chamallow ?

L'IA va continuer à se développer, à être plus fluide, plus convaincante, plus présente. Et la vraie inégalité qui se dessine n'est pas entre ceux qui y ont accès et ceux qui n'y ont pas accès. Elle est entre ceux qui ont assez confiance en eux pour lui résister quand il le faut, et ceux qui ont appris à déléguer ce jugement depuis trop longtemps.

Le pharmakon ne disparaîtra pas. On ne peut pas séparer le remède du poison, c'est le même objet. Mais on peut choisir comment on le tient.

Si tu veux apprivoiser l'IA, apprendre à t'en servir sans y laisser ton âme, je t'invite à rejoindre l'Empower Mail ou le groupe Empower sur Telegram : tu y retrouveras de quoi développer à la fois ta connaissance de l'IA et ton esprit critique face à ce qu'elle produit.Écouter l'épisode complet →

Questions fréquentes

Qu'est-ce que le pharmakon appliqué à l'IA ?

Le pharmakon est un concept grec ancien (remède, poison et bouc émissaire à la fois) repris par Derrida et appliqué à la technique par Bernard Stiegler. Il dit qu'une technologie comme l'IA n'est jamais purement bénéfique ni purement nocive : elle apporte un gain réel (temps, fluidité, disponibilité) et un coût réel (l'affaiblissement de certaines capacités qu'elle remplace), et ces deux faces sont indissociables.

Qu'est-ce que la fracture épistémique ?

C'est une fracture qui ne sépare pas ceux qui ont accès à la technologie de ceux qui n'y ont pas accès. Elle sépare ceux qui conservent leur capacité à évaluer et remettre en question ce qu'on leur présente, de ceux qui délèguent ce jugement.

C'est quoi le doute actif ?

Une posture intellectuelle qui consiste à ne jamais considérer une source comme définitivement fiable, à chercher activement la faille, et à traiter une hypothèse comme non encore réfutée plutôt que prouvée. Elle demande de l'énergie, précisément l'effort que l'IA est conçue pour nous éviter de fournir.

Faut-il se méfier de l'IA ?

Non. Il ne s'agit pas de méfiance systématique, mais de doute actif : utiliser l'IA, la contredire quand elle se trompe, et garder confiance en son propre jugement plutôt que de déléguer systématiquement l'évaluation à l'outil.