PÉPITEL'ESSENTIEL
L’essentiel de la semaine — Une IA que vous ne comprenez plus est une IA que vous ne gouvernez plus
Trois cartes cette semaine, une même idée : comprendre ce que fait vraiment une intelligence artificielle n’est jamais acquis, et cette compréhension se perd de trois façons. Lundi, l’effondrement de Builder.ai, valorisée à 1,5 Md$ alors que son IA était en réalité portée par des ingénieurs, a rappelé que l’écart entre l’IA annoncée et le travail humain réel finit toujours par se payer : il faut pouvoir savoir ce que l’outil automatise vraiment. Mardi, l’explicabilité : un modèle performant reste souvent une « boîte noire », et une décision qu’on ne sait pas justifier ne peut être ni contestée, ni corrigée, ni défendue. Jeudi, l’érosion de l’échelon junior : en confiant à l’IA les tâches où se forme le jugement, on appauvrit le vivier de ceux qui, demain, sauront encore juger ce qu’elle propose.
Le fil rouge : la vraie perte de contrôle n’arrive pas d’un coup, elle vient de ne plus pouvoir comprendre ce que l’IA fait, pourquoi elle le fait, ni de garder des gens capables de le juger. Pour chaque IA que vous déployez, exigez de pouvoir répondre à trois questions simples : qu’automatise-t-elle réellement, pourquoi décide-t-elle ainsi, et qui chez vous saura encore le juger dans trois ans ?
Source : Rest of World et Business Today (mai-août 2025) ; Dario Amodei, Anthropic (avril 2025) ; Stanford Digital Economy Lab (août 2026).

