PÉPITEPARLER IA
Parler IA — Une IA qui ne sait pas se justifier ne peut pas être contestée
L’explicabilité, c’est la capacité d’une IA à dire pourquoi elle a produit telle décision ou telle réponse. Les modèles les plus performants restent souvent des « boîtes noires » : on voit ce qui entre et ce qui sort, pas le chemin suivi. Le dirigeant de l’un des laboratoires qui construisent ces modèles l’admet lui-même : « nous ne comprenons pas comment fonctionnent nos propres créations d’IA », un aveu qu’il juge « sans précédent dans l’histoire de la technologie ». Une IA peut donc être très performante sans que personne, pas même son concepteur, ne sache justifier une décision précise.
Le piège est de croire qu’un modèle plus précis est plus sûr à déployer : la précision ne vaut pas justification, et une décision qu’on ne sait pas expliquer ne peut être ni contestée, ni corrigée, ni défendue devant un client ou un contrôleur. Avant de confier à une IA une décision qui engage, exigez du fournisseur une réponse écrite à une seule question : quand votre outil recommande ou refuse quelque chose, pouvez-vous en donner la raison dans des termes présentables à un client ou à un auditeur ?
Source : Dario Amodei (Anthropic), « The Urgency of Interpretability », avril 2025.

