L'IA est déjà dans vos équipes (que vous le vouliez ou non)
La question n'est plus de savoir si les équipes humanitaires utiliseront l'IA : elles le font déjà, souvent avec des outils généralistes grand public, parfois en y copiant des données sensibles. Le vrai sujet est donc : quel cadre pour un usage responsable, compatible avec nos obligations de protection des données et de redevabilité ?
TRUST : 5 principes concrets
Plutôt qu'une charte de plus, TRUST est une grille d'évaluation en 5 questions à poser à n'importe quel outil IA avant de l'adopter :
- T comme Transparency. Sait-on ce que fait l'outil, où vont les données, quel modèle est utilisé ? Une IA opaque sur son fonctionnement est disqualifiée d'office pour des données humanitaires.
- R comme Reliability. Les sorties sont-elles fiables et vérifiables ? Une IA qui invente des références ou produit des XLSForm « à moitié valides » coûte plus cher qu'elle ne rapporte.
- U comme Usefulness. L'outil résout-il un problème métier réel (le temps passé sur un questionnaire, un rapport, une analyse) ou est-ce de l'IA pour l'affiche ?
- S comme Supervision. L'humain reste-t-il dans la boucle ? Tout livrable généré (rapport, TDR, questionnaire) doit rester éditable et relu avant diffusion. Une IA qui publie en votre nom est un risque, pas un gain.
- T comme Tightness. Le périmètre des données est-il maîtrisé ? Minimisation, chiffrement, localisation des serveurs, et pour les données réellement sensibles : traitement privé, sans prestataire d'IA tiers.
Le manifeste complet, avec les implications concrètes de chaque principe dans la conception d'Opti', est publié ici : TRUST, les 5 principes d'une IA éthique pour l'humanitaire.
Ce que ça change en pratique
Appliquer TRUST mène à des choix d'architecture très concrets. Quelques exemples tirés de la plateforme Opti', l'IA conçue pour le MEAL :
- Les générations structurées (XLSForm, rapports) combinent l'IA avec des règles de structure fixes : un questionnaire généré respecte la syntaxe, il n'est pas « à moitié inventé ».
- Tout livrable reste éditable et doit être relu avant diffusion : l'outil ne publie jamais rien au nom de l'utilisateur.
- Pour les données sensibles, une infrastructure d'IA privée (OptIA) traite les données sans prestataire tiers, en mémoire vive, purgée après chaque requête.
Une grille à réutiliser librement
TRUST n'est pas une exclusivité : c'est une grille de lecture que toute organisation peut appliquer à ses choix d'outils, y compris pour évaluer Opti' lui-même. Si un outil IA échoue sur l'un des 5 principes, la prudence s'impose, quelle que soit la qualité de sa démo.