Par Touradj Ebrahimi,
Expert en IA, Professeur à l’EPFL et Leader de la normalisation
LinkedIn
La confiance dans le contenu numérique n'est pas seulement une question technologique, c’est un risque sociétal. Selon le Global Risks Report 2025 du Forum économique mondial (WEF), la désinformation et la mésinformation se classent au premier rang des risques mondiaux à court terme, devant même les conflits et les crises environnementales. Ces risques peuvent être à l’origine d’une érosion de la confiance dans les institutions, d’une déstabilisation des sociétés et d’une dérive de la coopération vis-à-vis des défis mondiaux urgents.
C’est pourquoi les solutions techniques, ancrées dans des Normes internationales solides, sont plus importantes que jamais.
Cette semaine, alors que des experts en IA du monde entier se réunissent au Sommet AI for Good à Genève, en Suisse, la conversation ne porte plus seulement sur le pouvoir de l’intelligence artificielle. La question de la confiance est posée.
Nous vivons à une époque où la vidéo, l’audio et les images peuvent être fabriquées avec un réalisme stupéfiant. Les deepfakes et les contenus synthétiques générés par l’IA ont dépassé le stade du texte et sont désormais impossibles à distinguer de la réalité elle-même. Cette révolution offre des opportunités incroyables, mais elle pose aussi de très grands risques.
Le défi de la confiance : Tout n’est pas tout noir ou tout blanc
Comment savoir ce qu’il faut croire ? Rien n’est absolu dans la confiance. Elle est d’ordre probabiliste, une question de degré et de contexte. Un clip vidéo sur l’actualité peut être authentique dans un sens, mais altéré dans un autre. Un enregistrement vocal peut être réel, mais pris hors contexte. Autrement dit, toute solution visant à vérifier l’authenticité doit tenir compte de la complexité, de la nuance et de la possibilité d’erreur.
Le danger n’est pas théorique. Nous avons déjà vu des deepfakes et des médias manipulés saper la réputation sociale, inciter à la violence et menacer la crédibilité du journalisme. Les deepfakes (vidéos et images manipulées créées à l’aide de l’intelligence artificielle) sont associés à des campagnes de désinformation, à des fraudes et à l’érosion de la confiance du public. Leur niveau de sophistication dépasse celui de nombreux moyens de détection, laissant les experts dans l’embarras pour trouver des réponses.
Les deepfakes gagnent en réalisme, et il devient de plus en plus urgent de pouvoir distinguer la réalité de la fiction. Sans outils d’authentification clairs, l’écosystème de l’information se trouve vulnérable à la manipulation, ce qui entraîne confusion, division et préjudice.
C’est là qu’intervient JPEG Trust, une nouvelle norme internationale visant à restaurer la confiance dans les images et les vidéos numériques en intégrant des « indicateurs de confiance » vérifiables directement dans le média lui-même.
Les normes comme feuille de route pour la confiance
JPEG Trust offre une solution prometteuse : un moyen sûr et normalisé de marquer les médias avec des informations sur leur provenance, leur authenticité et toutes les modifications qu’ils ont subies. Ces « étiquettes » scellées par cryptographie permettent aux utilisateurs de vérifier si le contenu est authentique ou modifié, et dans quelles mesures il est digne de confiance.
La nouvelle norme fraîchement publiée par l’ISO et l’IEC pose des bases solides, et ce qui la distingue, c’est son cadre large et ouvert. Elle est le fruit d’un consensus mondial visant à garantir la cohérence et l’interopérabilité entre les appareils, les plateformes et les frontières.
JPEG Trust introduit non seulement une nouvelle exigence technique, mais aussi une nouvelle philosophie de confiance contextuelle. Elle définit des « profils de confiance », permettant à différents utilisateurs (journalistes, régulateurs ou utilisateurs lambda) d’attribuer leur propre pondération aux indicateurs d’authenticité. La confiance devient stratifiée et non plus binaire.
En pratique, cela signifie que vous pourriez voir une vidéo en ligne accompagnée de sceaux cryptographiques indiquant qu’elle provient d’une caméra vérifiée, qu’elle n’a pas été modifiée et qu’elle a été soumise à plusieurs contrôles d’authenticité indépendants de l’IA. En fonction de votre propre « profil de confiance », vous décidez du degré de confiance à accorder à ce contenu.
Pourquoi les solutions propriétaires ne sont pas à la hauteur
Nous ne pouvons pas compter sur des systèmes fermés et propriétaires pour sauvegarder la vérité à l’ère numérique. Le défi de la confiance est trop urgent, et trop global, pour admettre des solutions fragmentées. À la place, nous avons besoin de Normes internationales harmonisées telles que JPEG Trust, élaborées dans le cadre d’une collaboration inclusive.
L’une des étapes les plus importantes du Sommet 2025 AI for Good est le lancement de la cartographie des normes d’authenticité des contenus multimédias et synthétiques (AMAS). Cette vue d’ensemble complète présente plus de 30 initiatives internationales de normalisation axées sur les défis posés par les médias synthétiques et les deepfakes, ce qui permet d’avoir une idée plus précise des domaines dans lesquels une action mondiale est déjà en cours et de ceux dans lesquels une plus grande coordination reste encore nécessaire.
Cet ensemble de travaux, élaboré dans le cadre de la collaboration AMAS entre l’ISO, l’IEC et l’UIT, représente une étape fondamentale vers l’harmonisation des efforts mondiaux et la réduction des doubles emplois dans l’un des domaines les plus urgents de la gouvernance de l’IA, à savoir l’authenticité multimédia.
Durant mes trente années d’expérience sur les normes, depuis la création de JPEG jusqu’aux travaux en cours sur JPEG Trust, j’ai pu être témoin de la façon dont la coopération internationale peut jeter les bases de l’interopérabilité, de l’évolutivité et de la confiance mondiale. La cartographie AMAS repose sur ce principe. Elle permet aux décideurs politiques, aux technologues et aux dirigeants d’entreprise de voir où les efforts convergent et où ils doivent être coordonnés pour être efficaces.
Aussi, c'est un plaisir et un privilège pour moi d’animer un dialogue entre les leaders de l’élaboration des normes, de la réglementation, du monde universitaire et de l’industrie lors du Sommet AI for Good.
La confiance ne peut pas attendre
Le rétablissement de la confiance à l'ère de l’intelligence artificielle ne passera pas uniquement par des solutions techniques. Cela nécessite une coopération qui dépasse les frontières, les secteurs et les disciplines : une infrastructure mondiale fondée sur des valeurs communes telles que la transparence, la responsabilité et l’équité.
Au cœur de cet effort se trouvent les organisations internationales de normalisation ISO, IEC et UIT, où des experts en intelligence artificielle, en multimédia et en confiance numérique convergent pour définir les règles d’engagement dans un paysage en rapide évolution.
Grâce à la collaboration AMAS, ces organisations ont entamé le laborieux travail d’harmonisation des efforts fragmentés. Les gouvernements, les entreprises et les chercheurs s’unissent pour créer un langage commun en matière d’authenticité, soit un moyen de distinguer ce qui est réel de ce qui est truqué.
Dans ce contexte, le Sommet AI for Good est bien plus qu’une simple vitrine de l’innovation, c’est en fait un terrain d’expérimentation pour l’architecture de la confiance à l’ère de l’IA. Ici, au milieu des promesses des modèles génératifs et des systèmes autonomes, nous décidons également du type d’avenir que nous voulons construire.
Et en qui nous pouvons croire.