UNIDIR - Un nouveau foyer pour la gouvernance de l'IA

Face à la transformation des dynamiques de sécurité induite par l'IA, des opérations militaires aux infrastructures critiques en passant par l' environnement informationnel , les gouvernements et les institutions s'interrogent sur la gestion des risques et des opportunités qu'elle génère. Ce nouveau centre répond à ce défi en réunissant analyses, dialogue et soutien pratique au sein d'une même structure, et en servant de pôle d'excellence pour les travaux de l'UNIDIR sur l'IA et la sécurité .

Pour en savoir plus, nous nous sommes entretenus avec le Dr Robin Geiss , directeur de l'UNIDIR, et le Dr Giacomo Persi Paoli , responsable du programme de sécurité et de technologie de l'UNIDIR.

Q : L’IA progresse à une vitesse extraordinaire. Du point de vue de la paix et de la sécurité, quels développements vous préoccupent le plus et quels nouveaux risques font-ils peser sur la sécurité internationale ?

RG : Le rythme des progrès en intelligence artificielle est remarquable. Si elle apporte des avantages considérables, elle crée également de nouveaux défis pour la paix et la sécurité internationales.

Le problème ne réside pas tant dans une application en particulier, mais plutôt dans l'impact cumulatif sur de multiples domaines.

L'intelligence artificielle (IA) est désormais intégrée aux systèmes militaires, aux cyberopérations, aux infrastructures critiques et à l'environnement informationnel. Si elle peut améliorer l'efficacité et la prise de décision, elle peut aussi accroître la complexité, créer de nouveaux risques et des voies d'escalade, accélérer le rythme des combats et ajouter de nouvelles sources d'incertitude dans un contexte de sécurité mondiale déjà très dynamique. L'IA peut faciliter les cyberattaques sophistiquées, permettre une désinformation plus convaincante et aggraver le risque d'erreurs d'appréciation ou d'escalade involontaire en situation de crise.

Dans le même temps, les cadres de gouvernance et de réglementation peinent à suivre le rythme. Il en résulte un fossé grandissant entre les capacités technologiques et notre aptitude collective à en comprendre et à en gérer les implications.

Relever ces défis exige bien plus que des solutions techniques. Cela requiert un dialogue soutenu, une compréhension partagée et une coopération concrète entre les gouvernements, l'industrie, les chercheurs et la société civile afin de garantir que l'IA renforce – et non compromette – la paix et la sécurité internationales.

Q : La gouvernance de l'IA est souvent décrite comme fragmentée. Quels sont selon vous les défis les plus urgents aujourd'hui, et pourquoi est-il de plus en plus urgent de les relever ?

RG : Le problème n’est pas le manque d’efforts. Partout dans le monde, de nombreux acteurs s’emploient activement à façonner la gouvernance de l’IA. Le souci est que ces efforts se déroulent souvent en parallèle, au sein de différentes communautés, processus et domaines politiques qui ne communiquent pas efficacement.

Les enjeux liés à l'IA sont abordés dans de nombreux domaines, allant de la sécurité internationale et du contrôle des armements aux droits humains, au développement et à la gouvernance numérique. Si chaque aspect est important, cette dispersion crée un paysage fragmenté, rendant plus difficile le maintien d'une compréhension partagée des risques, des opportunités et des nouvelles approches politiques.

Cette fragmentation devient de plus en plus urgente à mesure que l'IA est intégrée à des systèmes qui influent sur la sécurité, la stabilité et la résilience sociétale. Les décideurs politiques subissent une pression croissante pour agir à l'intersection de la technologie, des politiques publiques et de la sécurité – souvent sans vision d'ensemble cohérente.

L’objectif n’est pas un cadre unique et unifié, mais une meilleure coordination, des capacités renforcées et un dialogue plus éclairé afin que les réponses soient cohérentes, inclusives et efficaces.

Q : Pourquoi l'UNIDIR lance-t-elle un Centre d'excellence sur l'IA, la paix et la sécurité maintenant ?

RG : L’UNIDIR lance son Centre d’excellence sur l’IA, la paix et la sécurité à un moment charnière, alors que l’intelligence artificielle devient un enjeu central pour la paix et la sécurité internationales. Dans les prochaines semaines, Genève accueillera deux grandes réunions : l’une consacrée aux applications militaires de l’IA et l’autre à la gouvernance mondiale de l’IA. Ces rencontres rassembleront les États membres et un large éventail d’acteurs. Le Centre répond ainsi à un besoin manifeste d’analyse approfondie, de dialogue inclusif et d’appui concret.

Alors que d'importantes initiatives de gouvernance émergent dans le monde entier, de nombreux acteurs sont encore confrontés à des contraintes de capacité, et il subsiste un écart entre les discussions politiques, l'expertise technique et la mise en œuvre concrète.

Ce lancement témoigne également de l'évolution de l'UNIDIR. Ces dernières années, l'Institut est devenu une plateforme de référence pour la recherche, le dialogue et le renforcement des capacités en matière d'IA et de sécurité. Le centre consolide et amplifie ces travaux, contribuant ainsi de manière plus ciblée et durable aux efforts mondiaux sur l'IA, la paix et la sécurité.

Q : Les initiatives et les forums sur l'IA ne manquent pas. Qu'est-ce qui distingue ce centre et quelle valeur ajoutée unique peut-il apporter ?

GPP : Il est vrai que les initiatives axées sur l’IA ne manquent pas, mais relativement peu d’entre elles se concentrent sur les dimensions les plus importantes et les plus sensibles : la paix et la sécurité internationales.

De nombreuses plateformes existantes sont axées sur l'innovation, la croissance économique, la gouvernance numérique, les droits humains et les impacts sociétaux plus larges. Ces discussions sont essentielles, mais des questions telles que les applications militaires, la stabilité stratégique, la dynamique des conflits et l'avenir de la guerre ont souvent été abordées dans des contextes plus spécialisés et fragmentés.

Ce centre a pour vocation de combler cette lacune. Il se concentre sur l'intersection entre l'IA, la paix et la sécurité, en examinant les risques et les opportunités liés aux capacités permises par l'IA, à la prise de décision en situation de crise et à la stabilité internationale.

Parallèlement, nombre des pratiques les plus avancées en matière de gouvernance de l'IA – telles que la sécurité, la responsabilité, les tests, la gestion des risques et l'utilisation responsable – émergent en dehors du domaine de la sécurité. L'un des principaux objectifs du centre est de faire le lien entre ces univers, de connecter les expertises et de diffuser les connaissances entre des communautés qui interagissent rarement directement.

Ce faisant, elle vise à renforcer la compréhension, à réduire la fragmentation et à soutenir des approches plus cohérentes de la gouvernance de l'IA dans le domaine de la sécurité.

Q : Le Centre d’excellence de l’UNIDIR pour l’IA, la paix et la sécurité servira de pôle d’excellence pour les travaux de l’Institut sur l’IA. Quelles sont ses priorités initiales et dans quels domaines prévoyez-vous que les travaux du centre auront le plus grand impact dans les années à venir ?

GPP : Ce centre s’appuie sur plusieurs années de travaux menés par l’UNIDIR à l’intersection de l’IA et de la sécurité internationale, en réunissant recherche, dialogue et renforcement des capacités au sein d’un cadre unique et dédié. Cela permet à l’Institut d’accroître sa contribution à un moment où la demande et l’expertise augmentent rapidement.

Ses priorités initiales s'articulent autour de trois axes : l'approfondissement de l'analyse, le renforcement de l'engagement et la mise à disposition d'outils pratiques. Sur le plan de la recherche, cela inclut des problématiques émergentes telles que l'IA agentielle, les implications interdomaines en matière de sécurité – de la cybersécurité à la biosécurité – et les risques liés à la prolifération.

L'engagement s'intensifiera également, notamment auprès de l'industrie, reconnaissant le rôle crucial des développeurs et des déployeurs dans l'élaboration des solutions de sécurité. Parallèlement, le centre produira des outils pratiques, tels que des recommandations pour les stratégies nationales en matière d'IA et de défense, ainsi qu'un lexique de sécurité de l'IA afin de favoriser une compréhension partagée et plus claire entre les différentes communautés.

À l'avenir, son impact le plus important proviendra de sa capacité à servir de pont : entre la politique et la technologie, entre les communautés de sécurité et les autres, et des débats mondiaux à la mise en œuvre concrète.

À mesure que l'IA redéfinit les enjeux de sécurité, le besoin de plateformes fiables permettant une élaboration de politiques éclairée, inclusive et concrète ne fera que croître. C'est précisément le rôle que ce centre entend jouer.

Q : Le centre s'articule autour de trois piliers : le savoir, le dialogue et l'action. Comment cela se traduira-t-il concrètement par un soutien aux gouvernements et aux autres parties prenantes ?

GPP : Ces trois piliers reflètent notre conviction qu’une gouvernance efficace de l’IA dans le domaine de la paix et de la sécurité exige plus qu’une simple analyse ; elle exige une connexion et une mise en œuvre.

• Le pilier « connaissances » vise à produire des recherches pertinentes pour les politiques publiques sur les enjeux émergents, aidant ainsi les décideurs à comprendre les risques, les opportunités et les tendances.
• Le pilier du dialogue crée des espaces de confiance pour les échanges entre les gouvernements, l'industrie, le monde universitaire, la société civile et les organisations internationales – rassemblant des communautés qui ne s'engagent pas souvent et favorisant une compréhension et une confiance partagées.
• Le pilier « action » transforme les idées en pratiques. Il se concentre sur les outils, les orientations, la formation et le renforcement des capacités, contribuant ainsi à traduire les principes en politiques concrètes et en mesures opérationnelles.

Ensemble, ces piliers visent à donner aux gouvernements et aux autres acteurs les moyens non seulement de comprendre les implications de l'IA pour la paix et la sécurité, mais aussi d'y répondre de manière collaborative, cohérente et efficace.

Q : Genève est depuis longtemps un centre névralgique de la diplomatie et de la coopération internationale. Qu’est-ce qui la rend particulièrement bien placée pour accueillir un centre mondial axé sur l’IA, la paix et la sécurité ?

RG : Genève occupe une position unique au carrefour de la sécurité internationale, de la gouvernance technologique, de l’action humanitaire et des droits humains – des domaines de plus en plus imbriqués à l’ère de l’IA. Rares sont les endroits au monde qui réunissent un ensemble aussi diversifié et influent d’acteurs œuvrant dans ces domaines.

La ville accueille des organisations internationales, des missions diplomatiques, des experts techniques, des acteurs humanitaires, des organismes de normalisation et des organisations de la société civile qui contribuent aux débats sur l'avenir des technologies et leurs impacts sociétaux. Elle s'est également imposée comme un centre important de gouvernance de l'IA, avec un écosystème en pleine expansion axé sur les technologies numériques, l'innovation responsable et la coopération internationale.

Pour un centre spécialisé dans l'IA et la sécurité, cette convergence représente un atout majeur. Les implications de l'IA dépassent largement le cadre des institutions de sécurité traditionnelles et touchent des domaines aussi variés que les droits humains, le développement, la cyber-résilience et l'action humanitaire. Genève offre un environnement unique propice à la confrontation de ces différentes perspectives.

En ancrant le centre ici tout en s'engageant à l'échelle mondiale, UNIDIR peut tirer parti de cet écosystème pour connecter les communautés, approfondir le dialogue et soutenir des approches plus cohérentes et inclusives de la gouvernance de l'IA dans le domaine de la paix et de la sécurité.
Source: UNIDIR - https://unidir.org/a-new-home-for-ai-governance/