Le Haut-Commissaire aux Droits de l'Homme, M. Volker Türk: L'IA doit reposer sur l'inclusion, la responsabilité et les normes internationales
Volker Türk sur l'IA : Points clés
- Les droits humains fournissent un cadre pour le développement, la conception et l'utilisation sûrs de l'IA
- L'impact de l'IA est en fin de compte une question de pouvoir et de la manière dont il est exercé.
- L’iniquité, les préjugés et la discrimination constituent le principal risque pour les droits humains lié à l’expansion rapide de l’IA.
- Des évaluations d'impact sur les droits humains sont nécessaires lors de la conception, du développement et du déploiement de l'IA.
- Les entreprises technologiques doivent respecter les principes des Nations Unies relatifs aux entreprises et aux droits de l'homme
- Lorsque les développeurs d'IA n'ont pas une compréhension approfondie des principes sociaux et éthiques fondamentaux, ils risquent de créer le « monstre de Frankenstein ».
S'exprimant lors du Sommet sur l'impact de l'IA à New Delhi, M. Türk a déclaré à l'agence de presse de l'ONU que cette technologie devait être régie par un cadre de droits humains garantissant la transparence, la responsabilité et l'inclusion.
Cet entretien a été modifié pour plus de clarté et de concision.
Volker Türk : L’intelligence artificielle est un outil technologique et son développement doit reposer sur une évaluation des risques. Les outils technologiques servent à exercer le pouvoir, pour le bien comme pour le mal ; il est donc essentiel de mettre en place un cadre pour leur développement, leur conception et leur utilisation, et c’est là que les droits humains interviennent.
Actualités de l'ONU : Quels sont les principaux risques pour les droits de l'homme que vous observez aujourd'hui face à l'expansion rapide de l'IA ?
Volker Türk : Il existe un énorme problème d’inégalité, et c’est pourquoi je suis si heureux que ce sommet sur l’IA se tienne en Inde. Il est essentiel que ces outils soient utilisés et développés partout.
Se pose ensuite la question des biais et de la discrimination. Si les données proviennent d'une seule région du monde, si seuls des hommes développent l'IA, des biais inconscients seront inévitables. Nous pensons qu'il est essentiel de prendre en compte les groupes vulnérables et les minorités, car ils sont souvent exclus du développement de l'IA. Il s'agit d'une participation significative et de la vision d'un monde meilleur. Les droits humains offrent cette vision.
Actualités de l'ONU : L'IA générative progresse plus vite que la réglementation. Quelles garde-fous les gouvernements et les entreprises doivent-ils mettre en place de toute urgence ?
Volker Türk : Prenons l’exemple de l’industrie pharmaceutique : les tests peuvent parfois durer longtemps car il faut s’assurer que tous les risques associés à un nouveau produit sont identifiés avant sa mise en vente.
En ce qui concerne les outils d'IA, nous devons exiger des entreprises qu'elles réalisent une évaluation d'impact sur les droits humains lors de leur conception, de leur déploiement et de leur commercialisation.
On constate depuis un certain temps que certaines entreprises disposent de budgets supérieurs à ceux de certains petits pays. Maîtriser la technologie, non seulement dans son pays mais à l'échelle mondiale, confère un pouvoir considérable. Ce pouvoir peut être utilisé à bon escient – pour contribuer à des domaines tels que la santé, l'éducation et le développement durable – mais il peut aussi servir à des fins néfastes, comme la création d'armes létales automatisées et la diffusion de désinformation, de haine et de misogynie violente.
Actualités de l'ONU : Quel type de gouvernance ou de règles liées à l'IA est nécessaire pour empêcher les systèmes d'IA de renforcer les préjugés et les inégalités ?
Volker Türk : J'ai eu l'occasion de discuter avec des personnes qui fabriquent, développent et conçoivent ces produits. Ce qui me frappe, c'est que leur connaissance des principes fondamentaux est souvent très superficielle lorsqu'ils abordent la phase de développement.
Ça me fait un peu penser au monstre de Frankenstein : on développe quelque chose qu’on ne contrôle plus. On a laissé le génie sortir de sa lampe.
Si l'on ne prend pas conscience des dangers et des risques, on peut causer des ravages. On l'a vu au Myanmar, par exemple, où de nombreux discours de haine contre les Rohingyas ont été diffusés sur les réseaux sociaux.
Il est primordial de prendre en compte le point de vue de chaque segment de la société, en particulier des femmes et des jeunes, et de garder à l'esprit que notre cerveau se développe différemment.
Nous ne voulons pas créer de dépendances qui empoisonnent nos esprits et nos âmes . Nous devons également prendre conscience de la façon dont la désinformation, loin de détruire le tissu social, engendre des sociétés clivantes et polarisées où chacun vit replié sur lui-même.
On constate également beaucoup de misogynie. De nombreuses femmes politiques me confient envisager de quitter la politique à cause de ce qu'elles subissent sur les réseaux sociaux.
Actualités de l'ONU : Dans cinq ans, à quoi ressemblera selon vous une IA responsable ?
Volker Türk : Ce que j'espère, c'est un développement inclusif de l'intelligence artificielle, où le pouvoir ne soit plus concentré entre les mains d'une poignée d'entreprises en Amérique du Nord, et où le développement de l'IA s'appuie sur la richesse et la diversité de chacun d'entre nous dans chaque société.
J'aspire à un développement inclusif, porteur de sens et participatif, qui nous permette de résoudre les nombreux problèmes et défis du monde actuel. La crise climatique, l'accès aux soins de santé, l'éducation pour tous : l'IA peut être un outil formidable pour nous aider à atteindre ces objectifs.
En revanche, si nous ne proposons pas une vision d'un monde meilleur, nous risquons de nous polariser encore davantage et de connaître des guerres qui échappent désormais au contrôle humain. Et cela est très dangereux.
S'exprimant lors du Sommet sur l'impact de l'IA à New Delhi, M. Türk a déclaré à l'agence de presse de l'ONU que cette technologie devait être régie par un cadre de droits humains garantissant la transparence, la responsabilité et l'inclusion.
Cet entretien a été modifié pour plus de clarté et de concision.
Volker Türk : L’intelligence artificielle est un outil technologique et son développement doit reposer sur une évaluation des risques. Les outils technologiques servent à exercer le pouvoir, pour le bien comme pour le mal ; il est donc essentiel de mettre en place un cadre pour leur développement, leur conception et leur utilisation, et c’est là que les droits humains interviennent.
Actualités de l'ONU : Quels sont les principaux risques pour les droits de l'homme que vous observez aujourd'hui face à l'expansion rapide de l'IA ?
Volker Türk : Il existe un énorme problème d’inégalité, et c’est pourquoi je suis si heureux que ce sommet sur l’IA se tienne en Inde. Il est essentiel que ces outils soient utilisés et développés partout.
Se pose ensuite la question des biais et de la discrimination. Si les données proviennent d'une seule région du monde, si seuls des hommes développent l'IA, des biais inconscients seront inévitables. Nous pensons qu'il est essentiel de prendre en compte les groupes vulnérables et les minorités, car ils sont souvent exclus du développement de l'IA. Il s'agit d'une participation significative et de la vision d'un monde meilleur. Les droits humains offrent cette vision.
URL du tweet
Actualités de l'ONU : L'IA générative progresse plus vite que la réglementation. Quelles garde-fous les gouvernements et les entreprises doivent-ils mettre en place de toute urgence ?
Volker Türk : Prenons l’exemple de l’industrie pharmaceutique : les tests peuvent parfois durer longtemps car il faut s’assurer que tous les risques associés à un nouveau produit sont identifiés avant sa mise en vente.
En ce qui concerne les outils d'IA, nous devons exiger des entreprises qu'elles réalisent une évaluation d'impact sur les droits humains lors de leur conception, de leur déploiement et de leur commercialisation.
On constate depuis un certain temps que certaines entreprises disposent de budgets supérieurs à ceux de certains petits pays. Maîtriser la technologie, non seulement dans son pays mais à l'échelle mondiale, confère un pouvoir considérable. Ce pouvoir peut être utilisé à bon escient – pour contribuer à des domaines tels que la santé, l'éducation et le développement durable – mais il peut aussi servir à des fins néfastes, comme la création d'armes létales automatisées et la diffusion de désinformation, de haine et de misogynie violente.
Actualités de l'ONU : Quel type de gouvernance ou de règles liées à l'IA est nécessaire pour empêcher les systèmes d'IA de renforcer les préjugés et les inégalités ?
Volker Türk : J'ai eu l'occasion de discuter avec des personnes qui fabriquent, développent et conçoivent ces produits. Ce qui me frappe, c'est que leur connaissance des principes fondamentaux est souvent très superficielle lorsqu'ils abordent la phase de développement.
Ça me fait un peu penser au monstre de Frankenstein : on développe quelque chose qu’on ne contrôle plus. On a laissé le génie sortir de sa lampe.
Si l'on ne prend pas conscience des dangers et des risques, on peut causer des ravages. On l'a vu au Myanmar, par exemple, où de nombreux discours de haine contre les Rohingyas ont été diffusés sur les réseaux sociaux.
Il est primordial de prendre en compte le point de vue de chaque segment de la société, en particulier des femmes et des jeunes, et de garder à l'esprit que notre cerveau se développe différemment.
Nous ne voulons pas créer de dépendances qui empoisonnent nos esprits et nos âmes . Nous devons également prendre conscience de la façon dont la désinformation, loin de détruire le tissu social, engendre des sociétés clivantes et polarisées où chacun vit replié sur lui-même.
On constate également beaucoup de misogynie. De nombreuses femmes politiques me confient envisager de quitter la politique à cause de ce qu'elles subissent sur les réseaux sociaux.
Actualités de l'ONU : Dans cinq ans, à quoi ressemblera selon vous une IA responsable ?
Volker Türk : Ce que j'espère, c'est un développement inclusif de l'intelligence artificielle, où le pouvoir ne soit plus concentré entre les mains d'une poignée d'entreprises en Amérique du Nord, et où le développement de l'IA s'appuie sur la richesse et la diversité de chacun d'entre nous dans chaque société.
J'aspire à un développement inclusif, porteur de sens et participatif, qui nous permette de résoudre les nombreux problèmes et défis du monde actuel. La crise climatique, l'accès aux soins de santé, l'éducation pour tous : l'IA peut être un outil formidable pour nous aider à atteindre ces objectifs.
En revanche, si nous ne proposons pas une vision d'un monde meilleur, nous risquons de nous polariser encore davantage et de connaître des guerres qui échappent désormais au contrôle humain. Et cela est très dangereux.
Source: https://news.un.org/en/story/2026/02/1167000https://news.un.org/en/story/2026/02/1167000
