La plupart des technologies sont à double usage : prenez le cas des technologies numériques qui améliorent fondamentalement la gouvernance, les marchés et le développement. Pourtant, l'utilisation malveillante de ces mêmes technologies représente également de sérieux défis pour la stabilité mondiale. Dans le contexte international actuel, le risque d'erreur de calcul et de déstabilisation est réel. Le crime en ligne coûte déjà des centaines de milliards de dollars par an à l'économie mondiale et ce chiffre semble s'aggraver. Pendant ce temps, la course à la domination et, dans certains cas, à la militarisation des technologies d’avant-garde - y compris l'intelligence artificielle (AI) - est lancée. Et ses implications vont sans nul doute façonner la direction que prendra l'humanité. Trouver des moyens de maximiser les avantages et de minimiser les inconvénients de ces nouveaux outils s’avère étonnamment difficile.

Le secrétaire général des Nations Unies, António Guterres, prend cette dualité au sérieux. D'après lui, le potentiel des nouvelles technologies peut apporter des changements positifs tout comme il peut provoquer de sérieux dommages. C'est du moins ce qu’affirme sa stratégie sur les nouvelles technologies, qui paraîtra bientôt. Consciente de la dépendance croissante du monde à l'égard d'un large éventail de nouvelles technologies (souvent qualifiées de « quatrième révolution industrielle »), l'ONU se prépare à faire ce en quoi elle excelle : publier de nouveaux rapports et mettre en place des comités pour ressasser le sujet. La stratégie du secrétaire général appelle à élargir la base de connaissances de l'organisation sur les nouvelles technologies, en particulier en ce qui concerne ses principaux domaines de travail : la paix et la sécurité internationales, le développement et les droits de l'homme. Elle recommande également que l’ONU intensifie ses efforts en matière d'innovation, nomme des expert en technologie, réunisse un panel de dirigeants des secteurs privé, public et à but non lucratif et accélère l'apprentissage au sein de ses États membres. Le chef de l'ONU a déjà averti les agences, leur demandant d'intensifier l'innovation.

Voilà une bonne nouvelle, en supposant, bien sûr, que l'ONU et son secrétaire général aient la capacité et les ressources nécessaires.

Guterres met déjà l’accent sur l’urgence de la situation au sein de l'organisation. Il a reconnu certaines des « inconnues connues » - à savoir qu'il existe encore une connaissance et une compréhension relativement limitées de la technologie, qu’elle soit ancienne ou nouvelle, au sein du système des Nations Unies. Son premier point à l'ordre du jour : étendre la culture numérique à l'ensemble de l'organisation. Et bien qu’elle ne manque pas d’humilité, la nouvelle stratégie est également ambitieuse. Elle vise, entre autres, à exploiter les nouvelles technologies afin d’accélérer la réalisation des Objectifs de développement durable (ODD) de 2030. Elle cherche également à renforcer la capacité des États membres à interpréter les opportunités et les risques des nouvelles technologies, en encourageant la coopération en matière de principes, de valeurs et de normes.

Une fusée Falcon 9 de SpaceX, transportant le robot IA Cumon, décolle en juin.
Une fusée Falcon 9 de SpaceX, transportant le robot IA Cumon, décolle en juin.
Image : Image : Reuters/Joey Roulette

Cette stratégie fournit un ensemble de principes généraux pour encadrer la façon dont l'ONU (et ses États membres) pourrait réfléchir aux nouvelles technologies. Ces principes sont profondément ancrés dans la Charte des Nations Unies et la Déclaration universelle des droits de l'homme et ont pour but d'aider à façonner positivement le débat en cours et à venir concernant les nouvelles technologies. Guterres est catégorique, ces discussions devront être transparentes et inclusives. Il croit également que la conception et le déploiement de nouvelles technologies devraient être orientés vers la promotion de la paix, du développement durable et des droits de la personne. L'ONU adhère depuis longtemps à ce principe de précaution : éviter tout préjudice involontaire.

En pratique, que peut donc faire l'organisation maintenant ? Le chef de l'ONU n'a pas besoin d’être plus convaincant - il a déjà fait de l'engagement avec les nouvelles technologies un pilier majeur de son mandat. Qui plus est, de très nombreuses expérimentations sont déjà en cours au sein de l'ONU, en particulier entre les agences humanitaires et des droits de l'homme, tels que le Haut Commissariat des Nations unies pour les réfugiés, le Bureau des Nations Unies de la coordination des affaires humanitaires, ONU Femmes et le Programme alimentaire mondial, entre autres. Pourtant, beaucoup d’autres choses peuvent être faites.

Voici six suggestions, dont certaines sont déjà exposées dans la stratégie à venir, pour que les choses avancent encore plus vite.

1. Élargir l'exposition de l’ONU et sa compréhension des nouvelles technologies

L'ONU n'est pas une organisation innovante et ne devrait pas non plus chercher à imiter les spécialistes privés et non gouvernementaux travaillant avec les nouvelles technologies. Cela ne signifie pas pour autant qu’elle ne devrait pas aider à encourager la sensibilisation. Certaines agences des Nations Unies, notamment le Bureau des affaires de désarmement, l'Institut pour la Recherche sur le Désarmement (UNIDIR), le Haut-Commissariat aux droits de l'homme, l'Office contre la drogue et le crime et l'Union internationale des télécommunications (UIT) ont acquis une véritable expérience. Pourtant, de nouvelles façons de travailler sont nécessaires, y compris la réflexion sur des processus plus agiles capables de suivre le rythme du changement technologique. La nouvelle stratégie préconise la création d'un laboratoire d'innovation, vraisemblablement destiné à compléter l'initiative Global Pulse, ainsi que la désignation d'un ambassadeur de la technologie, afin de promouvoir une meilleure compréhension, une meilleure collaboration et de nouveaux modèles de partenariat avec les États membres et les autres.

2. Engager la discussion sur l'innovation et les nouvelles technologies avec tous les États membres de l'ONU

Lorsqu'il s’agit d’exploiter les nouvelles technologies, chaque pays a une compréhension et des capacités très différentes. Alors que certains construisent de vastes villes intelligentes, d'autres peinent encore à fournir les services les plus basiques. Les entités de l’ONU, en partenariat avec des partenaires privés et à but non lucratif, peuvent contribuer à accélérer le transfert de connaissances de « ce qui fonctionne » grâce au partage d'informations, à la sensibilisation et à la diffusion de bonnes idées ayant fait leurs preuves. Les banques de technologies nouvellement établies pour atteindre les ODD et le partenariat avec IBM du Programme des Nations Unies pour le développement visant à appliquer l'IA afin d’évaluer les plans de développement nationaux sont un bon début. Un certain nombre d'équipes de pays des Nations Unies intègrent déjà les dernières réflexions sur les nouvelles technologies dans le financement du développement et les plans d'action nationaux pour le développement.

3. Faire le bilan des processus normatifs, réglementaires et de coopération existants et émergents pour exploiter les opportunités et réduire les risques que présentent les nouvelles technologies

Les organismes de normalisation de l'ONU ne peuvent et ne devraient probablement pas prendre l'initiative d'établir des normes et des règles dans le cas de programmes technologiques. Pour l'essentiel, un important travail est déjà en cours en dehors des Nations Unies : du rôle leader de la communauté technologique dans l'élaboration de normes et de protocoles Internet aux campagnes de la société civile contre ce qu’on appelle les « robots tueurs », en passant par des principes et codes de conduite volontaires développés par des ingénieurs de biotechnologie et autres. L'ONU devrait trouver des moyens de soutenir et de favoriser des processus prometteurs, tout en redonnant vie à d’autres qui sont moribonds mais peut-être encore pertinents. Un jury co-présidé par un entrepreneur de renommée mondiale et un philanthrope de premier plan, qui sera bientôt dévoilé, devrait contribuer à la réalisation de ces objectifs, en particulier en ce qui a trait aux nouveaux défis associés aux progrès technologiques.

4. Aider les États membres à s'attaquer aux menaces les plus immédiates que constitue l'utilisation malveillante des TIC et des nouvelles technologies pour la paix et la sécurité internationales

Depuis les années 1990, l'Assemblée générale des Nations Unies a servi de plateforme aux États pour débattre de ces questions. Par exemple, une série de groupes d'experts gouvernementaux ont convenu de l'applicabilité du droit international au cyberespace, ont recommandé des normes sur l'utilisation par les États des technologies de l'information et de la communication (TIC) et ont contribué à renforcer les mesures de confiance et de coopération afin de réduire le risque de conflit engendré par leur mauvaise utilisation. Malgré les contretemps rencontrés, ces processus ont généré des résultats importants et peuvent servir de cadre pour la stabilité mondiale. En attendant, les efforts devraient être redoublés pour relever les défis posés par les armes létales autonomes et les risques émergents associés aux progrès de la biotechnologie. Bien sûr, les calculs géostratégiques donneront un cadre aux États dans leurs choix de coopérer ou d’être en concurrence. Après tout, ces technologies façonnent la stratégie globale : le président russe Vladimir Poutine a déclaré que « celui qui dominerait l’IA dominerait le monde », tandis que la Chine a publié un programme national pour le « leadership de l’IA » en 2025 et « la domination » d'ici 2030. Les États-Unis et l'Union européenne quant à eux leur emboîtent le pas. Le fait est que l'ONU et son secrétaire général doivent avancer à tâtons sur plusieurs de ces points.

 Vladimir Poutine estime que la course à l'IA est la clé de la domination mondiale.
Vladimir Poutine estime que la course à l'IA est la clé de la domination mondiale.
Image : Image : Reuters

5. Approfondir la compréhension des effets qu’ont les nouvelles technologies sur le développement durable et les droits de l'homme

De nombreuses nouvelles technologies offrent la possibilité d'accélérer et d'élargir les opportunités, la croissance et le bien-être. Cependant, elles peuvent également perturber négativement les marchés et les emplois, porter atteinte à la vie privée et aux libertés numériques, et être exploitées à des fins néfastes. Prenez le cas des médias sociaux, capables de relier les gens, mais aussi d’amplifier un discours de haine, de faciliter l'exploitation sexuelle des enfants et de discréditer les processus démocratiques. Ou encore l'automatisation de masse et la robotique, qui peuvent créer de plus grandes économies d'échelle tout en contribuant à un chômage important. L'ONU peut jouer un rôle en aidant les États et les sociétés à anticiper et à atténuer les effets négatifs des nouvelles technologies. Les sommets AI for Good organisés par l'UIT en 2017 et 2018 en sont un bon exemple.

6. Développer un engagement plus avancé avec le secteur privé

Les technologies nouvelles et innovantes ne sont généralement pas conçues ni développées par les États-nations. Ce sont le secteur de la technologie et les communautés de recherche, et non les gouvernements, qui décident du rythme, y compris lorsqu'il s'agit d'établir les bases de l'autorégulation, formelle ou non. En témoignent les principes d’Asilomar, les nouveaux principes de Google en matière d’IA ou les normes IEEE, parmi d'autres directives volontaires. Les décisions éthiques clés ayant des implications profondes pour l'humanité sont prises par un petit nombre d'entités privées. Cela étant dit, les entreprises technologiques sont impatientes de s'engager avec l'ONU. Elles se rendent compte qu'il est essentiel d'imposer des règles du jeu à l'échelle mondiale, de peur qu'elles ne soient supprimées ou prises en otage par des États puissants. En offrant ses services pour rassembler les joueurs et parvenir à un consensus, l'ONU devra passer à la vitesse supérieure. Cela nécessitera un important changement organisationnel et culturel, ainsi que davantage d'événements mixtes tels qu’en ont déjà organisés l'UNIDIR, l'Université des Nations Unies et l'Institut international pour la paix.

Additionnées les unes aux autres, ces six étapes constituent un plan d'action prudent. Rien de surprenant à cela, l'attrait pour les nouveaux programmes majeurs est relativement limité parmi les États membres de l'ONU et l'organisation aura du mal à gagner du terrain sur de nombreux fronts. Certains des principaux donateurs de l'organisation font marche arrière, mais une poignée d'États plus petits et plus avancés sur le plan technologique montrent un certain enthousiasme. La nouvelle stratégie du secrétaire général ne changera pas fondamentalement la donne. Toutefois, Guterres est déterminé à rassembler des personnes impliquées dans la conception, le développement et le déploiement de nouvelles technologies afin de contribuer à la promotion du mandat principal des Nations Unies et d'éviter de s’enfermer dans des inégalités et des déséquilibres de pouvoir. Il a conscience que cela nécessitera de nouvelles façons créatives de travailler avec des intervenants extérieurs. Tandis que de nombreux acteurs du secteur privé désirent s'engager avec l'ONU, ils craignent de s'enliser dans les processus bureaucratiques. Soutenir les efforts pour réduire les risques de nouvelles technologies et expérimenter de nouvelles réponses réglementaires est essentiel.

Le secrétaire général de l'ONU peut jouer un rôle essentiel en plaidant pour le développement et l'application de nouvelles technologies fondés sur des principes. Il peut favoriser les connaissances et promouvoir l'adhésion aux normes et principes existants et émergents. Il peut plaider en faveur de normes éthiques de base dans la conception, le développement et le déploiement de nouvelles technologies. Il peut négocier des partenariats au sein du système et en dehors afin de renforcer le dialogue et une meilleure coopération autour des opportunités et des risques de notre dépendance numérique croissante. De plus, l'ONU peut établir des partenariats, et est déjà en train de le faire, dans le secteur de la technologie pour préconiser des solutions plus agiles et intensifier les investissements à impact social. Le chemin sera pavé d’embuches. Il y aura des obstacles structurels, notamment la manière dont le système des Nations Unies lui-même est hiérarchisé. Notons tout de même que le secrétaire général a fait de ces problèmes une priorité : il a un programme, et le travail a commencé. Il aura besoin de toute l'aide qu'il pourra trouver.