Trois des applications de l'intelligence artificielle (IA) ayant la croissance la plus rapide sont une manifestation de stéréotypes patriarcaux - l'industrie des sexbots en plein essor, la prolifération des systèmes d'armes autonomes et la popularité croissante des assistants et des soignants virtuels, avec pour la plupart une voix féminine. Les machines de demain risquent d'être au choix : misogynes, violentes ou serviles.

Sophia, le premier robot à avoir obtenu la citoyenneté, prône les droits des femmes en Arabie saoudite et a déclaré désirer avoir un enfant ; le tout en l'espace d'un mois. D'autres robots n’ont pour unique fonction que de subir des abus.

En 2017, The Guardian a rapporté que l'industrie de la technologie du sexe, y compris les jouets sexuels intelligents et la pornographie en réalité virtuelle, était estimée à 30 milliards de dollars, une somme époustouflante. Cela ne fait que commencer. L'industrie prévoit de lancer des robots sexuels féminins avec des organes génitaux sur mesure et même des systèmes de chauffage, le tout dans le but de créer une expérience sexuelle satisfaisante.

L'avènement des machines sexuellement obéissantes - conçues pour ne jamais dire non - pose problème, non seulement en raison de la présomption que les femmes peuvent être remplacées, mais parce que les créateurs et les utilisateurs ont tendance à être des hommes hétérosexuels. La nouvelle d'un robot sexuel molesté, brisé et souillé lors du salon Ars Electronica Festival en Autriche, l'an dernier, ne devrait surprendre personne.

Certains prétendent que l'utilisation des sexbots pourrait réduire l'abus et le viol des femmes dans la vie réelle. Il est cependant indéniable que ces machines sont créées pour assouvir les besoins pervers de certains hommes. Ces machines représentent une nouvelle vague de réification, qui pourrait potentiellement exacerber la violence contre les femmes réelles.

L'arrivée de systèmes d'armes létales autonomes (SALA) ou de « robots tueurs », d'un autre côté, menace de déshumaniser les victimes de la guerre, qu’elles soient des hommes ou des femmes.

D'un côté, les armes autonomes pourraient réduire le nombre d'humains impliqués dans les combats et même diminuer les pertes. Les robots tueurs pourraient au final réduire le coût humain des guerres. D’un autre côté, cela pourrait minimiser l'importance des conséquences humaines des combats - et ainsi la violence elle-même - et baisser le seuil des conflits armés.

Plusieurs États réclament une interdiction préventive des robots tueurs, craignant qu'ils ne conduisent à une course aux armements de l'IA, susceptible d’augmenter le risque de conflit violent. Faut-il donner droit de vie ou de mort aux machines ? Ou ce choix devrait-il rester entre les mains des humains, aussi faillibles soient-ils ?

Enfin, le développement d’assistants vocaux et de dispositifs de l'Internet des Objets (IoT) pour prendre soin des enfants et des personnes âgées est un marché qui devrait connaître une expansion rapide au cours de la prochaine décennie. L’idée que les machines ne peuvent pas faire appel à l'intelligence émotionnelle que possèdent les travailleurs sociaux est de plus en plus remise en question par l'émergence de dispositifs de suivi intelligents et de moniteurs de santé capables d'observer et de prédire le comportement.

Ces innovations partagent sans doute leur technologie sous-jacente avec d'autres plates-formes vocales telles que les assistants virtuels - des plates-formes souvent conçues pour imiter l'obéissance et l'asservissement. Ce n'est pas par hasard que les assistants vocaux sont souvent conçus pour parler et agir de façon féminine - prenez Siri d'Apple (dans sa version d’origine) et Alexa d'Amazon. Le développement plus récent d'une option « masculine » pour les assistants vocaux ne change pas l'image globale de la domination masculine et de la servitude féminine dans l'IA.

Il faut s’attendre à ce que les robots remplacent les travailleurs du monde entier.

Tandis que les chatbots et les assistants vocaux intègrent des données assemblées par des codeurs de sexe masculin, les machines perpétuent les inégalités auxquelles on assiste dans le monde réel. Cela peut avoir des conséquences inattendues.

Compte tenu de l'incertitude générale quant à l'impact de l'IA sur le monde réel, la responsabilité des créateurs, ainsi que des communautés plus larges, mérite d'autant plus notre attention.

Aujourd'hui, les machines reflètent des idées régressives et patriarcales qui se sont avérées nocives pour la société. Si cela continue, la technologie pourrait ne plus nous mener vers un monde post-genre. Au contraire, à l’instar de toutes les mauvaises doctrines qui ont fait reculer les communautés, des codes biaisés pourraient simplement institutionnaliser des comportements néfastes.

Impliquer plus de femmes et de communautés marginalisées dans la création d'agents d'IA pourrait peut-être fournir l'équité que nous désirons dans les machines du futur, et empêcher le développement d’une technologie plus patriarcale encore. Si la machine véhicule ces concepts ancestraux, devons-nous supprimer la condition plus systémique du patriarcat ou en fin de compte réduire la dépendance vis-à-vis de cette machine ? Dans les deux cas, c’est plus facile à dire qu'à faire.

Afin de construire un monde équitable, dans lequel vivront des femmes, des hommes et des machines, la communauté mondiale doit établir aujourd’hui des normes concernant l'objectif fondamental, les principes de conception et l’éthique dans le déploiement de l'IA.

Les systèmes autonomes ne peuvent pas être guidés par le déterminisme technologique qui sévit dans la Silicon Valley ; bien au contraire, leur conception devrait être façonnée par des groupes multiethniques, multiculturels et multi-genres. Plus important encore, l'IA et son évolution doivent servir des groupes d’intérêts bien plus larges et donner accès à des avantages universellement disponibles.

L'administration des applications de l’IA ne peut pas être laissée au seul marché. Nous avons depuis longtemps constaté que ce dernier se trompe souvent et est régulièrement compromis par la perversion et la cupidité. L'histoire nous enseigne que lorsque les gouvernements contrôlent, contraignent et restreignent l'innovation, ils produisent des résultats aberrants, loin d'être parfaits. Les normes développées par les communautés fournissent quant à elles une alternative. Nous devons promouvoir des normes qui gèrent ces technologies, les rendre accessibles à ceux qui en ont le plus besoin, et assurer le développement sexospécifique de cet espace mené par une communauté multipartite incluant des voix extérieures au consensus atlantique.