Le choix d’un symbole français pour un produit d’IA

La transformation digitale et le développement des systèmes d’intelligence artificielle et conversationnelle sont actuellement au cœur de nombreux projets d’innovation publique à travers tout le territoire. Ces développements, comme pour toute innovation technologique, s’accompagnent d’écueils. La Commission européenne publie un communiqué de presse en septembre 2020[1] sur les défis des nouvelles technologies dans la nouvelle ère digitale. L’accent est notamment placé sur les discriminations sexuelles, de véritables biais de genre technologiques (gender bias), qui existent aujourd’hui dans la mise en œuvre d’agents conversationnels. Pensez à Siri, Alexa ou encore l’Assistant Google qui ont des voix douces, féminines, courtoises. 

« Les assistants virtuels sont généralement programmés pour répondre au harcèlement avec des réponses affectueuses. Les recherches suggèrent que de telles réponses perpétuent le stéréotype des femmes subalternes dans les rôles de service et peuvent promouvoir une culture de violence contre les femmes en présentant l’ambiguïté indirecte comme une réponse valable au harcèlement[2] ».

Le problème des biais de genre fait régulièrement couler de l’encre depuis quelque temps, puisque les personnifications des chatbots en femmes avec des connotations sexistes émergent chaque jour. Emblématique est le cas de Siri qui jusqu’à avril 2019 a répondu « si je pouvais rougir je le ferais » aux utilisateurs qui l’appelaient « p*te »[3]. Depuis, de nombreuses campagnes de sensibilisations et actions de politique internationales ont eu lieu : l’UNESCO a notamment publié en 2019 un rapport de 145 pages sur les actions à mener afin de réduire les disparités entre les sexes dans les compétences numériques grâce à l’éducation[4].

Il devient donc nécessaire d’expliquer et de clarifier le choix du nom de notre produit chatbot citoyen, La petite marianne, qui a pour ambition de faciliter et améliorer la communication entre administrateurs et habitants du territoire français.

Ce choix du nom “La petite marianne » renvoie à l’un des symboles emblématiques de la France : la Marianne. Elle est l’allégorie du peuple et de la République, présente sur chaque document administratif, sur chaque fronton de mairie et timbres-poste. 

Dans la continuité de notre design éthique, notre nom ne comporte pas de majuscule car nous n’avons pas souhaité personnifier le chatbot : il ne s’agit pas d’un agent conversationnel avec une identité féminine. Il n’est pas non plus question de faire référence aux traits féminins de Marianne mais plutôt aux valeurs qu’elle porte. Ces valeurs, nous les retrouvons aussi dans un document listant les engagements des services publics auprès des administrés français : le référentiel Marianne[5]. 

Nous partageons non seulement le nom, mais également les mêmes ambitions. Les 12 engagements du référentiel Marianne ont inspiré la conception et le développement de notre chatbot citoyen. Notamment : 

  • Faciliter l’utilisation de nos services sur internet et la réalisation de vos démarches en ligne 

Dans cette démarche, nous souhaitons proposer un service répondant de manière compréhensible, immédiate et automatisée pour faciliter l’accès des usagers à la bonne information. 

  • Utiliser vos remarques et vos suggestions pour améliorer nos services

Notre chatbot a pour objectif d’améliorer la qualité de service des administrations. Pour ce faire, notre support recueille les propositions des usagers afin d’adapter La petite marianne aux besoins de chaque collectivité.

  • Faire évoluer nos pratiques, impliquer nos collaborateurs et prendre en compte leurs retours pour améliorer la qualité de service

La petite marianne évolue en étant administré directement et simplement par les agents publics eux-mêmes, qui discutent et valident chaque suggestion issue de ses interactions avec les citoyens, afin de superviser la progression de notre chatbot CivicTech. 

Conscients des problématiques liées aux discriminations de genre, nous avons fait le choix de ne pas donner une identité personnifiée et genrée à notre chatbot. Dans ses valeurs, notre robot se veut universel et en accord avec les engagements pris par l’État auprès des citoyens et usagers. 

Co-écrit avec Ladmia Chettih

[1] https://ec.europa.eu/info/sites/info/files/research_and_innovation/research_by_area/documents/ec_rtd_gender-bias-in-ai-factsheet.pdf

[2] Ibid., p. 1

[3] https://www.dailysabah.com/technology/2019/05/23/id-blush-if-i-could-ai-assistants-like-siri-alexa-promote-sexist-stereotypes-un-warns

[4] https://unesdoc.unesco.org/ark:/48223/pf0000367416.page=1

[5] https://www.modernisation.gouv.fr/etudes-et-referentiels/referentiels/le-referentiel-marianne-nouvelle-version