Placer le design éthique au cœur de nos développements technologiques est un enjeu de société, mais également un enjeu stratégique.

« Vraisemblablement, l’espèce humaine s’agrandira mais il est à craindre que l’homme ne diminue, que quelques facultés éminentes du génie ne se perdent, que l’imagination, la poésie, les arts, ne meurent dans les trous d’une société-ruche où chaque individu ne sera plus qu’une abeille, une roue dans une machine, un atome dans la matière organisée ? »

Chateaubriand – Mémoires d’Outre-Tombe

Design éthique

En 2019, je proposais à mes associés chez Les petits bots, un choix atypique pour une startup : nous associer au CNRS (Centre National de la Recherche Scientifique) et Sorbonne Université pour recruter une ingénieure de recherche en éthique appliquée aux nouvelles technologies. Objectif : placer la réflexion philosophique dans la manière de concevoir nos interfaces et Intelligences Artificielles conversationnelles. S’ils furent surpris par cette propositions, chacun d’entre eux a accepté cette proposition.

Intégrer une philosophe au développement de notre startup, tôt dans son histoire, a eu un impact majeur dans le développement de nos produits ces deux dernières années. Un choix que nous avons fait par responsabilité mais aussi par souci d’efficience économique et qui sera, nous l’espérons, un choix suivi dans les années à venir par nombre d’entreprises dans l’univers technologique. 

En effet, ce choix est avant tout un choix de responsabilité. Le rôle de notre ingénieure de recherche en éthique appliquée est, chaque jour, de nous interroger sur nos choix techniques et de développements produits, mais également sur nos décisions stratégiques, avec l’exigence de placer au cœur de notre réflexion notre responsabilité sociale, humaine, écologique et économique.

L’Histoire ne cesse de l’illustrer, toute innovation technologique émerge avec ses promesses, mais également ses risques et ses enjeux sociétaux. Il en est ainsi des IA conversationnelles et chatbots que nous développons dans les univers des ressources humaines, ou encore de la gestion des relations citoyennes au sein des collectivités territoriales.

Savoir s’interroger et évaluer en continue les implications des technologies et fonctionnalités que nous développons est indispensable pour maintenir la technologie au service de l’être humain, et non l’inverse. L’exemple des technologies persuasives, qui ont conduit nombre de startups de la Silicon Valley à dévoyer leurs idéaux initiaux, l’illustre parfaitement (récemment mis en lumière dans le documentaire “Ecran de fumée” sur Netflix). De manière générale, alors que les réseaux sociaux étaient destinés à réunir les êtres humains (ce qu’ils font en partie il ne faut pas le nier), leur émergence pose également de nouvelles problématiques en matière d’informations (diffusions de « fake news », complotisme…) mais aussi de démocratie (citons ici le scandale dit « Facebook-Cambridge Analytica »). Savoir questionner la technologie est également nécessaire à l’heure des défis environnementaux. Alors que nous mesurons mieux leur bilan carbone, les développements technologiques ne peuvent plus se faire en ignorant leur impact écologique (comme le mentionne le rapport du think tank « The Shift Project » ).

Placer la réflexion philosophique de manière vivante au cœur de nos entreprises, c’est assumer nos responsabilités sociales et écologiques.

La philosophie, une question également d’efficience économique 

Attention cependant, l’idée qui consisterait à considérer qu’intégrer un ou une philosophe à son conseil d’administration ou à son équipe de développement produit, serait une lourdeur nécessaire est à rejeter. Nous affirmons chaque jour chez Les petits bots que placer la philosophie et l’éthique au cœur de notre fonctionnement est aussi un choix d’efficience économique. En effet, la philosophie et l’éthique ne permettent pas seulement de se poser les bonnes questions d’un point de vue social ou écologique, elles nous permettent surtout de développer de meilleurs produits et de meilleurs services. C’est ainsi que nous passons d’un design produit au design éthique. Exigence de notre époque, mais aussi de nos clients et utilisateurs. Placer aux cœurs de nos préoccupations la réflexion sur le traitement des données, sur la bienveillance et la non-complexité technologique, l’autonomie de l’utilisation, la démocratie ou encore la justice sont des avantages concurrentiels que nous présentons dans notre charte éthique. Une charte que nous faisons vivre chaque jour dans nos débats internes autour de nos choix technologiques et décisions stratégiques.

C’est aussi un enjeu de management car, fondateurs, collaborateurs et partenaires, nous sommes plus engagés au service d’une entreprise qui possède une mission, une conscience de ses responsabilités et de ses valeurs. 

Dans son livre : « les deux Source de la Morale et de la Religion », Bergson écrit : « Le talent d’invention aidé de la science, avait mis à la disposition de l’homme des énergies insoupçonnées. Il s’agissait d’énergies physico-chimiques et d’une science qui portait sur la matière. Mais l’esprit ? […] Le corps agrandi attend un supplément d’âme ». Dans l’univers de l’innovation et de la technologie, ce supplément d’âme c’est l’éthique qui nous l’apporte. Au 21ème siècle, les philosophes ont une place essentielle au sein des startups, entreprises innovantes et société technologique. C’est notre conviction.

Crédit image : Do Robots Dream – Anatole Branch Portfolio