Depuis quelques années, les algorithmes d’Intelligence Artificielle (IA) sont accusés de perpétuer biais et décisions discriminantes. C’est notamment le cas du côté du recrutement, qui manque de diversité en entreprise.
EDHEC Online a invité quatre praticiens aux profils variés, pour discuter de ce sujet et poser un regard pluriel sur la question :
- Nathalie Orvoen, présidente de la startup Les Potageurs, VP de la French Tech Côte d’Azur ;
- Nicolas de Toffoli, Senior Project Manager chez IBM France ;
- Alexandre Charbonnier, Directeur Technique et Pédagogique de 42 Nice ;
- Charlotte Coupez, alumni de EDHEC Business School et de l’Ecole 42, qui occupe aujourd’hui le poste de développeuse full-stack chez Oze-Energies.
Au cours du panel, ils débattent ensemble de la notion de biais algorithmique dans les processus de recrutement, définissent ce que signifie l’inclusion numérique, et posent la question de l’éthique dans l’IA.
Le replay du webinaire est disponible ici :
Le constat : les algorithmes perpétuent les biais et la discrimination dans le recrutement
Cas d’école ultime illustrant le constat du manque de diversité en entreprise, la situation d’Amazon. Il y a quelques années, la célèbre entreprise américaine a développé une solution utilisant l’IA pour procéder à la sélection des meilleurs candidats et de ses hauts potentiels. Or, l’entreprise a été confrontée à un problème de taille : les algorithmes utilisés ont tout simplement perpétué, et même accentué, un processus de recrutement biaisé.
En effet, l’algorithme d’Amazon s’est à l’époque basé sur le constat que les personnes recrutées chez Amazon sur des postes techniques étaient principalement des hommes. Ces hommes, selon les statistiques, faisaient les carrières les plus intéressantes, les plus longues et avec, au final, les meilleurs salaires au sein de l’entreprise. Par conséquent, l’algorithme en a (faussement) déduit qu’il était pertinent de favoriser le CV des hommes pour accélérer le développement de la firme américaine.
Autre cas symbolique : l’UNESCO a étudié et documenté l’impact des nouvelles technologies sur la représentation des femmes. Ses conclusions étaient sans appel : les assistants vocaux tendent à renforcer les stéréotypes sexistes. Leur asservissement programmé influe en effet sur la façon dont les hommes s’adressent aux voix féminines et façonnent la façon dont les femmes réagissent.
En conséquence, on dénombre aujourd’hui un très faible nombre de femmes dans le secteur de la tech : 12% de chercheuses spécialisées dans le domaine de l’IA, et 6% dans le domaine du développement informatique.
De quoi s’interroger sur les problématiques d’inclusion et de diversité en vigueur en entreprise actuellement. Le numérique et son accélération sont-ils une opportunité de gommer les inégalités, ou risquent-t-ils d’accentuer le problème ? C’est la première question qui a été posée à nos panélistes.
Comment définir l’inclusion numérique aujourd’hui, que représente-t-elle ?
Nicolas : l’inclusion numérique, c’est finalement offrir le bon contexte, pour que chacun puisse donner le meilleur de soi, quel que soit son profil.
Charlotte : pour moi l’inclusion numérique, c’est d’abord se poser la question “pourquoi on exclut certaines personnes de ce secteur ?”, et plus particulièrement les femmes ! Je pense qu’il existe beaucoup de stéréotypes sur ce à quoi doit ressembler quelqu’un qui travaille dans la tech. Nous avons tous en tête l’image du développeur geek qui travaille dans son garage. Les success stories qui font foi sont celles d’Apple, Amazon, Microsoft et Google. Elles ont toutes commencé avec des hommes dans des garages et elles ont contribué à forger ce mythe. Et c’est problématique, parce que dans notre économie, le secteur du numérique est de plus en plus important. Les entreprises, elles, ont des difficultés à trouver de bons développeurs : alors, si dès l’entrée on élimine la moitié des candidats potentiels, on se met des bâtons dans les roues.
Nathalie : pour moi, ce qui est important dans la technologie c’est qu’elle a une grosse capacité d’inclusion. Aujourd’hui, tous les outils de l’IOT permettent aussi d’inclure d’autres personnes qui n’avaient pas forcément accès à la technologie et à l’emploi. La tech, c’est un vrai levier d’inclusion.
Comment l’inclusion numérique se traduit-elle dans le quotidien des entreprises ?
Nathalie : chacun doit être attentif et conscient de ce qu’il veut faire et regarder plutôt la valeur d’usage de la technologie que la technologie en elle-même. La technologie, ça reste un langage arithmétique et chacun peut y accéder. Dans le quotidien, c’est aussi être capable de se positionner sur les postes traditionnellement masculins et assumer d’être l’une des seules femmes dans la pièce.
Charlotte : dans mon quotidien, ça passe par lutter contre le syndrome de l’imposteur. Le fait de ne pas se sentir à sa place, de penser qu’on n’a pas les compétences pour occuper ce poste ou faire ce métier pousse de nombreuses femmes à quitter le milieu de la tech. On développe ce syndrome parce qu’on fait face à beaucoup de remarques et on s’isole.
Alexandre : Nous travaillons avec le réseau 42 sur énormément de projets d’inclusion, que ce soit le handicap, la diversité en entreprise… On ne veut vraiment laisser personne de côté parce que tout le monde devrait avoir sa chance, même les gens déscolarisés. Le but de 42, justement, c’est de proposer une chance à ces gens là qui se sentent exclus de la société. J’ai rencontré beaucoup d’étudiants qui venaient de quartiers défavorisés, des femmes en qui personne ne croyait, qui sont désormais des entrepreneurs qui explosent dans le milieu. Ce qu’il faut, c’est faire confiance et donner sa chance à chacun.
Pourtant, il fut un temps où l’informatique était un domaine de femmes. Elle représentait entre 30% et 50% des effectifs dans les années 50. Mais malheureusement, la tendance s’est inversée puisqu’on est en dessous de 30% aujourd’hui : une situation qui appelle à la réaction !
Comment expliquer cette évolution ? Faut-il plus d’égalité ou d’équité dans la tech ?
Charlotte : la première personne à avoir conçu un programme informatique est une femme, Ada Lovelace. À l’époque, le développement informatique était considéré comme un travail ingrat, qu’on déléguait aux femmes. Et puis, petit à petit, le secteur de l’informatique est devenu plus rentable, perçu comme un domaine d’excellence. Plus les secteurs gagnent en prestige, plus ils se masculinisent.
Alexandre : je préfère parler d’équité que d’égalité. Pourquoi ? Parce que l’équité, pour moi, c’est donner la chance à tous, mettre l’accent sur le mérite. Chez 42, durant le processus de sélection, nous avons parfois des gens qui ne réussissent pas forcément toutes les épreuves avec brio mais qui vont donner le meilleur d’eux-mêmes, et ça se voit dans leur comportement. Ce sont ces profils que l’on veut voir dans la tech. Des gens qui donnent tout pour progresser.
Nicolas : ce qui me paraît important, c’est d’offrir une égalité des chances pour accéder au métier de l’informatique, quel que soit le profil. C’est notre responsabilité à nous tous qui sommes déjà dans l’industrie du software, de démystifier ses différents métiers et de donner envie à tous, y compris aux femmes, y compris aux personnes en situation de handicap….
Nathalie : pour moi, la notion d’égalité, ce n’est pas une notion. On n’est pas égaux les uns les autres. Quelqu’un qui a une difficulté, qui vient d’une ethnie différente, qui souffre d’un handicap, ne sera jamais au même niveau de chances. Pour moi, cette notion d’égalité est donc tronquée dès le départ. Je pense que deux choses permettront l’inclusion au sens large de tous les profils : c’est la compétence et l’équité. Mais cela demande énormément de changement dans le management et la gestion des entreprises, de devenir plus souples et agiles.
Algorithmes biaisés et manque de diversité en entreprise : mythe ou réalité ?
Nathalie : j’en reviens à cette notion qui est la valeur d’usage. Ce qui compte, c’est l’usage que l’on fait de la technologie et la façon dont on interagit avec elle. Ceux qui conçoivent la technologie et l’usage qu’on lui donne ont une importance considérable sur le processus.
Charlotte : les algorithmes ne font que répliquer les codes d’une société sexiste et inégalitaire. C’est par exemple très visible au niveau des salaires. Comme aujourd’hui les femmes sont payées en moyenne 23% de moins que les hommes, les salaires proposés par les algorithmes qui puisent dans les données existantes sont moins élevés et perpétuent ces inégalités. Mais techniquement, on peut répondre à ces problématiques. Il suffit de faire attention aux données qu’on utilise et de faire un vrai tri.
IA et éthique peuvent-elles aller de pair ?
Nicolas : l’une des problématiques sur lesquelles travaillent des équipes d’IBM, c’est l’explainable AI (l’intelligence artificielle explicable). Concrètement, ça veut dire être capable d’expliquer, de revoir et de comprendre le raisonnement adopté par l’intelligence artificielle, pour donner un résultat ou prendre une décision. C’est un sujet à part entière qui fait l’objet de recherches pour apporter la preuve du bon fonctionnement de l’IA.
C’est notamment utile pour les voitures autonomes amenées à prendre des décisions en temps réel et qui, accessoirement, sont responsables des vies des passagers dans la voiture. Il faut que nous soyons capables de comprendre pourquoi la voiture réagit de telle façon dans telle circonstance. IBM s’est associé à d’autres géants industriels, par exemple le nouveau SAP Schlumberger, pour réaliser une charte pour une IA non sexiste et inclusive. L’une des actions concrètes proposées dans cette charte, c’est d’auditer les algorithmes d’IA pour s’assurer qu’ils sont dépourvus de biais.
L’inclusion et la diversité en entreprise sont parmi les enjeux phare des années à venir pour les entreprises. La mise en place de chartes et de processus accessibles à tous et à toutes est en effet clé pour amener innovation, créativité et richesse culturelle au sein des organisations. Mais c’est aussi le rôle de toutes les institutions de sensibiliser et d’éduquer les individus aux enjeux de responsabilité et d’éthique vis-à-vis de l’emploi.
