{"id":47773,"date":"2017-10-09T08:50:26","date_gmt":"2017-10-09T12:50:26","guid":{"rendered":"http:\/\/isarta.com\/infos\/?p=47773"},"modified":"2017-10-06T16:50:58","modified_gmt":"2017-10-06T20:50:58","slug":"le-probleme-des-biais-dans-les-algorithmes-de-decision","status":"publish","type":"post","link":"https:\/\/isarta.com\/infos\/le-probleme-des-biais-dans-les-algorithmes-de-decision\/","title":{"rendered":"Le probl\u00e8me des biais dans les algorithmes de d\u00e9cision"},"content":{"rendered":"

Un\u00a0biais cognitif<\/a><\/span>\u00a0est une forme de pens\u00e9e qui d\u00e9vie de la\u00a0pens\u00e9e logique ou rationnelle<\/a><\/span>\u00a0et qui a tendance \u00e0 \u00eatre syst\u00e9matiquement utilis\u00e9e dans certaines situations.<\/span><\/p>\n

<\/p>\n

9 octobre 2017<\/span><\/p>\n

Dans la litt\u00e9rature, il en existe une foule d\u2019exemples<\/a>,<\/span> dont les causes et les cons\u00e9quences ont fait l\u2019objet de nombreuses \u00e9tudes.<\/strong><\/p>\n

Dans certaines situations, un programme informatique<\/strong> qui analyse un probl\u00e8me quelconque peut, en th\u00e9orie, \u00eatre apte \u00e0 prendre une d\u00e9cision<\/strong> exempte de biais<\/a>.<\/span><\/p>\n

Ce n\u2019est toutefois pas toujours le cas.<\/p>\n

En avril dernier, le magazine Science<\/em><\/a><\/span> a mis en lumi\u00e8re un probl\u00e8me d\u00e9j\u00e0 connu des experts: la pr\u00e9sence de biais<\/strong> dans les algorithmes.<\/p>\n

Les machines apprenant beaucoup en lisant et en \u00e9coutant le langage humain, elles assimilent du m\u00eame coup certains pr\u00e9jug\u00e9s<\/strong> entretenus par ces derniers. Concr\u00e8tement, ces biais peuvent avoir un impact<\/strong> sur des syst\u00e8mes servant \u00e0 accorder des pr\u00eats financiers<\/a>,<\/span> \u00e0 s\u00e9lectionner des candidatures<\/strong> pour des entrevues ou m\u00eame \u00e0 rendre des d\u00e9cisions judiciaires<\/a>.<\/span><\/p>\n

Dans leur \u00e9tude publi\u00e9e dans Science<\/em>,<\/strong> les chercheurs Aylin Caliskan, Joanna J. Bryson\u00a0et Arvind Narayanan se sont int\u00e9ress\u00e9s \u00e0 une m\u00e9thode d\u2019apprentissage appel\u00e9e \u00abword embedding\u00bb,<\/strong> o\u00f9 un terme est d\u00e9fini par les mots desquels il se rapproche.<\/p>\n

\u00c0 travers leurs recherches, ils ont notamment d\u00e9couvert que le mot\u00a0femme<\/em><\/strong>\u00a0\u00e9tait davantage associ\u00e9 \u00e0 des carri\u00e8res dans le domaine des arts et des lettres, alors que le mot\u00a0homme<\/em><\/strong>\u00a0\u00e9tait plut\u00f4t li\u00e9 \u00e0 des postes dans le domaine des math\u00e9matiques ou de l\u2019ing\u00e9nierie.<\/p>\n

De plus, certaines\u00a0origines ethniques<\/strong> \u00e9taient associ\u00e9es \u00e0 un ensemble de mots g\u00e9n\u00e9ralement positifs. C\u2019\u00e9tait le cas entre autres pour les Am\u00e9ricains de descendance europ\u00e9enne. Dans d\u2019autres cas, elles \u00e9taient li\u00e9es \u00e0 des groupements beaucoup plus n\u00e9gatifs.<\/strong><\/p>\n

Un probl\u00e8me qui m\u00e9rite plus d’attention?<\/strong><\/span><\/h2>\n

D\u00e8s 2014, un rapport<\/a> <\/span>produit par l\u2019administration Obama<\/strong> soulevait la difficult\u00e9 de rep\u00e9rer, quantifier et corriger les biais provenant de processus de d\u00e9cision automatis\u00e9s.<\/p>\n

Depuis, certains experts<\/strong> se sont pench\u00e9s sur le dossier. C’est notamment l\u2019un des sujets de recherche du groupe AI Now initiative<\/a>,<\/span> qui compte \u00e0 sa t\u00eate Meredith Whittaker,<\/strong> chercheuse chez Google, ainsi que Kate Crawford,<\/strong> chercheuse chez Microsoft.<\/p>\n

Malgr\u00e9 tout, plusieurs chercheurs jugent que le probl\u00e8me n\u2019est pas encore suffisamment pris au s\u00e9rieux<\/a> <\/span>par les organisations qui d\u00e9veloppent et utilisent ces syst\u00e8mes. De plus, les algorithmes<\/strong> d\u00e9velopp\u00e9s sont souvent comme des bo\u00eetes noires<\/a> <\/span>qu’il est difficile d’explorer.<\/p>\n

Alors que l’utilisation de l’intelligence artificielle<\/strong> prend de plus en plus d’importance, il semble donc qu’il faudra travailler en mode rattrapage<\/strong> pour am\u00e9liorer les algorithmes en place.<\/p>\n

<\/div>\n
<\/span><\/p>\n
<\/div>\n","protected":false},"excerpt":{"rendered":"

Un biais cognitif est une forme de pens\u00e9e qui d\u00e9vie de la pens\u00e9e logique ou rationnelle et qui a tendance \u00e0 \u00eatre syst\u00e9matiquement utilis\u00e9e dans certaines situations.<\/p>\n

<\/span>
<\/div>","protected":false},"author":2,"featured_media":47860,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[175,137,1],"tags":[314,206,705,896,1491],"_links":{"self":[{"href":"https:\/\/isarta.com\/infos\/wp-json\/wp\/v2\/posts\/47773"}],"collection":[{"href":"https:\/\/isarta.com\/infos\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/isarta.com\/infos\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/isarta.com\/infos\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/isarta.com\/infos\/wp-json\/wp\/v2\/comments?post=47773"}],"version-history":[{"count":6,"href":"https:\/\/isarta.com\/infos\/wp-json\/wp\/v2\/posts\/47773\/revisions"}],"predecessor-version":[{"id":48347,"href":"https:\/\/isarta.com\/infos\/wp-json\/wp\/v2\/posts\/47773\/revisions\/48347"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/isarta.com\/infos\/wp-json\/wp\/v2\/media\/47860"}],"wp:attachment":[{"href":"https:\/\/isarta.com\/infos\/wp-json\/wp\/v2\/media?parent=47773"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/isarta.com\/infos\/wp-json\/wp\/v2\/categories?post=47773"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/isarta.com\/infos\/wp-json\/wp\/v2\/tags?post=47773"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}