Expertise

Vu ailleurs

Ne laissez pas les algorithmes décider de tout, tout seuls

Les algorithmes prennent une importance croissante dans les processus de prise de décision. Mais leur utilisation n’est pas exempte de risques, surtout lorsqu’elle n’est pas maîtrisée, avertit la Harvard Business Review.

Calcul du prix des courses en temps réel pour Uber, suggestion de produits compatibles avec l’intérêt du client par les plateformes d’e-commerce, gestion de l’affichage des articles par les sites d’actualité : les algorithmes sont omniprésents dans l’économie digitale. Mais leur utilisation ne se limite pas au web. Recrutement de personnel, choix d’un canal de distribution, financement de start-ups : les décideurs se reposent de plus en plus sur des algorithmes pour faire des choix, remarque la Harvard Business Review dans un article paru dans le numéro de janvier-février 2016

Bêtes et disciplinés 

Selon les auteurs de cet article, si les algorithmes permettent des prédictions plus précises, leur multiplication pourrait favoriser les risques. Ils donnent l’exemple des réseaux sociaux qui se fondent sur des algorithmes pour déterminer quels contenus proposer aux utilisateurs. 
« Lorsque ces algorithmes se concentrent trop sur le taux de clic, les sites sont rapidement envahis par des contenus de mauvaise qualité, de type “click-bait”. » 
Une stratégie qui augmente le taux de clics, mais qui nuit à la satisfaction générale des utilisateurs. L’un des problèmes des algorithmes vient du fait qu’ils sont « extrêmement littéraux », soulignent les auteurs de l’article. « Ils font exactement ce qu’on leur demande de faire, en ignorant toute autre considération ».

Une autre caractéristique problématique des algorithmes, écrivent-ils, est leur myopie. Ils ont tendance à se concentrer sur les datas les plus proches d’eux ; des données qui favorisent de facto des prédictions et des objectifs de court terme. 
« Or, il peut exister une tension entre les succès de court terme et les objectifs à long terme des entreprises, souligne la HBR. Si les humains comprennent ces objectifs implicitement, les algorithmes n’ont pas cette capacité, à moins que quelqu’un le leur explique. » 
Les chercheurs donnent l’exemple d’un algorithme dont le but serait d’attirer les internautes sur un site marchand. En réalité, l’objectif est d’augmenter les ventes de l’entreprise : l’opération n’est pas efficace si les visiteurs ne sont pas des acheteurs potentiels. Une nuance qui semble évidente pour un humain, mais dont un algorithme ne se soucie pas. Non supervisé, cet outil peut donc engendrer des résultats contre-productifs. 

Définir des objectifs clairs

Pour minimiser l’impact de ces problèmes, la Harvard Business Review préconise plusieurs solutions. Elle recommande tout d’abord de définir ses intentions de façon très explicite, en pensant à intégrer clairement tout objectif secondaire. Deuxièmement, pour résoudre le problème de « myopie » des algorithmes, l’article suggère d’élargir les données – de préférence en privilégiant des sources indépendantes. Par exemple, l’algorithme responsable de l’optimisation de l’inspection sanitaire des restaurants d’une grande ville de la côte ouest américaine a gagné en efficacité en incluant des données issues de commentaires postés sur des sites participatifs, comme Yelp. Troisième conseil : il est crucial de comprendre la différence entre une prédiction et un conseil. « Si un algorithme prédit que les tweets courts ont plus de chances d’être retweetés que les longs, il ne s’agit pas d’un conseil », avertit la HBR. En clair, cette indication ne signifie pas nécessairement qu’il est pertinent de raccourcir les tweets pour n’importe quel utilisateur.

Surtout, le plus important, soulignent les auteurs, est de connaître les limites de cet outil. « Savoir ce qu’un algorithme ne peut pas vous dire est tout aussi important que de savoir ce qu’il peut vous apprendre », écrivent-ils. Aussi puissant soit-il, il ne peut pas remplacer l’intelligence humaine, notamment dans la recherche de liens de cause à effet. D’où la nécessité de « responsables des algorithmes » pour encadrer l’utilisation de ces outils en bonne intelligence. 
 

Lire l’article sur la Harvard Business Review.

 

 

Ajouter un commentaire

Pour suivre la discussion

Retrouvez chaque semaine, les rencontres et les réflexions qui animent le débat de l’équation de la confiance.