L’apprentissage machine se heurte à des questions éthiques et des écueils, affirment des experts

Dans un nouvel article publié dans la revue New England Journal of Medicine, les auteurs Danton S. Char, Nigam H. Shah et David Magnus soulignent la façon dont les algorithmes introduits dans les domaines non médicaux se sont avérés prendre des « décisions problématiques » qui reflètent des biais provenant des données utilisées pour les former. Ils préviennent que les algorithmes pourraient également apprendre et intégrer une discrimination subtile, expliquant que si les cliniciens arrêtent toujours les soins chez les patients présentant certains résultats, tels qu’une prématurité extrême, les systèmes d’apprentissage machine pourraient conclure que de tels résultats sont toujours mortels. Un algorithme pourrait également être conçu pour fausser les résultats selon la personne qui l’a élaboré, avertissent les auteurs. Selon ces derniers, les médecins doivent comprendre de façon adéquate comment les algorithmes sont créés et évaluer de manière critique la source des données utilisées pour créer les modèles.

« Au vu de ce que les algorithmes nous montrent, nous devons être prudents lorsqu’il s’agit de prodiguer des soins à des personnes », a déclaré l’auteur principal, le Dr Char. « La chose que nous pouvons faire et dont sont incapables les machines, c’est de mettre de côté nos idées pour les évaluer de manière critique. »