Richard Pilling se penche sur les responsabilités morales liées à la fourniture de solutions d’apprentissage automatique et conseille de toujours tempérer les immenses possibilités qu’offrent ces solutions par l’examen de leurs conséquences possibles.
J’ai eu la chance de grandir dans les années 1980 en tant que benjamin de trois enfants. J’ai passé mon enfance à pédaler sur mon Raleigh Grifter, à regarder K 2000 et à jouer sur mon ordinateur Commodore 64. Ma mère me répétait souvent comme un mantra : ce n’est pas parce qu’on « peut » qu’on « doit » et ça m’a toujours marqué. C’est comme ça, entre autres, qu’elle m’apprenait à faire la distinction entre le bien et le mal. Rien d’étonnant donc à ce qu’elle ait choisi le métier d’assistante sociale, qui lui permettait d’aider des enfants défavorisés à trouver la sécurité, la tranquillité d’esprit et une famille accueillante. Elle leur a inculqué, à eux comme à moi, un solide sens moral. À l’époque, mon père était responsable de l’assurance qualité dans une multinationale. Il a contribué à l’invention de l’Astroturf et rédigé ce qui allait devenir la norme ISO 9001. Dans l’ensemble, mon éducation a été fortement influencée par un sens aigu de l’éthique et une compréhension profonde de ce que valent l’innovation et la qualité.
Alors, quand le film Jurassic Park est sorti, pour moi, tout cela s’est retrouvé résumé dans ce dialogue :
John Hammond : Je crois que vous ne nous jugez pas à notre juste valeur. Nos savants ont fait des choses que personne n’avait jamais faites avant eux…
Dr. Ian Malcolm : Oui, oui, mais vos savants étaient si occupés par ce qu’ils pouvaient faire ou non qu’ils ne se sont pas demandés s’ils en avaient le droit.
Hmmm… Cette réplique de Jeff Goldblum qui faisait écho aux leçons de mes parents m’a profondément touché et tout le monde sait à quel point les choses ont mal tourné dans ce parc.
La révolution de l’apprentissage automatique
Quittons Jurassic Park et appuyons sur avance rapide pour revenir à aujourd’hui. Nous sommes à l’aube d’une révolution mondiale dans le domaine de l’apprentissage automatique, un formidable jeu d’outils et de technologies qui présente un potentiel considérable, mais qui peut tout aussi bien rendre le monde meilleur qu’encore plus fracturé. Contrairement aux révolutions industrielles précédentes, celle-ci se concentre sur le « pourquoi » des choses au lieu du « comment ». En d’autres termes : pour la première fois, nous inventons quelque chose qui « pense mieux » au lieu de quelque chose qui « fabrique mieux ».
Une fois de plus, les sages paroles de mes parents me reviennent en mémoire. Pourquoi ? Parce que nous avons la capacité de créer des systèmes qui auront un impact considérable sur la vie de milliards de gens, tout cela en cliquant simplement sur un bouton. Songez, cher lecteur, à des dérives telles que le manque de transparence dans les prises de décision, le poids des préjugés inconscients, la survenue de conséquences imprévues et pourtant inévitables. Tous ces fléaux peuvent venir accabler des millions et des millions de personnes qui ne se doutent de rien. Les conséquences sur la société sont et seront de plus en plus colossales.
Maintenant, ne vous méprenez pas, je ne suis pas un adversaire de l’apprentissage automatique. Je crois que cette technologie peut nous ouvrir un avenir radieux, mais j’aimerais que le monde de la singularité soit inclusif et bienveillant, plutôt qu’un monde de cauchemar dirigé par un Big Brother omniscient (dans le rôle du T-Rex) qui vous poursuivra partout.
C’est maintenant qu’il faut y penser avant de réveiller le chat qui dort.
Chez Cloudreach, nous réfléchissons sérieusement aux conséquences de ce que nous faisons. Notre rôle est de conseiller et d’aider les entreprises à utiliser des technologies innovantes, mais aussi de s’assurer que celles-ci ne risquent pas de conduire du côté obscur ou ne constituent pas un simple effet de mode. Pour cela, nous pensons qu’il faut impérativement prendre en compte la dimension éthique des technologies, ainsi que leur valeur potentielle pour l’entreprise. L’impact de l’apprentissage automatique, ou ML, est un sujet auquel nous attachons une grande importance chez Cloudreach, et qui reflète les principes selon lesquels j’ai été élevé : innovation, qualité et éthique.
J’ai parfois la chance d’accompagner de nouveaux venus enthousiastes dans le monde du Big Data et du ML. Je leur conseille toujours de réfléchir aux ramifications futures de leur travail et je m’entends souvent répéter ce que me disait ma mère : ce n’est pas parce que vous pouvez faire quelque chose que vous devez le faire !
Il y a des choses qu’il vaut mieux laisser entre des mains humaines…
Quelques mots pour conclure sur le thème du ML…
J’aimerais que mes enfants aient une enfance aussi libre et heureuse que la mienne, qu’ils fassent leurs propres découvertes plutôt que de suivre les recommandations d’un algorithme et risquent de se retrouver réduits au rôle de simples perroquets. Dans le cas qui nous occupe, rappelons-nous qu’il y a des choses qu’il vaut mieux laisser entre des mains humaines. En grandissant, mes sœurs m’ont transmis l’amour de la musique, en particulier le disco des années 1970 et les Nouveaux romantiques des années 1980. Même si l’algorithme d’un service de streaming aurait sûrement fini par me les faire découvrir aussi, je suis certain que cette musique ne signifierait pas autant pour moi !
Il existe clairement des milliers de cas d’utilisation où le ML permet d’optimiser nos expériences. N’oublions pas pour autant que le facteur « humain » est nécessaire pour les enrichir. Bon, je vous laisse, rendez-vous sur la piste de danse !
Richard dirige l’activité Informations générées à partir des données de Cloudreach, qui consiste à collaborer avec nos clients pour élaborer une stratégie de données solide et leur permettre de tirer parti des solutions d’analyse de données et d’apprentissage automatique. Découvrez comment notre équipe Informations générées à partir des données peut aider votre entreprise en lisant notre livre blanc : The Cloudreach Data Analytics Blueprint (Le modèle d’analyse de données de Cloudreach)
