Nouvel effort éthique de la part de la communauté de professionnel impliquée dans le développement de SIA 1systèmes d’intelligence artificielle qui édicte un ensemble de questions à se pose avant de s’engager dans un projet. 87 points à verifier pour s’assurer que les principes éthiques fondamentaux seront respectés pour éviter trop de casse. Est-ce vraiment suffisant ?
▾
La World Ethical Data Foundation publie sous la forme d’une lettre ouverte (très tendance en ce moment, on se rappelle de la lettre ouverte demandant un moratoire au développement des IA Génératives texte supérieures à GPT-4 ), un ensemble de questions que les pros et les organisations devraient se poser à la conception de #SIA.
Les questions qui embrassent trois points de vue différents — Me — We — It – permettraient à toutes et tous de répondre aux critères éthiques les plus importants.
En toute vraisemblance, l’implémentation de ce type de guidelines dans la vraie vie me parait tout à fait hypothétique. Sans contraintes formelles ni contrôle d’une organisation chargée de vérifier l’existence d’un alignement sincère avec ces critères éthiques, aucune organisation ni aucun pro (ou de façon marginale seulement) ne passera les 87 questions en revue pour être certain de respecter un idéal de conception.
Peu de chances également qu’un individu (Me) se lève seul contre une organisation (We) qui ne respecterait pas les préconisations. À l’examen, beaucoup de bonnes choses dans ces questions qui en effet pourraient changer la façon dont les modèles sont conçus, entrainés et déployés. Reste par ailleurs qu’en première lecture, on constate qu’un nombre non négligeable d’entreprises sont déjà hors des clous.
La question qui se pose également, alors que nous assistons à une véritable floraison de recommandations, c’est celle de la véritable valeur normative de ces textes. Il s’agit davantage de recommandations que de textes contraignants qui ne peuvent s’appliquer seulement si l’ensemble des acteurs sont déjà sensibilisés aux questions éthiques que soulève leur activité.
Véritables démonstrations de bonnes intentions, comme les promesses, celles-ci n’engagent que ceux qui les reçoivent. Le bon point c’est que ces réflexions sont issues des professionnels les plus impliqués, qu’elles bénéficient donc de leur expertise technique et ne peuvent donc pas prêter le flanc à trop de critiques internes. Le désavantage, c’est qu’elles ne reflètent pas la tension qui baigne le secteur depuis quelques mois. Typiquement, il y a toutes les chances pour que nombre de professionnels se soient posés cette question “Do I feel rushed or pressured to input data from questionable sources?” et que tous y ait répondu de la même façon (par la voix de leur employeurs) “do it or exit“.
Et puis reste une question en suspens qui s’efface petit à petit du paysage faute de la poser suffisamment souvent. À force de créer guidelines, recommandations et règles éthiques pour encadrer les SIA, on acte progressivement leur présence dans notre environnement technologique. En dépit des effets néfastes, des biais de représentation, des victimes, des délégations de souveraineté mal maitrisées, de la désinformation etc, on accepte de faire entrer les SIA encore davantage dans des secteurs qui n’en avaient jusque là pas le besoin immédiat, ou qui ne sont pas capables de les absorber, ou n’en ont tout simplement pas envie. Bien sur, tout cela se fait au nom du progrès, mais c’est un autre type de normativité qui s’installe, celle de l’usage, plus insidieuse et définitivement plus radicale et violente qu’une règlementation puisqu’elle s’impose à tous sans débat démocratique.
Pour retrouver la lettre ouverte et l’ensemble des questions soulevées, rendez-vous sur le site de la World Ethical Data Foundation.
Notes :
| ↑1 | systèmes d’intelligence artificielle |
|---|
