Qu’est-ce qu’une IA responsable ?

Pourquoi se poser la question de l’IA éthique et responsable ?

L’intelligence artificielle est l’un des moteurs de la transformation des entreprises, des associations et des collectivités.

Elle permet de tirer le meilleur parti des données produites par les organisations pour optimiser les process et fluidifier les flux de travail. Elle est vectrice d’innovation pour vos produits et services. Elle peut même vous assister en gérant pour vous et vos collaborateurs certaines tâches chronophages ou sans valeur ajoutée.

Ce miracle technologique réinvente nos manières de travailler et redéfinit la performance des entreprises. Mais il a une face bien sombre, qu’il est urgent de prendre en compte.

IA et confidentialité des données

D’après l’OCDE, 52 % des salariés français s’inquiètent de la confidentialité liée à la collecte de données IA sur le lieu de travail. La DGSI rappelle que « la connexion de certaines applications d’IA générative à des outils externes (interface logicielle de type API, plugins) augmente les vulnérabilités. Ces outils sont souvent moins sécurisés, ce qui peut entraîner des fuites de données d’utilisateurs, voire favoriser des attaques cybernétiques. »

Utiliser l’intelligence artificielle sans garde-fou comporte des risques pour la cybersécurité en général et la protection des données en particulier.

IA et impacts environnementaux

Toutes les données générées et traitées par l’intelligence artificielle transitent par des data centers et des machines qui demandent des puissances de calcul toujours plus impressionnantes. Les conséquences sur l’environnement sont dévastatrices.

Le collectif Green IT a publié une analyse du cycle de vie de l’intelligence artificielle qui évalue les impacts sanitaires et environnementaux et sanitaires de l’IA. Elle révèle que les infrastructures dédiées à l’IA auraient une durée de vie beaucoup plus courte que les serveurs traditionnels, tout en consommant quatre fois plus d’énergie (les GPU étant particulièrement gourmands).

On apprend également que l’IA ne se contente pas de participer au réchauffement climatique, puisqu’elle épuise aussi les ressources abiotiques (comme les fossiles, les métaux ou les minéraux), qu’elle émet énormément de particules fines et qu’elle pollue l’eau par eutrophisation.

IA et biais

L’intelligence artificielle est loin d’être neutre. Elle véhicule de nombreuses distorsions dans les résultats qu’elle produit. Les biais agissent au moment de la collecte, de la sélection et du traitement des données. Ces dernières peuvent être fausses, incomplètes ou partielles. Certaines peuvent être sélectionnées parce qu’elles confirment des croyances préexistantes (biais de sélection), ou qu’elles sont facilement disponibles (biais de disponibilité). D’autres peuvent ne pas représenter la diversité des personnes et des cas d’usage (biais de représentativité), ou exclure certaines informations (biais d’omission).

Les modèles peuvent être entraînés avec des paramètres qui ont fonctionné précédemment, sans prendre en compte d’autres éléments qui pourraient être plus pertinents (biais du survivant). En tant qu’usagers, nous pouvons être trahis par notre trop grande confiance dans notre capacité à comprendre le fonctionnement de l’IA, et donc de ne pas avoir assez de recul suite à face à ce qu’elle nous propose (effet Dunning-Kruger).

Ces biais et bien d’autres ont des conséquences, parce qu’ils véhiculent des stéréotypes, produisent des contenus partiels, voire faux, en plus d’altérer notre esprit critique.

L’IA et l’exploitation des travailleurs

Contrairement à ce qu’on imagine, beaucoup de systèmes d’intelligence artificielle reposent sur de la main-d’œuvre humaine. Des travailleurs et travailleuses invisibles collectent et classifient des données pour entraîner des modèles et pallier à ce qu’ils ne savent pas encore faire « seuls ». Malheureusement, les conditions de travail de ces « crowdworkers » comme les appelle l’organisation internationale du travail sont problématiques. Ils répètent leurs tâches à la chaine pour un salaire de misère.

L’IA éthique et responsable confronte les usagers à ces sujets. Elle offre des pistes et des alternatives tout en aidant les entreprises à questionner leur vision et leurs priorités.

Focus : éthique, responsable, de quoi est-ce qu’on parle ?

L’International Organisation for Standardisation propose de distinguer la responsabilité de l’éthique.

Une IA responsable promeut des systèmes d’intelligence artificielle qui profitent à l’ensemble des sociétés humaines en limitant au maximum ses impacts délétères. Elle s’axe sur la manière dont elle est développée et utilisée. L’IA éthique, quant à elle, soulève les questions juridiques de partialité, de transparence, de protection des données personnelles. Pour l’UNESCO, l’éthique de l’IA repose sur dix grands principes centrés sur les droits de l’Homme, allant du principe de proportionnalité et d’innocuité, jusqu’à l’équité en passant par la durabilité, l’éducation, la gouvernance ou encore la transparence et l’explicabilité.

5 piliers de l’IA éthique et responsable

• Équité : Elle garantit des systèmes inclusifs, qui traitent les personnes sans discrimination. Une IA qui favorise l’équité est entraînée des sources de données variées et régulièrement contrôlées. L’IA limite les biais, et est utilisée de manière à respecter les valeurs sociétales.

• Transparence et explicabilité : Les modèles, les méthodes d’apprentissage et les ensembles de données sont clairs et facilement accessibles pour toutes vos parties prenantes. Chaque outil et chaque modèle peut justifier son fonctionnement de manière intelligible pour ses usagers.

• Confidentialité et sécurité : Les utilisateurs maîtrisent la façon dont leurs données sont exploitées à tout moment. La data est protégée des cyberattaques et des risques de fuite. On ne peut y accéder que sous certaines conditions, et avec des accès contrôlés et transparents.

• Gouvernance : Les pratiques et les usages de l’IA dans l’organisation sont régis par des ensembles de règles et de processus conçus pour garantir le respect des droits et des normes éthiques (droit de la propriété intellectuelle, protection de la vie privée, conformité réglementaire, etc.).

• Impacts environnementaux : Les technologies IA sont sélectionnées en prenant en compte leur rapport performance/consommation. On favorise la réutilisation de modèles déjà entraînés plutôt que la création de nouveaux modèles. Les solutions sont adaptées à leurs usages : on privilégie les systèmes spécialistes adaptés aux spécificités des besoins. Les équipes sont formées et régulièrement sensibilisées aux impacts environnementaux de l’intelligence artificielle.

Pourquoi intégrer une IA éthique et responsable dans son organisation ?

Penser l’IA éthique et responsable est un choix stratégique tourné vers le long terme et la durabilité. Elle permet d’accompagner vos transformations en les associant à vos ambitions RSE.

Avec l’IA responsable, les organisations peuvent donner un nouveau souffle à leur performance, tout en respectant des standards éthiques forts. Elle s’assure de la sécurité de leurs données et de la souveraineté des modèles et outils qu’elles utilisent. Elle soutient les valeurs de l’entreprise. Elle favorise le bien-être au travail des collaborateurs grâce à des usages sains et raisonnés, et cultive l’esprit critique. Elle fait en sorte que son utilisation soit plus juste et équitable.

Les organisations qui se tournent vers l’intelligence artificielle éthique et responsable s’inscrivent dans un cercle vertueux et participent à la promotion d’autres manières d’utiliser l’IA.

Mais ce n’est pas tout. l’IA éthique et responsable est par définition plus sûre, parce qu’elle porte une attention accrue à la sécurité et à la protection des données. Elle est aussi conforme aux contraintes réglementaires imposées par le RGPD ou l’IA Act.