IA responsable : Reproduire l'éthique humaine

Le 23 mars 2016, Microsoft a lancé sur Twitter son IA de pointe nommée Tay. Cependant, en moins d'une journée, Tay, ce chatbot conversationnel ludique, est devenu toxique. Tout simplement parce qu'il a subi un cours intensif sur le racisme et les biais proposé par d'autres utilisateurs de Twitter.

Pour toutes ces raisons, Microsoft a dû arrêter Tay et abandonner complètement le projet. En octobre 2018, Amazon a également abandonné son outil de recrutement par IA tant attendu, en cours de développement depuis 2014, car il était défavorable aux femmes et manifestait des biais sexistes. Cela s'explique principalement par un biais inhérent aux données d'entraînement utilisées, favorisant les hommes au vu des CV soumis sur une période de dix ans. Par conséquent, l'IA évaluait systématiquement les CV féminins avec des notes plus basses que celles des hommes. Le projet a été secrètement abandonné par Amazon. Et il existe de nombreux autres cas similaires dans le monde de l'IA. Tous ces exemples soulèvent une question très pertinente concernant l'adoption de l'IA : comprenons-nous pleinement les ramifications d'une telle adoption ? La réponse unanime que nous recevons lors de toutes nos discussions avec nos clients est catégoriquement non. Cela signifie qu'il existe un besoin urgent pour les organisations d'intégrer l'éthique dans leurs stratégies IA. Dans cet article, nous partageons notre perspective sur la manière d'y parvenir.

Les questions éthiques suivantes émergent avec une stratégie d'adoption de l'IA :

1. Singularité de l'IA : Allons-nous finir par créer quelque chose de plus intelligent que nous ?
   Pourrons-nous garantir un contrôle total, ou allons-nous perdre le contrôle sur l'IA ?
2. Apocalypse de l'emploi : L'IA va-t-elle impitoyablement prendre les moyens de subsistance des gens ?
3. Manque de transparence : Avec chaque nouvelle version d'architectures de Deep Learning sophistiquées, une question qui appelle une réponse est : Construisons-nous quelque chose de si sophistiqué qu'il devienne inexplicable, même pour nous ?
4. Inclusion & Diversité : Construisons-nous quelque chose qui présente des biais inhérents et qui n'est pas inclusif ?
   Par exemple : La solution d'IA de reconnaissance faciale d'Uber a empêché les conducteurs transgenres d'accéder au système car elle n'avait pas été entraînée sur des données LGBT, leur coûtant ainsi leur emploi.

Ces questions font rightfully intervenir la notion de développement d'une IA responsable.

Que signifie exactement « IA responsable » ?

Microsoft a établi ses principes directeurs internes, qui résument l'IA responsable sous six axes principaux :

1. Équité : Une solution d'IA qui ne présente aucun biais algorithmique et qui traite tout le monde de manière égale.
2. Fiabilité et sécurité : La confiance entre l'humain et la machine doit rester intacte en permanence.
3. Vie privée et sécurité : Le système d'IA doit savoir où tracer la ligne pour ne pas envahir la vie privée et la sécurité des consommateurs.
4. Inclusion : L'IA devrait être responsabilisante et non oppressive.
5. Transparence & Explicabilité : Nous devons être capables d'expliquer ce que nous avons construit.
6. Responsabilité : Les entreprises doivent être responsables des actions de leurs systèmes d'IA.

Ainsi, concevoir des solutions d'IA dignes de confiance qui reflètent les principes éthiques humains, tels que ceux mentionnés ci-dessus, est ce qu'on entend par « IA responsable ». La liste ci-dessus n'est en aucun cas exhaustive, mais représente une perspective parmi d'autres sur les étapes vers une IA responsable. Alors, que faut-il faire pour garantir que notre IA ne conduise pas à l'apocalypse ? Quelles sont certaines façons d'intégrer une IA responsable dans notre éthique corporative ?

Nous répondons à cette question en deux niveaux :

Au niveau mondial

Établir un ensemble de principes globalement reconnus pour l'éthique dans l'IA est primordial. Au niveau mondial, au moins 84 initiatives public-privé sont actuellement en cours pour définir des principes de haut niveau sur l'IA éthique. Nous avons besoin d'une convergence entre ces initiatives à l'échelle mondiale et de lignes directrices de conformité similaires à celles du RGPD, avec de lourdes sanctions pour les organisations qui ne s'y conforment pas.

Au niveau organisationnel

En premier lieu, nous estimons qu'il existe un besoin urgent d'établir des cadres de gouvernance corporate qui positionnent l'IA comme une alliance entre le quotient intellectuel (QI) d'une machine et le quotient émotionnel (QE) d'un humain, plutôt que comme une solution autonome. Ensuite, il faut formuler des initiatives autour :

1. La sensibilisation culturelle au sein de l'organisation envers l'IA éthique et son cadre.
2. L'élaboration de lignes directrices concernant le recyclage et la reconversion professionnelle des personnes susceptibles d'être impactées par la mise en œuvre de l'IA.
3. La garantie de la conformité légale et réglementaire en tant que composante fondamentale du développement des scénarios d'IA.
4. L'audit des algorithmes - Assurer aux propriétaires des solutions une autorité totale pour travailler autour des principes de l'IA et auditer la conformité à tout moment, en utilisant l'audit des algorithmes dans des environnements de laboratoire.

Avec ces étapes significatives, les organisations peuvent faire des progrès tangibles vers la construction d'une IA digne de confiance.

Si vous avez apprécié la lecture de cet article, appuyez sur J'aime, partagez et commentez. Nous serions ravis d'entendre vos réflexions sur la construction d'une IA responsable. Pensez-vous à l'utilité commerciale d'une IA responsable ? Avez-vous et/ou votre organisation établi une feuille de route pour y parvenir ?

 Avis de non-responsabilité : À travers ces lignes directrices, nous ne prévoyons pas la création d'un monde d'IA utopique parfaitement sans failles, mais voici notre proposition (et celle d'autres organisations partageant nos valeurs) pour garantir que nous n'finissions pas dans un monde dystopique et que nous continuions à œuvrer pour un avenir meilleur pour tous. Remerciements : Microsoft, Accenture, INSEAD, Université d'Oxford Références : https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3391293