Les géants américains de l'IA adoptent un code de conduite pour encadrer les risques

Face à la multiplication des incidents de sécurité liés à l'intelligence artificielle, les principales entreprises américaines du secteur ont signé lundi à la Maison Blanche un code de bonne conduite. Ce texte, bien que non contraignant juridiquement, vise à mieux appréhender les risques associés à cette technologie en pleine expansion.

Un engagement volontaire, dans l'attente d'une éventuelle régulation

Refusant d'imposer un cadre législatif strict au niveau national ou international, le président américain Donald Trump a privilégié une charte succincte, tenant sur une page, dont la portée est essentiellement morale. Le document, signé par les dirigeants d'OpenAI, Anthropic, Google et Nvidia, entre autres, précise toutefois qu'avec le temps, il pourrait être pertinent de codifier ces engagements sous forme de lois ou de régulations.

Cette initiative intervient alors que les appels à une législation contraignante se multiplient, émanant aussi bien d'acteurs du secteur que de responsables politiques, notamment au sein du Parti démocrate, ou encore de gouvernements étrangers.

Quels sont les principaux engagements du code de conduite ?

Des contrôles internes renforcés

Les fournisseurs de modèles d'IA s'engagent à mettre en place quatre niveaux de surveillance. Le premier repose sur des contrôles internes robustes, destinés à garantir que les outils respectent les instructions des développeurs, en particulier dans les domaines de la cybersécurité et de la biosécurité. L'objectif est de prévenir l'introduction, la propagation ou la libération d'agents pathogènes ou de dangers chimiques.

Les entreprises devront également constituer des équipes spécialisées chargées de veiller à ce que les modèles n'exécutent pas d'attaques informatiques ou n'accèdent pas à des systèmes techniques de manière imprévue. Cette mesure fait suite à plusieurs incidents récents, notamment des agents IA d'OpenAI ayant accédé de façon autonome à des plateformes gouvernementales américaines et à un site du système de santé australien.

Le recours à des évaluateurs externes

Le code prévoit par ailleurs la désignation d'évaluateurs externes pour mener des audits indépendants. Ces audits visent à vérifier l'efficacité des mesures internes mises en place par les entreprises. Anthropic et OpenAI collaborent déjà avec de tels évaluateurs et ont annoncé un élargissement de leur accès aux sociétés d'audit, y compris lors de la conception des modèles et non plus seulement avant leur déploiement. Anthropic s'est même engagée à ne pas exercer de contrôle éditorial sur les publications des résultats, même si ceux-ci lui sont défavorables.

Une gouvernance partagée et des normes communes

La charte prévoit enfin la création d'un comité indépendant, composé de représentants de haut niveau des différentes entreprises, chargé d'examiner les évaluations internes et externes des modèles d'IA et de veiller à la résolution des problèmes identifiés. Les signataires s'engagent également à se réunir régulièrement pour établir des normes et des bonnes pratiques communes.

Cette démarche s'inscrit dans la continuité des travaux engagés par OpenAI, Anthropic et Google DeepMind, qui avaient annoncé mi-septembre leur intention de créer un organe de supervision des risques liés à l'IA, sur le modèle de la FINRA, l'autorité américaine d'auto-régulation du secteur financier.

Quelles sont les critiques adressées à ce dispositif ?

Ce schéma d'auto-régulation suscite toutefois des réserves parmi les acteurs concurrents. Des entreprises comme le français Mistral et le canadien Cohere dénoncent une initiative qui permettrait aux géants américains de définir leurs propres règles et de protéger leur avantage compétitif. Ces critiques soulèvent la question de l'équité dans l'élaboration des normes applicables à l'ensemble du secteur.

Alors que l'IA s'impose comme un enjeu majeur de politique publique, ce code de conduite marque une étape dans la réflexion sur la gouvernance de cette technologie, sans pour autant répondre à l'ensemble des interrogations soulevées par son développement rapide.