Ce que l’on sait sur le code de bonne conduite signé par les géants américains de l’IA

Face à la multiplication d’incidents de sécurité liés à l’intelligence artificielle (IA), les géants américains de la tech ont signé mardi à la Maison-Blanche un code de bonne conduite destiné à mieux appréhender les risques de cette technologie.

Refusant de corseter le secteur de l’intelligence artificielle sur le plan national et international, le président américain Donald Trump a mis en avant une charte très succincte, qui tient sur une page, et contraignante uniquement «sur le plan moral ».

«Avec le temps, il peut être pertinent de codifier ces étapes sous forme de lois ou de régulations», précise ce document signé par tous les grands patrons de l’IA, et où le nom des États-Unis est mal orthographié, ce qui a fait réagir sur les réseaux sociaux.

Dans «le système anglo-saxon, on ne privilégie pas la réglementation, on privilégie d’abord les usages et la jurisprudence», explique à l’AFP Eric Barbry, avocat associé au cabinet Racine en droit des nouvelles technologies.

Même s’il n’est pas contraignant, cet engagement d’un certain nombre d’acteurs à mettre en place de bonnes pratiques, on «ne peut pas le balayer d’un revers de la main», ajoute-t-il, au moment où les appels à la régulation de l’IA se font de plus en plus pressants à travers le monde.

Risques cyber et chimiques

Les fournisseurs de modèles d’IA se sont engagés à mettre en place «quatre niveaux» de surveillance et le premier consiste en des «contrôles internes robustes», afin de s’assurer que ces outils respectent les instructions données par les développeurs, notamment en matière de «cybersécurité» et de «biosécurité».

L’objectif est ainsi de prévenir l’introduction, la propagation et la libération d’agents pathogènes ou de «dangers chimiques».

Les entreprises devront créer des équipes spécialisées en interne pour gérer ces contrôles et s’assurer que les modèles «n’exécutent pas d’attaques informatiques ou n’accèdent pas à des systèmes techniques» de façon imprévue.

OpenAI, Anthropic et Google ont récemment fait état de plusieurs incidents impliquant de sérieux dérapages de leurs IA. Dernièrement, des agents IA d’OpenAI, programmes capables d’effectuer des actions de façon autonome, se sont par exemple introduits de leur propre chef sur un site du système de santé de l’Australie et des plateformes du gouvernement américain.

Audit indépendant

Le code de bonne conduite prévoit également le recours à des évaluateurs «externes» pour mener des audits indépendants, afin de déterminer si les mesures mises en place par les entreprises fonctionnent.

Anthropic et OpenAI travaillent déjà avec de tels évaluateurs externes et elles ont toutes les deux annoncé ces dernières semaines un accès élargi aux sociétés d’audit extérieur pour l’évaluation de leurs modèles, notamment au moment de leur conception et pas seulement avant leur déploiement.

Anthropic a même assuré qu’elle ne garderait pas «de contrôle éditorial» sur les publications des résultats de ces évaluateurs indépendants, même si elles lui étaient défavorables.

Des normes définies par les entreprises

La charte vise, enfin, à l’établissement d’un comité indépendant, avec des représentants des différentes entreprises, qui sera chargé de passer en revue les évaluations internes et externes des modèles d’IA et de veiller à la résolution d’éventuels problèmes.

Les entreprises s’engagent par ailleurs à se réunir «régulièrement pour établir des normes et des bonnes pratiques.»

OpenAI, Anthropic et Google DeepMind avaient déjà commencé à entreprendre une telle démarche, afin d’établir une sorte d’instance d’auto-régulation sur les risques de l’IA, malgré les critiques d’entreprises concurrentes, notamment en Europe, les accusant de vouloir protéger leur avantage compétitif.

Beaucoup de questions restent toutefois en suspens.

« Qui punira les entreprises si elles ne respectent pas ces principes? », s’interroge Eric Barbry. «Dans un environnement régulier normal, vous avez des autorités de contrôle», note-t-il.

Par ailleurs, «l’audit, c’est comme la peur qui n’empêche pas le danger. L’audit n’empêchera pas une erreur», relève aussi l’avocat, soulignant l’absence d’engagements des acteurs américains si une IA malveillante sortait à nouveau de son environnement de test pour commettre un acte illicite.