Il est nécessaire de mettre en place une structure de gouvernance européenne sur l’IA, qui prendrait la forme d’un cadre pour la coopération des autorités nationales compétentes, pour éviter une fragmentation des responsabilités, renforcer les capacités dans les États membres et faire en sorte que l’Europe se dote progressivement des capacités nécessaires pour tester et certifier les produits et services reposant sur l’IA. Dans ce contexte, il serait utile d’aider les autorités nationales compétentes à s’acquitter de leur mandat lorsque l’IA est utilisée.

Les travaux de la structure de gouvernance européenne pourraient être variés et consister notamment à offrir une enceinte propice à l’échange régulier d’informations et de bonnes pratiques, à recenser les tendances émergentes, et à donner des conseils en matière d’activités de normalisation et de certification. La structure de gouvernance devrait également jouer un rôle clé afin de faciliter la mise en œuvre du cadre réglementaire, notamment en publiant des orientations, des avis et des connaissances spécialisées. À cet effet, elle devrait s’appuyer sur un réseau d’autorités nationales, ainsi que sur des réseaux sectoriels et des autorités de réglementation, tant au niveau national qu’au niveau de l’UE. Un comité d’experts pourrait par ailleurs fournir une assistance à la Commission.

La structure de gouvernance devrait garantir une participation maximale des parties prenantes. Les parties prenantes – organisations de consommateurs, partenaires sociaux, entreprises, chercheurs et organisations de la société civile – devraient être consultées sur la mise en œuvre du cadre et son développement ultérieur.

Compte tenu des structures déjà existantes, dans les domaines notamment de la finance, des médicaments, de l’aviation, des dispositifs médicaux, de la protection des consommateurs et de la protection des données, la structure de gouvernance proposée ne devrait pas faire double emploi avec des fonctions existantes. Elle devrait plutôt permettre d’établir des liens étroits avec d’autres autorités compétentes de l’UE et des États membres dans les différents secteurs concernés afin de compléter l’expertise existante et d’aider les autorités en place à assurer le suivi et le contrôle des activités des opérateurs économiques faisant intervenir des systèmes d’IA et des produits et services reposant sur l’IA.

Enfin, si cette option était retenue, la réalisation des évaluations de la conformité pourrait être confiée aux organismes notifiés désignés par les États membres. Les centres d’essai devraient faire en sorte que les systèmes d’IA puissent faire l’objet d’une vérification et d’une évaluation indépendantes conformément aux exigences énoncées ci-dessus. Une évaluation indépendante renforcera la confiance et garantira l’objectivité. Elle pourrait également faciliter le travail des autorités compétentes concernées.

L’UE possède d’excellents centres d’essai et d’évaluation, et devrait développer ses capacités dans le domaine de l’IA également. Les opérateurs économiques établis dans des pays tiers et souhaitant accéder au marché intérieur pourraient soit faire appel à des organismes désignés établis dans l’UE soit, sous réserve d’accords de reconnaissance mutuelle avec des pays tiers, faire appel à des organismes de pays tiers désignés pour effectuer cette évaluation.

La structure de gouvernance relative à l’IA et les éventuelles évaluations de la conformité dont il est question ici ne modifieraient en rien les compétences et les responsabilités des autorités compétentes, visées par le droit de l’UE en vigueur, que ce soit dans des secteurs spécifiques ou concernant des questions bien précises (finance, médicaments, aviation, dispositifs médicaux, protection des consommateurs, protection des données, etc.).