Réglementation européenne sur l'IA : une tentative pour maintenir l'humanité de l'IA

• Auteur :
• Nom de l'auteur

  Prévision quantique
• Le 13 juin 2022

Résumé des informations

La Commission européenne (CE) s'efforce d'établir des normes éthiques pour l'intelligence artificielle (IA), en se concentrant sur la prévention des abus dans des domaines tels que la surveillance et les données des consommateurs. Cette décision a suscité un débat dans l’industrie technologique et pourrait conduire à une approche unifiée avec les États-Unis, visant une influence mondiale. Cependant, les réglementations peuvent également avoir des conséquences inattendues, comme limiter la concurrence sur le marché et affecter les opportunités d'emploi dans le secteur technologique.

Contexte de la réglementation européenne de l'IA

La CE s'est activement concentrée sur la création de politiques visant à protéger la confidentialité des données et les droits en ligne. Récemment, cet objectif s’est élargi pour inclure l’utilisation éthique des technologies d’IA. La CE est préoccupée par l’utilisation abusive potentielle de l’IA dans divers secteurs, de la collecte de données sur les consommateurs à la surveillance. Ce faisant, la Commission vise à établir une norme en matière d’éthique de l’IA, non seulement au sein de l’UE, mais potentiellement comme modèle pour le reste du monde.

En avril 2021, la CE a franchi une étape importante en publiant un ensemble de règles visant à surveiller les applications de l'IA. Ces règles sont conçues pour empêcher l’utilisation de l’IA à des fins de surveillance, la perpétuation de préjugés ou d’actions répressives de la part de gouvernements ou d’organisations. Plus précisément, la réglementation interdit les systèmes d’IA qui pourraient nuire aux individus physiquement ou psychologiquement. Par exemple, les systèmes d’IA qui manipulent le comportement des personnes au moyen de messages cachés ne sont pas autorisés, tout comme les systèmes qui exploitent les vulnérabilités physiques ou mentales des personnes.

Parallèlement, la CE a également développé une politique plus rigoureuse pour ce qu'elle considère comme des systèmes d'IA « à haut risque ». Il s'agit d'applications d'IA utilisées dans des secteurs qui ont un impact substantiel sur la sécurité et le bien-être du public, tels que les dispositifs médicaux, les équipements de sécurité et les outils d'application de la loi. La politique décrit des exigences d'audit plus strictes, un processus d'approbation et une surveillance continue après le déploiement de ces systèmes. Des secteurs tels que l’identification biométrique, les infrastructures critiques et l’éducation relèvent également de ce groupe. Les entreprises qui ne respectent pas ces réglementations s’exposent à de lourdes amendes, pouvant aller jusqu’à 32 millions de dollars, soit 6 % de leur chiffre d’affaires annuel mondial.

Impact perturbateur

L'industrie technologique a exprimé ses inquiétudes concernant le cadre réglementaire de la CE pour l'IA, arguant que de telles règles pourraient entraver le progrès technologique. Les critiques soulignent que la définition des systèmes d’IA « à haut risque » dans le cadre n’est pas claire. Par exemple, les grandes entreprises technologiques qui utilisent l'IA pour les algorithmes des réseaux sociaux ou la publicité ciblée ne sont pas classées comme « à haut risque », malgré le fait que ces applications ont été liées à divers problèmes sociétaux comme la désinformation et la polarisation. La CE réplique en déclarant que les agences nationales de surveillance au sein de chaque pays de l'UE auront le dernier mot sur ce qui constitue une demande à haut risque, mais cette approche pourrait conduire à des incohérences entre les États membres.

L’Union européenne (UE) n’agit pas de manière isolée ; il vise à collaborer avec les États-Unis pour établir une norme mondiale pour l’éthique de l’IA. La loi sur la concurrence stratégique du Sénat américain, publiée en avril 2021, appelle également à la coopération internationale pour contrer « l'autoritarisme numérique », une référence voilée à des pratiques telles que l'utilisation par la Chine de la biométrie pour la surveillance de masse. Ce partenariat transatlantique pourrait donner le ton à l’éthique mondiale de l’IA, mais il soulève également des questions sur la manière dont ces normes seraient appliquées à l’échelle mondiale. Des pays ayant des points de vue différents sur la confidentialité des données et les droits individuels, comme la Chine et la Russie, adhéreraient-ils à ces lignes directrices, ou cela créerait-il un paysage fragmenté de l’éthique de l’IA ?

Si ces réglementations deviennent lois entre le milieu et la fin des années 2020, elles pourraient avoir un effet d’entraînement sur l’industrie technologique et la main-d’œuvre dans l’UE. Les entreprises opérant dans l’UE peuvent choisir d’appliquer ces changements réglementaires à l’échelle mondiale, alignant ainsi l’ensemble de leurs opérations sur les nouvelles normes. Toutefois, certaines organisations pourraient trouver la réglementation trop lourde et choisir de quitter complètement le marché européen. Les deux scénarios auraient des implications sur l’emploi dans le secteur technologique de l’UE. Par exemple, une sortie massive d’entreprises pourrait entraîner des pertes d’emplois, tandis qu’un alignement mondial sur les normes européennes pourrait rendre les rôles technologiques basés dans l’UE plus spécialisés et potentiellement plus précieux.

Implications pour une réglementation accrue de l'IA en Europe

Les implications plus larges de la volonté croissante de la CE de réglementer l’IA pourraient inclure :

• L’UE et les États-Unis concluent un accord de certification mutuelle pour les entreprises d’IA, conduisant à un ensemble harmonisé de normes éthiques que les entreprises doivent suivre, quelle que soit leur situation géographique.
• Croissance dans le domaine spécialisé de l’audit de l’IA, alimentée par une collaboration accrue entre les entreprises privées et les secteurs publics pour garantir la conformité aux nouvelles réglementations.
• Les nations et les entreprises des pays en développement ont accès à des services numériques qui respectent les normes éthiques d'IA fixées par les pays occidentaux, ce qui pourrait améliorer la qualité et la sécurité de ces services.
• Un changement dans les modèles commerciaux pour donner la priorité aux pratiques éthiques de l’IA, attirant des consommateurs de plus en plus préoccupés par la confidentialité des données et l’utilisation éthique de la technologie.
• Les gouvernements adoptent l’IA dans les services publics comme la santé et les transports avec une plus grande confiance, sachant que ces technologies répondent à des normes éthiques rigoureuses.
• Investissement accru dans des programmes éducatifs axés sur l’IA éthique, créant une nouvelle génération de technologues qui maîtrisent à la fois les capacités de l’IA et les considérations éthiques.
• Les petites startups technologiques sont confrontées à des barrières à l’entrée en raison des coûts élevés de conformité réglementaire, qui pourraient étouffer la concurrence et conduire à une consolidation du marché.

Questions à considérer

• Pensez-vous que les gouvernements devraient réglementer les technologies d'IA et leur déploiement ?
• Sinon, comment une réglementation accrue au sein de l'industrie technologique pourrait-elle affecter le fonctionnement des entreprises du secteur ?