Projet européen pour la régulation de l’IA : l’essentiel à retenir
L’intelligence artificielle est visiblement en train de gagner du terrain dans les entreprises, et même dans certaines administrations publiques. Son utilisation n’est pourtant pas sans risques. Certaines têtes pensantes de ChatGPT et d’autres outils AI ne cessent d’ailleurs d’attirer notre attention sur les dangers possibles de l’intelligence artificielle. C’est donc tout naturellement que la France et plus généralement l’Europe a initié un projet de régulation de l’IA. Ce projet salutaire, qui porte le nom IA Act, doit encore être étudié par le Conseil Européen. Mais déjà, il prévoit des obligations importantes relatives aux différents services d’intelligence artificielle générative.
Les nouvelles dispositions du projet européen pour la régulation de l’IA
L’apparition et l’émergence de ChatGPT et d’autres outils d’IA génératives a emmené les États à prendre des mesures afin d’éviter tout abus. On n’imaginait sans doute pas, il y a 2 ans, qu’un logiciel (un robot) puisse converser avec un homme dans un langage clair et compréhensible. C’est pourtant le cas aujourd’hui avec cette IA générative appelée ChatGPT. Mais, contrairement à ce que l’on peut penser, cette faculté à tenir une conversation réaliste avec les humains n’a pas que des avantages. L’une des raisons pour lesquelles des textes de régulation de l’IA sont progressivement adoptés, c’est que l’intelligence artificielle manque de jugement.
MidJourney, ChatGPT et les autres outils AI n’indiquent généralement pas leurs sources de données et n’agencent que des informations recueillies sur la toile. Ces informations recueillies sont-elles vraies et profondément analysées avant exploitation ? On peut se poser beaucoup de questions sur le jugement de ces IA génératives. Que faire donc face à ce quasi-fléau qu’est l’intelligence artificielle ?
Pour tenter de résoudre ce problème, le Parlement a pris de nouvelles dispositions sur la régulation de l’IA. Ces dispositions prévoient que les contenus (textes, musiques, images) protégés par le droit d’auteur soient déclarés. Les auteurs originels de ces contenus peuvent donc saisir la justice afin de recevoir une rémunération pour utilisation abusive sans leur consentement. Par ailleurs, désormais, les modèles d’IA doivent être stockés dans une base de données en Europe avant toute exploitation.
Toutes les plateformes d’IA générative ont l’obligation de mettre en place un système qui permet d’identifier les contenus générés. Cette contrainte est très avantageuse pour les utilisateurs. Elle permet par exemple de faire la distinction entre les vrais et les faux contenus.
Restriction de l’identification biométrique par IA
Le texte que le Parlement Européen a validé a prévu d’interdire les usages discriminatoires et intrusifs de l’IA. On n’autorise désormais plus l’utilisation des SIB (systèmes d’identification biométrique) dans les lieux publics. À cette interdiction, il ne peut y avoir aucune exception. Le Projet de régulation de l’IA a cependant établi le cadre probable d’utilisation des systèmes d’identification biométrique. D’après le texte en cours d’adoption, seules les forces de police peuvent les utiliser en cas de crimes graves. De plus, cela ne peut se faire que sur autorisation formelle d’un juge de la république. Par ailleurs, les systèmes particuliers de police prédictive ainsi que ceux qui détectent les émotions sont aussi censurés.
Régulation de l’IA : des systèmes interdits, mais aussi des systèmes autorisés sous condition
Une série d’évaluation et de supervisions humaines permettra au Conseil européen de créer le cadre d’application du texte proposé par le Parlement. Ce n’est donc qu’après une période expérimentale que le Conseil approuvera définitivement le Projet de régulation de l’IA. Pour protéger les utilisateurs d’outils IA, le Parlement a identifié de façon claire et précise les systèmes interdits. Il a indiqué aussi ceux qui bénéficient d’une autorisation sous condition. En dehors des logiciels IA intégrant l’identification biométrique, le Parlement interdit la vulgarisation de certains systèmes sans une assistance humaine. Il s’agit des systèmes présentant un préjudice énorme pour la sécurité, la santé et les droits fondamentaux des individus et de leur environnement.
De façon particulière, le Parlement Européen exige une supervision humaine et une évaluation de tout système basé sur l’IA destiné à influencer les élections. Il en est de même pour les algorithmes qui recommandent des réseaux sociaux et qui comptent plus de quarante-cinq millions d’utilisateurs vivant en Europe. Par ailleurs, le texte interdit l’usage et la promotion des logiciels d’IA qui ciblent les personnes vulnérables (handicapés et enfants).
Régulation de l’IA : est-ce la solution ?
Le Projet de régulation de l’IA bénéficie de l’approbation d’un grand nombre de personnes partout en Europe. Mais pour certaines personnalités influentes, freiner le développement de l’IA par des textes normalisés n’a rien d’avantageux. Pour le CEO d’OpenAI Sam Altman par exemple, des lois contre l’IA générative pourraient poser problème. Par ailleurs, pour le Président français Emmanuel Macron, commencer par créer un cadre de régulation de l’IA n’est pas une bonne option. Il affirmait le 13 juin 2023 que le pire scénario pour l’Europe serait de ne pas suffisamment investir dans l’IA. En face, les Chinois et les Américains n’hésitent pas à le faire. Ils n’installent pas de barrières pour freiner le développement de l’intelligence artificielle.
Pour certains analystes, la solution idéale n’est pas la suppression ni la régulation de l’IA. Il serait plus intéressant de créer des outils AI ultrasécurisés qui ne mettent pas en danger les utilisateurs.
