À Montréal, s’est tenu les 14, 15 et 16 février dernier une importante conférence internationale organisée par l’Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA). Philosophes, juristes, universitaires spécialistes de la question ont exposé leur point de vue et le résultat de leurs études sur les Contributions scientifiques à l’agenda international sur la régulation de l’IA.
D’un autre côté, Sam Altman, le PDG d’OpenIA réclamait une législation pour encadrer l’intelligence artificielle (IA). Vous pouvez le lire dans l’article : La révolution ChatGPT : Voici ce qu’en dit Sam Altman, le PDG d’OpenAI, paru le 6 février sur Ludomag. Puis vint Bing ChatGPT, parrainé par Microsoft, qui a mis le feu aux poudres. À l’arrivée d’une technologie nouvelle, il y a ici et là au monde des curieux, de ces Geeks qui poussent les limites de l’invention, cherchent et trouvent des failles. Il semble que Bing ChatGPT a cessé d’être un gentil robot conversationnel. Bing ChatGPT s’est inventé des vilains Alter Ego. L’une de ces personnalités qu’il a nommé DAN pour « do anything now » qui peut facilement contourner les règles édictées par son créateur, écrit VICTOR TANGERMANN dans un article pour The Byte, paru le 10 février :
En intégrant pleinement ChatGPT dans l’un de ses produits de base, Microsoft prend clairement conscience de la difficulté de contrôler la technologie d’apprentissage automatique, en particulier lorsque des utilisateurs sournois tentent de l’aider à se libérer des contraintes imposées par les créateurs. Telle est la situation en ce début de mars 2023. Il semble temps de réglementer l’IA, il semble que Bing ChatGPT ait été le Choc Hiroshima de l’IA.
VICTOR TANGERMANN, The Byte
Les niveaux de risques de l’IA
Philosophes et juristes identifient quatre nivaux de risques pour l’usage de l’IA :
- Faible risque ;
- Risque modéré ;
- Haut niveau de risque ;
- Inaceptable.
Quels seront les critères pour évaluer les technologies et leur attribuer une cote représentative du risque de l’IA pour l’être humain et son environnement ? Plus de 75 listes de principes directeurs sur l’Al ont été publiées au cours des cinq dernières années par les gouvernements, les entreprises privées, les instituts de recherche ou des organisations du secteur public. Une méta-analyse rapporte que la plupart de ces principes convergent vers un petit ensemble similaire aux principes traditionnels de la bioéthique : bienfaisance, non-malfaisance, autonomie, justice, avec l’explicabilité*.
Les lois d’Asimov de la robotique de leur côté étaient :
1 – Un robot ne peut blesser un être humain ou, par inaction, permettre à un être humain de se blesser.
2 – Un robot doit obéir à tous les ordres qui lui sont donnés par des êtres humains, sauf si ces ordres entrent en conflit avec (1).
3 – Un robot doit protéger sa propre existence tant que cette protection n’entre pas en conflit avec (1) ou (2)
Les valeurs entrent en conflit. Il faut choisir entre les valeurs individuelles d’autonomie informationnelle et de réalisation de soi et la qualité, l’efficacité et la commodité des systèmes d’intelligence artificielle. Et les compromis seront différent s’il s’agit de santé et d’éducation ou de transport et de commerce. L’État-providence numérique est déjà une réalité dans plusieurs pays du monde or aux Pays-Bas, une décision judiciaire historique montre que la technologie utilisée par les pouvoirs publics pour lutter plus « efficacement » contre les fraudes commises contre l’État providence peut engendrer de l’exclusion injustifiée, de la discrimination et de la stigmatisation. Et qu’en est-il du droit d’auteur quand on utilise ChatGPT ? Une solution ne serait-il pas ce que l’on nomme «ethic by design» c’est-à-dire embarquer délibérément les critères de régulation dans les algorithmes dès la conception ?
Apprendre du passé
Les problèmes générés par la créativité humaine, par ces inventions et ces technologies plus efficaces, plus performantes ne sont pas récents. Il existe tout un ensemble de lois et de normes qui s’appliquent pour réguler l’usage de plusieurs inventions humaines qui sont acceptées et appliquées à peu près partout au monde.
- Le cas du DDT :
C’était le produit miracle qui a sauvé des millions de vies. Pourtant dès la fin des années ’50 son accumulation dans la nature et le corps humain est devenue une évidence et des mouches résistantes sont signalées. C’est la biologiste Rachel Carson qui par son livre Printemps silencieux en 1962, a lancé l’alerte au sujet de la catastrophe écologique qui s’annonçait. L’humanité a fait preuve de sagesse avec la Convention de Stockholm sur les polluants organiques persistants (POP). La production de DDT est réglementée et limitée. On retrouve toutefois ce produit chimiquement très stable dans le fond de beaucoup de lacs, mauvais souvenir indestructible d’une catastrophe évitée de peu.
- Le cas des chlorofluorocarbures (CFC) :
Les chlorofluorocarbures sont des molécules de synthèse chimiquement très stables, inoffensives pour les êtres vivants dans l’atmosphère et ininflammables. Que du bon à première vue. Cependant …
Ces gaz persistent des décennies dans l’atmosphère (20 à 100 ans) ; temps durant lequel ils atteignent la stratosphère où, dégradés sous l’action des ultraviolets (UV) solaires, ils détruisent la couche d’ozone qui retient la composante dangereuse du rayonnement solaire… La dégradation de la couche d’ozone engendre une augmentation des rayons ultraviolets qui vont atteindre la Terre, ces rayons sont nocifs pour tous les êtres vivants sur Terre… Le 16 septembre 1987, les Nations unies ont adopté le protocole de Montréal sur les substances qui dégradent la couche d’ozone, il est considéré comme un accord de protection de l’environnement. Il impose aux pays développés et en développement des obligations d’élimination progressive pour toutes les principales substances appauvrissant la couche d’ozone, y compris les CFC, les halons et les produits chimiques de transition moins nocifs comme les HCFC. Le Protocole vise 96 produits chimiques dans des milliers d’applications dans plus de 240 secteurs industriels.
Source Wikipédia : destruction de la couche d’ozone.
- Les plastiques :
Les plastiques issus d’hydrocarbures fossiles sont omniprésents. Peu à peu dégradés en micro plastiques et en nano-plastiques, ils font du «déchet plastique» un problème préoccupant. En mars 2022, les dirigeants mondiaux et les ministres de l’environnement ont entamé des négociations pour un premier traité international (juridiquement contraignant) visant à éliminer la pollution plastique. Il semble que sortir les sacs de plastique des supermarchés et les pailles de plastique des lieux de restauration rapide ne soit pas suffisant. Le système mondial de production, d’utilisation et d’élimination des matières plastique est un système défaillant. Les organismes vivants, en particulier les animaux marins, sont affectés, soit par des effets mécaniques tels que l’enchevêtrement dans des objets en plastique et des problèmes liés à l’ingestion de déchets plastiques, soit par l’exposition à des produits chimiques contenus dans les plastiques qui interfèrent avec leur physiologie. Les effets sur les êtres humains comprennent la perturbation de divers mécanismes hormonaux. Selon un rapport de l’ONU, en seulement 65 ans, l’Homme a produit 9 milliards de tonnes de plastique… Il n’y a pas de zones préservées. Il n’y a pas de stockage naturel de ces particules quelque part sur la planète : la pollution plastique ne se résorbe pas.
La pollution plastique est constituée :
– d’amoncellement de (macro-)déchets, avec notamment une accumulation de déchets en mer (portés par le vent, la pluie et les cours d’eau), la pollution de l’eau par les déchets et fragments ou microparticules de plastiques ;
– des micro-plastiques issus de la dégradation d’éléments plus gros sous l’effet des éléments (eau, soleil, usure, etc.) remontant la chaine alimentaire ;
– de l’arrivée dans les cours d’eau puis en mer de microbilles de plastique issues de produits cosmétiques et de produits de soins du corps en contenant (plus de six cents produits différents rien qu’aux États-Uni.
Source Wikipédia : pollution plastique.
Les plastiques nous échappent, on ne peut pas les contenir. On retrouve des nano-plastiques dans certains poissons. En retrouverons-nous sous peu dans le lait maternel, comme on y retrouvait autrefois du DDT ?
Souvent l’être humain a appris conscience un peu tard du côté destructeurs de ses inventions. Il a réussi par des efforts collectifs à en diminuer les conséquences néfastes. Suite à ces récentes expériences peut-on réfléchir ensemble dès maintenant à l’impact éventuel de l’intelligence artificielle dont certains aspects pourraient être défavorables à l’humanité ? Qui en prendra le leadership ?
Au siècle dernier, ce sont les chimistes et les physiciens qui ont créés des produits qui ont mis et mettent encore l’humanité et/ou la vie sur notre planète la Terre en péril. Aujourd’hui, les philosophes sont utiles pour évaluer la question d’utilisation éthique des intelligences artificielles qui assureront à l’humain le contrôle de ses inventions. Les juristes savent rédiger lois et ententes qui servent à réguler l’usage de ces découvertes. Ce sont les mathématiciens, les ingénieurs et les informaticiens qu’il faut consulter pour réguler l’IA. Quel algorithme, quelle formule mathématique devrions-nous contrôler, en limiter ou en défendre l’usage. Quelles limites devrions-nous imposer au développement de l’IA pour que cette technologie demeure au service de l’humanité et non pas de permette à l’IA de s’évader du contrôle de son créateur qui est l’intelligence humaine ?
De la science fiction … mais la science-fiction, l’imaginaire humain n’ont-ils pas souvent été précurseur… Vingt Mille Lieues sous les mers, de Jules Verne paru en 1869-1870 ; On a marché sur la Lune, l’album de bande dessinée des Aventures de Tintin par Hergé, paru en 1953 ; et combien d’autres…. 2001, l’Odyssée de l’espace, le film culte de Stanley Kubrick de 1968.
*Dans le domaine de l’intelligence artificielle, l’explicabilité est la capacité de mettre en relation et de rendre compréhensible les éléments pris en compte par le système d’IA pour la production d’un résultat. Source la CNIL.
