IA : capable du pire et du meilleur

Le vol d’œuvres québécoises par Meta et le lancement d’un générateur d’images copiant le style d’artistes fameux ont fait bondir le milieu culturel. Moi aussi !

Drapeau de pirate

Dans mon billet de décembre 2021, je m'intéressais à l’écriture par le moyen de l'intelligence artificielle. Un peu plus de trois ans après, je sens le besoin d’effectuer une mise à jour. Le vol d’œuvres québécoises par Meta et le lancement d’un générateur d’images copiant le style d’artistes fameux m’ont fait bondir.

L'IA : ses armes de séduction

D’immenses bases de données agrègent des informations de toutes disciplines, ce qui permet de créer des solutions innovantes. Devant un outil aussi puissant, qui ne s’émerveille pas en ouvrant la porte du futur ? Comme des enfants qui déballent un cadeau, nous restons des enfants devant une si belle mécanique. Parfois réfractaires aux règles imposées pour vivre en société, toujours enclins à la délinquance légère ou sévère, nous sommes captivés par le champ des possibles :

• Les prédictions : l’IA augure les tendances, les événements dans les branches de la finance, de la santé, de la météo.

• La prise de décision : elle s’installe dans les secteurs de la logistique organisationnelle comme le transport, la planification d’itinéraires.

• La reconnaissance faciale, vocale et la vision par ordinateur : elle vante ses mérites en sécurité et intègre les téléphones intelligents.

• L’adaptation aux comportements : elle s’accorde aux actions des utilisateurs et formule des recommandations. Répandue dans l’industrie récréative de visionnement et d’écoute en ligne, elle personnalise.

• La communication interactive : conçue pour établir une réciprocité entre usagers, robots conversationnels et assistants virtuels, elle suscite même le sentiment amoureux.

L'’apprentissage profond

Les systèmes experts qu’on désigne par « l’apprentissage profond » conçoivent des réseaux de neurones artificiels, constituent des hiérarchies de couches, des plus simples aux plus complexes, ajustent les paramètres en fonction des erreurs commises et reprogramment en conséquence. Cela nécessite des quantités astronomiques de données et des capacités de calcul élevées.

Les applications qui en découlent sont fantastiques dans le domaine médical. Aide diagnostique, détection du cancer par l’interprétation d’imageries cliniques, décodage des génomes, implant cérébral transposant les pensées en paroles de façon quasi instantanée pour des personnes lourdement handicapées. Par ailleurs, l’IA traite le langage naturel pour en extraire les concepts afin d’améliorer la recherche en ligne. Elle décèle l’expression de sentiments. Elle enchante en matière de traduction en facilitant la vie aux voyageurs, mais peut-elle remplacer un interprète d’expérience lors de négociations diplomatiques extrêmement délicates ?

Le côté sombre de la Force : le détournement de l’usage de la reconnaissance faciale à des fins eugéniques, le contrôle de voitures et de robots prétendument autonomes et l'appropriation culturelle mondialisée.

Du vol de grand chemin

Plutôt que de s’entendre avec les artistes, l’IA pirate des bibliothèques entières pour entraîner ses modèles, plaidant que la pratique est équitable puisqu’elle crée de nouvelles œuvres. La quantité du butin et l’usage qu’un voleur en fait n’a-t-elle jamais permis d’absoudre un criminel ?

J’ai suivi par le passé une formation du Barreau du Québec qui se penchait la possibilité d’accroître l’efficacité des professionnels par l’emploi de l’IA. Étaient examinées la rédaction de textes, l’analyse d’un grand ensemble de données, la réalisation de synthèse et l’identification des éléments signifiants. À cette occasion, je me suis rappelé l’époque où, jeune avocate, j’avais eu accès à une pièce encombrée d’une tonne de caisses de documents liée à la poursuite contre les producteurs de MIUF, un isolant aux propriétés cancérigènes largement utilisé dans les années 70. L’IA aurait certainement allégé la tâche des avocats, parajuristes, indexeurs, documentalistes et archivistes.

Depuis, le Barreau met cependant en garde ses membres contre l’atteinte au secret professionnel, à la confidentialité et à la protection des renseignements personnels. Il souligne le risque d’erreurs et de l’hyperdépendance qui pourrait mener à l’affaiblissement des compétences, du jugement critique et de l’analyse détaillée[1]. D’ailleurs, il ne suffit pas de repérer les éléments pertinents. Il faut l’exhaustivité et la pertinence, soit non seulement ce qui est pertinent, mais tout ce qui est pertinent, ce qui exige d’y attribuer une unité de sens, ce que seul un avocat peut accomplir.

L’IA selon la législation de l’Union européenne :

« i) tout logiciel développé au moyen de l’une ou de plusieurs des techniques et approches définies dans la loi (comme l’apprentissage automatique, les approches fondées sur la logique et les connaissances ou les approches statistiques) ; et ii) tout logiciel qui peut générer des sorties comme du contenu, des prévisions, des recommandations ou des décisions influant sur les environnements avec lesquels il interagit.[2] »

Elle interdit les pratiques à même de causer un préjudice, soit les méthodes subliminales, l’exploitation de la vulnérabilité et la notation sociale comme on le voit en Chine. En attendant le projet de loi canadien C-27, les pays doivent prendre en considération de multiples lois et règlements en plus de la Loi sur le droit d’auteur, LRC 1985, c C-42 : Loi sur la protection des renseignements personnels et les documents électroniques, Loi sur l’accès à l’information, Loi sur la preuve au Canada, Loi sur le Conseil de la radiodiffusion et des télécommunications canadiennes, Loi sur la concurrence, Loi canadienne sur les sociétés par actions, Loi sur les télécommunications, entre autres lois.

La nécessité d’une peine exemplaire

La définition de vol : action de s’emparer du bien d’autrui de manière illicite, par la force ou par la ruse. La législation sur les brevets et les droits d’auteur, pourtant d’une nécessité fondamentale, ne se positionnent pas de façon assez claire. La loi du gros bon sens voudrait que les administrateurs et les entreprises, mais aussi les usagers qui plongent la main dans le sac, soient traités comme des bandits. Similaire au phénomène du streaming, ce cambriolage des écrits ne diffère pas des habitudes de piratage par des chapardeurs de films, de vidéos et de musique.

Un désastre nous pend au bout du nez si nos gouvernements ne pénalisent pas assez les voyous du Net et si nous ne revoyons pas les modes de publication, de transmission et de téléchargement. Une amende d’un million de dollars, la peine qui est actuellement prévue pour les infractions au droit d’auteur au Canada, m’apparaît dérisoire alors que je ne m'étends même pas sur le pillage de l’environnement qui découle de la consommation énergivore de l’ogre. Au-delà d'amendes plus musclées et de sentences de prison dissuasives, il faut ordonner la fermeture des entreprises qui détroussent notre patrimoine culturel.

La menace intellectuelle

Les conséquences sur les populations du monde entier sont sévères : amplification des biais et des stéréotypes qui se glissent dans l’entraînement des algorithmes, aberrations logiques en raison de lacunes dans la collecte de ces données. Tout n’existe pas sur le Net. Comment quiconque ne possède pas toutes les compétences générales ou spécialisées peut-il croire en la fiabilité des résultats obtenus lorsqu’il ignore tout des lacunes de l’IA ?

L’IA n’est pas Socrate. À part les philosophes et essayistes, on oublie de s’arrêter sur la nature de la conscience, de la créativité, de la paternité. Je pense donc à Socrate et à sa méthode d’enseignement qui consistait à interroger ses étudiants sur toutes les facettes du sujet discuté. Quand ils lui soumettaient le fruit de leur délibération, le philosophe poursuivait en leur présentant une nouvelle question, les forçant à approfondir davantage la matière.

Quand on interroge l’IA ou qu’on lui demande de réaliser une tâche, des programmes informatiques consultent de gigantesques bases de données qui accomplissent un calcul statistique et mathématique, point à la ligne. Il lui est impossible de remplacer le jugement de l’humain capable de s’adapter aux nuances selon les contextes. Seul l’humain est apte à saisir la valeur d’une intuition comme l’ont fait maints scientifiques pourtant formés à la rigueur. Il en va ainsi de l’intelligence humaine émotionnelle qui plonge ses racines dans la personnalité, les souvenirs et les expériences.

Certains argumentent que toute avancée technologique a provoqué la peur et des avis alarmistes. L’avion, l’automobile, la calculatrice, l’ordinateur, le nucléaire, la vaccination ont entraîné leur lot de craintes. D’autres affirment que l’IA deviendra vite incontrôlable et que l’extinction des humains est prévisible si le sort de la population planétaire dépend de ses actions.

Pour prendre l’exemple très simple de la calculatrice, professeurs et parents s’inquiétaient de mettre cet outil entre les mains des étudiants. Ils prévenaient que les prochaines générations ne sauraient plus calculer. Cette prédiction s’est révélée fausse, puisque les équations de base doivent continuer à être comprises pour enseigner ensuite les raisonnements mathématiques. En fait, cette invention a permis de monter une marche vers plus de connaissance.

L’IA et son développement débridé, parce que non réglementé, menacent cette fois l’humanité d’une atrophie du cerveau. Si nous cessons de penser par nous-mêmes, que nous nous abandonnons aux algorithmes, beaucoup (trop) d’entre nous négligeront la réflexion philosophique et éthique qui nous place au-dessus des autres espèces animales. L’IA ne réfléchit pas, elle calcule.

S'armer contre l'ennemi

Même si je me sens bien encadrée par la plateforme qui sert de support à mon site Web, que j'appose des protections éprouvées sur les textes publiés et surtout parce que je suis une inconnue dans le domaine de l’édition, je me suis précipitée sur les outils de vérification recommandés pour m’assurer d’être absente des bases de données élaborées par ces usurpateurs.

Pour ma part, je déteste l’aide dépersonnalisée et les recommandations qui me donnent rarement ce que je désire. Je nous crois encore bien loin de l’extinction de l’espèce humaine. En revanche, j’en perçois les dangers à court terme quant au potentiel de manipulation et d’abus. Nous devrions tous en bloc refuser qu’on influence nos goûts, qu’on nous passe de fausses nouvelles, de la propagande, mais surtout qu'on nous vole notre culture.

Je conseille la lecture de deux fables écrites par Stéphanie Roussel, L’homme et le génie d’acier[3] ainsi que Le chat farfelu[4].

[1] Barreau du Québec : L’intelligence artificielle générative. Guide.

[2] Amir Dashdaran. Aperçu du cadre juridique canadien relatif aux systèmes d’intelligence artificielle à la suite de l’adoption de la loi sur l’IA en Europe. © McMillan S.E.N.C.R.L., s. r.  l. 2024. https://mcmillan.ca/fr/perspectives/apercu-du-cadre-juridique-canadien-relatif-aux-systemes-dintelligence-artificielle-a-la-suite-de-ladoption-de-la-loi-sur-lia-en-europe/

[3] ROUSSEL, Stéphanie. L’homme et le génie d’acier : Tome I, Éd. Les fauteurs de mots, Montréal, 2024, p. 24. https://www.lesfauteursdemots.com/boutique

[4] ROUSSEL, Stéphanie. Un chat farfelu : Tome II, Éd. Les fauteurs de mots, Montréal, 2024, p. 13. https://www.lesfauteursdemots.com/boutique