INFORMATIQUE- FORMATION CONTINUE- INTELLIGENCE ARTIFICIELLE (III/III)

©France Télévisions/Luc Chagnon, 9 février 2025

7 Comment peut-on reconnaître les créations d'IA génératives ?: Il existe bien des techniques pour reconnaître les textes ou les images générées par IA, mais elles sont vite obsolètes du fait des progrès techniques. Vérifier le nombre de doigts des humains sur les images n'est par exemple plus un critère pertinent et fiable, car les dernières IA génératives n'ont plus tendance à en ajouter. Mais il reste tout de même des astuces : dans les images, chercher des formes étranges, des objets "fondus", des traits qui se terminent sans raison, des mouvements illogiques ou physiquement impossibles dans les vidéos. Et de manière générale, les images dites "réalistes" les moins complexes ont un style très lisse, entre la photo professionnelle et le film d'animation 3D. Les comptes comme Insane Facebook AI Slop) regroupent de nombreux exemples.

Des exemples d'images générées par intelligence artificielle publiées sur Facebook. (FACEBOOK)

Les entreprises qui développent des programmes d'intelligence artificielle pourraient intégrer dans leurs IA génératives des watermarks, ces signatures visibles (par un symbole superposé à l'image) ou invisibles (des motifs intégrés directement dans certains pixels de l'image, ou dans certains mots qui se répètent) qui peuvent ensuite être détectées. Mais l'application n'est pas toujours facile, et les entreprises y ont peu d'intérêt. D'après le Wall Street Journal), OpenAI a créé par exemple un détecteur de texte généré par ChatGPT efficace à 99,9%, mais refuse de l'ouvrir au grand public.

8 Et est-ce que les IA risquent de se rebeller, comme dans "Terminator" ?: Le sujet fait débat. Certains chercheurs considèrent que les progrès de l'IA peuvent poser un "risque existentiel" pour l'humanité. Parmi eux, des "pères fondateurs" de l'IA actuelle comme Yoshua Bengio), ou Geoffrey Hinton. Ce dernier estime qu'il y a 10 à 20% de chances que l'IA conduise à l'extinction de l'humanité dans les trente prochaines années). Selon eux, même si la probabilité de ce scénario catastrophe demeure faible, il faut s'y préparer, en travaillant sur l'alignement, c'est-à-dire la recherche pour que les valeurs et les objectifs des IA soient les mêmes que ceux des humains.Un exemple classique de mauvais alignement : si on crée une IA chargée de gérer une usine de trombones, dont le seul objectif est de créer le plus de trombones possibles, elle pourrait déterminer que le principal obstacle à l'utilisation maximale des ressources est… la vie sur Terre. Elle pourrait alors tenter d'éradiquer toute vie afin d'exploiter le maximum de ressources sans risquer d'être débranchée, selon une expérience de pensée) du philosophe Nick Bostrom, un des penseurs des "risques existentiels" liés à l'IA.Pour beaucoup d'autres experts, dont le Français Yann Le Cun, l'un des pionniers de l'IA moderne, ce scénario n'est que fiction. Les IA n'ont que les capacités qu'on leur attribue. Une IA chargée de gérer une usine de trombones ne pourra donc pas développer les connaissances d'un expert en armes chimiques ou convaincre d'autres IA de le faire à sa place. Ils ajoutent que les IA ne s'activent que si on le leur demande, et qu'on peut en principe les débrancher.

Enfin, avec les développement des IA dites "open source", modifiables par tous, les créateurs du monde entier pourront coopérer pour créer des "bonnes IA" plus nombreuses et plus puissantes que les "mauvaises IA", comme l'explique par exemple Yann Le Cun auprès du magazine Time). Mais le développement des IA "agents", dont les actions peuvent avoir des conséquences concrètes sur le monde, pourrait changer la donne.

9 J'ai eu la flemme de tout lire, pouvez-vous me faire un résumé ?: On a demandé à ChatGPT de répondre à cette ultime question, avec le prompt suivant : "Résume cet article en 1 000 caractères maximum pour expliquer aux lecteurs comment fonctionnent les IA génératives et quelles sont leurs conséquences sociétales. Sois concis, avec une pointe d'humour si possible."Voici le résultat, à prendre avec des pincettes, donc : "L'IA, c'est comme un super assistant qui apprend en ingérant des montagnes de données. Grâce à elle, on génère textes, images et même diagnostics médicaux en un éclair ! Mais attention, elle n'est pas "intelligente" au sens humain : pas d'émotions ni de conscience, juste des algos bien rodés. Son impact ? Une révolution au travail (bonjour, automatisation !), des gains de productivité, mais aussi des emplois menacés, surtout dans la création. Niveau environnement, elle pompe de l'énergie et de l'eau, mais pourrait aussi aider à sauver la planète. Et Terminator dans tout ça ? Certains experts s'inquiètent, d'autres rigolent. Ce qui est sûr, c'est qu'un bon encadrement est crucial pour éviter les dérapages. Bref, l'IA, c'est une boîte de Pandore moderne : fascinante, utile… et à manier avec précaution."