IA-Le monstre est né : Les images pédopornographiques prennent le contrôle, Elon Musk et le Prix Nobel Geoffrey Hinton n’avaient pas vu ça

Ça nous pendait au nez. Ce que nos têtes sont capables de créer va toujours plus vite que la régulation, le cadre légal. La morale et la vertu ont définitivement perdu la course contre la technologie. Le milliardaire Elon Musk, un des pères fondateurs de l’intelligence artificielle (IA), avait alerté sur les dangereux sentiers que prend le monstre qu’il a enfanté. Un autre ponte de l’IA, le Britanno-Canadien Geoffrey Hinton, qui vient d’ailleurs de recevoir un Prix Nobel, est lui aussi monté au front pour avertir. On peut aussi y ajouter le grand cinéaste James Cameron, etc. Trop peu, trop tard, le mal est fait. Et là il prend des proportions qui vont au-delà de nos pires cauchemars…

Les images pédopornographiques générées par IA progressent à une vitesse folle, une montée «glaçante», alerte une association. Ce nouveau fléau – comme si l’Humanité n’en avait pas suffisamment – nous le devons au développement exponentiel de l’IA générative, lequel pond des textes et images sur simple demande, quelle qu’elle soit. Imaginez le champ des possibles pour tous les tordus qui mettent la main sur ces contenus. ChatGPT rend un immense service à la médecine, à la science, etc. (oubliez les prédictions sur la mort…), certes, mais il cause aussi de sacrés dégâts.

Les images pédopornographiques générées par IA foisonnent, normal me direz-vous, l’humain a rarement une appétence pour les choses qui l’élèvent, ça se saurait. Les images et vidéos d’agressions sexuelles d’enfants fabriquées instantanément par IA atteignent des sommets sur Internet, s’alarme ce vendredi 18 octobre une organisation britannique chargée de faire la police sur ces contenus.

Beaucoup de ces clichés ou films montrant des mineurs «agressés et maltraités sont si réalistes qu’il est presque impossible de les distinguer d’images de vrais enfants», ajoute dans un communiqué l’Internet Watch Foundation (IWF), l’une des principales associations du secteur en Europe. Au Royaume-Uni ces horreurs sans nom sont punies par la loi, mais combien de flics du Net il faut pour enrayer le phénomène ? Quelle autre parade ont les petits pour s’éviter cet abîme d’où personne ne sort indemne ?

L’IWF, qui avait réceptionné 70 rapports sur l’an dernier entre avril 2023 et mars 2024, en a déjà reçu 74 en à peine 6 mois, entre avril et fin septembre 2024. Presque toutes ces images circulaient librement sur des sites ouverts, que tout le monde peut visiter, surtout les plateformes hébergées en Russie (36%), aux Etats-Unis (22%) et au Japon (11%). Plus des trois quarts des images ont été directement signalées à l’association par des internautes, qui les ont repérées sur des «forums ou des galeries d’images IA».

Selon un expert de l’organisation qui a préféré l’anonymat pour sa sécurité, la hausse de ces signalements est «glaçante, et donne l’impression que nous sommes arrivés à un point critique, avec le risque que des organisations comme la nôtre et la police soient submergées par des centaines de nouvelles images, sans que l’on sache si un véritable enfant a besoin d’aide quelque part»…

«Pour atteindre le niveau de sophistication observé, le logiciel utilisé a dû apprendre à partir d’images et de vidéos réelles d’agressions sexuelles sur des mineurs partagées sur Internet», commente Derek Ray-Hill, directeur général par intérim de l’IWF, cité dans le communiqué. Pour contrer le mal il demande aux députés britanniques de voter des lois qui cadrent avec «l’ère numérique» et ses procédés en constante évolution.

 

Que se passe-t-il en Tunisie?
Nous expliquons sur notre chaîne YouTube . Abonnez-vous!