Découvrez comment les dernières IA ont été exploitées pour créer des images à partir de contenus pédopornographiques choquants !

Une controverse pédopornographique autour des intelligences artificielles

Des chercheurs de l’Observatoire Internet de Stanford ont récemment révélé une situation alarmante liée à l’utilisation des intelligences artificielles pour générer des visuels. En effet, il a été découvert que certaines bases de données utilisées pour former ces algorithmes, dont LAION-5B, contiennent des milliers d’images pédopornographiques. Cette découverte soulève de nombreuses questions éthiques et légales concernant la gestion de ces données.

L’origine controversée des données

LAION, une organisation à but non lucratif, a créé LAION-5B dans le but de fournir des outils d’apprentissage automatique accessibles au public. Cette base de données compile des liens d’images provenant d’Internet, y compris des plateformes sociales où la pédopornographie peut être présente. Cette situation a été critiquée, car les entreprises ne semblent pas conscientes de la présence de contenus illicites dans leurs bases de données.

Des tentatives de filtration inefficaces

Malgré des doutes exprimés dès 2021 par les responsables de LAION sur la conformité légale de certains éléments de leur base de données, des images douteuses ont subsisté et la base LAION-5B a été rendue publique. Les signalements d’utilisateurs ne ont été sérieusement pris en considération qu’après plusieurs mois, poussant finalement à une suspension temporaire de LAION-5B et de LAION-44M.

Les implications pour les utilisateurs

Les utilisateurs qui téléchargent ces bases de données sans prendre de précautions peuvent se retrouver en possession de contenu illégal. Les filtres développés par LAION pour éliminer ces images ne sont apparus que récemment, ce qui soulève des questions sur la responsabilité des utilisateurs.

Tableau récapitulatif

Base de données	Nombre d’images	Contenus illicites	Action de LAION
LAION-5B	~6 milliards	Oui, inclut des images pédopornographiques	Filtrage et suspension temporaire
LAION-44M	Non spécifié	Potentiellement (suspension préventive)	Suspension temporaire

Cette affaire soulève des questions éthiques et légales importantes concernant la gestion des données par les organisations promouvant l’open source, ainsi que sur la responsabilité des utilisateurs de ces bases de données. Il est essentiel de protéger l’intégrité et la sécurité des systèmes d’intelligence artificielle générative.

A propos de l’auteur

Gabriel Fouquet est un écrivain passionné de technologie et d’intelligence artificielle. Son expertise se concentre sur la manière dont ces deux domaines s’entrecroisent et se complètent. Sur le blog intercoaching.fr, il partage ses découvertes et son expertise dans le domaine de la technologie et de l’IA, et explore leur impact sur notre vie quotidienne. Son objectif est de rendre ces sujets complexes accessibles à tous, en traduisant les concepts en termes compréhensibles. Gabriel est constamment à la recherche des dernières avancées dans ces domaines et espère inspirer les autres à s’intéresser et à explorer la technologie et l’IA.

Rate this post