Déplier le sommaire Replier le sommaire
Des chercheurs de l’Observatoire Internet de Stanford ont récemment révélé une situation alarmante liée à l’utilisation des intelligences artificielles pour générer des visuels. En effet, il a été découvert que certaines bases de données utilisées pour former ces algorithmes, dont LAION-5B, contiennent des milliers d’images pédopornographiques. Cette découverte soulève de nombreuses questions éthiques et légales concernant la gestion de ces données.
LAION, une organisation à but non lucratif, a créé LAION-5B dans le but de fournir des outils d’apprentissage automatique accessibles au public. Cette base de données compile des liens d’images provenant d’Internet, y compris des plateformes sociales où la pédopornographie peut être présente. Cette situation a été critiquée, car les entreprises ne semblent pas conscientes de la présence de contenus illicites dans leurs bases de données.
Malgré des doutes exprimés dès 2021 par les responsables de LAION sur la conformité légale de certains éléments de leur base de données, des images douteuses ont subsisté et la base LAION-5B a été rendue publique. Les signalements d’utilisateurs ne ont été sérieusement pris en considération qu’après plusieurs mois, poussant finalement à une suspension temporaire de LAION-5B et de LAION-44M.
Les utilisateurs qui téléchargent ces bases de données sans prendre de précautions peuvent se retrouver en possession de contenu illégal. Les filtres développés par LAION pour éliminer ces images ne sont apparus que récemment, ce qui soulève des questions sur la responsabilité des utilisateurs.
Cette affaire soulève des questions éthiques et légales importantes concernant la gestion des données par les organisations promouvant l’open source, ainsi que sur la responsabilité des utilisateurs de ces bases de données. Il est essentiel de protéger l’intégrité et la sécurité des systèmes d’intelligence artificielle générative. Une controverse pédopornographique autour des intelligences artificielles
L’origine controversée des données
Des tentatives de filtration inefficaces
Les implications pour les utilisateurs
Tableau récapitulatif
Base de données
Nombre d’images
Contenus illicites
Action de LAION
LAION-5B
~6 milliards
Oui, inclut des images pédopornographiques
Filtrage et suspension temporaire
LAION-44M
Non spécifié
Potentiellement (suspension préventive)
Suspension temporaire
A propos de l’auteur
