Amazon a récemment signalé du matériel d’abus sexuel sur des enfants (CSAM) lors de l’examen des données de formation en IA au Centre national pour les enfants disparus et exploités. L’autorité officielle a reçu plus d’un million de rapports liés au CSAM, et une grande partie d’entre eux ont été signalés par Amazon seul. Cependant, certains critiques ont soulevé des questions sur le manque de détails clairs dans le rapport officiel de l’entreprise.
Amazon signale le CSAM dans les données de formation de l’IA à l’autorité de sécurité des enfants
Une enquête rapportée par Bloomberg révèle que le Centre national pour les enfants disparus et exploités a reçu plus d’un million de rapports CSAM liés à l’IA en 2025. La plupart de ces rapports provenaient d’Amazon. Le géant de la technologie a déclaré avoir détecté le matériel en analysant des données provenant de sources extérieures utilisées pour entraîner ses systèmes d’IA. La société a en outre déclaré qu’elle ne pouvait pas identifier la source du contenu.
Les responsables du NCMEC affirment que de nombreux rapports d’Amazon se sont démarqués. Le directeur exécutif, Fallaon McNuty, ajoute que d’autres sociétés fournissent généralement suffisamment de détails pour que les forces de l’ordre puissent agir. Cependant, Amazon n’a pas réussi à joindre les informations sur la source, ce qui a rendu les rapports difficiles à utiliser. Elle ajoute que cela soulève de sérieuses questions sur la manière dont les données de formation en IA sont collectées. Le rapport souligne également la nécessité de contrôles de sécurité appropriés et la manière dont ils peuvent être utilisés sur toutes les plateformes.
La demande croissante d’IA met en évidence la nécessité d’une application appropriée de la loi
Pour clarifier sa position, Amazon affirme avoir utilisé des règles d’analyse générales lors de l’examen des données de formation. Cette méthode peut parfois conduire à de nombreux faux positifs. En outre, la société affirme n’avoir trouvé aucune preuve que CSAM ait été utilisé dans la formation de son modèle d’IA. De plus, le géant affirme avoir soumis ses rapports via un système distinct, car les données proviennent de tiers et n’incluent pas de détails au niveau de l’utilisateur.
Amazon affirme rester engagé en faveur d’une utilisation et d’un développement réactifs de l’IA et des protections de sécurité des enfants. De plus, ce n’est pas la première fois que les valeurs morales des entreprises et des développeurs d’IA sont remises en question. Plusieurs poursuites ont été intentées contre des sociétés, notamment OpenAI, Character.AI et Meta, pour des infractions connexes.
