Ce n’est un secret pour personne que les critiques entourant l’algorithme d’Instagram ont récemment incité l’entreprise à faire la lumière sur son fonctionnement. Cependant, il semble que l’algorithme d’Instagram soit à nouveau sous surveillance car, selon des chercheurs de l’Université de Stanford et de l’Université du Massachusetts à Amherst, l’algorithme n’est pas seulement associé à un « vaste réseau pédophile », mais il le promeut également en permettant aux utilisateurs de rechercher pour les hashtags Instagram explicites liés au CSAM.
Les chercheurs ont également découvert que ces hashtags conduisaient les utilisateurs à des comptes vendant du matériel pédophile, qui comprenait des vidéos montrant des enfants se faisant du mal ou se livrant à des actes de bestialité. Étonnamment, certains comptes offraient même aux acheteurs la possibilité de « commander des actes spécifiques » ou d’organiser des réunions en personne.
« Instagram est une bretelle d’accès vers des endroits sur Internet où il y a plus d’abus sexuels explicites sur des enfants. La plate-forme la plus importante pour ces réseaux d’acheteurs et de vendeurs semble être Instagram », a déclaré Brian Levine, directeur de UMass Rescue Lab.
La réponse d’Instagram
En réponse à ce rapport inquiétant, Meta, la maison mère d’Instagram, a mis en place un groupe de travail interne et lancé une enquête active. De plus, la société s’efforce également de bloquer les réseaux impliqués dans le matériel d’abus sexuels sur des enfants (CSAM) et de mettre en œuvre des changements de système. Cependant, le fait qu’Instagram ait souvent ignoré les tentatives faites par les utilisateurs pour signaler ces comptes CSAM et même l’affichage d’un compte associé à un vendeur mineur a déclenché l’algorithme pour recommander de nouveaux comptes soulève de sérieuses inquiétudes.
« L’exploitation des enfants est un crime horrible. Nous explorons en permanence des moyens de lutter activement contre ce comportement », a déclaré Meta.
Bien que Meta ait affirmé qu’ils recherchaient et supprimaient activement les utilisateurs impliqués dans l’exploitation des enfants, citant le retrait de 490 000 comptes violant les politiques de sécurité des enfants rien qu’en janvier, Ce rapport arrive à un moment où les plateformes de médias sociaux, y compris Instagram de Meta, font l’objet d’une surveillance accrue concernant leurs efforts pour réglementer et empêcher la diffusion de contenu abusif. De plus, les récents projets de Meta visant à étendre le cryptage de bout en bout ont inquiété les forces de l’ordre comme le FBI et Interpol, car cela pourrait entraver la détection de contenu préjudiciable lié à l’abus sexuel d’enfants.
