L'algorithme de Bobines Instagram, qui fait partie du géant Meta, il souleva préoccupations concernant la sécurité des mineurs. Une enquête sur Wall Street Journal révèle qu'en suivant certains comptes de jeunes influenceurs, l'algorithme a commencé à suggérer teneur inapproprié e sessuali, aux côtés de publicités de grandes marques. En bref, Instagram montre du contenu pour adultes même à ceux qui ne devraient pas le faire.
L'algorithme controversé d'Instagram qui montre du contenu pour adultes (interdit) même aux mineurs
Le test, réalisé par Wall Street Journal, qui impliquait le création de comptes destinés à suivre les jeunes influenceurs tels que les gymnastes et les pom-pom girls, a montré que l'algorithme d'Instagram a commencé à proposer du contenu pour adultes, notamment des vidéos à caractère sexuel impliquant des adultes et des mineurs, ainsi que des publicités de marques américaines connues.
L'enquête a révélé une tendance alarmante : les récits qui suivaient ces jeunes étaient exposés à un mélange inquiétant de pornographie et de matériel sexualisant les enfants. Les experts en systèmes de recommandation algorithmiques ont souligné comment de tels contenus « de niche » peuvent fournir des signaux plus forts que ceux d’intérêt général, poussant l’algorithme à diriger des contenus inappropriés vers les utilisateurs.
Lire aussi: Le secret de Pulcinella révélé : des millions d'utilisateurs mineurs sur Instagram
Le problème de l’agrégation de contenu adulte sur Instagram c'était connu en interne et empêcher une telle propagation nécessite des changements importants dans les algorithmes de recommandation. Cependant, les documents de l'entreprise montrent que il est largement interdit au personnel de sécurité d'apporter des modifications à la plateforme cela peut réduire le nombre d’utilisateurs actifs quotidiens.
En réponse, Meta a déclaré qu'elle investissait des milliards dans des solutions de sûreté, de sécurité et d'adéquation de la marque, tout en admettant la nécessité d'améliorations supplémentaires. Diverses sociétés, dont Match Réservation de groupe e Bumble, ils ont suspendu ou réduit leur publicité sur les Reels et d'autres plateformes Meta suite à ces découvertes. D'autres, comme Disney e Hims, font pression sur Meta pour qu'elle évite de tels placements d'annonces et ont exprimé leurs inquiétudes concernant l'association de leurs marques avec un tel contenu.
