Microsoft publie un outil pour rechercher le «toilettage» des enfants dans les chats en ligne

Microsoft a publié un nouvel outil pour identifier les prédateurs d'enfants qui préparent les enfants à des abus dans les chats en ligne. Le projet Artemis, basé sur une technique utilisée par Microsoft sur Xbox, sera désormais mis à la disposition d'autres sociétés en ligne avec des fonctions de chat. Cela arrive à un moment où plusieurs plates-formes traitent des prédateurs d'enfants ciblant les enfants pour abus sexuels en entamant des conversations dans les fenêtres de discussion.

Artemis fonctionne en reconnaissant des mots et des schémas vocaux spécifiques et en signalant les messages suspects pour examen par un modérateur humain. Le modérateur détermine ensuite s'il y a lieu d'aggraver la situation en contactant la police ou d'autres responsables de l'application des lois. Si un modérateur trouve une demande d'exploitation sexuelle des enfants ou des images de maltraitance d'enfants, le Centre national pour les enfants disparus et exploités sera informé de toute autre action.

«Parfois, nous hurlons sur les plates-formes – et il y a des abus sur chaque plate-forme qui a un chat en ligne – mais nous devons les applaudir pour avoir mis en place des mécanismes», explique Julie Cordua, PDG de l'organisation technologique à but non lucratif Thorn, qui œuvre pour prévenir les abus sexuels en ligne. des enfants. "Si quelqu'un dit:" Oh, nous n'avons pas d'abus ", je leur dirai:" Eh bien, cherchez-vous? ""

En décembre, Le New York Times ont constaté que les plates-formes de chat en ligne étaient des «terrains de chasse» fertiles pour les prédateurs d'enfants qui soignaient leurs victimes en se liant d'amitié avec eux puis en s'insinuant dans la vie d'un enfant, en ligne et hors ligne. La plupart des principales plates-formes sont confrontées à une certaine mesure d'abus par des prédateurs d'enfants, y compris le Xbox Live de Microsoft. En 2017, comme Fois a noté, un homme a été condamné à 15 ans de prison pour avoir menacé des enfants de viol et de meurtre sur le chat Xbox Live.

La détection des abus sexuels sur des enfants en ligne et les politiques de traitement peuvent varier considérablement d'une entreprise à l'autre, de nombreuses entreprises concernées se méfiant des violations potentielles de la vie privée, la Fois signalé. En 2018, Facebook a annoncé un système pour attraper les prédateurs qui vérifie si quelqu'un contacte rapidement de nombreux enfants et à quelle fréquence ils sont bloqués. Mais Facebook a également accès à beaucoup plus de données sur ses utilisateurs que les autres plateformes.

L'outil de Microsoft est important, selon Thorn, car il est disponible pour toute entreprise utilisant le chat et aide à établir une norme de l'industrie à quoi devraient ressembler la détection et la surveillance des prédateurs, aidant au développement de futurs outils de prévention. Les conversations sont difficiles à suivre pour détecter d'éventuels abus envers les enfants car il peut y avoir tellement de nuances dans une conversation, dit Cordua.

Les prédateurs d'enfants peuvent se cacher dans les bavardoirs en ligne pour trouver des victimes comme ils le feraient hors ligne, mais avec un accès beaucoup plus immédiat, explique Elizabeth Jeglic, professeur de psychologie au John Jay College of Criminal Justice à New York, qui a beaucoup écrit sur la protection des enfants contre abus sexuels en ligne, en particulier, la pratique souvent subtile du toilettage. «Dans les 30 minutes, ils peuvent parler sexuellement avec un enfant», dit-elle. "En personne, il est plus difficile d'avoir accès à un enfant, mais en ligne, un prédateur peut entrer, tester les eaux et si cela ne fonctionne pas, allez-y et passez à la prochaine victime."

Cela ne s'arrête pas à une seule plate-forme, ajoute Cordoue. "Ils essaieront d'isoler l'enfant et les suivront sur plusieurs plateformes, afin qu'ils puissent avoir plusieurs points d'exploitation", dit-elle. Un prédateur peut demander à un enfant une photo, puis augmenter les demandes de vidéos, augmentant le niveau de contenu sexuel. «L'enfant est assailli de culpabilité et de peur, et c'est pourquoi le prédateur parcourt les plateformes: il peut dire 'oh je connais tous tes amis sur Facebook, si tu ne m'envoies pas de vidéo j'enverrai cette première photo à tout le monde à votre premier cycle du secondaire. »

Artemis est en développement depuis plus de 14 mois, a déclaré Microsoft à partir de novembre 2018 lors d'un «360 Cross-Industry Hackathon» de Microsoft, coparrainé par deux groupes de protection des enfants, la WePROTECT Global Alliance et la Child Dignity Alliance. Une équipe comprenant Roblox, Kik, Thorn et The Meet Group a travaillé avec Microsoft sur le projet. Il était dirigé par Hany Farid qui a développé l'outil PhotoDNA pour détecter et signaler des images d'exploitation sexuelle des enfants en ligne.

Cependant, certains détails sur le fonctionnement de l'outil Artemis ne sont pas clairs et sont susceptibles de varier en fonction de la plate-forme qui l'utilise. Il n'est pas précisé si Artemis fonctionnerait avec des programmes de chat qui utilisent un chiffrement de bout en bout, ni quelles mesures seront prises pour empêcher un éventuel ESPT parmi les modérateurs.

Thorn administrera le programme et gérera les licences et le support pour intégrer les entreprises participantes, a déclaré Microsoft.

Cordoue dit qu'Artemis a quelques limitations initiales – il ne fonctionne actuellement qu'en anglais – l'outil est un énorme pas dans la bonne direction. Étant donné que chaque entreprise qui utilise l'outil peut le personnaliser pour son propre public (les chats sur les plates-formes de jeu varieront évidemment de ceux sur les applications sociales), il y aura de nombreuses possibilités d'adapter et d'affiner le fonctionnement de l'outil. Et, dit-elle, il s'agit de plates-formes temporelles qui s'éloignent des pratiques infructueuses d'auto-surveillance et s'orientent vers une prévention proactive du toilettage et des abus envers les enfants.

Dans son article de blog, Microsoft ajoute que l'outil Artemis n'est "en aucun cas une panacée" mais est une première étape vers la détection du toilettage en ligne d'enfants par des prédateurs sexuels, qu'il qualifie de problèmes "lourds".

«La première étape est que nous devons mieux identifier où cela se produit», explique Cordua. "Mais toutes les entreprises qui hébergent un chat ou une vidéo devraient le faire, sinon elles sont complices d'autoriser la maltraitance des enfants sur leurs plateformes."

Traduit de la source : https://www.theverge.com/2020/1/14/21063491/microsoft-tool-artemis-abuse-chat-xbox

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *