IA

L'industrie technologique répond aux appels pour une meilleure protection contre la maltraitance des enfants en ligne

L'industrie technologique répond aux appels pour une meilleure protection contre la maltraitance des enfants en ligne

Selon des recherches, jusqu'à 1 milliard d'enfants âgés de 2 à 17 ans ont subi une forme de maltraitance en 2014. Alors que les progrès technologiques ont apporté de nombreux avantages, l'essor d'Internet, des plateformes de réseaux sociaux et de l'informatique mobile a également créé des canaux, à travers quels mauvais traitements et actes de prédation sur les enfants peuvent se produire.

Les gouvernements Five Eyes - Australie, Canada, Nouvelle-Zélande, Royaume-Uni et États-Unis - mènent la charge pour obliger les acteurs de l'industrie de la technologie à accroître leur participation et à intensifier la lutte contre les actes et pratiques abusifs en ligne. Lors d'une conférence de presse au ministère américain de la Justice, le groupe a dévoilé onze principes volontaires pour aider à prévenir et à atténuer l'exploitation et les abus sexuels d'enfants en ligne. Des représentants des géants de la technologie Facebook, Google et Microsoft étaient présents à l'événement.

Heureusement, le problème est également dans le viseur de certaines initiatives dans le secteur de la technologie.

L1ght fait partie des rares entreprises axées sur la protection de la sécurité des enfants en ligne. Positionnée comme une entreprise anti-toxicité, L1ght est développée comme une plate-forme capable d'identifier et de prédire avec précision les comportements et contenus nuisibles en ligne, en utilisant l'intelligence artificielle (IA). Cette capacité peut aider les plateformes en ligne à agir rapidement contre les utilisateurs et contenus abusifs avant qu'ils ne nuisent aux jeunes internautes.

Lutter contre les abus en ligne

Les plateformes en ligne sont devenues un moyen pour les criminels et les prédateurs de consommer et de partager du contenu impliquant des enfants maltraités. UNE New York Times rapport a révélé que 45 millions des photos et des vidéos en ligne d'enfants maltraités ont été signalées par des entreprises de technologie en 2018. Le même rapport indiquait que l'écosystème de Facebook était utilisé dans 12 millions de caisses qui comprenait de telles images.

La plupart des plateformes ont mis en place des mesures pour empêcher la diffusion de contenus préjudiciables. En règle générale, le contenu peut être soumis à un examen, une modération et un filtrage. Facebook et YouTube ont déjà mis en place des mécanismes pour supprimer et marquer les contenus abusifs et empêcher leur mise en ligne. Facebook a des agents de modération dédiés qui examinent le contenu signalé et signalé. Malheureusement, les lacunes de ces mesures permettent toujours la diffusion de contenus préjudiciables, en particulier de nouveaux contenus partagés par des contrevenants technophiles.

Parmi les principes promus par l'effort, on peut citer: l'examen approfondi des processus de sécurité, la compréhension de la nature de la maltraitance des enfants en ligne, l'identification des domaines à haut risque sur les plateformes, l'identification des lacunes dans les mesures existantes, l'investissement dans des outils et solutions innovants et la réponse aux menaces en constante évolution.

Comment l'IA peut aider

Il semble fortuit qu'au fur et à mesure que des appels à de meilleures solutions sont lancés, des efforts visant à les apporter émergent également. La plate-forme de L1ght est en passe de changer la donne dans la lutte contre les contenus préjudiciables et l'exploitation des enfants. La société dispose d'algorithmes propriétaires capables d'analyser et d'étiqueter du texte, des images, du contenu audio et vidéo nuisibles en temps réel, qui peuvent être déployés et intégrés aux plates-formes de médias sociaux, aux applications de communication et de messagerie et aux jeux vidéo en ligne. Cela aiderait à renforcer davantage les capacités de filtrage et de mesures de modération afin que la plate-forme puisse instantanément prendre des mesures contre de telles violations.

Son IA peut également apprendre et s'adapter en permanence aux méthodes changeantes des auteurs. Le filtrage de texte conventionnel basé sur un dictionnaire, par exemple, peut facilement empêcher les mots ou expressions abusifs connus, mais ils peuvent être contournés en utilisant du code ou de l'orthographe.

L1ght a récemment reçu un financement de démarrage de 15 millions de dollars pour accélérer son développement.

Un effort concerté

Ce qu'il faut vraiment dans la lutte contre cette crise toujours croissante, c'est un effort concerté de toutes les parties prenantes. La mise en place d'efforts mondiaux, tels que l'Alliance mondiale WePROTECT, qui est composée de gouvernements, de forces de l'ordre, d'institutions privées et d'organisations à but non lucratif qui visent à adopter les principes et à faire progresser la lutte contre la maltraitance des enfants, est un pas dans la bonne direction. .

Les géants de la technologie et leurs plates-formes en ligne massives supportent une grande partie du fardeau de la mise en place de mesures qui rendront difficile la diffusion de contenus nuisibles sur leurs plates-formes. Des liens plus étroits entre les institutions privées et les services répressifs devraient également combler le fossé entre l'identification des auteurs et des victimes et le traitement approprié. L’émergence de nouvelles solutions visant spécifiquement à résoudre le problème est sans aucun doute une évolution bienvenue.


Voir la vidéo: Dans les yeux dOlivier - Survivre à son enfance (Septembre 2021).