Ferramenta da Microsoft usará sistema de pontuação para detectar pedófilos

A pedofilia é um problema muito sério da internet, e os meios de moderação, humanos ou via programação, ainda deixam escapar essa prática em plataformas grandes, como o YouTube. Agora a Microsoft veio com mais uma ferramenta que seria capaz de identificar pedófilos que tentam assediar crianças na web.Ela na verdade é uma versão de…

ferramenta-da-microsoft-usara-sistema-de-pontuacao-para-detectar-pedofilos  - 7b9362e4 ferramenta da microsoft usara sistema de pontuacao para detectar pedofilos - Ferramenta da Microsoft usará sistema de pontuação para detectar pedófilos

A pedofilia é um problema muito sério da internet, e os meios de moderação, humanos ou via programação, ainda deixam escapar essa prática em plataformas grandes, como o YouTube. Agora a Microsoft veio com mais uma ferramenta que seria capaz de identificar pedófilos que tentam assediar crianças na web.

Ela na verdade é uma versão de um recurso da Microsoft já usado em outros projetos seus. Mas como sabemos, a moderação não humana ainda enfrenta muitos desafios, como a precisão de seu julgamento, e não deverá ser diferente com esta aqui.

- oquerolou a 750x72 - Ferramenta da Microsoft usará sistema de pontuação para detectar pedófilos

Batizado de Projeto Artemis, o programa tem o objetivo de detectar os criminosos a partir de padrões de conversas em chats online. A ferramenta avalia e classifica a probabilidade de uma pessoa estar assediando virtualmente uma criança em um canal de bate-papo. A empresa que usar o programa pode definir uma pontuação e, caso passe do número definido, eles são acionados.

A partir disso, a empresa recebe o alerta (análise humana) e escolhe qual será o rumo da possível denúncia. Depois, o moderador pode denunciar para a polícia ou para organizações de proteção a crianças que participaram da criação do projeto.

A Microsoft não divulgou quais são as palavras ou padrões que a ferramenta identifica. Isso porque os pedófilos podem mascarar suas atividades criminosas caso tenham informações como essa.

- pq importante 750x72 - Ferramenta da Microsoft usará sistema de pontuação para detectar pedófilos

Tecnologias assim são essenciais, já que as crianças estão cada mais presentes em ambientes digitais. Essa ferramenta já é usada há anos pela Microsoft, na plataforma do Xbox, que também testa em serviços de bate-papo, como o Skype.

Segundo Courtney Gregoire, chefe de segurança digital da Microsoft, como uma empresa de tecnologia, eles têm a responsabilidade de criar softwares e serviços como este. “A exploração infantil online é um crime horrível que requer uma abordagem da sociedade. A Microsoft tem um compromisso de longa data com a proteção online infantil”, escreveu Gregoire em um blog da companhia.

A ferramenta é gratuita e está disponível para as empresas que usam função de bate-papo online. A Thorn, organização sem fins lucrativos, está com a responsabilidade de distribuição e licenciamento da tecnologia, como informou a chefe de segurança digital.

Mas como nem tudo é perfeito, uma análise do MIT (Instituto de Tecnologia de Massachusetts) explica que um dos possíveis desafios que o programa deve enfrentar é que tenham muitos falsos positivos. Afinal, sistemas assim não entendem 100% o significado e contexto da nossa linguagem. “Empresas de mídia social vão precisar investir em mais moderadores caso eles estejam realmente comprometidos com a ferramenta”, analisa o artigo.

Além disso, segundo o MIT, o sistema supõe que as mensagens não são criptografadas e que os usuários consentirão que suas conversas sejam lidas. Então a questão da privacidade dos dados também deve trazer alguma desconfiança à ferramenta quando ela for aplicada em maior escala.

Veja mais vídeos de #ficadica

1 | 5

SIGA TILT NAS REDES SOCIAIS

  • Twitter: https://twitter.com/tilt_uol
  • Instagram: https://www.instagram.com/tilt_uol/
  • WhatsApp: https://uol.page.link/V1gDd
  • Grupo no Facebook Deu Tilt: http://bit.ly/FacebookTilt
WP2Social Auto Publish Powered By : XYZScripts.com