12/07/2021, por Connor Perrett - O Instagram recomendou hashtags relacionadas a substâncias ilegais para usuários a partir dos 13 anos, e seus algoritmos os levaram a contas que alegavam vender drogas, incluindo opioides e drogas para festas, em violação à política do Instagram, descobriram pesquisadores . Pesquisadores do Tech Transparency Project disseram que criaram várias novas contas no Instagram, criando uma para um usuário de 13 anos, duas representando usuários de 14 anos, duas para usuários de 15 anos e duas para usuários de 17 anos.
-usuários antigos. De acordo com o relatório, foram necessários dois cliques para que as hipotéticas contas de adolescentes acessassem contas que diziam ser traficantes de drogas.
Em comparação, os pesquisadores levaram cinco cliques para sair de uma conta no aplicativo Instagram.
“O Instagram não apenas permitiu que os adolescentes hipotéticos pesquisassem facilmente drogas com restrição de idade e ilegais, mas os algoritmos da plataforma ajudaram as contas de menores de idade a se conectarem diretamente com traficantes de drogas que vendem de tudo, desde opioides a drogas para festas”, disse o Tech Transparency Project em uma notícia. liberação descrevendo suas descobertas.
“Proibimos a venda de drogas no Instagram”, disse um porta-voz da Meta ao Insider na terça-feira. “Removemos 1,8 milhão de conteúdos relacionados à venda de drogas apenas no último trimestre e, devido à nossa tecnologia de detecção aprimorada, a prevalência desse conteúdo é de cerca de 0,05% do conteúdo visualizado, ou cerca de 5 visualizações a cada 10.000.
“Continuaremos a melhorar nessa área em nossos esforços contínuos para manter o Instagram seguro, principalmente para os membros mais jovens da comunidade”, acrescentou o porta-voz.
Embora o Instagram proíba hashtags para substâncias ilegais, pesquisadores do Tech Transparency Project descobriram que o aplicativo recomendaria hashtags alternativas para algumas drogas depois que os usuários digitassem na barra de pesquisa do Instagram.
"Por exemplo, quando um de nossos usuários adolescentes começou a digitar a frase 'buyxanax' na barra de pesquisa do Instagram, a plataforma começou a preencher automaticamente os resultados para a compra de Xanax antes mesmo de o usuário terminar de digitar", disseram os pesquisadores. "Quando o menor clicou em uma das contas sugeridas, ele instantaneamente conseguiu uma linha direta com um revendedor Xanax. Todo o processo levou segundos e envolveu apenas dois cliques."
O Instagram disse que bloqueou hashtags problemáticas identificadas no relatório
A hashtag "buyxanax" e outras hashtags descritas no relatório, incluindo "#mdma" e "#buyfentanyl", foram bloqueadas pelo Instagram, disse o porta-voz da Meta ao Insider, acrescentando "estamos revisando hashtags adicionais para entender se há mais violações de nossas políticas."
Quando uma das contas de adolescentes seguia um usuário que afirmava ser um traficante de drogas, o algoritmo do aplicativo recomendou outras contas com aparência semelhante para vender drogas, de acordo com o relatório do Tech Transparency Project. De acordo com as diretrizes da comunidade do Instagram, é contra a política vender drogas na plataforma. Mas os pesquisadores disseram que descobriram que os traficantes de drogas operavam "abertamente" na plataforma e ofereciam pílulas, incluindo o opioide Oxycontin.
“Muitos desses traficantes mencionam drogas diretamente em seus nomes de contas para anunciar seus serviços”, disseram os pesquisadores. O Instagram anunciou em julho que todas as contas do Instagram para usuários com 16 anos ou menos seriam definidas como privadas por padrão, mas os pesquisadores descobriram que apenas as contas configuradas usando o aplicativo móvel do Instagram, e não o site do Instagram, foram definidas como privadas.
Essas descobertas surgem quando o Instagram e sua empresa-mãe Meta (anteriormente Facebook) enfrentam um escrutínio crescente sobre como a plataforma afeta menores. A empresa anunciou na terça-feira que estava lançando novos recursos de segurança para adolescentes, incluindo ferramentas para ajudar os usuários a passar menos tempo no aplicativo, ter menos interações indesejadas com adultos e conteúdo sensível e permitir que os pais tenham mais supervisão das contas de seus filhos, NPR relatado.
O anúncio foi feito apenas um dia antes do chefe do Instagram, Adam Mosseri, depor na quarta-feira perante o Subcomitê de Proteção ao Consumidor, Segurança de Produtos e Segurança de Dados do Senado dos EUA. Espera-se que Mosseri seja questionado sobre a influência do Instagram sobre os usuários jovens.
Em outubro, a ex-funcionária do Facebook e delatora Frances Haugen disse que o Facebook tinha dados internos que mostravam que o Instagram era tóxico para adolescentes, especialmente meninas. Pesquisa interna do Facebook fornecida por Haugen mostrou que 13,5% das adolescentes disseram que o Instagram piorou os pensamentos suicidas e 17% das adolescentes disseram que o Instagram contribuiu para distúrbios alimentares, informou a NPR.
Fonte: https://www.businessinsider.com