Além das lives, a medida cautelar determina que o Discord suspenda recursos de transmissão e compartilhamento de vídeo equivalentes, e que implemente mecanismos tecnicamente eficazes contra burla. A medida incide especificamente sobre funcionalidade que a ANPD entendeu apresentar evidências robustas de configurar o maior risco para menores de 18 anos, não representando impedimento da continuidade de outras atividades da plataforma, ou de seus potenciais usos legítimos.

A ANPD impôs determinação focada na funcionalidade de transmissões ao vivo do Discord por ter concluído que a plataforma vem sendo utilizado de forma recorrente como ambiente para a prática de graves violações contra crianças e adolescentes, episódios nos quais as lives têm sido reiteradamente empregadas em práticas de violência, assédio, indução à automutilação e ao suicídio.

Possibilidade de sanções e recursos

Além disso, no início de março, após a promulgação do ECA Digital e às vésperas de sua entrada em vigor, o Discord realizou mudanças técnicas na funcionalidade “Go Live” que a tornaram ainda menos protetiva para crianças e adolescentes, violando deveres de prevenção da concepção ao gerenciamento contínuo dos riscos relacionados aos recursos, funcionalidades e sistemas. As medidas atualmente descritas pela plataforma são de caráter predominantemente posterior ao dano ou têm efetividade preventiva limitada.

A ação faz parte do processo de fiscalização instaurado pela Agência na última sexta-feira (07) , para apurar falhas na proteção de crianças e adolescentes no ambiente digital, e acontece após a ANPD receber informações da empresa na segunda (10) e se reunir com representantes legais do Discord nessa terça (11).

Constatações da ANPD

De acordo com dados da ONG SaferNet Brasil , o número de denúncias envolvendo o Discord aumentou 54% na comparação dos sete primeiros meses deste ano com o mesmo período do ano passado (406 x 264 notificações).

A medida cautelar de suspensão da funcionalidade de lives foi determinada pela Superintendência de Fiscalização (SFI-ANPD) em função de evidências robustas de que a empresa não adotou medidas razoáveis para prevenir e mitigar riscos de acesso, exposição, recomendação ou facilitação de contato com conteúdos ou práticas que representem graves violações de direitos de crianças e adolescentes no âmbito do seu serviço, sobretudo indução, incitação, instigação ou auxílio à violência, à automutilação e ao suicídio, conforme o Estatuto Digital da Criança e do Adolescente (art. 6º, II e III).

A suspensão da funcionalidade permanecerá em vigor até que a plataforma demonstre a implementação e a efetividade de medidas técnicas, de segurança e de governança adequadas aos riscos identificados para crianças e adolescentes. Só com isso o Discord poderá obter autorização expressa e prévia da ANPD para reativação, total ou parcial, das lives.

Pela arquitetura técnica adotada, o Discord não tem acesso ao conteúdo das transmissões de vídeo enquanto elas ocorrem, o que inviabiliza a utilização, no âmbito do servidor, de mecanismos de análise do conteúdo audiovisual e detecção em tempo real de violações. A plataforma depende de sistemas automatizados falhos e de denúncias dos próprios participantes desses ambientes voltados à prática dessas violações.

A Agência Nacional de Proteção de Dados (ANPD) expediu, nesta quarta-feira (12), uma medida preventiva determinando que a plataforma Discord suspenda a funcionalidade de transmissão ao vivo, no Brasil, em três dias úteis. As lives e outros recursos de compartilhamento de vídeo equivalentes deverão permanecer suspensos até que a empresa comprove a adoção de medidas para proteger crianças e adolescentes.

De acordo com a área técnica, a Agência já tem elementos suficientes que justificam a necessidade dessa ação emergencial com foco nessa funcionalidade específica da plataforma. Ela tem sido reiteradamente usada para a prática de crimes graves, nos últimos anos, colocando em risco a integridade física e mental dos menores de 18 anos.

» Plataformas digitais acessadas por crianças e adolescentes precisam publicar relatório de transparência até 17/09

No âmbito administrativo, caso sejam constatadas irregularidades, a Agência também poderá determinar medidas corretivas e aplicar sanções previstas no art. 35 do ECA Digital, que incluem multa de até R$ 50 milhões por infração. Os representantes da empresa foram notificados pela SFI-ANPD e devem comprovar em três dias úteis o cumprimento integral da suspensão no território nacional. Já o prazo para apresentação de recurso à SFI é de dez dias úteis. Se não houver reconsideração por parte da Superintendência, ainda há possibilidade de recorrer ao Conselho Diretor da ANPD.

Em seu site , o Discord se descreve como uma “plataforma social de jogos onde mais de 90 milhões de amigos e comunidades conversam por texto, voz e videochamadas todos os dias”. Os Termos de Serviço do Discord indicam que a idade mínima para uso da plataforma seria de 13 anos de idade.

LEIA TAMBÉM

Segundo a SFI, o Discord não está sendo bloqueado. O que a medida preventiva suspende é a funcionalidade ‘Go Live’, utilizada para transmissões ao vivo em servidores fechados. O objetivo é reduzir os riscos de danos graves ou de difícil reparação a que estão sendo expostas as crianças e adolescentes.

O processo de fiscalização instaurado pela Agência foca na apuração de falhas na adoção das medidas exigidas pela ECA Digital para prevenir e mitigar riscos de exposição, recomendação ou facilitação de contato de menores de 18 anos com conteúdos de indução, incitação, instigação ou auxílio à automutilação e ao suicídio (art. 6º, III); assim como a ausência de mecanismos efetivos de aferição de idade (artigos 10 e 17) e a ocorrência de falhas nos deveres de remoção de conteúdo violador (art. 29) e de comunicação às autoridades competentes (art. 28), entre outras infrações.

O que é o Discord

A medida cautelar não impede que outras sejam adotadas no curso do processo de fiscalização instaurado, como, por exemplo, a possibilidade de celebração de um plano de conformidade para que o Discord se comprometa a implementar melhorias em relação a outros aspectos dos seus serviços para cumprir as exigências do ECA Digital.

» ANPD instaura processo de fiscalização contra o Discord para apurar falhas na proteção de crianças e adolescentes