Com o Sandbox Regulatório em Inteligência Artificial e Proteção de Dados, a Agência busca promover a inovação responsável, fortalecer a segurança jurídica e contribuir para o desenvolvimento de tecnologias com IA no Brasil, com atenção à proteção dos dados pessoais e à garantia dos direitos fundamentais dos cidadãos.
No quarto ciclo de monitoramento, as empresas deverão executar os testes previstos e comprovar o cumprimento das condicionantes identificadas nas etapas anteriores. Os resultados contribuirão para a produção de evidências e conhecimentos que poderão subsidiar futuras orientações e normas da ANPD.
Ambiente colaborativo e inovação responsável
A Agência Nacional de Proteção de Dados (ANPD) publicou o 3º Relatório Parcial de Monitoramento do Sandbox Regulatório em Inteligência Artificial (IA) e Proteção de Dados. O documento apresenta os avanços na testagem de três soluções tecnológicas desenvolvidas com uso de IA, em um ambiente experimental, controlado e supervisionado pela Agência, com a parceria do Centro de Inteligência Artificial e Aprendizado de Máquina da Universidade de São Paulo ( CIAAM/USP ).
No setor de mobilidade, os testes avaliaram um aplicativo que recomenda trajetos com base na localização do usuário. Durante o uso simulado, o tráfego de dados foi acompanhado e não foram identificadas informações pessoais circulando sem proteção. Também foi verificado que o algoritmo utilizado para estimar a concentração de pessoas em imagens não identificou indivíduos nas imagens testadas. As próximas etapas incluem a avaliação de aspectos de acessibilidade do aplicativo e do compartilhamento de dados com serviços de terceiros, como plataformas de mapas.
O ciclo também consolidou orientações para a continuidade da experimentação e encaminhamentos específicos para cada participante, considerando os aspectos críticos das tecnologias e seus contextos de uso.
O Sandbox Regulatório é conduzido em um ambiente de colaboração entre a ANPD, as empresas participantes e o CIAAM/USP. Durante as atividades, as organizações compartilham informações sobre as características técnicas de suas soluções e suas estruturas de governança, enquanto a Agência e a USP trabalham conjuntamente para identificar alternativas de aprimoramento diante de eventuais falhas ou inconformidades regulatórias.
IA no cotidiano do cidadão
Já no setor financeiro, os trabalhos se concentraram na análise da documentação e dos fluxos de dados de um sistema que utiliza a IA para detectar fraudes e bloquear operações suspeitas. No próximo ciclo, serão testados mecanismos de proteção de dados pessoais e de emissão de alertas, assim como formas de explicar decisões automatizadas às pessoas que tiverem operações bloqueadas.
Na área da saúde, a solução avaliada oferece apoio à decisão clínica de profissionais médicos. Foram utilizados 30 casos clínicos simulados para analisar as respostas do sistema. Para a continuidade dos testes, estão previstas melhorias na apresentação de avisos claros sobre os limites de uso da ferramenta, especialmente em situações de emergência, além da indicação das fontes consultadas para a elaboração das respostas.
Selecionadas por meio do Edital nº 2/2025 , pela Superintendência de Inovação Tecnológica (Sitec), as empresas Metatext , Synapse AI e Prevvine Tecnologia atuam no desenvolvimento de soluções para os setores financeiro, de mobilidade e de saúde, respectivamente. Os testes focam no tratamento de dados pessoais relacionados a operações financeiras, localização e informações de saúde. O processo de testagem avalia controles de segurança e mecanismos de proteção de dados, sem atestar a conformidade das soluções com a legislação. Os ajustes em pontos que ainda precisam de aprimoramento foram colocados como condicionantes para o ciclo seguinte.
De acordo com a equipe do Laboratório de Inovação da ANPD, vinculada à Sitec, o terceiro ciclo foi marcado pelo amadurecimento do processo de testagem. As avaliações consideraram o grau de maturidade tecnológica, as particularidades técnicas e organizacionais e os setores de aplicação de cada solução. Os trabalhos avançaram da estruturação metodológica e das análises técnicas e documentais para a verificação de controles e mecanismos de segurança, distinguindo as informações declaradas pelas empresas daquelas documentadas e efetivamente verificadas.
» ANPD publica 2º Relatório Parcial de Monitoramento do Sandbox Regulatório em Inteligência Artificial » Curta, compartilhe e comente o vídeo do Sandbox da ANPD que concorre à premiação internacional » Projeto Sandbox Regulatório de IA da ANPD é finalista de prêmio internacional » ANPD publica metodologia de testagem do Sandbox Regulatório em IA e Proteção de Dados » Publicados primeiros resultados do Sandbox Regulatório em Inteligência Artificia l » Confira a página do Sandbox no site da ANPD
Próximos passos
» Confira o 3º Relatório Parcial de Monitoramento do Sandbox Regulatório em IA
LEIA MAIS
A iniciativa tem caráter experimental e é voltada ao aprendizado e à produção de evidências, sem limitar a atuação das empresas participantes ou produzir efeitos fiscalizatórios. O objetivo é ampliar o conhecimento sobre os riscos, os benefícios e os desafios do uso da inteligência artificial, contribuindo para o desenvolvimento de tecnologias que respeitem os direitos dos titulares de dados pessoais.
