A internet, em especial as redes sociais e as inteligências artificiais (IAs), tem afetado a vida das pessoas de muitas formas: na rotina, no sono, autoestima e nos hábitos diários. Pensando na relação dessas consequências com os direitos humanos, a defensora pública federal e pesquisadora da Faculdade de Direito da USP, Viviane Dallasta Del Grossi, desenvolveu seu doutorado focando numa população específica: as crianças.
Com o trabalho, Del Grossi demonstrou que não há transparência e explicações sobre como as empresas de tecnologia que compõem o ambiente digital têm respondido a chamada Devida Diligência em Direitos Humanos (DDH), um processo de governança empresarial responsável que visa prevenir e mitigar possíveis danos decorrentes de suas atividades. Ou seja, como as empresas responsáveis adotam ferramentas para que os direitos humanos sejam preservados. Além disso, a pesquisa constata que o cenário atual tem poucas medidas que garantam o respeito e a promoção do desenvolvimento saudável e completo das crianças e adolescentes.
“Eu tive que me basear em relatório de organizações não-governamentais e de organismos internacionais para pautar minha pesquisa, devido a ausência de transparência das empresas”, explica a defensora pública. “Eu imaginava [que fosse possível] uma maior interação com eles”, completa. De acordo com o investigado pela tese, não há qualquer prática sistemática e generalizada sendo conduzida pelo setor empresarial, bem como não há interlocução entre as áreas técnicas e de proteção de direitos humanos para o desenvolvimento de IAs.
A pesquisadora também analisou como o ambiente digital afeta os direitos humanos das crianças, considerando os impactos tecnossociais – efeitos tecnológicos que afetam a sociedade conforme as pessoas interagem com essas tecnologias –, principalmente, das IAs. De acordo com a defensora pública federal, os impactos nas crianças podem ser irreversíveis.
“As empresas de tecnologia não estão se incumbindo da proteção e do respeito superior e integral interesse da criança e do adolescente, por causa da ausência de mecanismos por padrão e por salvaguardas em relação ao que elas [empresas de tecnologia] desenvolvem”, afirma Del Grossi. “Não há dúvida que o desenvolvimento saudável das crianças é crucial para o bem-estar futuro de qualquer sociedade, e o custo social, se falharmos com as crianças, é enorme”, destaca.
Noção do que é humano
A infância e a adolescência são consideradas uma janela de oportunidades para o desenvolvimento do aprendizado, da saúde e do bem-estar. Por isso, é preciso ter uma atenção especial à relação que as pessoas desta faixa etária criam com essas tecnologias, em especial, a inteligência artificial.
A pesquisadora defende que, diferentemente de outras tecnologias, a inteligência artificial impacta a noção do que é ser um humano. “A inteligência artificial não é apenas mais uma tecnologia. Ela é uma ferramenta para que o ser humano tome decisões, então entra numa delegação da nossa agência”, diz. Entre os possíveis riscos, o trabalho menciona a manipulação algorítmica, a perfilização (identificação de características individuais baseada em informações pessoais) e a vigilância opressiva. De acordo com a tese, crescer em ambientes constantemente monitorados – onde movimentos, comportamentos e relacionamentos são vigiados – também pode ter um efeito negativo a longo prazo para as crianças.
Além de considerar a faixa etária, ela também destaca como o ambiente digital gera vulnerabilidades interseccionais. “Nós sabemos que a tecnologia impacta pessoas em vulnerabilidade social de forma muito maior do que impacta outras camada da sociedade”, conta a pesquisadora, que traz como o exemplo as ferramentas de reconhecimento facial, que podem funcionar bem para homens brancos e de forma enviesada para mulheres negras, por exemplo.
“Esses paradigmas da infância são levados para a vida adulta. A capacidade de interação, do que é da nossa essência, é levada para o resto da vida. Então, os impactos nas crianças têm a possibilidade e o potencial de deteriorar a sociedade”, diz a pesquisadora.
Regulamentação
A regulamentação da garantia dos direitos humanos a crianças e adolescentes no ambiente digital é um tema recente. Apesar de plataformas digitais aplicarem regras que impeçam sua utilização por menores de idade, o impedimento não acontece na prática.
Del Grossi cita o caso da auditoria realizada na Twitch, uma plataforma que faz transmissões ao vivo de vídeo games, campeonatos, música e conteúdos criativos. Apesar de pontos positivos, a auditoria também destacou a utilização do site por crianças e adolescentes, mesmo que o serviço seja direcionado a maiores de 18 anos.
“Eles [empresas de tecnologia] ainda não têm pesquisas e dados sistematizados quanto aos impactos dos produtos e serviços que desenvolvem. Existe uma carência, inclusive da exigência governamental de regulamentar”, diz a pesquisadora. “Há muitas regulamentações e normatizações [na robótica] em relação à integridade física, mas ainda não desenvolvemos nada em relação à integridade psicológica”, completa.
A defensora pública federal recebeu com otimismo a notícia da lei sancionada pelo Governo do Estado de São Paulo, que prevê a proibição do uso de celulares nas escolas públicas e privadas do estado. “Essa lei deve ser comemorada, porque ela restringe o uso medíocre da tecnologia. Mas, ela já deve vir pautada com a inclusão da alfabetização ética em inteligência artificial nas escolas, inclusive nos anos iniciais do ensino fundamental”, explica.
No último dia 13, o presidente Luiz Inácio Lula da Silva sancionou o Projeto de Lei 104/2015, que restringe o uso de aparelhos eletrônicos portáteis em todas as escolas de ensino básico do País. O projeto já havia sido aprovado pelo Congresso no fim do ano passado. Um decreto presidencial deverá ser publicado regulamentando a nova legislação até o início do ano letivo, em fevereiro.
A tese A absoluta prioridade da criança no ambiente digital na era da IA : a Devida Diligência em Direitos Humanos e os impactos tecnossociais da Inteligência Artificial está disponível neste link. Mais informações: [email protected], como Viviane Dallasta Del Grossi
*Estagiária com orientação de Tabita Said
