Busca sem resultado
Temas Atuais de Direito Digital - Ed. 2024

Temas Atuais de Direito Digital - Ed. 2024

Capítulo 8. Direito a Inferências Razoáveis nos Sistemas Automatizados de Decisão Como Desdobramento do Direito Fundamental de Proteção de Dados Pessoais

Entre no Jusbrasil para imprimir o conteúdo do Jusbrasil

Acesse: https://www.jusbrasil.com.br/cadastro

Sumário:

Paulo Rodrigo de Miranda 1

Eduardo Magrani 2

1. Introdução

Na atual estrutura social, os algoritmos julgam decisões cada vez mais importantes nas vidas dos indivíduos e isso decorre da constatação de uma dependência cada vez maior da humanidade de sistemas automatizados de decisão, que empregam o uso de inteligência artificial (IA), em especial o aprendizado de máquina. Sem dúvida que o avanço tecnológico gera diversos impactos positivos para as sociedades, contudo, os aplicativos de IA também podem gerar consequências inesperadas e não intencionais, representando novas formas de riscos que precisam ser contornadas.

O uso intensivo dos dados pessoais e a crescente dependência de algoritmos para analisá-los, a fim de moldar escolhas e tomar decisões, muitas vezes com pouca ou nenhuma supervisão humana, representam sérios desafios à garantia e proteção do livre desenvolvimento da personalidade, o qual pode ser compreendido como uma garantia do exercício de liberdade e igualdade na formação do pensamento dos indivíduos. Neste aspecto, eventuais resultados anômalos podem gerar formas acentuadas de discriminação, afetando um ou vários indivíduos que, diante da assimetria informacional existente, acabam inviabilizados de exercerem o contraditório e ampla defesa de resultados estatisticamente calculados pelas máquinas.

Por mais valiosos que sejam os resultados dos sistemas de decisões automatizadas, há um risco elevado a ser considerado quando estiverem ausentes a transparência e a accountability dos controladores de dados. A pesquisa foi realizada por meio de uma abordagem dedutiva com emprego de procedimento bibliográfico.

Para desenvolver o tema do presente artigo, foram traçados quatro objetivos específicos, estruturados em quatro seções, nos quais se pretende: i) realizar uma abordagem sobre as premissas que envolvem a compreensão dos sistemas automatizados de decisão; ii) verificar as externalidades negativas oriundas da discriminação algorítmica; iii) analisar a necessidade de uma ampliação do conceito de proteção de dados para abranger os dados inferidos e derivados; e iv) verificar a viabilidade do reconhecimento de um direito a inferências razoáveis para a construção de mecanismos voltados à tutela do livre desenvolvimento da personalidade, tendo como diretriz a garantia de transparência e accountability nos sistemas automatizados de decisão.

2. Sistemas automatizados de decisão

Com o avanço em progressão geométrica dos sistemas informatizados e o aumento exponencial da coletada de dados, através da big data, houve uma melhora significativa na capacidade de processamento de dados e no desenvolvimento de algoritmos de aprendizado de máquina essenciais na qualidade das predições. Para Agrawal, Gans e Goldfarb, 3 o aprendizado de máquina é retratado como “inteligência artificial” porquanto atualmente possui uma capacidade impressionante de predição. A predição é o componente-chave da inteligência, porquanto a alta precisão de predição permite que as máquinas executem tarefas que até então estavam associadas à inteligência humana 4 .

De forma didática, Ajay Agrawal, Joshua Gans e Avi Goldfarb apresentam a anatomia de uma decisão, que pode ser levada em conta para análise de sistemas automatizados de decisão:

Quando alguém (ou algo) toma uma decisão, usa os dados de entrada do mundo, que possibilitam uma predição . Essa predição é possível porque ocorreu um treinamento sobre as relações entre os diferentes tipos de dados e sobre quais se associam mais intimamente a uma situação. Combinando a predição com o julgamento sobre o que importa, o tomador de decisão então escolhe uma ação . A ação leva a um resultado (com uma recompensa ou compensação associada). O resultado é uma consequência da decisão. Ele é necessário para fornecer uma imagem completa. O resultado também fornece feedback para ajudar a melhorar a próxima predição. 5

Nesse contexto, a lógica subjacente da mediação algorítmica baseia-se na coleta de dados primários e metadados fornecidos em grande quantidade e administrados por estruturas automatizadas. Conforme explicam Antoinette Rouvroy e Thomas Berns, essa prática estatística pode ser decomposta em três etapas: coleta de dados e metadados, em tempo real, mediante monitoramento (dataveillance); tratamento automatizado dos dados (data mining), permitindo a correlação entre os dados e a criação de perfis (profiling), e a última etapa é a antecipação e predição dos comportamentos individuais associados aos perfis 6 .

Após a coleta dos rastros digitais dos usuários da internet, há o tratamento automatizado dos dados (data mining) que possuem como principal objetivo a realização de inferências e correlações entre as informações obtidas e a criação de perfis (profiling). Com a edição dos perfis, novos “saberes” são formados pelos algoritmos (através de probabilidades e estatísticas) buscando antecipar os comportamentos e produzir serviços personalizados 7 .

Esse sistema de automatização da descoberta de padrões úteis e na criação de modelos, permite a construção de uma arquitetura de dados que viabiliza a distinção de indivíduos e a etiqueta de qualidades que parecem estatisticamente semelhantes aos padrões encontrados, criando, dessa forma, o perfil 8 . A criação de perfis é um processo pelo qual se busca descobrir correlações entre dados que podem ser usados para identificar e representar um indivíduo ou grupo, transformando esses dados em conhecimento ou inferências, que, por sua vez, são utilizados para individuar e representar um sujeito ou para identificar um sujeito como membro de um grupo ou categoria, com a construção de prováveis atributos ou comportamentos de uma pessoa 9 .

Não há uma preocupação pelos responsáveis de tratamento de dados quanto à precisão da inserção dos indivíduos em determinadas categorizações. Isso ocorre em razão da lógica do mercado de dados que é baseada na racionalidade …

Experimente Doutrina para uma pesquisa mais avançada

Tenha acesso ilimitado a Doutrina com o plano Pesquisa Jurídica Avançada e mais:

  • Busca por termos específicos em uma biblioteca com mais de 1200 livros.
  • Conteúdo acadêmico de autores renomados em várias especialidades do Direito.
  • Cópia ilimitada de Jurisprudência, Modelos, Peças e trechos de Doutrina nas normas ABNT.
Ilustração de computador e livro
Comparar planos
jusbrasil.com.br
21 de Julho de 2024
Disponível em: https://www.jusbrasil.com.br/doutrina/secao/1-introducao-capitulo-8-direito-a-inferencias-razoaveis-nos-sistemas-automatizados-de-decisao-como-desdobramento-do-direito-fundamental-de-protecao-de-dados-pessoais/2485212444