O Direito à Explicação nas Decisões Automatizadas: uma Abordagem Comparativa Entre o Ordenamento Brasileiro e Europeu

Autores/as

  • Tales Schmidke Barbosa Mestrando em Direito pela Pontifícia Universidade Católica do Rio Grande do Sul – PUCRS. Especialista em Direito do Estado pela Universidade Federal do Rio Grande do Sul – UFRGS. Especialista em Direito Tributário pelo Instituto Brasileiro de Direito Tributário – IBET. Advogado e Consultor em Direito Público https://orcid.org/0000-0002-4894-5471
  • Daniela Wendt Toniazzo Mestranda em Direito pela Pontifícia Universidade Católica do Rio Grande do Sul – PUC/RS. Especialista em Direito Processual Civil pela Academia Brasileira de Direito Processual Civil – ABDPC. Procuradora do Ministério Público de Contas do Rio Grande do Sul https://orcid.org/0000-0002-3365-1841
  • Regina Linden Ruaro Mestrando em Direito pela Pontifícia Universidade Católica do Rio Grande do Sul – PUCRS. Especialista em Direito do Estado pela Universidade Federal do Rio Grande do Sul – UFRGS. Especialista em Direito Tributário pelo Instituto Brasileiro de Direito Tributário – IBET. Advogado e Consultor em Direito Público https://orcid.org/0000-0003-1144-9383

DOI:

https://doi.org/10.19135/revista.consinter.00013.01

Palabras clave:

Decisão automatizada, Direito à explicação, Direito de revisão humana

Resumen

As decisões automatizadas podem trazer grandes benefícios para a humanidade, sendo inegável também que as máquinas representam perigo à autonomia do ser humano, como indivíduo, e podem gerar mecanismos potencialmente discriminatórios em razão da possibilidade de manejo perverso de algoritmos. Embora as tecnologias da inteligência artificial utilizadas nas decisões automatizadas sejam apresentadas como neutras, elas não o são, sendo algumas utilizadas inclusive para modulações de comportamento humano obtidas com o perfil da extração de dados, construindo-se um mundo perfeito de consumos personalizados. O presente estudo tem como objetivo analisar o conceito de decisão automatizada e a extensão do alcance do direito à explicação no tratamento automatizado de dados no ordenamento brasileiro em comparativo com o ordenamento europeu. O direito à explicação, um dos imperativos das orientações éticas para uma inteligência artificial de confiança nas decisões automatizadas, mostra-se de extrema relevância como critério oponível aos mecanismos discriminatórios e ao combate à opacidade desse tipo de inteligência. O fato é que toda decisão automatizada deve ser explicável, tanto no que se refere à sua lógica subjacente quanto ao fundamento da decisão. Também não é razoável a exclusão do elemento humano na revisão da decisão automatizada. O presente trabalho observará, por meio comparativo, os requisitos autorizadores da decisão automatizada e suas consequências. Além disso, para a busca do resultado almejado, será realizada uma comparação do conceito do direito à explicação nos ordenamentos europeu e brasileiro. Como resultado do presente estudo, concluiu-se que a União Europeia trata a decisão automatizada como uma proibição, enquanto no Brasil existe um direito à revisão da decisão automatizada, deixando de garantir também que essa revisão seja humana. Inexiste no Brasil, portanto, amparo legal para o direito à explicação.

Descargas

Los datos de descargas todavía no están disponibles.

Citas

AGUILAR VIANA, Ana Cristina, FERREIRA DE MIRANDA, Carolina, “Perfil algorítmico e discriminação digital: uma leitura a partir das normas europeias e brasileiras” in WACHOWSKI, Marcos, Proteção de dados pessoais em perspectiva: LGPD e RGPD na ótica do direito comparado, Curitiba, Gedai/UFPR, 2020, p. 441-504. Disponível em: <https://www.gedai.com.br/wp-content/uploads/2020/11/Protecao-de-dados-pessoais-em-perspectiva_ebook.pdf>. Acesso em: 29 nov. 2020.

BIONI, Bruno, LEITE MONTEIRO, Renato, OLIVEIRA, Maria Cecília, GDPR Matchup: Brazil’s General Data Protection LAW, International Association of Privacy Professionals, 2018. Disponível em: <https://iapp.org/news/a/gdpr-matchup-brazils-general-data-protection-law/>. Acesso em: 23 maio 2021.

BRASIL, Constituição da República Federativa do Brasil: promulgada em 5 de outubro de 1988, compilado até a Emenda Constitucional nº 106/2020, Brasília, Senado Federal, 2020.

BRASIL, Lei 13.709, 14 de agosto de 2018, Institui a Lei Geral de Proteção de Dados Pessoais, Diário Oficial da União, Brasília, DF, 15.08.2018. Disponível em: <http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm>. Acesso em: 23 maio 2021.

BRASIL, Lei 12.414, de 09 de junho de 2011, Disciplina a formação e consulta a bancos de dados com informações de adimplemento, de pessoas naturais ou de pessoas jurídicas, para formação de histórico de crédito, Diário Oficial da União, Brasília, DF, 10.06.2011. Disponível em: <http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2011/lei/l12414.htm>. Acesso em: 30 maio 2021.

BRASIL, Senado Federal, Projeto de Lei 4.496, de 15.08.2019, Altera a Lei 13.709, de 14 de agosto de 2018 (Lei Geral de Proteção de Dados Pessoais – LGPD), para definir a expressão “decisão automatizada”, Brasília, Senado Federal, 2019. Disponível em: <https://www25.senado.leg.br/web/atividade/materias/-/materia/138136>. Acesso em: 23 maio 2021.

BRASIL, Lei 12.414, de 09 de junho de 2011, Projeto de Lei 4.496, de 15 de agosto de 2019, Altera a Lei 13.709, de 14 de agosto de 2018 (Lei Geral de Proteção de Dados Pessoais – LGPD), para definir a expressão “decisão automatizada”, Brasília, Senado Federal, 2019. Disponível em: <https://www25.senado.leg.br/web/atividade/materias/-/materia/138136>. Acesso em: 23 maio 2021.

COMISSÃO EUROPEIA, Orientações éticas para uma IA de confiança, Bruxelas, Comissão Europeia, 2019. Disponível em: <https://op.europa.eu/en/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1/language-pt/format-PDF>. Acesso em: 29 nov. 2020.

DONEDA, Danilo et al., orgs., Tratado de Proteção de Dados Pessoais, Rio de Janeiro, Forense, 2021.

FREITAS, Juarez, FREITAS, Thomas Bellini, Direito e inteligência artificial: em defesa do humano, Belo Horizonte, Fórum, 2020.

HOFFMANN-RIEM, Wolfgang, Teoria geral do direito digital: transformação digital: desafios para o direito, Rio de Janeiro, Forense, 2021.

I JORNADA de Direito Administrativo aprova 40 enunciados, Conselho da Justiça Federal, 10.08.2020. Disponível em: <https://www.cjf.jus.br/cjf/noticias/2020/08-agosto/i-jornada-de-direito-administrativo-aprova-40-enunciados>. Acesso em: 12 maio 2021.

RUARO, Regina Linden, SARLET, Gabrielle, “O direito fundamental à proteção de dados sensíveis no sistema normativo brasileiro: uma análise acerca das hipóteses de tratamento e da obrigatoriedade do consentimento livre, esclarecido e informado sob o enfoque da Lei Geral de Proteção de Dados (LGPD)” in DONEDA, Danilo et al., orgs., Tratado de Proteção de Dados Pessoais, São Paulo, Grupo Gen, 2020, p. 177-191.

SCHERTEL MENDES, Laura, MATTIUZZO, Marcela, “Discriminação algorítmica: conceito, fundamento legal e tipologia”, Direito Público, Porto Alegre, v. 16, n. 90, p. 38-64, dez. 2019. Disponível em: <https://portal.idp.emnuvens.com.br/direitopublico/article/view/3766>. Acesso em: 29 nov. 2020.

SOUZA, Carlos Affonso, PERRONE, Christian, MAGRANI, Eduardo, “O direito à explicação entre a experiência europeia e a sua positivação na LGPD” in DONEDA, Danilo et al., Tratado de proteção de dados pessoais, Rio de Janeiro, Forense, 2021, p. 243-270.

UNIÃO EUROPEIA, Regulação (EU) 2016/79, Parlamento Europeu e do Conselho Europeu de 27 de abril de 2016 relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE (Regulamento Geral sobre a Proteção de Dados), Directiva 95/46/CE do Parlamento Europeu e do Conselho Europeu, de 24 de outubro de 1955. Disponível em: <https://eur-lex.europa.eu/legal-content/PT/LSU/?uri=celex:31995L0046>. Acesso em: 31 out. 2019.

VEIGA, Fábio da Silva, BRITO, Paulo de, PIERDONÁ, Zélia Luiza, Future Law, Porto, Instituto Iberoamericano de Estudos Jurídicos e Universidade Lusófona do Porto, 2021, v. 2.

Publicado

2021-12-21

Cómo citar

Barbosa, T. S., Toniazzo, D. W., & Ruaro, R. L. (2021). O Direito à Explicação nas Decisões Automatizadas: uma Abordagem Comparativa Entre o Ordenamento Brasileiro e Europeu. Revista Internacional Consinter De Direito, 7(13), 55–69. https://doi.org/10.19135/revista.consinter.00013.01

Número

Sección

Direitos Difusos, Coletivos e Individuais Homogêneos