O Direito à Explicação nas Decisões Automatizadas: uma Abordagem Comparativa Entre o Ordenamento Brasileiro e Europeu

Resumo

As decisões automatizadas podem trazer grandes benefícios para a humanidade, sendo inegável também que as máquinas representam perigo à autonomia do ser humano, como indivíduo, e podem gerar mecanismos potencialmente discriminatórios em razão da possibilidade de manejo perverso de algoritmos. Embora as tecnologias da inteligência artificial utilizadas nas decisões automatizadas sejam apresentadas como neutras, elas não o são, sendo algumas utilizadas inclusive para modulações de comportamento humano obtidas com o perfil da extração de dados, construindo-se um mundo perfeito de consumos personalizados. O presente estudo tem como objetivo analisar o conceito de decisão automatizada e a extensão do alcance do direito à explicação no tratamento automatizado de dados no ordenamento brasileiro em comparativo com o ordenamento europeu. O direito à explicação, um dos imperativos das orientações éticas para uma inteligência artificial de confiança nas decisões automatizadas, mostra-se de extrema relevância como critério oponível aos mecanismos discriminatórios e ao combate à opacidade desse tipo de inteligência. O fato é que toda decisão automatizada deve ser explicável, tanto no que se refere à sua lógica subjacente quanto ao fundamento da decisão. Também não é razoável a exclusão do elemento humano na revisão da decisão automatizada. O presente trabalho observará, por meio comparativo, os requisitos autorizadores da decisão automatizada e suas consequências. Além disso, para a busca do resultado almejado, será realizada uma comparação do conceito do direito à explicação nos ordenamentos europeu e brasileiro. Como resultado do presente estudo, concluiu-se que a União Europeia trata a decisão automatizada como uma proibição, enquanto no Brasil existe um direito à revisão da decisão automatizada, deixando de garantir também que essa revisão seja humana. Inexiste no Brasil, portanto, amparo legal para o direito à explicação.