Limites Éticos para o Uso da Inteligência Artificial no Sistema de Justiça Brasileiro, de Acordo com a Lei 13.709 de 2018 (LGPD) e Resoluções 331 e 332 do Conselho Nacional de Justiça

DOI: 10.19135/revista.consinter.00013.04

Recebido/Received 15.10.2020 – Aprovado/Approved 25.03.2021

Eduardo Biacchi Gomes[1] – https://orcid.org/0000-0003-4044-8160

E-mail: eduardobiacchigomes@gmail.com

Andréa Arruda Vaz[2] – https://orcid.org/0000-0001-9177-2740

E-mail: andrea@andreavaz.adv.br

Sandra Mara de Oliveira Dias[3] – https://orcid.org/0000-0002-2933-0068

E-mail: sandradiassmod@gmail.com

Resumo

Este estudo analisa como a inteligência artificial tem sido aplicada pelo Poder Judiciário no Brasil. Quais os limites éticos devem ser estabelecidos e observados na implementação da Inteligência Artificial diante das Resoluções do CNJ, n. 331 que instituiu a Base Nacional de Dados do Poder Judiciário – DataJud, n. 332 que dispõe sobre a ética, transparência e a Governança na produção e no uso da Inteligência Artificial no Poder Judiciário e Lei 13.709 de 2018 que regulamenta a proteção de dados no Brasil. Conclui-se que com base na Cartilha de ética sobre o uso de Inteligência Artificial em sistemas judiciais (CEPEJ), com base nos arts. 5º, XXXVII e LIII, art. 93, IX da CF/88, art. 20 da 13.709/2018 (LGPD) e as Resoluções 331 e 332/2020 do CNJ apontam a necessidade de supervisão humana nas decisões judiciais que utilizam inteligência artificial em observância ao direito de explicação e revisão. Há limites éticos a serem observados na produção e no uso da Inteligência Artificial para evitar o enviesamento e opacidade de dados que possam contaminar eivando de nulidade absoluta as decisões judiciais. Método dedutivo e a técnica bibliográfica são utilizados para produção do presente artigo.

Palavras-chave: Inteligência artificial. Limites éticos. Poder Judiciário. Resoluções 331 e 332 do CNJ. LGPD – Lei 13.709/2018.

Abstract

This research analyzes how artificial intelligence has been applied by the Judiciary in Brazil. What ethical limits should be established and observed in the implementation of Artificial Intelligence before the Resolutions of the CNJ, n. 331 that established the National Database of the Judiciary – DataJud, n. 332 that provides for ethics, transparency and Governance in the production and use of Artificial Intelligence in the Judiciary and Law 13,709 of 2018 that regulates data protection in Brazil. It is concluded that based on the Ethics on the use of Artificial Intelligence in Judicial Systems (CEPEJ), based on Articles 5, XXXVII and LIII, Article 93, IX of the CF/88, Article 20 of 13,709/2018 (LGPD) and Resolutions 331 and 332/2020 of the CNJ point to the need for human supervision in judicial decisions that use artificial intelligence in observance of the right of explanation and review. There are ethical limits to be observed in the production and use of Artificial Intelligence to avoid the bias and opacity of data that may contaminate judicial decisions from absolute nullity. Deductive method and bibliographic technique are used for the production of this article.

Keywords: Artificial Intelligence. Ethics limits. judiciary power. Resoluções n. 331 e 332 do CNJ e Lei 13.709 de 2020.

Sumário: 1. Introdução; 2. Conceito de inteligência artificial e importância para o sistema de justiça brasileiro; 3. Limites éticos para o uso da inteligência artificial na justiça do trabalho; 3.1. As Decisões Automatizadas e a Necessidade de Serem Supervisionadas e Validadas por um Juiz do Trabalho; 3.2. Exigência de Racionalidade Argumentativa na Decisão Judicial; 3.3. Outra Preocupação é em Como Evitar Estagnação da Jurisprudência; 3.4. Vedação ao Solipsismo Algorítmico; 3.5. A Preocupação com a Distribuição Equitativa: Fairness; 4. Considerações Finais; Referências.

1 INTRODUÇÃO

A 4ª Revolução Industrial trouxe mudanças significativas em todos os setores da sociedade contemporânea e para o sistema de Justiça, incluindo a Justiça do trabalho que adotou o sistema PJE – Processo Judicial Eletrônico, que pode ser acessado de qualquer lugar do mundo que tenha acesso a internet.

Um fato que acelerou ainda mais o processo de virtualização do Poder Judiciário foi a pandemia do novo coronavírus COVID-19, com isso, o Poder Judiciário suspendeu o atendimento presencial e passou a prestar atendimento por meios eletrônicos. Neste período o uso da tecnologia foi fundamental para assegurar a continuidade da atividade jurisdicional e garantir o acesso à Justiça assegurado no art. 5º, XXXV da CF/88.

Hodiernamente o sistema de justiça nacional dependente totalmente da tecnologia para sua concretização. A Justiça do trabalho do Paraná no final de 2019, ficou paralisada por 07 dias em razão de falha por Storage da Huawei[4]. Tais sistemas, atualmente comportam maior importância, dada a necessidade elementar da tecnologia para funcionamento do Poder Judiciário.

O uso da Inteligência Artificial no sistema de justiça nacional tem previsão através da Lei 13.709, de 2018 (LGPD), que recentemente entrou em vigor, nos arts. 195 e 196 do CPC/2015, Resoluções do CNJ 331[5] de 21.08.2020 e 332/2020[6], com expressa referência à Carta Europeia de Ética sobre o Uso da Inteligência Artificial em Sistemas Judiciais e seus ambientes[7], a Comissão Europeia pela Eficiência da Justiça (CEPEJ) publicou uma cartilha ética estabelecendo princípios que devem guiar o desenvolvimento e a regulação de soluções tecnológicas para o Judiciário, o Livro Branco sobre a inteligência artificial[8], Convenção do Conselho da Europa 108+[9]. Também a Organização para a Cooperação e Desenvolvimento Econômico (OCDE)[10] estabeleceu princípios e recomendações para o uso da Inteligência Artificial em documento que recebeu a adesão do Brasil em maio de 2019.

Importante destacar que as Resoluções n. 331 e 332 do CNJ são do mês de agosto de 2020 e a LGPD, Lei 13.709, de 2018 entrou em vigor no Brasil no mesmo mês. No mês de outubro de 2020, o CNJ aprovou a Resolução n. 345 de 09 de outubro de 2020, que autoriza os tribunais a implementarem “o juízo 100% Digital” para executar os atos processuais exclusivamente por meio eletrônico e remoto. A escolha do juízo totalmente digital é facultativa e será escolhida pelas partes mediante manifestação nos autos.

A presente pesquisa foi dividida em três tópicos para melhor compreensão e análise do tema. Inicialmente apresenta-se o conceito de inteligência artificial e sua importância para o sistema de justiça. Num segundo momento pretende-se estudar existe a possibilidade de estabelecer limites éticos para o uso da Inteligência Artificial no sistema de justiça em observância as normas de Direito Comparado, arts. 5º, incs. XXXVII e LIII, e 93, IX da CF/88, art. 20 da LGPD e Resoluções 331/2020 e 332/2020 do CNJ. Havendo esta possibilidade quais seriam estes limites para estabelecer a perfeita conexão entre a inteligência artificial e o sistema de justiça?

Esses limites são necessários para que o sistema de justiça possa contribuir para construção de uma sociedade mais justa e solidária e não se olvidando da função primeira da justiça que é pacificar os conflitos com justiça. Neste ponto, a inteligência artificial vai colaborar com a efetividade jurisdicional e celeridade processual fundamental para transmitir mais segurança jurídica aos jurisdicionados.

2 CONCEITO DE INTELIGÊNCIA ARTIFICIAL E IMPORTÂNCIA PARA O SISTEMA DE JUSTIÇA BRASILEIRO

Caitlan Mulholland[11], afirma que: “a Inteligência Artificial iniciou com a criação do primeiro algoritmo por Ada Lovelace, continuado pelo teste de Alan Turing e pela criação das Leis da Robótica de Isaac Azimov e na atualidade a impressionante capacidade de imitação humana do Google Duplex”. A mesma autora ainda conceitua a inteligência artificial como “sistema computacional que simula a capacidade humana de raciocinar e resolver problemas por meio de tomadas de decisões baseadas em análises probabilísticas”[12].

Na mesma diretriz, Alan Turing ensina que “quando uma máquina for capaz de se comportar de tal forma que não seja possível distingui-la do ser humano, estaria demonstrando algum tipo de inteligência artificial”[13].

John Mc Cathy, pai da inteligência artificial, assim a define: “a ciência e a engenharia de criar máquinas inteligentes, especialmente programas de computador inteligentes para entender a inteligência humana, mas a IA não tem que se confinar aos métodos que são biologicamente observáveis”[14]. Portanto, a inteligência artificial tem como um de seus objetivos o desenvolvimento de máquinas com comportamento inteligente, ou seja, que possam perceber, raciocinar, aprender, comunicar e agir em ambientes complexos tão bem como humanos podem fazer, ou possivelmente melhor[15].

Isabela Alves, reconhece a capacidade da inteligência artificial praticar atos processuais necessários a realização do Direito, quando afirma que “a Inteligência Artificial aplicada ao Direito nada mais é do que o desenvolvimento de performance de máquinas para realizar tarefas que até então só eram desenvolvidas por meio de um profissional do Direito, e que, agora, podem ser executadas através de programas e algoritmos”[16].

Sob tal perspectiva, “a inteligência artificial pode desempenhar papel virtuoso, acarretando uma melhora significativa na eficiência da prestação da atividade jurisdicional”[17].

Alexandre Moraes da Rosa, sustenta que a revolução digital causou a modernização do Judiciário, a saber:

mediante a utilização das tecnologias disruptivas e inteligência artificial como Big Data, Jurimetria, Machine Learning, Deep Learning e analytics, para aprimorar a prestação jurisdicional, propiciando um protagonismo judicial mais célere eficiente e estável e com menores custos econômicos e sociais[18].

Os autores citados reconhecem que a inteligência artificial pode raciocinar, aprender e praticar atos complexos da mesma forma que o ser humano, sendo, portanto, capaz de tomar decisões que podem afetar a vida humana. Jordi Fenoll[19], a inteligência artificial, “pressupõe a atuação da máquina imitando o pensamento humano, especialmente na tomada de decisões”. A inteligência artificial pode até mesmo superar o ser humano, neste sentido Manuel Estrada[20] afirma que a inteligência artificial integra a quarta revolução industrial (Revolução 4.0), por ser mais inovadora que as revoluções anteriores, “demonstra ser mais inteligente do que o ser humano”.

Com base nos autores citados evidencia-se que a inteligência artificial devidamente programada por algoritmos transformou a realidade da vida, o virtual hoje faz parte integrante do real, no paradigma everyware, descrito por Greenfield[21] tudo está interligado e acessível em todos os lugares, 24 horas por dia, ao dormir, ao acordar, convive com a tecnologia o tempo todo.

A inteligência artificial pode auxiliar o ser humano em suas tarefas, desde as mais básicas até mais complexas, e contribuir para o avanço do sistema de justiça. A Justiça em Números recentemente divulgado pelo CNJ informou que a Justiça no ano de 2019 fechou com redução no número de processos em tramitação. A inteligência artificial contribui para essa redução, suprimiu custos, agiliza o trâmite processual trazendo benefícios do ponto de vista econômico, celeridade, eficiência e qualidade na entrega da prestação jurisdicional.

O uso da Inteligência Artificial está fundamentado nos princípios da eficiência, (arts. 37, da CF/88, 8º do CPC/2015), e duração razoável do processo, (arts. 5º, LXXVIII, da CF/88, e 4º, 6º e 139, II 195, do CPC/2015).

O Conselho Nacional de Justiça com base no art. 196 do CPC/2015 editou a Portaria 25/2019 do CNJ, que instituiu o Laboratório de Inovação para o Processo Judicial Eletrônico com o objetivo de criar uma rede de cooperação ao uso da inteligência artificial, Resolução 332/2020, dispõe sobre o uso da Inteligência Artificial no Poder Judiciário, Resolução 331/2020, instituiu o DATAJUD.

3 LIMITES ÉTICOS PARA O USO DA INTELIGÊNCIA ARTIFICIAL NA JUSTIÇA DO TRABALHO

Inicialmente é importante conceituar em que consiste a ética para admitir sob que ótica pretende construir os limites necessários para o uso da inteligência artificial no sistema de justiça trabalhista. A Ética tem origem no vocábulo grego “ethos”, que significa morada, lugar onde se habita, modo de ser ou caráter, conduta, estando mais ligada a consciência individual. A ética distingue o bem do mal, orientando as ações humanas[22].

Segundo Marcus Acquaviva[23], “a Ética observa o comportamento humano e aponta seus erros e desvios, além de formular os princípios básicos a que deve subordinar-se a conduta do homem; e, a par de valores genéricos e estáveis, a Ética é ajustável a cada época e circunstância”.

Marilena Chauí[24]: “A conduta ética é aquela na qual o agente sabe o que está e o que não está em seu poder realizar, referindo-se, portanto, ao que é possível e desejável para um ser humano. Saber o que está em nosso poder significa, principalmente, não se deixar arrastar pelas circunstâncias nem pelos instintos, nem por uma vontade alheia, mas afirmar nossa independência e nossa capacidade de autodeterminação”.

A Ética na inteligência artificial deve ser de acordo com sua aplicabilidade, nesse sentido, Caitlin Mulholland[25], cita Isaac Asimov afirmando que este em seu livro, Eu, Robô, fala sobre as 03 Leis da Robótica de convivência pacífica entre robôs e humanos, a saber:

1– um robô não pode ferir um ser humano, ou, por ócio, permitir que um ser humano sofra algum mal”. 2– “um robô deve obedecer às ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens contrariem a Primeira Lei.”; 3 – “um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a 1ª e 2ª Leis. Soma-se a 4ª Lei, conhecida como Lei Zero “um robô não pode fazer mal a humanidade e nem, por inação, permitir que ela sofra algum mau.

O autor menciona os principais elementos de contradições e seus principais aspecto, envolvendo seres humanos e robôs. A ideia de que o robô não pode causar mal para a humanidade é uma das perspectivas abordadas pelo autor.

Com o sistema PJE, mídias, as audiências trabalhistas podem ser gravadas, impedindo o arbítrio, abuso de poder e parcialidade do magistrado de primeiro grau na colheita das provas. Almeida Filho destaca a importância da gravação das audiências para assegurar um julgamento justo e imparcial no processo:

A ideia de um julgamento justo tem como principal ponto, a imparcialidade do juiz. E, ao afirmarmos que as gravações humanizam o processo, temos a exata noção de como as desigualdades podem ser reduzidas. A gravação impede o abuso de poder por parte do magistrado, em não transcrever o dito pela testemunha ou depoente, impede atitudes antiéticas, cerceamento de defesa, amplia o princípio da publicidade. E se a informatização deve ser guiada pelo procedimento, a utilização de meios eletrônicos conduzirá que o humano se sobressaia[26]. (grifo nosso)

Michele Taruffo[27], seguindo outra via, sustenta que a imparcialidade não é apenas condição prévia para o deslinde do processo, mas elemento constitutivo da própria ideia de verdade, a saber:

Um juiz parcial, condicionado por fatores estranhos aos fatos sub judice (como interesse pessoal na causa ou preconceito em relação a uma das partes), não teria como realizar uma leitura adequada das provas e terminaria por se afastar da justiça. Além disso, o autor explica que não basta ao juiz respeitar as vedações à parcialidade previstas nas leis processuais (como o impedimento e a suspeição), mas é preciso também que ele se oriente continuamente por um escopo fundamental: o processo justo. Assim, não é suficiente a mera “correção do procedimento”; deve-se aspirar a uma aproximação da verdade real, capaz de embasar a melhor decisão.

Ana Frazão[28], ao comentar o art. 20 da LGPD, explicita que:

(i) o direito de acesso e informação em relação a respeito dos critérios e procedimentos utilizados para a decisão automatizada; (ii) o direito de oposição quanto a decisão automatizada e de manifestar o seu ponto de vista, (iii) o direito de obtenção da revisão da decisão automatizada por uma pessoa natural; e (iv) o direito de petição a autoridade nacional para a realização de auditoria, em caso da não prestação das informações.

Ainda, Andrei Gutierrez menciona a respeito de dois elementos importantes quando o assunto é o acesso à informação e suas limitações, são eles:

a) Robustez, segurança e proteção: exigência de gestão e avaliação dos riscos dos sistemas de IA durante a vida útil.

b) Accountability: responsabilidade com a ética, obrigação e busca por transparência dizer o que estão fazendo, por quais motivos e como estão fazendo. Necessidade de governança, prestação de conta e até responsabilidade civil[29].

De acordo com o art. 25 da Resolução n. 332 do CNJ, é necessário que sejam criados mecanismos para garantir a responsabilidade e prestação de contas dos sistemas de Inteligência Artificial e seus resultados, antes e depois de seu desenvolvimento, implantação e uso, de modo seguro tanto para os seres humanos, quanto para as máquinas.

Ainda, importante compreender que, existem outros limites que devem ser observados na aplicação da Inteligência Artificial pelo juiz: Entre eles estão a questão envolvendo decisões automatizadas e a necessidade de supervisão e validação por um juiz constitucional competente e imparcial; Exigência de racionalidade argumentativa na decisão judicial; Evitar a Estagnação da Jurisprudência; Vedação ao Solipsismo Algorítmico e Fairness. Abaixo abordar-se os principais elementos acerca de tais limites.

3.1 As Decisões Automatizadas e a Necessidade de Serem Supervisionadas e Validadas por um Juiz do Trabalho

Existem Projetos de Lei trâmite no Congresso Nacional sobre o uso da inteligência artificial que prescrevem sua submissão ao controle humano segundo arts. 2º, V, PL.5051[30] de 2019 e 4º, IV do PL. 240[31] de 2020. No livro Branco uma abordagem Europeia virada para excelência e a confiança, de 19.02.2020, aponta a necessidade de supervisão humana nas decisões judiciais que adotam a inteligência artificial. A OCDE adotou os princípios de políticas orientadoras para o uso da Inteligência Artificial, valores centrados nos direitos humanos, dignidade e justiça.

A Europa lançou diretrizes éticas para o uso e desenvolvimento da Inteligência Artificial – o Grupo Europeu de altos especialistas estabeleceu que deve ser centrada no ser humano. Segundo Pereira[32] “inteligência artificial deve auxiliar na prestação jurisdicional, pois a justiça envolve problemas do ser humano, questões éticas e dimensões da dignidade das pessoas, não podendo ser substituída pela justiça ex machina”.

Para Hasselman[33] “importante explicitar três dimensões da condição humana, que apartam a máquina do homem: o logos, que significa a inteligência ou razão humana; o phatos, os sentimentos e paixões humanas; e o virtus, componente ético ou moral das ações humanas”.

Ainda neste contexto, Hasselman[34], argumenta que, “a inteligência artificial pode ser utilizada nas questões jurídicas mais simples, mas nas complexas de razão pragmática, o phatos (sentimentos e paixões) e virtus (comportamentos éticos e morais, exclusividade humana), não pode se valer da inteligência artificial”.

O uso da inteligência artificial deve ser balizado por alguns princípios, segundo “ASILOMAR AL PRINCIPLES”, 2017[35], o qual estabelece que “deve ser benéfica, dotada de cooperação, confiança, transparência e ética. Suas decisões devem se sujeitar a atividade humana, e seus valores como ideais de dignidade, direitos, liberdades, diversidade cultural e respeito à privacidade”. Tal filtro tem como principal objetivo o controle e a busca por evitar erros e situações que possam causar dano a outrem.

Alexandre Morais da Rosa[36] “o livro todo propõe a supervisão humana da operação, excluindo por enquanto, a decisão exclusivamente por máquinas”. Assim, se reduz o risco de erros e consequentemente o risco de danos decorrentes de falhas robóticas.

Lima e Brito[37] “Acredita-se que o homem ainda é o único capaz de pôr em prática os procedimentos hermenêuticos que garantem uma análise mais criteriosa do caso com o direito, possibilitando um devido processo legal” Coelho[38], “O emprego da IA deve encontrar limites legais, servindo à preservação e à realização dos direitos, nas atividades fim do sistema jurisdicional, como aquelas realizadas pela magistratura, que demandam o elemento humano como integrante essencial para o seu funcionamento e para a realização da justiça no caso concreto”.

Em seu art. 22 do RGDPR:”o titular dos dados tem o direito de não ficar sujeito a nenhuma decisão tomada exclusivamente com base no tratamento automatizado[39]. O art. 20 da Lei 13719, de 2018 da LGPD, reconhece o direito a solicitação de revisão de uma decisão automatizada por uma pessoa natural desde que o titular dos dados entenda que seus interesses tenha sido afetados.

Um algoritmo sob argumento de desafogar o judiciário na busca pela celeridade, não pode jamais substituir a função jurisdicional do Estado juiz humano de dizer o Direito aplicável a cada caso concreto, garantia fundamental dos jurisdicionados trabalhistas no Estado de Direito, inerente aos princípios constitucionais do juiz natural e dever de fundamentação estrutural das decisões da Justiça do Trabalho, (arts. 5º, incs. XXXVII, LIII, 93, IX da CF/88, 489 do CPC/2015, 832 da CLT/1942).

Renata Lima e Atila Magalhães[40] “as inteligências artificiais necessitam do homem, para supervisionar o seu trabalho, o elemento carga subjetiva nunca pode ser feita além do próprio homem, cita como exemplo o juiz ao prolatar uma sentença”.

Segundo Pereira, “a máquina poderá apenas ser utilizada enquanto auxílio e não como substituto da tarefa decisória que deverá ser humana e estar ao serviço da humanidade”.

A Inteligência Artificial, pode ser adotada com supervisão e validação pelo juiz do trabalho, mas nunca o substituir por completo em sua função jurisdicional de aplicar o direito ao caso concreto. CASTRO (2020) ao discorrer sobre o uso da Inteligência Artificial no meio jurídico, afirma que: “os magistrados, não devem jamais delegar as máquinas a sua função constitucional”.

Na Justiça do trabalho somente seria admissível o uso da inteligência artificial nos “easy cases”, nas decisões que envolvam simples cálculos matemáticos, matéria exclusivamente de direito, demandas repetitivas, valor atribuído a causa até o limite do procedimento sumaríssimo, como exemplo no direito comparado na Estônia, onde existem juízes robôs para julgar processos mais simples até o limite de € 7 mil euros (em torno de R$ 30 mil reais). Mesmo nestes casos mais simples depende de supervisão do Juiz do trabalho constitucionalmente estabelecido para fazer esta análise deste critério e autorizar sua utilização validando o procedimento, pois a inteligência artificial para ser aplicada tem como uma das características essenciais haver supervisão humana para que tenha segurança jurídica.

3.2 Exigência de Racionalidade Argumentativa na Decisão Judicial

Os arts. 93, IX, da CF/88, 489 do CPC e 832 da CLT, aplicáveis ao Direito Processual do Trabalho por força do art. 769 da CLT, estabelecem o dever constitucional do juiz do trabalho fundamentar as decisões judiciais, sob pena de nulidade. Fundamentar significa expor, lógica e coerentemente, as razões pelas quais determinada decisão foi proferida. Significa, pois, uma justificação. Deve-se ressaltar, porém, que ela não se apresenta como algo meramente formal na decisão judicial. Ela tem implicação substancial, ou seja, “o juiz deve analisar as questões postas a seu julgamento, exteriorizando a base fundamental de sua decisão”[41].

A busca da resposta correta não é uma tarefa fácil. Todavia, sendo o órgão judicial capaz de identificar o ponto controvertido do litígio e, por consequência, reconhecendo e enfrentando os argumentos relevantes deduzidos pelas partes, bem como aplicando a lei incidente na espécie, ainda que dela possa discordar, certamente prolatará uma sentença adequadamente fundamentada e provavelmente com a resposta correta do ponto de vista da ciência do direito[42].

De modo geral, o dever de motivação exaustiva sobre pontos e questões de fato e de direito é visto como um contrapeso ao aumento dos poderes judiciais[43] e a principal limitação ao princípio do livre convencimento motivado[44], que pressupõe uma concepção de processo como instrumento de realização da justiça compromissado com a verdade, de modo que desonerar o julgador da explicitação do raciocínio empreendido seria desonerá-lo do compromisso com a verdade dos fatos, com a lei e com a justiça[45].

A exigência de motivação assegura a possibilidade de controle sobre os limites de racionalidade do discurso judicial[46]. Via fundamentação é que se faz este controle, mediante a aplicação de modelos ou standards probatórios, do raciocínio judicial na análise das provas colhidas[47].

A segurança do direito representa a efetiva controlabilidade do discurso argumentativo por meio do qual o direito é constituído (por via da interpretação jurídica) e as decisões judiciais são tomadas[48]. E a fundamentação trabalha justamente no sentido de dar transparência e cognoscibilidade[49] ao discurso argumentativo, sem a qual inexiste a almejada controlabilidade e não se garante a racionalidade da aplicação do direito.

Ronald Dworkin apresentou-se como um crítico consistente da discricionariedade judicial na interpretação do direito. Seu primeiro ataque ao positivismo jurídico procurou refutar a tese de que o direito é composto exclusivamente de regras, como defendia Hart[50], e que, quando o juiz se depara com lacunas ou com as zonas de penumbra do significado das normas, ele tem discricionariedade para decidir e, portanto, para criar direito novo.

Em seus primeiros textos, o autor afirmou que o direito é composto não apenas de regras, mas também de princípios, que são normas cujo conteúdo normativo é definido por juízos de moralidade política. Assim, em casos de lacuna ou de indeterminação do significado das regras, o juiz deve aplicar os princípios jurídicos e não decidir discricionariamente, como se fosse um legislador. A correta interpretação dos princípios por parte do juiz conduziria sempre a uma única resposta certa, extraída do interior do próprio sistema jurídico[51].

Robert Alexy[52], a partir de sua obra Teoria da Argumentação Jurídica em diálogo com a Teoria dos Direitos Fundamentais[53], desenvolveu o constitucionalismo discursivo de que a observância do método gera racionalidade das decisões judiciais. Não há possibilidade, pois, da Inteligência Artificial, diante da colisão entre direitos fundamentais, ser capaz de buscar a solução do conflito de acordo com o meio adequado e proceder a ponderação, com o sopesamento necessário para definir racionalmente qual dos princípios em conflito deverá ter o maior peso no caso concreto numa interpretação conforme a Constituição exigida no Estado de Direito.

Para Nuria Martin[54] a utilização da inteligência artificial no Poder Judiciário deve ser uma ferramenta para facilitar a organização do conhecimento, não para substituir o papel do julgamento humano no raciocínio jurídico. A inteligência artificial da forma com que os algoritmos são programados não tem como executar esse raciocínio argumentativo para solucionar os “hard cases”, o que impossibilitaria a sua utilização nas decisões da Justiça do trabalho.

A inteligência artificial pode ser utilizada para prática de atos processuais sem conteúdo decisório, a decisão final deve ser sempre prolatada por um juiz com a devida fundamentação adequada, pois a atividade jurisdicional é indelegável, por força dos arts. 93, IX da CF/88, 489 do CPC/2015 e 832 da CLT/1945.

Ainda, outro cuidado que se deve ter é justamente com a Proteção de dados sensíveis, dado pessoal sobre origem racial ou étnica, convicção religiosa, opinião política, filiação a sindicato ou a organização de caráter religioso, filosófico ou político, dado referente à saúde ou à vida sexual, dado genético ou biométrico, quando vinculado a uma pessoa natural, para preservar a privacidade, (art. 5º, II da LGPD, Lei 13.709, de 2018). “Os dados são elementos constituinte da identidade da pessoa e que devem ser protegidos na medida em que compõem parte fundamental da sua personalidade, que deve ter seu desenvolvimento privilegiado, por meio do reconhecimento de sua dignidade”[55].

Resende Chaves Jr, no Processo eletrônico, o mundo inteiro tem acesso aos dados lançados. “A lógica tem a preocupação de preservar os dados sensíveis, porque tem outros valores constitucionais em jogo, como o direito à privacidade que deve ser respeitado”. Os arts. 6º e 11 da Lei 11.419/2006 buscam a preservação das informações, restringindo o acesso aos documentos apenas àqueles processualmente implicados e fazem parte da relação processual[56].

A Convenção 108 do Conselho europeu, cujo art. 9º reconhece uma série de direitos individuais, dentre eles o direito a não ser sujeito a decisões automatizadas sem que haja autorização legal que defina salvaguardas adequadas e o direito de obter informações a respeito da lógica de processamento.

3.3 Outra Preocupação é em Como Evitar Estagnação da Jurisprudência

Fenoll (2018, p. 32-33) justifica a necessidade de impor limites à inteligência artificial pois não pode conferir a decisão final em um julgamento para que não venha ensejar a estagnação da jurisprudência. A Inteligência Artificial através de seus algoritmos pode incorrer na padronização das decisões judiciais, acarretando uma imutabilidade na jurisprudência dos Tribunais trabalhistas.

Para Roque e Santos[57], “decisões tomadas por intermédio de ‘softwares’, tendentes a buscar padrões, em casos específicos, o que poderia, em última análise, levar à ‘industrialização das decisões judiciais’, afastando-se cada vez mais da riqueza de elementos que cada caso concreto apresenta”.

O uso da Inteligência Artificial no Direito Processual do Trabalho não pode ser “repetição industrial de decisões judiciais pré-moldadas adotada no sistema Taylorista, para cumprir estatísticas apenas. Uma indústria não é um bom modelo para a Justiça”[58].

Eliminando a capacidade dos juízes do trabalho decidirem de acordo com uma interpretação, conforme a Constituição Federal que deve nortear o exercício da jurisdição, acarretando uma imobilidade no ato de julgar, que passaria da produção intelectual para reprodução automática de modelos padronizados segundo os algoritmos previamente estabelecidos, obstando o acesso à justiça, assegurado no art. 5º, XXXV da CF/88.

3.4 Vedação ao Solipsismo Algorítmico

Segundo Almeida Filho (2015, p. 17) “não podemos permitir que o Processo Eletrônico encontre modificações a ponto de termos sentenças cartesianas, emitidas por um computador”. Não se coaduna com Estado Constitucional de Direito decisões trabalhistas padronizadas por algoritmos, por afrontar o princípio da jurisdição de o Estado juiz dizer o direito em cada caso concreto, de acordo com os princípios e valores estabelecidos na Constituição Federal. Viana (2020) afirma que: “o ponto efetivamente importante é que o juiz seja humano ou robô, não pode ser visto como o responsável pela criação solitária da decisão, numa espécie de discricionariedade algorítmica”.

Sob tal viés, “a busca desenfreada pela eficiência e celeridade pode acarretar decisões carecedoras de legitimidade e o solipsismo algorítmico, o qual pode ser ainda mais perverso, posto que as ferramentas de inteligência artificial são envolvidas em uma áurea de racionalidade e exatidão que as torna praticamente inatacáveis”[59].

O uso da Inteligência Artificial no Direito Processual do Trabalho não pode ser “repetição industrial de decisões judiciais pré-moldadas adotada no sistema Taylorista, para cumprir estatísticas apenas. Uma indústria não é um bom modelo para a Justiça”[60].

No Estado Constitucional de Direito, é necessário utilizar a inteligência artificial e tirar proveito de seus benefícios, mas o seu uso deve ser sempre direcionado por juiz do Trabalho numa interpretação racional humana com ponderação de valores, e respeito aos direitos e garantias que fundam o processo jurisdicional democrático, refutando dessa forma “solipsismo algoritmo”.

3.5 A Preocupação com a Distribuição Equitativa: Fairness

Tal terminologia significa que o uso de sistemas de inteligência artificial deve ser justo com distribuição equitativa benefícios e custos livres. Tais elementos demonstram a importância de um exercício da ciência de forma ética, cuidadosa e principalmente com embasamento legal. Assim, se evitam problemas relacionados a danos, assim como a violação ética de preceitos que regem não só o direito, mas os costumes, as crenças, os modos de vida, entre outros.

4 CONSIDERAÇÕES FINAIS

O CPC/2015, a Lei 13.709/2018 – LGPD, e as recentes Resoluções 331 e 332 do CNJ autorizam a utilização da Inteligência Artificial na Justiça do Trabalho, assim como o Direito Comparado, através do Livro Branco uma abordagem Europeia virada para excelência e a confiança, de 19.02.2020.

A OCDE adotou os princípios de políticas orientadoras para o uso da Inteligência Artificial. O Grupo Europeu de altos estudos adotou Diretrizes éticas para o uso e desenvolvimento da Inteligência Artificial e a Carta Ética Europeia estabeleceu 05 princípios sobre o uso da Inteligência Artificial que já foram incorporados pela Resolução 332 do CNJ.

Existem ainda limites éticos que devem ser observados pelo juiz do trabalho na aplicação da inteligência artificial tais como, respeito aos Direitos Fundamentais, não discriminação, qualidade e Segurança, Princípio da Transparência, imparcialidade e justiça, controle do Usuário, evitar estagnação da Jurisprudência, vedação ao solipsismo algorítmico, fairness e accountability.

Ademais, o desenvolvimento científico encontra barreiras éticas, morais, sociais, entre outros elementos. Quando o assunto é a utilização de inteligência artificial pelo Poder Judiciário, há que se ter cuidado, principalmente com dados sensíveis, como números de documentos, endereço, e demais dados relacionados a intimidade e privacidade das pessoas.

Já existe a autorização formal no Brasil para que o Poder Judiciário utilize a inteligência artificial para realização de atos processuais, não obstante importante a supervisão por um magistrado ou servidor. Ademais, uma programação robótica ou elemento de automação pode falhar e colocar em risco a prestação jurisdicional.

Importante por fim, mencionar a importância e os recentes avanços do Poder Judiciário no que concerne a realização de atos judiciais por meio da utilização de elementos robóticos e de inteligência artificial. Tais avanços se fizeram necessários, inclusive para se superar a crise causada pelo Coronavírus. A pandemia acelerou àquilo que ainda era apenas uma controversa teoria no Poder Judiciário. A aplicação da inteligência artificial, assim como a realização de atos por meios telemáticos, se transformou em uma grande e certamente durável realidade no Judiciário brasileiro. Tais tecnologias prometem uma prestação jurisdicional mais célere, eficiente e claro, sustentável.

REFERÊNCIAS

ACQUAVIVA, Marcus Cláudio, Notas Introdutórias à Ética jurídica, São Paulo, Desafio Cultural, 2002.

ALEXY, Robert, Teoria da Argumentação jurídica, a teoria do discurso racional como teoria da fundamentação jurídica, 2. ed., Tradução de Zilda Hutchinson Schild Silva, São Paulo, Landy, 2005.

ALEXY, Robert, Teoria dos Direitos Fundamentais, Tradução de Virgílio Afonso da Silva, 5. ed. Alemã, São Paulo, SP, Malheiros, 2015.

LEXY, Robert, Teoria dos Direitos Fundamentais, Tradução Virgílio Afonso da Silva, 2. ed. São Paulo, Malheiros, 2017.

ARRUDA ALVIM WAMBIER, Teresa, A influência do contraditório na convicção do juiz, fundamentação de sentença e de acórdão, RePro, São Paulo, a. 34, v. 168.

ALVES, Isabella Fonseca, ALMEIDA, Priscila Brandão, Direito 4.0, uma análise sobre inteligência artificial, processo e tendências de mercado, In: ALVES, Isabella Fonseca (Org.). Inteligência Artificial e Processo, São Paulo, D’Plácido, 2020.

Asilomar AI Principles, Future of Life Institute. Disponível em: <https://futureoflife.org/ai-principles/?cn-reloaded=1>. Acesso em: 12 out. 2020.

ÁVILA, Humberto, Segurança jurídica, entre permanência, mudança e realização no direito tributário, São Paulo, Malheiros, 2011.

BRASIL, Projeto Gemini, CNJ, TRT5 realiza projeto-piloto que utiliza inteligência artificial. Disponível em: <https://www.cnj.jus.br/trt5-realiza-projeto-piloto-que-utiliza-inteligencia-artificial>. Acesso em: 11 abr. 2020.

BRASIL, TRT do Paraná, falha foi causada por Storage da Huawei, Sistema de Justiça Paranaense ficou uma semana fora do ar. Disponível em: <https://www.baguete.com.br/noticias/09/12/2019/trt-do-pr-falha-foi-causada-por-storage-huawei>. Acesso em: 11 out. 2020.

TRT-MG, Desembargador José Eduardo Resende Júnior expõe princípios do direito processual eletrônico, Disponível em: <Erro! A referência de hiperlink não é válida.https://portal.trt3.jus.br/internet/conheca-o-trt/comunicacao/noticias-juridicas/des-jose-eduardo-expoeprincipios-do-direito-processual-eletronico>. Acesso em: 04 maio 2020.

BRASIL, Resolução 331 do CNJ, Instituir a Base Nacional de Dados do Poder Judiciário. Disponível em: <https://juslaboris.tst.jus.br/bitstream/handle/20.500.12178/176371/2020res0331_cnj.pdf?sequence=1&isAllowed=y>. Acesso 02 set. 2020.

BRASIL, Resolução 332, do CNJ, de 21 de agosto de 2020, dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário e dá outras providências, Disponível em: <https://www.anoreg.org.br/site/2020/08/26/resolucao-no-332-do-cnj-dispoe-sobre-o-uso-de-inteligencia-artificial-no-poder-judiciario/>. Acesso em: 02 set. 2020.

BRASIL, Projeto de Lei 5051 de 2019, Estabelece os princípios para o uso da Inteligência Artificial no Brasil. Disponível em: <https://www25.senado.leg.br/web/atividade/materias/-/materia/138790>. Acesso em: 06 out. 2020.

BRASIL, Projeto de Lei 240 de 2020, Cria a Lei da Inteligência Artificial, e dá outras providências. Disponível em: <https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra;jsessinid=633C9CC21DBC914A4D5B788023DA7A43.proposicoesWebExterno1?codteor=1857143&filename=PL+240/2020>. Acesso em: 06 out. 2020.

BRASIL. TST. O sistema Bem-te-vi, Inteligência Artificial traz melhorias inovadoras na tramitação de processos no TST. Disponível em: <http://www.tst.jus.br/noticias/-/asset_publisher/89Dk/content/inteligencia-artificial-traz-melhorias-inovadoras-para-tramitacao-de-processos-no-tst>. Acesso em: 11 abr. 2020.

CAMBI, Eduardo, ALVES, Elidia Aparecida de Andrade, ALVES, Fernando de Brito, Interfaces artificiais e interpretação judicial, o problema do uso da inteligência artificial e da metodologia fuzzy na aplicação do direito, Revistas dos Tribunais online, v. 1010, p. 245-273, dez. 2019. Disponível em: <https://www.indexlaw.org/index.php/rdb/article/view/3966>. Acesso em: 22 mar. 2020.

CASTRO, Luiz Fernando Martins, Uso da Inteligência Artificial no meio jurídico, mitos e realidade, Panorma Setorial da Internet, n. 1, a. 12, maio 2020.

Carta Europeia de Ética sobre o uso de IA em sistemas judiciais e seu ambiente. Disponível em: <https://rm.coe.int/carta-etica-traduzida-para-portugues-revista/168093b7e0>. Acesso em: 28 ago. 2020.

CHUAI, Marilena, Convite à Filosofia, 13. ed., São Paulo, Àtica, 2009.

COÊLHO, Marcus Vinicius Furtado, O uso da inteligência artificial no meio jurídico. Disponível em: <https://www.editorajc.com.br/o-uso-da-inteligencia-artificial-no-meio-juridico/>. Acesso em: 07 set. 2020.

DWORKIN, Ronald, Taking Rights Seriously, Cambridge, USA, Harvard University Press, 1977.

ESTRADA. Manuel Martín Pino, O comércio de dados pessoais dos trabalhadores pelas empresas de tecnologia e pelos governos através da invasão da privacidade e da intimidade, Revistas dos Tribunais online, Revista de Direito do Trabalho, v. 172, p. 35-54, nov./dez. 2016.

EUR, regulamento Geral sobre a Proteção de Dados 2016/679 do Parlamento Europeu e do Conselho, “– Decisões individuais automatizadas, incluindo definição de perfis”, artigo 22, Disponível em: <https://www.privacy-regulation.eu/pt/22.htm>. Acesso em: 03 out. 2020.

FENOLL, Jordi Nieva, Inteligência artificial y processo judicial, Madrid, Marcial Pons, 2018.

FILHO ALMEIDA, José Carlos de Araújo Almeida, Processo Eletrônico e Teoria Geral do Processo Eletrônico, A Informatização Judicial no Brasil, 5. ed. rev. e atual. Rio de Janeiro, Forense, 2015.

FRAZÃO, Ana, MULLHOLLAND, Caitlin, Coordenadoras, apresentação, Inteligência Artificial e Direito, Ètica, Regulação e Responsabilidade, 2ª Tiragem, São Paulo, Thomson Reuters, Revistas dos Tribunais, 2019.

FUX, Luiz; BODART, Bruno, Notas sobre o princípio da motivação e a uniformização da jurisprudência no novo Código de Processo Civil à luz da análise econômica do Direito, RePro, São Paulo, a. 42, v. 269, p. 423, jul. 2017.

GREENFIELD, Adam Everyware, The dawing age of ubiquitous computing, AIGA, New Riders, 2006.

GUTIERREZ, Andrei, É possível confiar em um sistema de Inteligencia Artificial? Práticas em torno da melhoria da sua confiança, segurança e evidencias de accontability, Coordenadoras, FRAZÃO, Ana, MULLHOLLAND, Caitlin, Inteligência Artificial e Direito, Ètica, Regulação e Responsabilidade, 2ª Tiragem, São Paulo, Thomson Reuters, Revistas dos Tribunais, 2019.

HART, Hebert Lionel Adolphus, O conceito de direito, São Paulo, Martins Fontes, 2012.

HASSELMAN, Gustavo, Os limites da Inteligência Artificial no Direito. Disponível em: <https, //www.migalhas.com.br/depeso/310527/os-limites-da-inteligencia-artificial-no-direito>. Acesso em: 03 mar. 2020.

KNIJNIK, Danilo, Os standards do convencimento judicial, paradigmas para o seu possível controle, Revista Forense, v. 353, p. 47-48, jan./fev. 2001.

LIMA, Renata Alburqueque, MAGALHÃES, Átila de Alencar Araripe, MARTINS, Osmar Alefe Farias, A Influência da Inteligência Artificial no Direito do Trabalho, Uma Análise a luz da Globalização, Doutrina – Revista Magister de Direito do Trabalho, n. 92, nov./dez. 2019.

LIMA, Renata Albuquerque, BRITO, Anya Lima Penha de, Uma análise crítica à luz da hermenêutica dos sistemas jurídicos inteligentes, Universidade FUMEC, Meritum, Belo Horizonte, v. 14, n. 2, p. 690-07, jul./dez. 2019.

Livro Branco sobre Inteligência Artificial, Uma abordagem europeia virada para a excelência e a confiança, Disponível em: <https://www.lexpoint.pt/conteudos/1220/94531/outros-documentos/comissao-europeia-livro-branco-sobre-inteligencia-artificial-de-19022020>. Acesso em: 06 jul. 2020.

MARTÍN, Nuria Bellso, Algumas reflexões sobre a informática jurídica decisional, In: BAEZ, Narciso Leandro Xavier et al., Os impactos das novas tecnologias nos direitos fundamentais, Joaçaba, Unoesc, 2015, p. 123.

MEDEIROS, Nathália Roberta Fett Viana de, Uso da Inteligência Artificial no processo de tomada de decisões jurisdicionais, uma análise sob a perspectiva da teoria normativa a comparticipação, Belo Horizonte, 2019 (dissertação de mestrado).

MCXARTHY, John, What is a artificial intelligence. Disponível em: <http://www-formal.stanford.edu/jmc/whatisai/whatisai.html>. Acesso em: 18 set. 2020.

MULHOLLAND, Caitlin, Responsabilidade Civil e Processos Decisórios Autonomos em sistemas de inteligência artificial (IA), Autonomia, Imputabilidade e Responsabilidade, FRAZÃO, Ana. MULLHOLLAND, Caitlin, (Coords.), apresentação, Inteligência Artificial e Direito, Ètica, Regulação e Responsabilidade, 2ª Tiragem, São Paulo, Thomson Reuters, Revistas dos Tribunais, 2019.

NERY JUNIOR, Nelson, Princípios do processo civil na Constituição Federal, 9. ed.rev., ampl. e atual. com as novas súmulas do STF (simples e vinculante) e com análise sobre a relativização da coisa julgada, São Paulo, Editora Revista dos Tribunais, 2009.

NILSON, Nils. J. Artificial Intelligence: a new synthesis, San Francisco: Morgan Kayfmann, 1998.

OCDE, There should be transparency and responsible disclosure around AI systems to ensure that people understand when they are engaging with them and can challenge outcomes. Disponível em: <http://www.oecd.org/science/forty-two-countries-adopt-new-oecd-principles-on-artificialintelligence.htm?utm_medium=email&utm_source=topic+optin&utm_campaign=awareness&utm_content=20190527+ai+nl&mkt_tok=eyJpIjoiT1dNMk1XTmxNR0psTWpneCIsInQiOiJRNEE1Zlg4TmpcL1IxUzdkS3JIOVFSSTl5cDNNZmsrZE9PcXJjQUdUNUJLRnF0Znpaa3FFaTU2NXpveHAzR0RqS0doWndtU3JiMCs0dG5DMTRUc251R1UzKzBkS2VWWWtBZm9jOTl0RkdVWmhYMXdyVnhFUXVUaWFabG9Ua2IzSWQifQ%3D%3D>. Acesso em: 28 ago. 2020.

PEREIRA, Alexandre Libório Dias, Ius ex machina? Da informática jurídica ao computador-juiz, Revista RJLB, Coimbra, a. 3, n. 1, p. 46-126, 2017. Disponível em: <http://www.cidp.pt/revistas/rjlb/2017/1/2017_01_0043_0126.pdf>. Acesso em: 15 fev. 2020.

ROQUE, Andre Vasconcelos; SANTOS, Lucas Braz Rodrigues dos, Inteligência artificial na tomada de decisões judiciais: três premissas básicas. Disponível em: <https://www.migalhas.com.br/coluna/tendencias-do-processo-civil/315821/inteligencia-artificial-na-tomada-de-decisoes-judiciais-tres-premissas-basicas>. Acesso em: 03 ago. 2020.

ROSA, Alexandre Morais da, Inteligência artificial e Direito, ensinando um robô a julgar. Disponível em: <https://www.conjur.com.br/2020-set-04/limite-penal-inteligencia-artificial-direito-ensinando-robo-julgar>. Acesso em: 04 set. 2020.

SALINAS, Fernando Zubiri de, ¿Qué es la sana crítica? La valoración judicial del dictamen experto, Jueces para la democracia, n. 50, p. 56, 2004.

SILVA, Geocarlos Augusto Cavalcante da, Fundamentação como forma democrática de controle das decisões judiciais, Doutrinas Essenciais, Novo Processo Civil, v. 5, 2018, Revista de Processo, v. 276, 2018, p. 21-43, fev. 2018.

SILVA, Andressa Amaral Eller da, A Ética e o Direito, Disponível em: <http://site.fenord.edu.br/revistaaguia/revista2016/textos/artigo02.pdf>. Acesso em: 11 out. 2020.

SLADIR, Jorg, UZELAC, Alan, Assessment of evidence, In, Dimensions of Evidence in Europe Civil Procedure, The Netherlands, Wolters Kluwer, 2015.

TARUFFO, Michele, La semplice verità Il giudice e la costruzione dei fatti, Roma-Bari, Laterza, 2009.

TURING, Alan Mathison, Computing Machinery and Intelligence, Mind, v. 49, 1950.

VIANA, Antônio Aurélio de Souza, Juiz-robô e a decisão algorítmica, a inteligência artificial na aplicação dos precedentes, In: ALVES, Isabella Fonseca (Org.), Inteligência Artificial e Processo, São Paulo: D’Plácido, 2020.

WANDELLI, Leonardo Vieira, A efetividade do processo sob o impacto das políticas de gestão judiciária e do novo CPC, Repercussões no Novo CPC, Coordenador Geral DIDIER JR, Fredier, Salvador, Juspodivm, 2015.