CNJ cria grupo de trabalho para estudar e regulamentar inteligência artificial no Judiciário

O presidente do Conselho Nacional de Justiça (CNJ), ministro Luís Roberto Barroso, assinou uma portaria instituindo a criação de um grupo de trabalho sobre o uso de inteligência artificial no Poder Judiciário na segunda-feira, 4. O objetivo é realizar estudos e propor a regulamentação do uso de sistemas de inteligência artificial generativa para criar conteúdos com base em grandes modelos de linguagem no Judiciário.

O grupo será coordenado pelo conselheiro do CNJ Luiz Fernando Bandeira de Mello Filho e composto por outros 14 membros, entre integrantes da entidade, juízes, promotores, professores universitários, especialistas em direito digital e proteção de dados, entre outros. A portaria também prevê o convite de autoridades e especialistas de instituições públicas e privadas para participarem dos estudos e das reuniões. O período de trabalho estabelecido é de um ano, podendo ser prorrogado.

No documento, o ministro faz considerações sobre o rápido avanço das tecnologias computacionais que usam IA para interagir com o usuário e propor soluções, geradas automaticamente a partir do processamento de grandes bases de dados - como o ChatGPT.

Barroso ainda demonstra preocupação com os possíveis riscos que esses recursos podem resultar para a soberania nacional, a segurança da informação e a privacidade e proteção de dados pessoais. O magistrado também aponta possíveis vieses discriminatórios e parcialidades que o uso das ferramentas generativas podem ter.

Por isso, a portaria considera a necessidade de regulamentar o uso desse tipo de ferramenta no Poder Judiciário a partir de valores éticos fundamentais, como a dignidade e a centralidade da pessoa humana, o respeito aos direitos humanos, a não discriminação, a transparência e a responsabilização.

A proposta de regulamentação a ser desenvolvida e apresentada pelo grupo deverá conter modelo de governança de todo o processo para o uso das ferramentas, bem como auditorias das ferramentas, estudos de mapeamento e gerenciamento de riscos e casos em que o uso foi permitido, regulado e proibido. Também haverá a revisão da Resolução 332/2020, norma que estabeleceu as primeiras diretrizes sobre o uso de IA no Judiciário.

Em 2020, o CNJ encomendou o estudo "O Futuro da IA no Judiciário Brasileiro", produzido pela Escola de Administração Pública Internacional da Universidade de Columbia e pelo ITS-RIO, sendo o mais abrangente sobre o uso de inteligência artificial no Judiciário brasileiro até então.

Pontos de atenção sobre uso de IA no Judiciário

Para Caio Vieira Machado, pesquisador da Harvard SEAS e diretor-executivo do Instituto Vero, a criação do grupo de trabalho é um passo importante, principalmente porque há pontos de atenção sobre o uso de IA no Judiciário.

"A IA é essencialmente uma conta matemática, principalmente a generativa, por isso ela não tem, necessariamente, relação com a realidade e pode produzir números e fatos. Já vimos essas ferramentas gerando jurisprudência, decisões malucas, artigos de lei que não existem", disse Machado.

Para ele, há a preocupação mesmo que ela seja usada só para resumir documentos de um processo. "Qual garantia temos que a IA não está criando fatos, ou mesmo que ela está selecionando os fatos que são mais relevantes? Para cada caso é um caso."

Entenda o que é IA generativa

A inteligência artificial generativa tem a capacidade de criar novos conteúdos, como texto, imagem, áudio e vídeo, a partir de conjuntos de dados pré-existentes. Ela usa grandes bases de dados, que podem realizar várias tarefas ao mesmo tempo e tarefas prontas para uso, incluindo resumo, perguntas e respostas, classificação, entre outras.