PGR proíbe uso de IA para prever condenações ou reincidência de arguidos

PGR aprovou o que chamou de "Carta para a utilização ética da Inteligência Artificial (IA)" com uma política de auditoria e monitorização destinada a regular o uso da ferramenta pelo MP.

Os magistrados do Ministério Público (MP) estão proibidos de usar a Inteligência Artificial para prever a probabilidade de condenação ou risco de reincidência de um arguido ou para sugerir qual a medida de coação a aplicar com base em perfis automáticos. Assim sendo, a ferramenta de IA é apenas um instrumento auxiliar de trabalho e “nunca um decisor” e o magistrado tem de manter sempre controlo e responsabilidade sobre o conteúdo do seu trabalho e garantir a proteção dos dados pessoais, processuais e o segredo de justiça, que prevalecem sobre “qualquer conveniência tecnológica”.

Estas e outras regras estão previstas no que o PGR aprovou e chamou de “Carta para a utilização ética da Inteligência Artificial (IA)” com uma política de auditoria e monitorização destinada a regular o uso destas tecnologias no Ministério Público impondo limites rigorosos ao recurso de IA, sobretudo em matéria penal e de tratamento de dados pessoais de sujeitos envolvidos no processo, sejam arguidos ou testemunhas.

O documento alerta que a disseminação da inteligência artificial generativa “tem já um impacto transformador na sociedade em geral, que terá naturais reflexos no âmbito da Justiça”, reconhecendo simultaneamente o potencial destas ferramentas para melhorar “a eficiência, a qualidade dos serviços e a capacidade de resposta” do Ministério Público.

Apesar disso, a Procuradoria-Geral da República sublinha que a utilização de IA “deve ser sempre efetuada em conformidade com o Estado de Direito, os princípios democráticos e com respeito pelos direitos, liberdades e garantias fundamentais”.

A nova carta ética identifica vários riscos associados à utilização destas tecnologias, incluindo discriminação algorítmica, violação de dados pessoais, utilização de informações falsas ou “alucinações” produzidas por sistemas generativos, bem como o perigo de criação de “fundamentos jurisprudenciais inexistentes ou descontextualizados”.

Entre as principais proibições previstas está a utilização de IA para prever decisões judiciais ou avaliar perfis criminais individuais. O documento estabelece que “é proibida a utilização de ferramentas de IA para prever a probabilidade de condenação”, “estimar risco de reincidência” ou “sugerir medida de coação com base em perfis automatizados”.

A carta determina ainda que os magistrados devem assumir que “a ferramenta de IA é um instrumento auxiliar, nunca um decisor” e que “o magistrado mantém sempre controlo e responsabilidade sobre o conteúdo do seu trabalho”.

O Ministério Público proíbe também a introdução de dados processuais identificáveis em plataformas externas de inteligência artificial, como sistemas generativos disponibilizados em ambiente cloud. O texto refere expressamente que não podem ser inseridos “dados pessoais identificados ou identificáveis”, elementos sujeitos a segredo de justiça ou “peças processuais integrais”.

As novas regras definem ainda regras apertadas para sistemas institucionais de IA desenvolvidos ou autorizados pela Procuradoria-Geral da República. Esses sistemas terão de ser sujeitos a “auditorias periódicas, internas e externas” e estarão obrigados a mecanismos de rastreabilidade, conservação de registos e supervisão humana obrigatória.

O documento cria ainda o Comité de Supervisão de Inteligência Artificial (CSIA), órgão multidisciplinar responsável por supervisionar a utilização destas tecnologias, validar auditorias e avaliar riscos legais, éticos e técnicos.

Outra das exigências passa pela chamada “soberania digital”. A política estabelece que é “proibida a transferência, o acesso remoto ou o tratamento de dados processuais” por entidades localizadas fora da União Europeia.

Além disso, qualquer incidente grave relacionado com IA — incluindo violações de dados, enviesamento algorítmico ou falhas de supervisão humana — pode levar à “suspensão imediata da utilização do sistema institucional de IA”.

No documento, o Ministério Público assume que a adoção destas tecnologias terá de ser acompanhada por uma cultura de “utilização crítica e responsável da IA” , defendendo formação específica para magistrados em áreas como proteção de dados, riscos de enviesamento algorítmico e limites éticos da inteligência artificial.

Principais diretrizes
- IA não pode substituir magistrados nem produzir decisões vinculativas: a supervisão humana é obrigatória.
- Proibição do uso de IA para prever condenações, reincidência dos arguidos ou sugerir medidas de coação automatizadas.
- É vedada a introdução de dados processuais reais em ferramentas de IA não institucionais.
- Sistemas institucionais de IA terão auditorias obrigatórias antes da implementação e durante todo o ciclo de vida.
- Ferramentas de IA classificadas como “alto risco” estarão sujeitas a requisitos reforçados de supervisão, documentação e controlo.
- Todos os sistemas devem manter registos automáticos (“logs”) de inputs, outputs, utilizadores e operações realizadas.
- É proibido o tratamento de dados processuais fora da União Europeia.
- A deteção de enviesamento algorítmico relevante pode determinar a suspensão imediata do sistema.
- O Ministério Público passa a exigir avaliações de impacto sobre direitos fundamentais e proteção de dados antes da adoção de qualquer sistema de IA.
- Magistrados terão formação obrigatória em ética, proteção de dados, segurança da informação e limites legais da inteligência artificial.

Fonte: Eco
Foto: Eco