PANDORA – Direito Penal e Inteligência Artificial

Projetos de investigação

Grupo de Investigação: Fundamentos da Normatividade Penal e Relações Interdisciplinares com as outras Ciências e a Filosofia

Investigador Responsável: António Brito Neves, Ricardo Tavares da Silva e Jorge Silva Santos

Equipa de investigadores: Armando Dias Ramos, Catarina Abegão Alves, Christoph Bublitz, David Ramalho, Mafalda Moura Melim, Margarida Neiva Antunes, Myriam Herrera Moreno, Nuno Igreja Matos, Rita do Rosário, Vanessa Pelerigo, Maria Fernanda Palma, Helena Morão

Estado do Projeto: em curso (2024-2028)

Descrição

   O projecto de investigação ‘Direito Penal e Inteligência Artificial’ modela-se pela abordagem transdisciplinar que caracteriza as actividades do CIDPCC. Ela não se limita, neste caso, à procura de um diálogo de ponte única entre a Inteligência Artificial (IA) e o Direito Penal. Convoca igualmente outras ciências e áreas do saber necessariamente implicadas, por um lado, nas questões que a IA obriga o Direito Penal a responder, e que prometem contributos, por outro, susceptíveis de promover e reformular essas e outras questões.

  No que respeita ao funcionamento mental humano, a IA renova a pertinência dos avanços da Neurociência, pois a redução naturalista a que esta parece dar apoio pode ser tomada em paralelo com a tradução do processo decisório em algoritmos replicáveis por sistemas informáticos. Com efeito, se os fenómenos da consciência puderem ser resumidos a mecanismos cerebrais, por um lado, e se algo equivalente a esses mecanismos for reproduzível em âmbitos computacionais, por outro, a IA, tal como a Neurociência, obrigará a questionar os critérios tradicionais da responsabilidade penal e a assunção de liberdade decisória dos agentes que lhe subjaz. A IA, com as suas potencialidades, promete ainda disponibilizar vias de concretizar estes avanços em ameaças ao papel da culpa penal, como acontecerá, por exemplo, se as suas técnicas forem usadas para a definição automatizada de perfis com o fim de prever o comportamento de alguém e limitar a liberdade do suspeito antes do início da preparação de um crime. Se, noutra linha, a IA permitir a reprodução do processo decisório humano, de imediato surgirá a perspectiva de substituir o juiz-pessoa pelo juiz-máquina. Se cenários desta índole suscitam questões relacionadas com a definição do (que ainda é, e do que já não é) comportamento humano, para cujas respostas a Neurociência e a Filosofia devem ser convocadas, eles confrontam-nos igualmente com a dúvida sobre os riscos e benefícios implicados para os critérios do Direito Penal.

  A linha exposta não lança somente a interrogação sobre os limites da responsabilidade da pessoa, mas também da própria máquina. Podendo o algoritmo ser programado de modo que a decisão sobre o que fazer no caso concreto dispense a intervenção humana, e confirmando-se que tal operação reproduz de modo bastante os processos decisórios humanos, então cabe indagar se o Direito Penal, ou algum tipo de reacção sancionatória munida de critérios próximos, deve estender o seu âmbito de aplicação aos próprios sistemas de IA.

  A decisão tomada pela máquina com dispensa do operador humano na situação concreta encontra porventura ilustração mais evidente em situações de conflito de interesses com acção de aparelhos programados, de que podem ser exemplo os veículos autónomos. A definição dos critérios de decisão e a mobilização das linhas de responsabilização dos programadores pelo Direito Penal só poderá ser bem sucedida mediante a convocação dos ensinamentos da Filosofia e da Ética, repensando dilemas clássicos à luz de cenários novos.

  Os serviços proporcionados pela IA não têm de implicar a substituição ou remoção dos operadores humanos, podendo destinar-se a cumprir papel auxiliar no processo penal. É importante, no entanto, perceber até que ponto esses serviços modelam a convicção de investigadores e decisores, tornando-se, simultaneamente, pretextos ou bases de fundamentação fácil para a adopção de medidas restritivas de direitos, incluindo condenações. O efeito de caixa negra, pelo qual o processo decisório que opera no funcionamento do algoritmo se torna inacessível, é talvez a hipótese mais evidente do risco de a IA acabar servindo para tornar mais impenetráveis – e, portanto, resistentes à compreensão e ao escrutínio – as razões para as intervenções do Estado nas esferas dos cidadãos.

  Estes perigos não têm de se limitar à tomada de decisão sobre medidas investigatórias, podendo estender-se igualmente à própria análise substantiva da responsabilidade penal. A multiplicação e crescente complexidade dos algoritmos impele-nos a questionar se eles poderão vir a ser utilizados na verificação de elementos da teoria do crime como a imputação objectiva ou o dolo.

Finalidades

  O projecto ‘Direito Penal e Inteligência Artificial’ visa prosseguir as linhas de investigação expostas acima convocando diversas disciplinas para encarar os desafios erguidos pela IA aos edifícios clássicos do Direito Penal e do Direito Processual Penal.

  A Neurociência, a Filosofia da Mente ou a Ética não são tomadas como meras fornecedoras de contributos a ser tomados em consideração, antes intervindo ao ponto de o Direito, guiado por uma abertura crítica, ser forçado a repensar e mesmo a desconstruir as suas categorias tradicionais. As ciências não jurídicas cumprem assim um papel na própria definição das questões e critérios assumidos na teoria sobre a responsabilidade penal e nas opções em momentos essenciais do processo criminal.

  As respostas que se obtenham, ou os caminhos que se apontem, também se destinam, em sentido inverso, a contribuir para as áreas convocadas, tanto pela imposição de limites e critérios reguladores – pois também esse é o papel do Direito – como pela definição de perspectivas e linhas de interrogação a serem aprofundadas por aquelas ciências – pois também o Direito pede respostas e orientação.

Atividades

. Seminário de Investigação bimestral (com os investigadores)

. Conferência coletiva final (com os investigadores e especialistas convidados)

. Publicação de obra coletiva com divulgação dos resultados

Articulação com o Ensino Pós-Graduado

Integração no Projeto, na qualidade de investigadores juniores, de estudantes de Mestrado e de Doutoramento cujo tema de dissertação se enquadre da descrição e nas finalidades do Projeto de Investigação, assim como de estudantes do Curso de Pós-Gradução ‘Direito Penal e IA’ cuja contribuição se revele uma mais-valia, nomeadamente, em função dos relatórios finais apresentados.