JFRS | Laboratório de Inovação

Roda de conversa debate os riscos e oportunidades do uso da Inteligência Artificial

28/05/2025 - 16h50
Atualizada em 28/05/2025 - 16h50
  • Compartilhar no Facebook
  • Compartilhar no Twitter
  • Compartilhar no Whatsapp
  • Assine o RSS do TRF4

 

O Laboratório de Inovação (iNOVATCHÊ) da Justiça Federal do RS promoveu ontem (27/5), uma roda de conversa sobre os impactos sociais, éticos e institucionais da Inteligência Artificial (IA). O evento “A Academia vai ao Laboratório: IA - Riscos e Oportunidades” foi realizado no Espaço Inovação, que fica no prédio sede da instituição, em Porto Alegre, e contou com a participação de especialistas em Direito e IA. Também houve transmissão online por meio da plataforma Zoom.

A dinâmica contou com a mediação do juiz José Luis Luvizetto Terra, da 4ª Vara Federal de Passo Fundo, e contou com a participação da  juíza Daniela Tocchetto Cavalheiro, coordenadora do iNOVATCHÊ. A temática foi dividida em quatro blocos, que abordaram os riscos ligados ao uso da IA; as oportunidades que ela oferece; a necessidade da supervisão humana na sua aplicação e perspectivas de futuro.

Edson Prestes, professor do Instituto de Informática da Universidade Federal do RS (UFRGS), iniciou sua fala, dentro da temática dos riscos, informando que todos os aspectos da vida podem ser afetados pela IA. Ele citou exemplos como manipulação das eleições, domínio militar, atendimentos de saúde e sistema de justiça. 

Thomas Bellini Freitas, doutorando em Direito na UFRGS, defendeu que a responsabilidade pelos atos não deve ser delegada às máquinas, devendo ser atribuída a um supervisor humano nos comandos direcionados à IA.

O professor de Direito, Juarez Freitas, elencou onze riscos, baseados na Resolução 615 do Conselho Nacional de Justiça, que estabelece diretrizes para o desenvolvimento, utilização e governança de soluções desenvolvidas com recursos de inteligência artificial no Poder Judiciário.  Dentre eles, ele ressaltou: a existência do viés de automação (dependência excessiva do auxílio dos sistemas na tomada de decisões); o fato de que todo sistema algorítmico pode “alucinar”, cometendo falhas; a existência de riscos que são inadmissíveis; questões ligadas à segurança cibernética, dentre outros.

Fechando os aspectos ligados aos riscos no uso da ferramenta, o professor em IA da UFRGS, Joel Carbonera, alegou que o risco é proporcional ao poder decisório que delegamos às máquinas, abordando as preocupações ligadas à autorreplicação dessa nova tecnologia.  

No campo das oportunidades, os especialistas trataram das possibilidades de desenvolvimento da IA generativa atual, através do uso de inferências mais complexas, e, no plano nacional, relataram que o Brasil possui boas oportunidades de avanço e desenvolvimento, principalmente no que tange a infraestruturas verdes, social e ambientalmente responsáveis. Além disso, foram destacadas possíveis aplicações dessas tecnologias, como ferramenta de assistência para a solução de grandes problemas e desenvolvimento de áreas importantes como educação.

A questão da necessidade da supervisão humana no uso da IA foi bastante defendida pelos debatedores, sendo considerada indelegável. Eles reforçaram a necessidade de proteção das pessoas, a fim de dignificá-las e fazer com que haja centralidade humana nos processos. A ferramenta deve ser usada como apoio e os aspectos intrínsecos humanos devem ser levados em conta na sua utilização, ou seja, as decisões tomadas pela IA devem sempre ser supervisionadas por um humano. Modelos consistentes e coerentes devem ser buscados a fim de criar um ambiente seguro para o futuro.

No fechamento do bate-papo, as perspectivas foram de que os novos modelos tecnológicos podem trazer muitos riscos, mas também oportunidades notáveis, gerando malefícios e benefícios, de acordo com a forma de uso e aplicação. A mensagem principal foi de que não se deve confiar cegamente nesta ferramenta, sempre supervisionando seus resultados e respostas, para que seja um instrumento de apoio e não substitutivo das ações humanas. 

Nucom/JFRS (secos@jfrs.jus.br)


Os quatro palestrantes estão sentados em cadeiras dispostas uma ao lado da outra. Eles vestem terno e gravata.
Joel Carbonera (E), Edson Prestes, Juarez Freitas e Thomas Bellini Freitas
Os quatro palestrantes estão sentados em cadeiras dispostas uma ao lado da outra. Eles vestem terno e gravata.Pessoas sentadas em cadeiras assistindo o eventoJuiz veste terno e está em pé falando ao microfone