Imagine entregar para uma IA o poder de tomar uma decisão que poderia mudar a vida de uma pessoa. Quem seria responsável pelos resultados?A inteligência artificial já faz parte do nosso cotidiano. É fato! Ela recomenda o que assistimos na Smart TV ou no YouTube, ajuda a escolher e selecionar candidatos numa eleição, analisa dados gerando informações úteis, identifica padrões, produz conteúdos; e começa a participar de decisões que podem ter consequências reais na vida das pessoas. Entretanto, à medida que a tecnologia ganha mais espaço, surge uma questão que vai muito além da capacidade dos algoritmos: quem define os limites para aquilo que a inteligência artificial pode fazer?Se uma decisão tomada com o auxílio de uma IA prejudicar alguém, quem deveria ser responsabilizado? E ainda, como garantir que sistemas automatizados não reproduzam preconceitos, utilizem dados de maneira inadequada ou tomem decisões sem que seja possível entender como chegaram a determinado resultado?Por outro lado, criar regras muito rígidas também pode trazer um problema: até que ponto a preocupação com os riscos pode acabar dificultando o desenvolvimento de uma tecnologia que ainda está em constante evolução? Empresas, pesquisadores e usuários precisam de segurança, mas também precisam de espaço para experimentar, desenvolver novas soluções e descobrir novas possibilidades e inovações.Seria exatamente nesse equilíbrio entre inovação e responsabilidade que está um dos grandes debates da era da inteligência artificial.Para discutir esse tema, ouvimos dois advogados com diferentes perspectivas. De um lado, a defesa de que a ética deve acompanhar e, em alguns casos, vir antes da tecnologia (Ana Gondim). De outro, a visão de que a regulamentação não pode se transformar em um obstáculo à inovação (Rodrigo Chemim).O primeiro entrevistado foi Rodrigo Régnier Chemim Guimarães. Ele é coordenador, professor e pesquisador do Mestrado Profissional em Direito da Universidade Positivo (UP), além de docente de Processo Penal na Graduação; com área de concentração em Direito, Tecnologia e Desenvolvimento. Líder do grupo de pesquisa “Sistema de Justiça e Processamento Criminal no Brasil”. É procurador de Justiça do Ministério Público do Estado do Paraná. Coordenador do Centro de Apoio Operacional das Promotorias Criminais, Coordenador do GAESP - Grupo de Atuação Especializada em Segurança Pública e da Coordenadoria de Recursos Criminais do Ministério Público do Estado do Paraná. Doutor em Direito de Estado pela Universidade Federal do Paraná (UFPR).De acordo com o Dr. Rodrigo: “A ética não deve funcionar como um freio à inovação, e sim como um parâmetro que orienta o desenvolvimento e o uso responsável da inteligência artificial. O problema começa quando a preocupação legítima com os riscos se converte em regulamentações fechadas, que limitam de antemão aplicações cuja potencialidade ainda não conhecemos por inteiro. Em uma área que evolui com tamanha rapidez, a lei corre o risco de nascer ultrapassada e de impedir soluções relevantes antes mesmo que possam ser pesquisadas e testadas. No Poder Judiciário brasileiro, a urgência tem contornos próprios: são mais de 80 milhões de processos em tramitação e cada magistrado recebe cerca de 2.100 casos novos por ano, contra 249 na média europeia. Nesse cenário, a inteligência artificial não é um luxo tecnológico, mas uma resposta necessária a um sistema sobrecarregado”.Isso não equivale a defender o uso irrestrito da tecnologia. Os algoritmos não são neutros: nascem de escolhas humanas, de bases de dados e de premissas teóricas que podem reproduzir preconceitos e erros já existentes. Por isso, os critérios de construção dos sistemas precisam ser conhecidos, auditáveis e transparentes, para que os vieses possam ser identificados e corrigidos, reforça o professor.O pesquisador Chemim descreve que: “reconhecer os riscos, porém, não justifica proibições antecipadas. A França chegou ao extremo de criminalizar o uso de dados sobre a atuação individual de magistrados para avaliar ou prever suas práticas decisórias. A resposta é excessiva: sob o argumento de proteger os julgadores, restringe a pesquisa sobre decisões públicas e dificulta o controle democrático da atividade jurisdicional. Quem exerce poder em nome do Estado deve prestar contas sobre a forma como o exerce”.O excesso de controle também produz distorções na pesquisa acadêmica. O uso indiscriminado de detectores de textos supostamente gerados por IA cria um ambiente de suspeita generalizada, no qual todo pesquisador passa a ser tratado como possível fraudador. Já houve ferramentas que atribuíram origem artificial a textos do século XIX. Uma coisa é identificar semelhanças textuais; outra é pretender determinar autoria a partir de estimativas probabilísticas. Transformar uma probabilidade calculada por software em presunção de fraude troca a apuração responsável por um juízo automatizado de culpabilidade e ainda empobrece a escrita acadêmica, pois os pesquisadores adaptam o estilo ao padrão que imaginam ser menos suspeito. “Eu mesmo diminuí o uso do travessão, recurso habitual na minha escrita muito antes da IA generativa, só porque passou a ser associado ao modo como essas ferramentas redigem”, destaca o advogado.Enfim, Aristóteles tinha razão: o melhor caminho está no equilíbrio. A Resolução 615/2025 do CNJ aponta essa direção ao substituir a proibição ampla por uma regulação graduada por níveis de risco, que veda apenas hipóteses de risco excessivo, submete as aplicações de alto risco a relatórios de impacto, auditorias e supervisão humana qualificada, e libera as tarefas instrumentais. É o modelo que permite inovar sem abdicar da reserva de humanidade na decisão judicial. “O que precisamos evitar é que a cautela vire imobilismo e deixe o Brasil atrasado em relação aos países que escolheram pesquisar, testar e aprimorar essas ferramentas”.A segunda entrevistada foi Ana Carolina Gondim de Albuquerque Oliveira. Ela é doutora em Direitos Humanos e Desenvolvimento pela Universidade Federal da Paraíba (PPGCJ/UFPB). Professora Permanente do Programa de Pós-Graduação em Direito do Centro Universitário de João Pessoa (PPGD-UNIPÊ) e da Graduação em Direito (UNIPÊ). Pesquisa nas áreas de Direito Antidiscriminatório e Desenvolvimento Sustentável e Gênero.De acordo com a professora, “ao longo da história, a humanidade enfrentou, e ainda enfrenta, desafios e ameaças de muitas formas. Alguns colocaram em risco a sua própria existência. Pandemias e crises sanitárias, conflitos globais, ameaças de armas nucleares, mudanças climáticas, perda de biodiversidade, dentre outros fenômenos. Contudo, o que mais nos chama atenção é que muitos desses riscos à segurança humana são induzidos pelo próprio ser humano, são antropogênicos. Nem sempre existe uma intenção deliberada de causar danos, mas determinadas atividades humanas podem gerar impactos negativos na sociedade ao catalisar processos potencialmente destrutivos”.Por um lado, a humanidade busca garantir e consolidar direitos, bem-estar, longevidade, segurança, elege a razão, a dignidade humana, a democracia, a liberdade, a justiça social, a sustentabilidade, a inclusão, dentre outros, como marcadores civilizacionais. Contudo, por outro lado, coloca-se em permanente risco e não aprende com os seus erros históricos. “Num jogo de luz e sombra entre o próximo e o outro”, destaca a Dra. Ana Carolina.Para a pesquisadora, “na atualidade, um dos mais significativos desafios humanos é a Inteligência Artificial no que concerne à sua utilização. De modo que nos deparamos com a seguinte indagação: até onde podemos deixar a IA tomar decisões que afetam a vida das pessoas? Em outras palavras: quais os limites para a utilização da IA de forma que evitemos ameaças e desastres tecnológicos?”“O desenvolvimento tecnológico necessita do desenvolvimento ético e da responsabilidade jurídica, para o estabelecimento de regras e limites, de modo que este instrumento (a IA) não se transforme em ameaça social planetária. Tomemos como exemplo o nominado ‘preconceito algorítmico’. Os algoritmos podem ser treinados a partir de dados ou informações que irão oportunizar discriminação, a exemplo do sexismo e do racismo”, reforça a professora.Outro exemplo é a disseminação de notícias falsas (fake news) nas redes sociais, fato recorrente que, inegavelmente, representa ameaça à privacidade, à reputação, à imagem e à integridade das pessoas. Fato que se intensifica com a existência de IAs capazes de criar gravações falsas de vídeo ou de áudio, que podem ser utilizadas para difamar ou até mesmo caluniar pessoas e, ao espalhar notícias falsas, afetar não apenas a reputação dos indivíduos, mas transtornar e influenciar processos eleitorais democráticos, afetando um país e uma sociedade inteira.Finalmente, a Dra. Ana Carolina acrescenta: “Isto posto, nos deparamos com o seguinte paradoxo: para um problema novo, temos uma resposta antiga! Os limites para a utilização da inteligência artificial ou o seu uso benéfico estão na ética, no senso de moralidade e no respeito à dignidade da pessoa humana, posto que a IA é um produto de inteligência humana. É uma ferramenta. Em regra, neutra. Mas seu uso depende de quem a manipula. Desse modo, pode-se afirmar que a diferença entre o remédio e o veneno é a dosagem administrada pelo ser humano!”.Prof. Dr. Juliano SchimiguelTem doutorado e mestrado em Ciência da Computação pelo Instituto de Computação da Unicamp. É coordenador do mestrado profissional em Ensino de Ciências e Matemática pela Universidade Cruzeiro do Sul (São Paulo, SP). Pesquisador permanente nos PPG ECM e EC. É docente na Unianchieta (Jundiaí/SP) e editor-chefe da Revista Ubiquidade.👉 Você pode me seguir no Instagram e no LinkedIn!✅Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da Record, no WhatsApp
