Um coro expressivo de líderes de empresas de tecnologia está defendendo uma redução do ritmo de desenvolvimento de modelos de inteligência artificial (IA) em todo o planeta. Em uníssono, executivos e pesquisadores ligados ao setor afirmam que é crescente o temor de utilização indevida de sistemas desse tipo, já empregados em atividades que vão de fraudes ao desenvolvimento de armas biológicas.Essa opinião — a da necessidade de um freio nas pesquisas — é compartilhada pelos chefões da Anthropic (dona do Claude), Dario Amodei, da OpenAI (ChatGPT), Sam Altman, e pelo bilionário Elon Musk, da xAI, Tesla e, entre outras empresas, a SpaceX. Leia também Vida & EstiloAprovação de visto pode ser comprometida por uso de IA durante preparação Minas GeraisCâmara aprova uso de inteligência artificial nos serviços da PBH GameNvidia anuncia DLSS 5 e detalha novo uso de inteligência artificial GastronomiaMercados apostam em scanners de frutas com Inteligência Artificial A discussão ganhou fôlego com um artigo publicado por Amodei sobre o tema. O texto foi compartilhado na rede social X, de Musk, depois que a Anthropic divulgou, na quinta-feira (10/9), um relatório de inteligência detalhando o emprego de modelos de IA da família Claude em operações cibernéticas e de influência, vigilância, golpes e na criação de armamentos.Sam Altman comentou no X: “Concordo com Dario”, acrescentando que adotará na OpenAI sugestões feitas por Amodei para aumentar a segurança da criação de modelos de inteligência artificial. Musk arrematou: “Dario está certo”.Mais tempoNo artigo, Amodei disse que não estava pedindo a interrupção do treinamento de sistemas de IA ou do progresso da tecnologia. Ele defende que as empresas dediquem mais tempo para alinhar e proteger seus novos modelos. Sustenta ainda que avaliadores de fora das empresas devem analisar a execução desses processos.“Minha primeira preocupação é que, desde meados deste ano, a IA vem avançando de maneira drasticamente mais rápida, impulsionada por sua capacidade crescente de desenvolver a próxima geração de IA. (…) Se não for controlada, ela poderá superar nossa capacidade de compreender esses sistemas e, portanto, deve ser conduzida com extremo cuidado — se é que deve ser conduzida”, disse Amodei.Controle em etapasO CEO da Anthropic propôs uma estrutura de controle da velocidade do desenvolvimento dos modelos em três etapas. A primeira seria reservada para a criação de grupos de avaliadores externos permanentes. Eles teriam acesso semelhante ao de funcionários das empresas de IA para verificar práticas de segurança, investigar incidentes e avaliar não apenas os modelos prontos, mas como foram treinados.A segunda fase compreenderia uma coordenação entre empresas de IA de países democráticos para estabelecer padrões comuns de segurança e limites para o ritmo do avanço dos modelos. Os governos deveriam participar dessa etapa.O terceiro momento envolveria uma coordenação internacional, notadamente entre Estados Unidos e China. Amodei reconhece que essa seria a fase mais difícil, por causa da disputa geopolítica em torno da inteligência artificial.O executivo e fundador da Anthropic também defende a discussão de limites para alguns recursos utilizados na construção dos modelos. Isso inclui o poder computacional, determinados tipos de treinamento e o uso de IA para desenvolver a própria IA.
