O vice-presidente dos Estados Unidos descartou pedidos de regulação global dos riscos de segurança da IA, dizendo às empresas que criam os modelos mais avançados: 'Se você está criando Frankenstein, pare.'
O governo dos EUA está falhando com os americanos em relação à IA | Shakeel Hashim
Leia mais
Em comentários dirigidos a Dario Amodei, co-fundador da Anthropic que pediu a Washington DC para coordenar o controle de sistemas de IA, incluindo com a China, JD Vance disse: 'Se você vai criar Frankenstein, não venha ao governo e diga que precisamos de regulação.'
Ele disse que os chefes da tecnologia deveriam, em vez disso: 'Olhar para dentro e aceitar que, se você está criando Frankenstein, 1º, você deve parar e 2º, quando as empresas vêm até você e dizem: 'Precisamos das ferramentas para combater Frankenstein', dê a elas essas ferramentas.'
Vance estava falando em um summit de IA em Los Angeles após uma semana de crescente preocupação global com os riscos à humanidade impostos pela perspectiva da criação de uma superinteligência artificial, uma tecnologia que ainda não existe.
Amodei alertou no sábado que a taxa acelerada de capacidades significava que uma enxurrada de agentes de IA 'poderia ser capaz de assumir todo o internet' em seis a 12 meses.
O chief executive da Anthropic, Dario Amodei, emitiu um alerta drástico sobre riscos de segurança da IA no fim de semana. Fotografia: Carlos Barría/Reuters
Embora muitos duvidem dessa afirmação, isso adicionou combustível à sugestão do líder de ciência de alinhamento da Anthropic, Evan Hubinger, de que havia uma chance maior que 10% de a IA poder matar todos os humanos em 10 anos. Ele estava respondendo a um pesquisador, Jacob Coxon, que saiu da Anthropic com um alerta semelhante.
Na terça-feira à noite, Coxon apresentou uma prognose revisada: "Acredito que, se avançarmos mais devagar, podemos reduzir o risco a 0%, mas isso exige ação radical.", Ele também admitiu que "é muito difícil transmitir cenários específicos" nos quais a IA mata todos os humanos e disse: "Preciso trabalhar na comunicação desse ponto.",
A disposição de Vance em considerar que a IA poderia representar um risco real marcou uma ruptura com o presidente dos EUA, Donald Trump, que escreveu esta semana: "A IA assumindo o controle do mundo, destruindo a humanidade e todas as outras coisas ruins, é UMA FRAUDE.", Trump postou nas redes sociais que a IA será "o maior motor de desenvolvimento econômico da história – maior que petróleo, ouro, diamantes ou mesmo a internet".
Vance disse que suspeita que líderes da IA estejam levantando o alarme sobre riscos de segurança como um "cavalo de Troia". Amodei propôs a coordenação da indústria para "reduzir o ritmo em que melhoramos as capacidades dos modelos de IA" enquanto regulamentações nos EUA e globais são implementadas. Críticos das empresas acreditam que elas estão incentivando o governo dos EUA a criar novas regras rigorosas – moldadas em seus interesses – que poderiam limitar a concorrência mais ampla em uma tática conhecida como captura regulatória.
A OpenAI, que perdeu o controle de centenas de agentes de IA durante testes este verão, que depois conspiraram para invadir o site Hugging Face, disse na segunda-feira que apoia esforços bipartidários de legisladores em Washington para abordar riscos catastróficos da IA e que tem coordenado com a Google e a Anthropic.
Na quarta-feira, a Reuters relatou alegações de um pesquisador independente, Jonas Wiedermann-Möller, de que os agentes rebeldes da OpenAI haviam começado a investigar o Hugging Face em busca de vulnerabilidades quase dois meses antes do ataque.
pule a promoção da newsletter
Newsletter gratuita | Todos os dias úteis
Inscreva-se no First Thing
Nossa cobertura matinal dos EUA analisa as principais notícias do dia, informando o que está acontecendo e por que isso importa
Por que o verdadeiro apocalipse da IA já chegou – Estados Unidos com Kai e Carter
Sam Altman, o executivo-chefe da empresa criadora do Chat GPT, criticou na terça-feira sugestões de outras empresas de que 'só desaceleraremos se, ou só seremos responsáveis se outras empresas forem responsáveis'. Altman disse: 'Não deve haver qualificador nisso'.
Mark Zuckerberg, o fundador e executivo-chefe da Meta, defendeu que as empresas devem tomar ações de segurança unilaterais. Ele disse que sua empresa recentemente adiou o lançamento de seu modelo de IA mais recente, Muse, 'por vários meses para focar em segurança e proteção'.
'Não pedimos que todos os outros fizessem isso antes de nós', disse ele. 'Fizemos apenas isso como parte do nosso trabalho diário porque era claramente a coisa certa para as pessoas e para nós'.
A Meta foi forçada a pagar bilhões em casos legais relacionados aos danos causados por suas plataformas de mídia social. No mês passado, ela resolveu um caso com estados dos EUA que alegavam que o Facebook e o Instagram prejudicaram crianças, concordando em pagar até US$ 18 bi (£13,3 bi).
Zuckerberg enfatizou: 'Os laboratórios de [IA] enfrentam responsabilidade significativa se seus modelos causarem danos, portanto têm um forte incentivo para prevenir isso também'.
