A Anthropic impediu que usuários exibissem 'comportamento abusivo ou cruel desnecessário e sustentado' em direção a seus modelos, enquanto os líderes da empresa continuam a ponderar sobre a consciência das máquinas.
O The Verge foi o primeiro a relatar a mudança na política.
Um porta-voz da Anthropic, que está por trás do chatbot de IA Claude, não respondeu imediatamente a uma pergunta sobre o que poderia ser considerado 'abusivo ou cruel'.
Em uma política online para usuários, a empresa sediada em São Francisco observou que sua proibição não se aplicaria a frustrações comuns dos usuários, testes de modelos ou 'temas criativos sombrios'.
A política de uso da Anthropic anteriormente continha restrições sobre conduta abusiva.
Os grandes modelos de linguagem da empresa têm a capacidade de encerrar uma conversa se um usuário estiver sendo persistentemente prejudicial. Quando esse recurso foi lançado em agosto do ano passado, a empresa o enquadrou como uma salvaguarda para o bem-estar da IA.
'Continuamos altamente incertos sobre o potencial status moral do Claude e outros LLMs, agora ou no futuro.', No entanto, levamos a questão a sério e, juntamente com nosso programa de pesquisa, estamos trabalhando para identificar e implementar intervenções de baixo custo para mitigar riscos ao bem-estar dos modelos, caso tal bem-estar seja possível. Permitir que os modelos encerrem ou saiam de interações potencialmente desgastantes é uma dessas intervenções', segundo seu site.
A noção de sistemas de IA serem conscientes tem sido altamente polarizadora dentro e fora do mundo da tecnologia.
O CEO da Anthropic, Dario Amodei, disse que não pode descartar a possibilidade.
Enquanto isso, Sam Altman, CEO do rival OpenAI, parece ter se mostrado avesso à ideia.
"Estou muito desconfortável com as pessoas tentando atribuir força religiosa ou uma rendição do julgamento humano aos modelos de IA, e acho que é um problema real de segurança," escreveu ele em um post no X, dias após o New York Times relatar sobre as extensas conversas dos líderes da Anthropic com estudiosos religiosos.
