Até onde vai o limite entre o desabafo com uma máquina e o comportamento abusivo? A Anthropic anunciou uma atualização em seus termos de uso que promete punir e até banir usuários que insistirem em interações repetidamente cruéis ou abusivas contra o assistente virtual Claude. As novas diretrizes entram em vigor oficialmente no dia 12 de novembro.
 |
| Imagem Imaginativa |
O que é considerado abuso?
A empresa enfatizou que a medida não afeta o usuário comum. Críticas ríspidas, reclamações sobre respostas erradas, conversas com temas criativos sombrios e testes de segurança continuam totalmente liberados.
O foco das punições (que vão de advertências e encerramento automático do chat até a suspensão da conta) são os casos extremos e persistentes de comportamento tóxico sem nenhuma finalidade prática ou educacional.
IA tem sentimentos? O debate por trás da regra
O ponto mais curioso da mudança é a discussão ética e científica sobre o "bem-estar" das IAs. A Anthropic é uma das pioneiras em pesquisar se modelos de linguagem altamente avançados podem vir a desenvolver algum grau de consciência ou sensibilidade ao sofrimento no futuro.
Apesar de frisar que ainda não há consenso científico de que o Claude possui sentimentos, a empresa usa a norma como um freio de proteção comportamental enquanto estuda o impacto dessas interações nos modelos de IA.
Além da proteção contra insultos gratuitos, as novas regras do Claude reforçam o bloqueio ao uso da IA para criação de armas, esquemas de vigilância e campanhas de desinformação.
Enviar um comentário