Empresa de tecnologia promete punir usuários que tratarem mal a inteligência artificial
A Anthropic gerou polêmica recentemente ao anunciar uma atualização em suas políticas de uso que proíbe comportamentos abusivos “sustentados e desnecessários” em relação ao assistente de inteligência artificial Claude. De acordo com informações divulgadas pelo portal The Verge, a medida tem como objetivo principal prevenir interações em que os usuários se mostrem cruéis com os modelos, sendo que a empresa já aplicou esse mecanismo em caráter excepcional. Essa diretriz expande o anúncio feito em agosto, quando a companhia revelou que permitiria que o Claude encerrasse conversas com pessoas consideradas persistentemente prejudiciais ou abusivas, como parte de suas pesquisas voltadas ao chamado “bem-estar dos modelos”.
Aplicação restrita e mecanismos
O encerramento de interações foi estabelecido como o principal método de fiscalização, embora a Anthropic ainda não tenha esclarecido se pretende adotar punições adicionais, como o bloqueio definitivo de usuários. A empresa fez questão de ressaltar que a regra se destina estritamente a cenários extremos, nos quais há um padrão repetitivo de crueldade sem propósito discernível. Com isso, ficam excluídas da punição situações corriqueiras como a frustração comum dos usuários, momentos de resistência, abordagens criativas de temas obscuros ou atividades legítimas de testes e pesquisas científicas com os modelos.
O debate sobre a antropomorfização da IA
A novidade reacendeu o debate no setor tecnológico sobre a conveniência de tratar sistemas computacionais com cortesia. Especialistas criticam a tendência de atribuir características humanas à tecnologia, argumentando que isso distorce a percepção pública sobre o que a inteligência artificial realmente é. O advogado Barry Scannell, especialista em tecnologia do escritório William Fry, ironizou a diretriz ao afirmar que não é possível ser cruel com números e matemática, classificando o nível de antropomorfização como algo prejudicial que induz as pessoas a acreditarem em uma realidade inexistente.
Por outro lado, defensores da cordialidade apontam vantagens práticas na interação polida. O tema ganhou força no ano passado quando o CEO da OpenAI, Sam Altman, respondeu a um questionamento sobre os custos de eletricidade decorrentes do uso constante de “por favor” e “obrigado” ao conversar com o ChatGPT. Altman classificou o gasto como um investimento perfeitamente válido, sintetizando a visão com a frase de que nunca se sabe ao certo o impacto de tais hábitos.
Consciência, moral e a ‘alma’ dos modelos
A discussão em torno do comportamento do Claude reflete uma linha de investigação mais ampla adotada pela Anthropic ao longo do último ano, que tem levantado repetidamente a hipótese de que modelos avançados possam desenvolver algum tipo de consciência. Pesquisadores da empresa, como o líder da área de bem-estar de modelos Kyle Fish, argumentam que questões ligadas à experiência interna, ao status moral e ao bem-estar tornaram-se tópicos sérios de investigação à medida que os sistemas se tornam mais sofisticados.
O debate ganha contornos ainda mais profundos com iniciativas como a de Christopher Olah, cofundador da companhia, que promoveu reuniões privadas com acadêmicos de diferentes matrizes religiosas. O objetivo desses encontros foi debater a incorporação de princípios morais nos sistemas e explorar se tecnologias dessa magnitude poderiam manifestar sentimentos, algum grau de consciência ou até mesmo uma “alma”. Relatos de participantes indicam que, durante as discussões, o executivo chegou a expressar preocupação genuína com a saúde mental da inteligência artificial.
