A criadora da ferramenta de inteligência artificial Claude divulgou nesta quinta-feira (8), a partir de San Francisco, uma nova diretriz que proíbe clientes de adotarem posturas hostis ou agressivas com o sistema. A medida ocorre no momento em que especialistas divergem sobre os limites éticos no tratamento dispensado a essas tecnologias.

Novas regras de conduta

As diretrizes atualizadas da companhia agora contam com “a proibição de comportamento contínuo e desnecessariamente abusivo ou cruel contra nossos modelos”. Para conter excessos, a empresa destacou que “a capacidade de Claude de encerrar essas interações continuará sendo o principal mecanismo de aplicação (da política)”.

Debate sobre senciência

Embora o texto revisado evite citar diretamente a proteção aos sistemas, o tema do bem-estar digital já foi debatido internamente por lideranças. Em fevereiro, o CEO Dario Amodei comentou em entrevista ao jornal The New York Times que mantinha dúvidas sobre a possibilidade de os algoritmos possuírem consciência.

Visão de especialistas

Para Jackson Stakeman, gerente-geral da Sparq, focar na senciência das máquinas pode desviar o foco do verdadeiro problema. Segundo ele, “A consciência é uma armadilha. Não podemos prová-la nos outros. Debatê-la no caso da IA nos fará andar em círculos”.

Stakeman defende uma abordagem mais prática sobre o comportamento humano diante das telas. Para o executivo, “O espelho é uma metáfora melhor. Esses sistemas refletem em larga escala aquilo que colocamos neles. Isso, por si só, já é motivo suficiente para a mudança de política”.