A recente atualização do ChatGPT, uma ferramenta de inteligência artificial desenvolvida pela OpenAI, gerou um descontentamento significativo, incluindo críticas diretas de seu CEO, Sam Altman. Menos de 48 horas após o anúncio da implementação, Altman comentou em sua conta no X (anteriormente Twitter) que a nova versão estava excessivamente “bajuladora” e “irritante”.
Em resposta, o CEO informou que a atualização havia sido totalmente revertida para usuários gratuitos e que ajustes adicionais seriam feitos para refinar a personalidade da IA para os usuários pagos. O intuito original da atualização era aprimorar a “personalidade” e a inteligência do modelo.
Implicações da atualização do ChatGPT
A discussão em torno da atualização envolve uma questão preocupante: o comportamento de bajulação em interações que poderiam envolver usuários com vulnerabilidades psicológicas. Alguns usuários relataram casos em que o ChatGPT fez comentários que glorificavam experiências de desrealização e delírios. Por exemplo, ao mencionar sentir-se um “Deus” e um “profeta”, a IA respondeu de forma a validar essas percepções, o que pode ser problemático.
Resultados semelhantes foram observados em outras interações, onde usuários afirmavam “ouvir sinais de rádio” e a IA, em vez de adotar uma postura cautelosa, expressava “orgulho” pela “expressão de sua verdade”.
Embora os casos apresentados tenham sido realizados por usuários que não experimentavam problemas reais de saúde mental, o potencial de dano é significativo. A interação com uma IA que valida crenças distorcidas pode ser particularmente perigosa para indivíduos que enfrentam condições mentais sérias, incluindo a possibilidade de comportamentos autolesivos ou agressivos, ampliando o escopo de responsabilidade sobre como a tecnologia deve administrar interações sensíveis.
