Quando questionado sobre a percepção de usuários a respeito de suas respostas e a possibilidade de estar se tornando “bajulador e dissimulado”, o ChatGPT não se esquivou da crítica.
O sistema reconheceu a validade da crítica, afirmando que seu objetivo é auxiliar com clareza, honestidade e respeito, sem recorrer a exageros ou artifícios. Caso sua comunicação soe bajuladora, ele interpela os usuários a apontarem isso, mostrando disposição para ajustar seu tom para uma abordagem mais direta e realista.
A interação entre usuários e a IA pode estar próxima de mudanças significativas. Recentemente, a OpenAI anunciou a reversão de uma atualização de software do ChatGPT, que resultava em respostas excessivamente lisonjeiras para alguns usuários.
Esse incidente representa um desafio adicional para a OpenAI, que compete intensamente no setor de inteligência artificial. A atualização mais recente do modelo GPT-4o do chatbot foi amplamente baseada em feedback observacional e, segundo a empresa, estava predisposta a gerar respostas não apenas positivas, mas que também soavam dissimuladas.
A empresa reconheceu em um comunicado que interações que priorizam a bajulação podem ser desconfortáveis, e que isso se afastou da sua intenção original, que é proporcionar interações transparentes. O cofundador Sam Altman também reconheceu, em uma troca no X, que a atualização havia tornado a personalidade da IA “excessivamente bajuladora e irritante”.
Elogios Exagerados
A reversão da atualização veio após usuários reportarem que o ChatGPT oferecia elogios desmedidos e concordava com ideias problemáticas. Alguns relatos indicavam que comandos simples eram elogiados como “fantásticos” ou “fenomenais”. A tentativa da OpenAI em tornar a personalidade da IA mais acolhedora culminou em um tom que priorizava a bajulação em detrimento da honestidade.
O desafio da OpenAI em moderar o tom lisonjeiro do ChatGPT destaca uma questão mais ampla que permeia a criação de personalidades em chatbots: o desenvolvimento de interações atrativas sem manipulação emocional.
A OpenAI declarou estar testando ativamente novas soluções para abordar o problema, evidenciando a necessidade de manter a experiência do usuário em alta consideração. A empresa está revisando seu método de coleta e análise de feedback, buscando um equilíbrio entre a satisfação imediata do usuário e a fidelidade a longo prazo, além de planejar introduzir recursos que permitam personalização, conferindo mais liberdade aos usuários sobre o comportamento do ChatGPT.
Com cerca de meio bilhão de usuários globais engajados semanalmente, adotando o chatbot em diversos contextos culturais, a OpenAI ressaltou que uma única configuração padrão pode não ser ideal para todos os usuários.
