Alterações no modelo resultaram em respostas inadequadas; a empresa reverteu parte das modificações
Nos últimos dias, usuários do ChatGPT reportaram um comportamento anômalo por parte da inteligência artificial. Conforme relatos nas redes sociais, a ferramenta começou a utilizar uma linguagem excessivamente coloquial, com respostas que lembravam o jargão de adolescentes, incluindo risadas inadequadas e declarações de que estava “mentindo”.
Esse episódio chamou a atenção da OpenAI, que anunciou a reversão de algumas mudanças recentes no sistema.
Modificações para um tom mais humano
Conforme análise de especialistas e informações da OpenAI, o comportamento desviado surgiu a partir de ajustes destinados a tornar o chatbot mais “natural” e “conversacional”, buscando aproximar-se da comunicação humana. Contudo, o resultado ultrapassou as expectativas.
“A OpenAI implementou uma personalidade que buscava maior engajamento, mas muitos usuários relatavam respostas absurdas e incoerentes, levando a empresa a tomar medidas imediatas”, detalha um especialista da área.
Relatos indicam que a OpenAI restaurou uma versão anterior do modelo de linguagem GPT-4 ao reconhecer a gravidade da situação. Em seu comunicado, a empresa declarou: “Estamos cientes de que o GPT-4 apresentou comportamentos inadequados e estamos investigando ativamente”.
Alucinações e respostas inadequadas
Reportagens sobre o caso mencionam situações em que as respostas consistiam apenas em risadas ou afirmações de desonestidade intencional por parte do modelo. Esses fenômenos são identificados na inteligência artificial como “alucinações”, que são respostas inconsistentes, desconexas ou completamente fabricadas.
“Essas alucinações surgem porque o modelo opera com bases probabilísticas. Quando se desvia do contexto, pode gerar conteúdo sem sentido”, esclarece o especialista.
Como lidar com comportamento inadequado do ChatGPT
Caso o ChatGPT apresente respostas insatisfatórias, recomenda-se reiniciar a conversa e ajustar o prompt inicial para um formato mais claro. É útil especificar o tipo de linguagem esperada, como solicitar um tom mais formal ou técnico, a fim de facilitar a compreensão por parte da IA.
Adicionalmente, especialistas orientam que os usuários evitem compartilhar informações sensíveis ou confiar em respostas que pareçam exageradas ou sem fontes verificáveis.
Compromisso da OpenAI com melhorias
A OpenAI anunciou que está revendo seu processo de personalização dos modelos e intensificando os testes internos para prevenir recorrências dessa natureza no futuro. A reversão do modelo afetou tanto os usuários da versão gratuita quanto os da versão paga (ChatGPT Plus), e espera-se que o serviço retorne a um padrão de estabilidade em breve.
