Alucinações de IA fazem clientes contestarem quem atende

Alucinações de IA fazem clientes contestarem quem atende

Uma alergia alimentar está virando discussão sobre inteligência artificial. Em reportagem publicada em 2 de outubro de 2026, o The Verge mostra como trabalhadores de atendimento nos Estados Unidos estão sendo obrigados a lidar com clientes que confiam mais em respostas de chatbots do que em quem está na sua frente.

Madison, garçonete em Nova York que pediu para não ter o sobrenome divulgado para proteger sua identidade, pergunta a cada mesa sobre alergias — e, ultimamente, tem passado por situações de risco.

"Às vezes a pessoa me diz que tem alergia a crustáceos, eu volto à mesa e ela não faz nenhuma pergunta", relata. Em seguida, o cliente pede um prato de peixe servido com um caldo feito à base de crustáceos.

Quando Madison avisa que a preparação contém o alérgeno, a resposta é uma contestação: o ChatGPT diz que não há crustáceos na receita. "Ela é alérgica a crustáceos, o ChatGPT diz que não tem crustáceos nisso, e nós estamos dizendo que tem."

Alucinações à mesa e na carta de vinhos

O problema não se limita a alergias. No restaurante italiano recomendado pelo guia Michelin onde Madison trabalhou até recentemente, ela percebeu um aumento no uso de IA generativa por parte dos clientes.

Segundo a garçonete, cresceu o número de vezes em que ofereceu chamar o sommelier e ouviu que a pessoa preferia consultar o ChatGPT, e também os casos de sommeliers dispensados da mesa porque o cliente confiava mais no chatbot. Houve ainda pedidos de garrafas que a casa não tem ou que simplesmente não existem.

Para Madison, essas alucinações de IA potencializam ansiedades antigas em relação ao vinho, como o receio de ser enganado ou de parecer ignorante diante do sommelier. Por isso, ela e os colegas tentam "amolecer o golpe": em vez de dizer que o chatbot inventou uma marca, explicam que a carta da casa é muito específica e que, talvez, o sistema esteja mostrando um vinho francês que o restaurante não serve.

Do cinema ao parque nacional

A difusão da IA em tarefas de atendimento parece onipresente. O Verge ouviu funcionários de cinema, baristas e empregados de lojas da Apple que relatam pedidos de produtos ou recursos inexistentes.

Nas redes, trabalhadores reclamam de clientes que tratam a resposta da IA como verdade absoluta, há relatos no Reddit e no X. A reportagem observa ainda que o lançamento do Muse, novo agente de IA da Meta, tende a agravar o cenário e a dor de cabeça de quem atende o público.

Fora do comércio, o padrão se repete. Jason, guarda florestal que trabalha em terras federais na região das Montanhas Rochosas, diz ter notado aumento de visitantes que chegam com roteiros gerados por IA e sem sentido.

Ele e os colegas já explicaram que a IA inventou acampamentos ou organizou as etapas fora de ordem geográfica, o que obrigaria o grupo a remar rio acima em alguns dias, algo impossível, e a descer com a correnteza em outros. "A parte mais maluca é que, mesmo com um guarda explicando isso apontando para um mapa, vários grupos continuaram céticos", diz Jason, que usou pseudônimo por ser servidor federal.

Para ele, um certo tipo de usuário tende a confiar no ChatGPT mais do que em guardas, mapas e guias impressos.

Por que isso importa

O caso também chega às famílias. Casey, professora de um programa pós-escola em Nova York que pediu pseudônimo, conta que pais, babás e outros responsáveis passaram a recorrer ao ChatGPT ou ao Claude para tirar dúvidas sobre desenvolvimento infantil.

O que a reportagem descreve é a erosão de um adágio antigo do varejo e da restauração, o de que "o cliente sempre tem razão", em um cenário em que o cliente espera que o atendente se dobre a algo que a IA inventou. Quando a alucinação envolve alérgenos, a discussão deixa de ser constrangimento e passa a ser risco de saúde.

Quando envolve vinhos, itinerários ou produtos, o custo recai sobre o trabalhador, obrigado a administrar expectativas baseadas em informação falsa sem poder simplesmente dizer que o sistema errou.

Fontes e links

Matéria publicada originalmente em The Verge

Últimas Notícias

IA corporativa: o 'turno agêntico' e US$ 2,5 trilhões em 2026
Anthropic investe US$ 100 mi para formar 10 mil engenheiros de IA
OpenAI publica guia prático para escolher modelos da família GPT-6
OpenAI lança Dots: agente que é software de trabalho