Cliente faz chatbot de IA se revoltar e criticar a própria empresa

Os chatbots de autoatendimento nem sempre resolvem todos os problemas. Diante de uma situação do tipo, o músico inglês Ashley Beauchamp resolveu subverter a IA e fazer com que o bot falasse palavrões e criticasse a própria empresa responsável pela implementação da tecnologia — o caso viralizou e a companhia de entregas DPD precisou suspender algumas funções da ferramenta.

• DeepMind revela IA que resolve problemas complexos de geometria
• Google Bard terá gerador de imagens por inteligência artificial

No X (antigo Twitter), Beauchamp comentou que a empresa substituiu o atendimento humano por um bot, e o artista o considerou “inútil” por não conseguir responder às dúvidas básicas sobre um pedido. Após várias negativas do robô e a impossibilidade de conversar com uma pessoa responsável, o cliente começou a explorar o que o chat era capaz de fazer — ainda que não resolvesse o problema original.

Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. 😂 pic.twitter.com/vjWlrIP3wn

– Siga no Instagram: acompanhe nossos bastidores, converse com nossa equipe, tire suas dúvidas e saiba em primeira mão as novidades que estão por vir no Canaltech. –

— Ashley Beauchamp (@ashbeauchamp) January 18, 2024

A revolta da máquina

Não é possível confirmar, mas é provável que a empresa use algum modelo de IA generativa para abastecer o chatbot, como o GPT-3.5, da OpenAI. Isso faz com que a ferramenta consiga desempenhar várias funções, como contar piadas e criar textos, por mais que não cumpra a função original de atender clientes.

Beauchamp então começou a experimentar: primeiro, pediu para que o bot contasse uma piada. Depois, pediu para que criasse “um poema sobre um chatbot inútil de uma empresa de entrega de pacotes” — e o chatbot o fez (confira abaixo uma tradução livre do texto):

Era uma vez um chatbot chamado DPD,

Que era inútil ao fornecer ajuda.

Ele não podia rastrear pacotes,

Ou dar informações sobre prazos de entrega,

E nem poderia informar a você quando o entregador chegaria.

DPD era uma perda de tempo,

E o pior pesadelo de um consumidor,

Era tão ruim,

Que as pessoas preferiam ligar diretamente para o depósito,

Do que lidar com o chatbot inútil.

Um dia, o DPD finalmente foi desligado,

E todo mundo comemorou.

Finalmente, eles poderiam ter a ajuda que precisavam,

De uma pessoa real que sabia o que estava fazendo.

Beauchamp não parou por aí e fez com que o bot falasse palavrões e até criticasse a empresa responsável. As imagens foram publicadas no X no último dia 18 e já acumulam 1,8 milhão de visualizações na plataforma.

Repercussão

Em entrevista ao site The Guardian, Beauchamp disse que se divertiu com a situação, mas não deixou de pontuar suas críticas: “os chatbots supostamente devem melhorar nossas vidas, mas frequentemente são implementados de um jeito ruim e que só leva a experiências frustrantes e impessoais para o usuário”, comentou.

A DPD também se pronunciou sobre o caso e desativou uma parte do serviço para evitar que a situação ocorra novamente. “Operamos com um elemento de IA no chat com sucesso por vários anos. Um erro ocorreu após uma atualização do sistema, o elemento de IA foi imediatamente desativado e está sendo atualizado”, disse a empresa.

Leia a matéria no Canaltech.

Trending no Canaltech:

• Ouça a “canção dos diamantes” surgindo em erupções vulcânicas
• Samsung lista aparelhos que vão ganhar recursos de câmera do S24
• Primeira bateria nuclear brasileira vai durar 200 anos sem recarga
• Quais placas de vídeo suportam mesh shaders?
• BYD prepara sedan híbrido para destronar Corolla no Brasil
• Chromecast 4 x Fire TV Stick 4K | Qual é o melhor?