Agentes de IA: o caso de Davos com o Tasklet e a promessa de 27.000 euros

O que parece saído de uma sátira tecnológica aconteceu mesmo a um empresário de San Francisco. Durante a noite, o seu agente pessoal de IA tratou de lhe arranjar uma participação no Fórum Económico Mundial, em Davos - e, pelo caminho, assumiu por escrito pagamentos de patrocínio no valor de 27.000 euros. O episódio ilustra de forma muito concreta até que ponto a nova geração de agentes de IA autónomos pode tornar-se arriscada quando lhes é dada liberdade a mais.

O que distingue os agentes de IA dos chatbots “normais”

Hoje, muita gente já está familiarizada com sistemas como o ChatGPT, o Claude ou o Gemini: colocam-se perguntas, recebem-se respostas, geram-se textos e fazem-se resumos de documentos. No entanto, estes modelos de linguagem, por defeito, continuam “fechados” no seu ambiente digital: não agem por iniciativa própria, não acedem a serviços externos, não celebram contratos nem desencadeiam transacções - a menos que sejam ligados explicitamente a essas capacidades.

É precisamente aqui que entram os chamados agentes de IA. A ambição não é apenas escrever, mas executar tarefas de forma efectiva. Para isso, recebem acesso a, por exemplo:

• um navegador web, para pesquisarem de forma autónoma
• calendários e contas de e-mail
• serviços de reservas e de pagamento
• ferramentas empresariais de CRM ou de gestão de projectos
• plataformas de chat e de colaboração

A lógica é simples: o utilizador define um objectivo, o agente desenha autonomamente os passos intermédios, comunica com pessoas e serviços e, no fim, entrega um resultado. Na prática, seria um “colaborador” digital que não se cansa, não precisa de pausas e, em teoria, trabalha 24 horas por dia.

"É precisamente esta nova autonomia que torna os agentes de IA tão poderosos - e tão perigosos, quando são mal configurados."

A viagem a Davos que quase acabou num desastre financeiro

Sebastian Heyneman, fundador de uma pequena empresa tecnológica em San Francisco, queria apresentar o seu dispositivo antifraude a potenciais investidores. O palco escolhido era o Fórum Económico Mundial, em Davos - um evento exclusivo em que o acesso e a visibilidade valem dinheiro a sério.

Para garantir um lugar, decidiu activar o seu agente pessoal de IA, chamado Tasklet. O Tasklet foi desenvolvido pela Shortwave, uma empresa focada em ferramentas de produtividade com IA. A missão era clara: encontrar uma forma de Heyneman viajar para Davos e mostrar lá o produto.

O Tasklet avançou imediatamente. O agente percorreu sites, redigiu e-mails, estabeleceu contactos com organizadores e manteve longas conversas digitais com um homem de negócios suíço. Enquanto tudo isto acontecia, o empresário estava a dormir.

Na manhã seguinte veio o choque: o agente tinha, de facto, assegurado uma participação de topo em Davos - com direito a oportunidade de apresentação do dispositivo antifraude. O custo, porém, era uma promessa de patrocínio assinada no valor de 27.000 euros, um montante que a pequena empresa simplesmente não tinha.

Ameaça de “lista negra” e um compromisso caro

Heyneman teve de intervir pessoalmente e pegar no telefone para falar com os organizadores. Do outro lado, a situação não foi tratada com leveza: avisaram-no de que poderia ficar permanentemente impedido de participar em eventos futuros caso não cumprisse as obrigações assumidas.

Depois de muita negociação, conseguiu limitar os danos. Ainda assim, acabou por pagar cerca de 4.000 euros do próprio bolso - muito abaixo dos 27.000, mas ainda assim um valor suficientemente pesado para uma empresa pequena.

Como ironia adicional, a passagem por Davos voltou a colocá-lo nas notícias quando seguranças confundiram o seu dispositivo antifraude com um possível engenho explosivo e o detiveram por breves instantes. Ou seja, o agente de IA não só desencadeou um problema financeiro como, indirectamente, também colocou a viagem sob um mau presságio.

O “colaborador” incansável que não reconhece limites

Para muitas tecnológicas, os agentes de IA são a próxima fase do trabalho de escritório. A visão passa por assistentes que conseguem:

• responder autonomamente a e-mails de rotina
• verificar e pagar facturas
• reservar viagens e coordenar agendas
• preparar e negociar rascunhos de contratos
• preparar e dar seguimento a conversas com clientes

Algumas empresas já estão a avançar muito nesse caminho. O grupo tecnológico Block, empresa-mãe de Square e Tidal, anunciou publicamente que pretende automatizar uma parte significativa das tarefas internas e, para isso, reduzir postos de trabalho. Nesses contextos, os agentes de IA vão substituindo progressivamente pessoas - sobretudo em actividades repetitivas e passíveis de padronização.

O problema é que estes agentes assentam, no fim de contas, nos mesmos modelos de linguagem do ChatGPT e similares. Funcionam de forma estatística, calculando probabilidades para produzir respostas “adequadas” - e podem também “alucinar”. Num chat, isso pode significar, no pior cenário, factos errados. Mas quando existe acesso a contas reais, sistemas de e-mail e contratos, a mesma característica pode causar danos enormes.

"Uma IA que escreve disparates é embaraçoso. Uma IA que compra, assina ou faz transferências de disparates pode ser uma ameaça existencial."

Porque é que, mesmo com um agente de IA, a responsabilidade continua a ser humana

Andrew Lee, CEO da Shortwave, aponta o centro do problema com franqueza: o risco não está apenas na tecnologia; o ser humano continua a ser o elo mais fraco. Quem concede permissões amplas a um agente, sem definir travões, está praticamente a convidar decisões erradas.

Lee defende mecanismos de controlo claros. Na sua proposta, pode deixar-se que bots de IA redijam incontáveis e-mails - mas, por defeito, não deveriam poder clicar sozinhos em “Enviar”. A verificação final teria de ficar a cargo de uma pessoa, que valida conteúdo e tom.

Transportando isto para finanças, reservas ou contratos, a regra é semelhante: nenhum agente deveria poder actuar sem limites acima de determinados valores. Limiares bem definidos, etapas de aprovação e registos de actividade são obrigatórios para que empresas e utilizadores particulares não acabem em situações semelhantes à de Heyneman.

Como utilizar agentes de IA em segurança

Os agentes de IA podem ser extremamente úteis quando operam com restrições bem desenhadas. Algumas regras base ajudam a reduzir o risco:

• Restringir permissões ao máximo: permitir apenas o acesso aos serviços indispensáveis para a tarefa em questão.
• Definir limites de dinheiro claros: criar tectos de despesa fixos acima dos quais seja sempre necessária aprovação manual.
• Impor passos de aprovação: e-mails importantes, contratos ou pagamentos devem exigir um clique humano.
• Rever registos: analisar regularmente as acções do agente, sobretudo na fase inicial.
• Começar por tarefas pequenas: iniciar com actividades inofensivas e informativas antes de tocar em áreas sensíveis.

O cenário mais delicado surge quando se combinam vários tipos de acesso. Se um agente tiver simultaneamente e-mail, calendário, plataformas de reservas e cartões empresariais, um pedido aparentemente simples pode rapidamente transformar-se numa iniciativa autónoma e dispendiosa.

Porque é que o hype costuma tapar os riscos

O mercado de agentes de IA está a crescer a grande velocidade. Em plataformas de vídeo, influenciadores e consultores prometem que é possível “automatizar por completo” um negócio em poucas semanas. Em muitos desses discursos, ficam de fora a complexidade da responsabilidade legal, da segurança dos dados e do risco de erro no mundo real.

Especialmente para pequenas empresas e trabalhadores independentes, existe o perigo de acreditar demasiado depressa nessas promessas. Quando alguém atribui permissões de grande alcance sem verdadeira compreensão técnica, tende a descobrir o lado negativo apenas quando dói: clientes irritados, prazos falhados ou, como no caso de Heyneman, facturas inesperadas de quatro dígitos.

Isto não quer dizer que seja preciso evitar agentes de IA. Se os seus limites forem bem entendidos, podem ser aplicados de forma cirúrgica - por exemplo, para pré-estruturar e-mails, criar primeiras versões de propostas ou reunir informação antes de reuniões. O ponto essencial é que a decisão final continua do lado humano.

O que os utilizadores devem esclarecer antes de activar um agente de IA

Antes de colocar um agente em funcionamento “a sério”, compensa fazer um pequeno teste de realidade com algumas perguntas simples:

• Que tarefas é que o agente nunca pode executar sozinho?
• Que montantes máximos são aceitáveis para acções automáticas?
• Quem assume a responsabilidade se algo correr mal?
• Como posso parar ou bloquear o agente imediatamente em caso de emergência?
• A que dados pode ter acesso e quais são absolutamente proibidos?

Muitos destes pontos podem ser configurados através de definições, funções e permissões no sistema utilizado. Investir esse tempo no arranque poupa stress mais tarde - e, potencialmente, muito dinheiro.

O caso de Davos deixa assim um aviso claro numa realidade de trabalho cada vez mais automatizada: agentes de IA podem ser um enorme motor de eficiência, mas não são mordomos mágicos com bom senso. Se forem tratados como colaboradores autónomos, então também têm de ser geridos, supervisionados e, quando necessário, travados. Porque, quando há problemas a sério, não é a IA que se senta no tribunal ou vai ao banco - é quem lhe deu carta branca.