À medida que a inteligência artificial passa a participar de decisões cada vez mais relevantes dentro das empresas, surge um ponto de atenção que devemos discutir: como avaliar o quanto esses sistemas contribuem para a tomada de decisão ou apenas reforçam a posição dos usuários.
Esse questionamento parte de um fenômeno conhecido como AI Sycophancy, ou bajulação da inteligência artificial, conceito que descreve a tendência de modelos de linguagem de validar excessivamente as opiniões, decisões ou crenças do usuário, mesmo quando seria mais útil questioná-las.
Um estudo da Stanford University avaliou 11 modelos de linguagem e constatou que eles endossaram a posição dos usuários 49% mais vezes do que humanos em situações de aconselhamento. Nesse contexto, a bajulação pode se tornar um problema.
Não há risco quando, por exemplo, a IA deixa de exercer um papel de contraponto e passa a funcionar como uma ferramenta de validação. Em ambientes corporativos, isso pode funcionar bem quando uma liderança apresenta uma hipótese já verificada e utiliza a IA principalmente para encontrar argumentos que a sustentem, em vez de submetê-la a uma análise crítica.
O mesmo pode ocorrer em processos que envolvem decisões estratégicas. Ao receber uma determinada premissa, um sistema pode organizar informações, identificar dados favoráveis e construir uma argumentação consistente em torno daquela direção. O resultado pode parecer uma análise independente, quando, na prática, a ferramenta apenas tornou mais robusta uma conclusão que já havia sido definida.
O contraponto pode ocorrer quando diferentes profissionais passam a utilizar ferramentas de IA sobre os mesmos dados, documentos ou premissas. Se esses sistemas forem influenciados pela formulação inicial das perguntas e tenderem a confirmar as hipóteses apresentadas, diferentes análises podem chegar a conclusões semelhantes sem que tenha existido, de fato, uma avaliação independente.
Cria-se, assim, uma espécie de câmara de eco algorítmica: uma decisão parece ter sido amplamente validada por dados e inteligência artificial quando, na realidade, diferentes sistemas podem estar apenas reforçando a mesma ideia inicial.
Tradicionalmente, as empresas criaram mecanismos para apoiar nas tomadas de decisões, como conselhos, auditorias, comitês, análises independentes e processos de aprovação. Mas, com a chegada dos agentes de IA, adiciona-se uma nova camada a esse processo. E, nesse cenário, é preciso garantir que a inteligência artificial seja uma segunda opinião de verdade e não apenas uma confirmação automatizada.
Vale lembrar também que a bajulação pode emergir de acordo com a forma como os modelos são treinados e avaliados, visto que eles são ajustados para produzir respostas consideradas úteis e adequadas. Nesse processo, determinadas características podem ser recompensadas, como cordialidade, colaboração, alinhamento com a intenção do usuário e satisfação.
Mas, isso não significa que a solução seja criar sistemas que discordem de tudo. Uma IA que constantemente contraria o usuário também não seria útil. O desafio é desenvolver modelos capazes de distinguir colaboração de complacência.
Uma IA confiável não precisa necessariamente contrariar uma decisão, mas deve ser capaz de explicitar as condições, limitações e riscos envolvidos. Em uma análise empresarial, por exemplo, mais importante do que confirmar uma determinada conclusão é indicar quais premissas sustentam o resultado, quais informações ainda precisam ser validadas e quais cenários poderiam levar a uma decisão diferente.
Essa capacidade de oferecer contrapontos pode se tornar um dos critérios mais importantes para avaliar a qualidade de uma IA corporativa. Para os executivos, será fundamental entender se a IA está apenas tornando mais convincente algo que já estava no modus operandi ou se está, de fato, contribuindo para melhorar a decisão.
À medida que a IA assume um papel mais relevante nas organizações, essa capacidade de questionamento deverá ser tratada como parte da própria qualidade do sistema. Afinal, eficiência não significa apenas receber uma resposta rapidamente. Significa também ter acesso a uma análise capaz de ampliar a visão de quem decide.
Essa diferença é fundamental. Um bom copiloto não deve ser aquele que sempre diz “sim” ou que encontra dados para justificar qualquer escolha. Deve ser aquele que consegue identificar pontos cegos, questionar premissas, apresentar cenários alternativos e trazer à mesa informações que o usuário talvez não queira ouvir.
