Durante os quatro dias de imersão no Insper, uma constante reflexão surgiu: a Inteligência Artificial (IA) acelera não apenas soluções, mas também os desafios que as organizações enfrentam.
A presença da IA nas decisões, desenvolvimento de soluções e execução de processos se tornou um tema central. No evento XP Conference 2026, o debate já não gira mais em torno da adoção de tecnologias, mas sim sobre a governança dos impactos e consequências que essas tecnologias acarretam.
Um aspecto destacado foi a crescente utilização de agentes de IA para analisar arquiteturas de sistemas. Essas ferramentas já são capazes de mapear dependências, detectar falhas estruturais e auxiliar em decisões técnicas em uma velocidade nunca antes imaginada. No entanto, a interpretação das análises e a definição de prioridades ainda dependem do discernimento humano.
Esse aspecto se torna ainda mais relevante ao considerar o “viés de automação”, fenômeno que pode induzir os profissionais a confiar excessivamente em respostas geradas automaticamente, diminuindo seu senso crítico. Na prática, embora a IA expanda a capacidade analítica, ela não substitui o julgamento necessário para compreender o contexto, avaliar exceções e determinar quais dados devem guiar as ações.
Uma lição importante é que a IA amplifica o impacto dos nossos julgamentos. Quando processos e controles são robustos, a tecnologia potencializa a produtividade e a qualidade. Por outro lado, em situações de fragilidade, a IA pode aumentar a ocorrência de erros, retrabalho e riscos.
Para as áreas de Auditoria, Riscos e Governança, essa nova realidade impõe desafios complementares. Com a participação crescente da IA nas análises e decisões, é indispensável que essas funções amplifiquem sua compreensão dos dados utilizados, dos critérios aplicados, dos limites dos modelos e dos mecanismos de supervisão.
O desafio vai além do controle dos processos tradicionais; agora envolve também a maneira como a tecnologia afeta as decisões, riscos e resultados.
Na Auditoria Interna, é vital entender o impacto da IA nas decisões, quais processos dela dependem e se existem mecanismos de supervisão e validação adequados. É ainda necessário compreender os processos decisórios dessas aplicações e desenvolver novas abordagens para auditar a própria IA.
Na Gestão de Riscos, os desafios se tornam cada vez mais sutis. As decisões automatizadas, a baixa explicabilidade dos modelos, a crescente dependência de fornecedores tecnológicos e a perda de conhecimento técnico devem ser monitoradas. Questões como viés algorítmico, impactos ambientais e riscos à reputação também se tornaram tópicos importantes.
Para a Governança Corporativa, essa discussão assume uma dimensão estratégica. É fundamental estabelecer diretrizes claras para o uso da IA, definir responsabilidades e criar mecanismos de transparência que garantam supervisão eficaz sobre decisões relevantes envolvendo essa tecnologia.
Outro ponto relevante é a evolução na discussão sobre agilidade. A IA tem diminuído barreiras no desenvolvimento de soluções e na automação de tarefas, acelerando entregas. Contudo, com isso, a velocidade passa a não ser o único diferencial.
O foco agora se desloca para a habilidade de direcionar esforços. Com tantas possibilidades, a questão central se torna quem é capaz de determinar quais iniciativas realmente merecem atenção, quais problemas precisam ser priorizados e quais riscos devem ser levados em conta antes de transformar uma oportunidade tecnológica em uma decisão de negócios.
A importância do contexto também se evidencia: nem todo desafio técnico é um risco significativo para os negócios, pois a criticidade depende do propósito do sistema, do momento da organização e das metas estratégicas envolvidas. Isso requer análises mais profundas que não dependam apenas de regras genéricas.
Ao fim do evento, uma conclusão ressoou: estamos adentrando uma era em que humanos e IA colaboram de forma complementar. A tecnologia expande as capacidades, mas é responsabilidade dos indivíduos proporcionar contexto, tomar decisões e arcar com as consequências.
Para as áreas de Auditoria, Riscos e Governança, essa representa uma mudança de paradigma. A questão não é mais se a IA está sendo utilizada, mas se as organizações estão preparadas para gerir as inovações que ela possibilita, desenvolvendo estruturas que permitam questionar, supervisionar e direcionar seu uso de forma eficaz, assegurando que inovação e controle andem lado a lado.
