Governança de IA é, para Márcio Alaor de Araújo, executivo do mercado financeiro, o elemento que distingue a inovação sustentável da exposição desnecessária a riscos. À medida que a inteligência artificial deixa os projetos-piloto e passa a influenciar a concessão de crédito, a precificação, o atendimento e a contratação, a pergunta deixa de ser se a empresa usa a IA e passa a ser como ela controla o que faz.
Os riscos não são hipotéticos. Modelos podem gerar respostas incorretas, expor informações confidenciais ou tomar decisões que ninguém explique a um cliente ou regulador. Ademais, somam-se a isso o uso não autorizado de ferramentas por colaboradores, fenômeno conhecido como shadow AI, e a dependência de fornecedores externos.
A gestão da IA não se traduz em uma restrição à inovação, mas em criar condições para que ela se desenvolva de forma segura. A seguir, serão apresentados os pilares que sustentam uma estrutura de governança, assim como a forma como a supervisão humana e a accountability funcionam na prática e como o ambiente regulatório influencia essas decisões dentro das empresas.
Os pilares de uma estrutura de governança de IA
A governança de IA define os indivíduos responsáveis pela tomada de decisões sobre a tecnologia, bem como os critérios e controles a serem empregados. Para tanto, são utilizadas referências como o AI Risk Management Framework, do NIST, e a norma ISO/IEC 42001, voltada a sistemas de gestão de inteligência artificial.
- Inventário de sistemas: mapeia todas as aplicações de IA em uso, incluindo ferramentas contratadas de terceiros, com finalidade, dados utilizados e área responsável.
- Classificação de risco: separa usos de baixo impacto, como resumos internos, daqueles que afetam clientes, crédito, saúde ou emprego e exigem controles mais rigorosos.
- Políticas de uso: estabelecem o que é permitido, quais dados podem ser inseridos em ferramentas externas e quais aprovações cada tipo de projeto precisa obter.
- Monitoramento contínuo: acompanha desempenho, desvios, incidentes e mudanças de comportamento dos modelos depois da implantação, e não apenas na fase de testes.
Dentre os fatores avaliados, a classificação de risco estabelece o equilíbrio entre controle e agilidade. A aplicação de rigor uniforme em todos os usos pode paralisar projetos simples, enquanto a abordagem de cada situação como um experimento pode expor a empresa a decisões sensíveis. Esse equilíbrio é considerado essencial por Márcio Alaor de Araújo, um empresário focado em resultados e desenvolvimento organizacional, para evitar que a governança se torne um impedimento burocrático.
Supervisão humana e accountability nas decisões automatizadas
É imprescindível ressaltar que a supervisão humana constitui um dos princípios mais citados em regulações e códigos de conduta. No entanto, para que funcione de modo eficaz, é necessário que seja devidamente delineada. Mechanismos como a revisão de decisões de alto impacto, a contestação por clientes afetados e a possibilidade de interromper um sistema transformam o princípio em prática cotidiana. De acordo com Márcio Alaor de Araújo, a estrutura também exige revisores para questionar recomendações automatizadas.
A supervisão apenas formal, quando a pessoa responsável aprova o que o sistema recomenda, pode ser prejudicial. Nas instituições financeiras, que há décadas usam modelos quantitativos para tomar decisões, esse viés de automação reforça a necessidade de definir responsabilidades claras. A accountability completa o desenho, com responsáveis de negócio e comitês capazes de avaliar casos sensíveis e responder pelos resultados.
Regulação, conformidade e o papel do conselho
O ambiente regulatório acelera essa agenda. O AI Act europeu, em vigor desde 2024, adota uma abordagem baseada em risco e impõe obrigações mais severas a aplicações consideradas de alto risco. No Brasil, a Lei Geral de Proteção de Dados garante o direito do titular de revisar decisões tomadas unicamente com base no tratamento automatizado.
Empresas com operações internacionais ou clientes regulados devem se atentar a esse detalhe, pois antecipar esses requisitos pode reduzir os custos de adaptação futura. O movimento também estabelece a governança de IA como um tema a ser discutido no conselho de administração, que passa a supervisionar o apetite ao risco tecnológico da mesma forma que acompanha os riscos financeiros, operacionais e reputacionais. Essa conexão fica ainda mais evidente na abordagem de Marcio Alaor de Araújo, executivo do mercado financeiro, sobre gestão de riscos.
A segurança da informação é parte integrante desse contexto. Ataques de injeção de instruções, vazamento de dados em ferramentas públicas e manipulação de modelos exigem controles próprios, que se somam às práticas tradicionais de cibersegurança e precisam ser testados periodicamente, com a mesma disciplina aplicada a outros sistemas críticos.
Controle como condição para inovar
Empresas que estruturam a governança de IA desde o início escalam projetos com mais previsibilidade. Esse tipo de organização, segundo o empresário Márcio Alaor de Araújo, especialista em resultados e desenvolvimento organizacional, cria condições para inovar sem depender de improvisos. Inventário, classificação de risco e políticas claras ajudam a estabelecer critérios antes da expansão dos sistemas.
O monitoramento, a supervisão humana efetiva e os responsáveis definidos formam um conjunto de base que não depende de uma tecnologia específica. Ela permanece válida à medida que os modelos evoluem, os fornecedores se alteram e novos usos surgem nas áreas de negócio. Para o executivo do mercado financeiro, Márcio Alaor de Araújo, preservar essa estrutura também significa proteger a confiança de clientes, investidores e reguladores diante dos riscos associados a decisões automatizadas.
