A opacidade da inteligência artificial é um desafio significativo para o princípio da transparência nos programas de compliance. A “black box” refere-se a modelos de inteligência artificial cujo funcionamento interno não é facilmente compreendido, mesmo por seus desenvolvedores, gerando dificuldade para explicar como decisões são tomadas. Perceba que a opacidade conflita com a transparência, logo como fazer uso da AI nos programas de compliance?
Fato é: a tecnologia otimiza as atividades cotidianas e também a gestão do sistema de compliance, tornando-o eficaz. Por este motivo é fundamental adotar princípios de governança responsáveis que envolvam transparência, explicabilidade e auditabilidade dos algoritmos. Isso inclui documentar as decisões de projeto dos sistemas de IA avaliar riscos de vieses ou discriminação algorítmica, e garantir que os resultados das análises automatizadas possam ser compreendidos e revisados por humanos. Políticas internas devem prever o uso ético e responsável da IA, alinhadas a regulamentações como a LGPD no Brasil e aos princípios da Estratégia Brasileira de Inteligência Artificial, que destacam a importância da transparência e prestação de contas.
Além disso, programas de integridade podem se beneficiar da inteligência analítica para aprimorar a gestão de riscos e a tomada de decisões, desde que haja controle rigoroso e mecanismos para mitigar a falta de transparência dos sistemas de IA. A adoção de normas técnicas internacionais sobre transparência em IA, como a IEEE P7001™, pode oferecer um suporte técnico para mensurar e assegurar níveis adequados de explicabilidade. Assim, a combinação entre inovação tecnológica e fortalecimento dos controles internos cria um ambiente mais seguro para a adoção da IA nos processos de compliance, promovendo não só eficiência, mas também confiança e integridade institucional.
