Governança de IA: o novo imperativo de cibersegurança e soberania para o Brasil
Adoção de IA sem governança expõe empresas a riscos cibernéticos e abre um novo mercado, enquanto a dependência de infraestrutura estrangeira ameaça a soberania digital do Brasil.
A governança corporativa na adoção de inteligência artificial está emergindo como um novo e importante mercado para a cibersegurança, aponta Alberto Leite, fundador e presidente do Grupo FS. Durante o evento NeoSummit IA na Real, o executivo alertou que muitas empresas brasileiras, por estarem em estágios iniciais de uso da tecnologia, aplicam a IA de forma tática e fragmentada. Essa abordagem, segundo ele, tende a criar um "ambiente extremamente descontrolado", gerando uma brecha significativa de segurança.
O alerta é que a velocidade da adoção está superando a capacidade das companhias de implementar controles adequados. "Quem não tiver [essa governança] tende a ter um ambiente extremamente descontrolado", afirmou Leite. Essa lacuna, na sua visão, abre espaço para o desenvolvimento de produtos e serviços focados em governança e em agentes que a implementem.
A Gestão de Agentes, Prompts e Dados
O primeiro grande desafio de governança está no tratamento dos sistemas autônomos. "O agente de IA precisa ser gerido como um funcionário em termos de regras de governança: entender o que pode ou não fazer, em qual grau, em qual função", explicou Leite. Luís Fernando Liguori, líder de arquitetura de soluções da AWS no Brasil, reforçou a ideia no mesmo painel, afirmando que "o agente de IA tem que ter controle, restrição, tem que ser monitorado". Liguori foi além, prevendo uma mudança na estrutura de gestão das empresas: "Todo mundo hoje em dia vai ser gestor de agentes".
Além dos agentes, Liguori destacou outros dois níveis de governança que são frequentemente negligenciados pelas empresas que, segundo ele, estão "pulando muitas fases":
- Prompts: A lógica de negócio, que antes era o diferencial protegido no código de um software, agora está exposta nos prompts. Sem a devida governança, essa propriedade intelectual pode ser "facilmente copiada, replicada, ou criada".
- Dados: Com a comoditização da lógica de negócio via IA, os dados se tornaram o principal produto e ativo estratégico. "É preciso entender quem acessa, como acessa", afirmou Liguori, ressaltando a necessidade de tratar os dados como o bem mais valioso a ser protegido.
A Nova Escala e Sofisticação dos Ataques
Gostou desta análise? Receba a próxima primeiro.
Edição diária da IA News com impacto real para empresas — grátis no seu e-mail.
A IA atua em duas vias no campo da cibersegurança. Se por um lado as empresas a utilizam para se defender, por outro os atacantes a empregam para aumentar a escala e a sofisticação dos golpes. Alberto Leite destacou que a superfície de ataques cresceu exponencialmente com a proliferação de dispositivos conectados na última década. A IA agora potencializa esses ataques, tornando-os mais rápidos e difíceis de identificar.
Nesse cenário, a principal vantagem das empresas que se defendem é a assimetria de informação, segundo Liguori, da AWS. O raciocínio é que o atacante conhece apenas uma parte do contexto da organização, enquanto a própria empresa detém o conhecimento completo sobre seus ambientes, dados e processos. "Quem tem todo o contexto é o cliente. Eu tenho mais informação que ele, posso usar isso a meu favor", explicou.
Soberania Digital: O Elo Fraco da Criptografia
Além dos riscos corporativos, Alberto Leite levantou uma preocupação em nível nacional sobre a soberania digital e a segurança de infraestruturas críticas no Brasil. Ele apontou que aspectos essenciais, como o gerenciamento da criptografia do Estado, não estão nas mãos de empresas de capital nacional, mas sim de companhias internacionais que controlam dados sensíveis dos brasileiros.
Leite descreveu um mecanismo pelo qual essa dependência se consolida: empresas estrangeiras contornam a exigência legal de controle nacional adquirindo participações minoritárias em companhias locais, mas garantindo o controle efetivo ao transferir as ações ordinárias (com direito a voto) para fora do país, enquanto as ações preferenciais (sem voto) permanecem no Brasil. "A empresa estrangeira é dona efetiva da empresa, ainda que apareça para o governo que a contratação é feita com uma empresa de capital nacional. E a gente aceita isso", criticou.
Esse cenário torna a estrutura de segurança do Estado vulnerável, um risco que, segundo Leite, será massivamente amplificado pela computação quântica. Embora ainda não seja possível estimar quando a tecnologia atingirá seu potencial máximo, seu impacto em quebrar os padrões atuais de criptografia é dado como certo. "Podemos nos defender se houver amadurecimento em soberania digital, para entender aquilo que realmente precisa ser feito no Brasil", concluiu.
Análise IA News
A leitura da nossa redação
A discussão levantada por Alberto Leite e Luís Fernando Liguori expõe uma perigosa 'dívida técnica' de segurança que está sendo acumulada pelas empresas brasileiras na corrida pela adoção da IA. O foco em ganhos táticos e departamentais ofusca a necessidade de uma fundação estratégica de governança. O resultado é a criação de sistemas frágeis e porosos, onde a propriedade intelectual e os dados dos clientes ficam expostos a riscos que o C-level e o conselho de administração ainda não compreendem em sua totalidade.
A lacuna identificada não cria apenas riscos, mas também um mercado endereçável significativo. A demanda por 'AI Security Posture Management' (AI-SPM) deve crescer, espelhando o movimento visto com a segurança em nuvem (CSPM). Empresas de cibersegurança, consultorias e startups têm a oportunidade de desenvolver soluções específicas para auditar modelos, monitorar agentes, proteger prompts e classificar o uso de dados em sistemas de IA. Os primeiros players a oferecerem uma solução integrada para essa nova camada de complexidade poderão capturar um valor substancial.
A crítica de Leite sobre a soberania digital e o controle da criptografia por capital estrangeiro é o ponto mais grave da análise. Ele descreve uma falha regulatória e de supervisão que coloca a infraestrutura crítica do país em xeque. A dependência tecnológica não é nova, mas a IA generativa a eleva a um patamar de segurança nacional. Em um cenário de conflito geopolítico, a interrupção do acesso a uma infraestrutura de IA controlada por uma nação estrangeira poderia paralisar setores inteiros da economia brasileira, tornando a discussão sobre uma estratégia nacional de IA, que inclua resiliência e soberania, mais urgente do que nunca.
Nos próximos meses, decisores devem observar a movimentação de grandes players de segurança para incorporar a governança de IA em seus portfólios, bem como o surgimento de startups brasileiras nesse nicho. Além disso, é crucial monitorar qualquer resposta do governo às preocupações sobre soberania digital e a vulnerabilidade da infraestrutura de criptografia, especialmente com a ameaça da computação quântica no horizonte.
Contexto para empresários e decisores
No Brasil, a adoção de IA ainda é predominantemente tática e departamental, com poucas implementações em escala empresarial. O mercado de infraestrutura é dominado por hyperscalers globais como AWS, enquanto a concorrência local se concentra em serviços de consultoria e integração. O custo para implementar uma governança robusta pode ser proibitivo para pequenas e médias empresas, que acabam aceitando um nível de risco mais alto. Do ponto de vista regulatório, o PL 2338/2023, que definirá o marco legal da IA no país, ainda está em tramitação e seu foco atual é mais em direitos e ética do que em padrões específicos de cibersegurança corporativa, deixando um vácuo de diretrizes claras para as empresas.
Impactos para empresas
- 1Exposição de dados sensíveis e propriedade intelectual: A falta de governança em prompts e no acesso de agentes de IA pode causar vazamentos, resultando em perdas financeiras diretas e danos reputacionais severos.
- 2Aumento dos custos de remediação: Ignorar a segurança desde o início da jornada de IA gera uma 'dívida técnica' que será muito mais cara para corrigir após um incidente, impactando o orçamento de TI e a lucratividade.
- 3Vulnerabilidade da cadeia de suprimentos digital: A dependência de modelos e infraestruturas de IA de terceiros sem uma supervisão rigorosa cria um vetor de ataque, onde uma falha no fornecedor pode comprometer toda a operação da empresa.
- 4Risco de descontinuidade operacional: Em um cenário de instabilidade geopolítica, a dependência de infraestruturas de IA controladas por empresas estrangeiras pode levar à interrupção de serviços críticos, afetando diretamente a resiliência e a continuidade do negócio.
Conclusão editorial
A governança de IA deixou de ser um item de conformidade para se tornar um pilar da estratégia de negócios e da gestão de risco. As empresas que continuarem a tratar a segurança como um apêndice tático se tornarão alvos fáceis e perderão competitividade. A recomendação para decisores é clara: auditar imediatamente as iniciativas de IA, mapear os riscos de agentes e dados, e alocar recursos para uma estrutura de governança tratada com a mesma seriedade da segurança financeira.
— Redação IA News
Fontes utilizadas
Apuração, análise e conclusão editorial produzidas pela redação do IA News a partir das fontes acima. O conteúdo não reproduz o texto original.