IA open source: 97% das empresas usam, poucas governam — os riscos que ninguém está medindo

Em 2026, 97% das organizações utilizam modelos open source de inteligência artificial em seus pipelines de desenvolvimento. Ao mesmo tempo, o número de vulnerabilidades conhecidas em código aberto dobrou para 581 por base de código, segundo o relatório OSSRA 2026 da Black Duck. Estamos diante de um paradoxo: a ferramenta que democratizou a IA é também a que está criando o maior ponto cego de segurança da década.

1. O paradoxo open source: democratização sem governança

O movimento open source transformou radicalmente o desenvolvimento de inteligência artificial. Modelos como LLaMA, Mistral, Falcon e DeepSeek permitiram que startups, universidades e governos acessassem capacidades que, há poucos anos, eram exclusividade de um punhado de empresas de tecnologia. A barreira de entrada caiu — e a inovação explodiu.

Mas a mesma abertura que impulsionou a democratização criou um vácuo de governança. Diferentemente de modelos proprietários — onde o fornecedor assume parte da responsabilidade por segurança, vieses e conformidade regulatória — modelos open source transferem todo o ônus de governança para quem os adota. E a maioria das organizações simplesmente não está preparada para essa responsabilidade.

Segundo a IBM, a emergência do DeepSeek em 2025 trouxe essa questão para o centro do debate corporativo. Empresas que adotaram o modelo rapidamente descobriram que não tinham processos internos para avaliar riscos de segurança, verificar a proveniência dos dados de treinamento ou garantir conformidade com regulações como o EU AI Act. O modelo era gratuito; os riscos, não.

O problema não é o open source em si — é a falsa premissa de que "aberto" significa "seguro" ou "governado". Na prática, a transparência do código fonte não substitui auditorias de segurança, avaliações de viés, documentação de linhagem de dados e políticas de uso responsável. E pouquíssimas organizações estão fazendo esse trabalho.

2. Vulnerabilidades em escala: os números que preocupam

O relatório OSSRA (Open Source Security and Risk Analysis) 2026, publicado pela Black Duck, analisou mais de 1.000 bases de código comerciais e revelou um cenário alarmante:

• 581 vulnerabilidades conhecidas por base de código — o dobro do registrado no ano anterior.
• 87% das bases de código analisadas apresentavam algum nível de risco de segurança.
• 65% das organizações relataram ter sofrido ataques que exploraram vulnerabilidades em componentes open source.

Esses números ganham uma dimensão ainda mais crítica quando aplicados ao contexto de IA. Modelos open source de IA não são apenas código — são sistemas complexos que incluem dados de treinamento, pesos, configurações e pipelines de inferência. Cada camada introduz vetores de ataque específicos.

A Cisco identificou que modelos open-weight (aqueles que disponibilizam os pesos do modelo, mas não necessariamente o código de treinamento) são particularmente suscetíveis a jailbreaks e injeções de prompt. Um atacante pode manipular o comportamento do modelo para extrair informações sensíveis, gerar conteúdo perigoso ou contornar restrições de segurança — e fazer isso de forma que os logs tradicionais de segurança não detectem.

O problema se agrava com a velocidade de adoção. Quando uma vulnerabilidade é descoberta em um modelo proprietário, o fornecedor pode emitir um patch centralizado. Quando a vulnerabilidade está em um modelo open source que foi forked, customizado e integrado por milhares de organizações, não existe mecanismo centralizado de correção. Cada organização precisa identificar, avaliar e corrigir por conta própria — se souber que a vulnerabilidade existe.

3. Riscos de propriedade intelectual: a bomba-relógio silenciosa

Além dos riscos de segurança, existe uma dimensão frequentemente ignorada: a propriedade intelectual. Modelos de IA treinados em repositórios públicos inevitavelmente absorvem código protegido por licenças restritivas — GPL, AGPL, licenças com cláusula de atribuição obrigatória.

Segundo o R Street Institute, quando um modelo de IA gera código baseado em padrões aprendidos de repositórios open source, não existe hoje um mecanismo confiável para determinar se o output viola obrigações de licenciamento. Uma empresa pode, sem saber, incorporar em seu produto comercial código que exigiria a abertura de todo o código-fonte derivado.

O relatório OSSRA 2026 confirma essa preocupação: a maioria das bases de código analisadas continha componentes com conflitos de licença não resolvidos. Em muitos casos, as organizações sequer tinham inventário completo dos componentes open source utilizados — quanto mais dos dados usados para treinar os modelos de IA que geram parte de seu código.

Esse risco não é teórico. Litígios envolvendo código gerado por IA já estão em andamento em múltiplas jurisdições. E à medida que reguladores e tribunais refinam seu entendimento sobre IA generativa, a exposição jurídica de organizações que não documentam a proveniência de seus componentes de IA tende a crescer significativamente.

4. Como outros países estão respondendo

A resposta regulatória ao desafio de governança de IA open source está se acelerando globalmente — mas de formas distintas:

China — AI Governance Framework 2.0: O governo chinês adotou a abordagem mais prescritiva: exige auditorias de segurança obrigatórias para todo código open source utilizado em sistemas de IA destinados ao público. Modelos disponibilizados em repositórios chineses devem passar por avaliação de segurança antes da publicação. A abordagem é intervencionista, mas cria um piso mínimo de governança que não existe em outras jurisdições.

União Europeia — EU AI Act: O regulamento europeu aplica-se independentemente de o modelo ser open source ou proprietário. Sistemas de alto risco devem cumprir requisitos de transparência, documentação técnica e gestão de riscos — não importa se o modelo subjacente foi baixado do Hugging Face ou desenvolvido internamente. A UE reconhece que o risco está no uso, não na origem do modelo.

Estados Unidos: A abordagem americana permanece fragmentada. A Executive Order de IA de 2023 estabeleceu diretrizes para modelos de fronteira, mas não há legislação federal específica para governança de IA open source. Estados como Colorado estão avançando individualmente, mas sem coordenação nacional.

Brasil: O PL 2338, principal projeto de lei sobre IA no país, segue a lógica do EU AI Act com classificação baseada em risco. Quando aprovado, organizações brasileiras que utilizam modelos open source em aplicações de alto risco precisarão demonstrar conformidade — independentemente da origem do modelo. A preparação deve começar agora.

5. O que fazer: governança prática para IA open source

A solução não é abandonar o open source — seria impraticável e contraproducente. A solução é governar adequadamente o que já estamos usando. Com base nas recomendações consolidadas dos relatórios analisados, propomos cinco ações prioritárias:

1. Inventário completo de componentes de IA: Mapeie todos os modelos open source, bibliotecas e datasets utilizados em seus pipelines. Inclua versões, licenças e fontes. Você não pode governar o que não conhece.
2. Avaliação de vulnerabilidades específica para IA: Ferramentas tradicionais de segurança de software não cobrem vetores de ataque específicos de modelos de IA (envenenamento de dados, injeção de prompt, extração de modelo). Invista em ferramentas e processos dedicados.
3. Auditoria de licenciamento: Verifique se os modelos de IA que você utiliza — e o código que eles geram — estão em conformidade com as licenças de seus componentes. Isso inclui os dados de treinamento, não apenas o código do modelo.
4. Monitoramento contínuo: Vulnerabilidades em componentes open source são descobertas diariamente. Implemente processos de monitoramento contínuo — não apenas auditorias pontuais — para detectar e responder a novas ameaças.
5. Documentação de linhagem: Para cada modelo de IA em uso, documente a proveniência dos dados de treinamento, as decisões de design, os testes realizados e as limitações conhecidas. Essa documentação será exigida por regulações como o EU AI Act e, em breve, pela legislação brasileira.

A era do "baixar e usar" acabou. Em 2026, toda organização que utiliza IA open source precisa de uma estratégia de governança proporcional ao risco — e 97% das organizações utilizam. A questão não é se sua empresa será afetada, mas se estará preparada quando o regulador bater à porta.

---

O IBGIA acompanha a evolução da governança de IA open source e seus impactos para organizações brasileiras. Assine nossa newsletter para receber análises como esta diretamente no seu email, ou associe-se ao instituto para participar da construção de padrões de governança para o ecossistema brasileiro de IA.