Glossário de Governança de IA

Princípio regulatório segundo o qual as obrigações impostas a desenvolvedores e operadores de IA são proporcionais ao risco que o sistema apresenta para direitos fundamentais, segurança e bem-estar. Sistemas de maior risco enfrentam requisitos mais rigorosos. Adotado pelo EU AI Act e pelo PL 2338/2023.

Sequência finita de instruções ou regras que, quando executadas, produzem um resultado. Em governança de IA, o termo é frequentemente usado para se referir a sistemas automatizados de decisão, mesmo quando envolvem aprendizado de máquina e não apenas regras fixas.

Categoria de sistemas de IA que apresentam risco significativo para direitos fundamentais e segurança. O EU AI Act enumera 8 categorias (biometria, infraestrutura crítica, educação, emprego, serviços essenciais, aplicação da lei, migração, justiça). O PL 2338/2023 adota definição mais princípiológica, delegando detalhamento ao regulador.

Fenômeno em que um modelo de IA generativa produz informações factualmente incorretas, inventadas ou sem base nos dados de treinamento, apresentando-as com aparência de veracidade. Representa risco significativo quando sistemas de IA são usados em contextos que exigem precisão, como saúde, direito e jornalismo.

Autoridade Nacional de Proteção de Dados. Órgão regulador responsável pela fiscalização e aplicação da LGPD no Brasil. Candidata natural a assumir funções regulatórias no âmbito do Marco Legal da IA.

Subcampo da IA que desenvolve algoritmos capazes de aprender padrões a partir de dados sem serem explicitamente programados. Inclui técnicas como redes neurais, árvores de decisão e regressão. A maioria dos sistemas de IA modernos de alto impacto utiliza aprendizado de máquina.

Avaliação independente e sistemática de um sistema de IA para verificar conformidade com padrões técnicos, legais e éticos. Pode abranger análise de dados de treinamento, métricas de desempenho, viéses, segurança e documentação. O EU AI Act exige auditorias para sistemas de alto risco. No Brasil, discute-se a criação de mecanismos semelhantes.

Princípio que assegura ao indivíduo a capacidade de compreender que está interagindo com um sistema de IA, de contestar decisões automatizadas e de optar por alternativas humanas quando disponíveis. Protegido pelo direito de revisão humana no PL 2338/2023 e pelo direito de não ser submetido a decisão exclusivamente automatizada na LGPD.

Processo estruturado para identificar, analisar e mitigar riscos associados ao desenvolvimento ou implantação de sistemas de IA de alto risco. Análogo à DPIA (Data Protection Impact Assessment) da LGPD/GDPR, mas focado em impactos sociais mais amplos: discriminação, acesso a direitos, viéses, opacidade. Obrigatória para sistemas de alto risco no PL 2338/2023.

Conjunto de fases do desenvolvimento e operação de um sistema de IA: planejamento, coleta de dados, treinamento, validação, implantação, monitoramento e descomissionamento. A governança de IA deve abranger todas as fases, pois riscos podem surgir em qualquer etapa — desde viéses na coleta de dados até degradação de desempenho em produção.

Propriedade de um sistema de IA que demonstra ser seguro, justo, explicável, robusto e respeitador da privacidade. Conceito central no framework da HLEG (High-Level Expert Group on AI) da UE e no NIST AI Risk Management Framework. Não é binária — é avaliada em graus e depende do contexto de uso.

Conjunto de práticas que uma organização adota para garantir que seus sistemas de IA atendam às exigências legais e regulatórias aplicáveis. Inclui documentação técnica, avaliações de impacto, registro de sistemas de alto risco e relatórios de conformidade. Tende a se tornar obrigação formal com a aprovação do Marco Legal da IA.

Informação relacionada a pessoa natural identificada ou identificável, conforme definido pela LGPD (art. 5º, I). Sistemas de IA que processam dados pessoais estão sujeitos às obrigações da LGPD, incluindo base legal para tratamento, minimização e direitos dos titulares. Dados sensíveis (raça, saúde, biometria) recebem proteção reforçada.

Dados gerados artificialmente por algoritmos — em vez de coletados do mundo real — que preservam as propriedades estatísticas dos dados originais. Usados para treinar modelos de IA quando dados reais são escassos, sensíveis ou protegidos por privacidade. Levantam questões sobre qualidade, representatividade e potencial perpetuação de viéses.

Conteúdo sintético — imagem, vídeo ou áudio — gerado por IA para imitar de forma realista a aparência ou voz de uma pessoa real. Representa risco significativo para desinformação, fraude e violação de privacidade. O PL 2338/2023 é o EU AI Act estabelecem obrigações de identificação para conteúdo sintético.

Uso de sistemas de IA generativa para criar ou amplificar conteúdo falso ou enganoso em escala — incluindo textos, imagens, áudio e vídeo (deepfakes). Representa ameaça à integridade de eleições, saúde pública e coesão social. O EU AI Act é o PL 2338/2023 exigem rotulagem de conteúdo gerado por IA.

Direito do indivíduo afetado por uma decisão automatizada de receber informações claras e acessíveis sobre a lógica utilizada pelo sistema de IA. Previsto na LGPD (art. 20) e reforçado no PL 2338/2023. Estreitamente relacionado aos princípios de explicabilidade e transparência.

Quando um sistema de IA trata de forma desigual e injustificada pessoas ou grupos com base em características protegidas (raça, gênero, idade, origem, religião etc.), diretamente ou por meio de proxies. Pode ser intencional ou emergir involuntariamente dos dados e do design do sistema.

Conjunto de critérios técnicos e éticos utilizados para avaliar se um sistema de IA trata grupos diferentes de forma justa. Inclui métricas como paridade demográfica, equidade de oportunidades e equalização de erro. Diferentes definições de equidade podem ser matematicamente incompatíveis entre si.

Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, o primeiro marco regulatório abrangente para IA no mundo. Entrou em vigor em agosto de 2024, com aplicação gradual até 2027. Adota abordagem baseada em risco com quatro níveis: inaceitável, alto, limitado e mínimo.

Capacidade de um sistema de IA de fornecer, em linguagem compreensível, as razões pelas quais uma determinada saída (decisão, recomendação, classificação) foi produzida. Considerada componente fundamental de sistemas de IA confiáveis. O PL 2338/2023 estabelece o direito à explicação para decisões de alto risco.

Estrutura organizada de princípios, políticas, processos e ferramentas que uma organização ou jurisdição adota para governar o ciclo de vida de sistemas de IA. Exemplos incluem o NIST AI RMF, o framework da ISO/IEC 42001 e os frameworks de maturidade do IBGIA. Diferencia-se de regulação por ser voluntário ou organizacional.

Abordagem que coloca o bem-estar, os direitos fundamentais é a dignidade humana como critérios centrais no design, regulação e operação de sistemas de IA. Pilar dos guidelines da HLEG da UE e do OECD AI Principles. Contrapõe-se a abordagens puramente orientadas à eficiência ou ao mercado.

Conjunto de arranjos institucionais, políticas, processos, normas e mecanismos que orientam o desenvolvimento, implantação e uso responsável de sistemas de IA. Engloba dimensões técnicas, jurídicas, éticas e organizacionais. Não se limita à regulação estatal — inclui autorregulação, certificações, frameworks de boas práticas e mecanismos de accountability.

General Purpose AI — IA de Propósito Geral. Categoria criada pelo EU AI Act para modelos de IA treinados em larga escala que podem ser usados para múltiplas finalidades. Sujeita a obrigações de transparência, documentação técnica e, para modelos de risco sistêmico (acima de 10^25 FLOPs), obrigações adicionais de avaliação.

Sistemas de IA capazes de gerar conteúdo novo (texto, imagens, áudio, vídeo, código) a partir de padrões aprendidos durante o treinamento. Exemplos: GPT-4, Claude, Gemini, DALL-E, Midjourney. Apresentam desafios regulatórios específicos, especialmente em relação a direitos autorais, desinformação e deepfakes.

Norma internacional publicada em 2023 que estabelece requisitos para um Sistema de Gestão de Inteligência Artificial (AIMS). É a primeira norma certificável de gestão de IA do mundo, permitindo que organizações demonstrem conformidade com boas práticas de governança de IA por meio de auditoria independente.

Tipo de modelo de IA treinado em vastos volumes de texto para compreender e gerar linguagem natural. Exemplos incluem GPT-4, Claude e LLaMA. LLMs são a base da maioria dos sistemas de IA generativa de texto e apresentam desafios específicos de governança, como alucinações, viéses e dificuldade de auditoria.

Lei Geral de Proteção de Dados Pessoais (Lei nº 13.709/2018). Regula o tratamento de dados pessoais no Brasil. Aplica-se aos sistemas de IA que processam dados pessoais, complementando (e em alguns pontos sobrepondo-se a) o Marco Legal da IA.

Denominação informal para o conjunto de normas que regularão o desenvolvimento e uso de Inteligência Artificial no Brasil. O principal instrumento legislativo em tramitação é o PL 2338/2023.

Nível de sofisticação e abrangência das práticas de governança de IA de uma organização. O IBGIA desenvolveu um framework de avaliação de maturidade em cinco níveis: Inicial, Básico, Intermediário, Avançado e Referência, com oito dimensões: Estratégia, Pessoas, Processos, Dados, Tecnologia, Ética, Compliance e Monitoramento.

Modelo de IA treinado em larga escala em dados amplos e que pode ser adaptado para uma variedade de tarefas. Também chamado de Large Language Model (LLM) quando focado em linguagem. O EU AI Act regula modelos de propósito geral de IA (GPAI) com obrigações específicas para modelos de risco sistêmico.

Princípios de IA da Organização para a Cooperação e Desenvolvimento Econômico, adotados em maio de 2019 e atualizados em 2024. Estabelecem um framework de governança adotado por mais de 40 países, incluindo princípios de inclusividade, bem-estar, transparência, robustez e responsabilização.

Projeto de Lei nº 2.338/2023, de autoria do Senador Rodrigo Pacheco, que institui o Marco Legal da Inteligência Artificial no Brasil. Elaborado com base nos trabalhos da Comissão de Juristas do Senado Federal para IA (CJIA). Encontra-se em tramitação na Câmara dos Deputados.

Princípio que orienta a adoção de medidas preventivas diante de riscos graves ou irreversíveis, mesmo na ausência de certeza científica completa. Aplicado à IA, justifica restrições ou moratórias em tecnologias cujos impactos não são plenamente compreendidos — como sistemas autônomos letais ou IA superinteligente.

Princípio que exige a incorporação de proteções à privacidade desde a concepção de um sistema, e não como medida retroativa. Aplicado à IA, implica minimização de dados, anonimização, controle de acesso e avaliação de impacto à privacidade em todas as fases do ciclo de vida do modelo. Previsto na LGPD e no GDPR.

Técnica de formulação de instruções textuais (prompts) para obter respostas desejadas de modelos de linguagem. Embora pareça trivial, é um campo em evolução com impacto direto na qualidade, segurança e confiabilidade das saídas de IA generativa. Levanta questões de governança sobre padronização e controle de comportamento de sistemas.

Prática de segurança em que uma equipe simula ataques adversariais contra um sistema de IA para identificar vulnerabilidades, comportamentos indesejados e riscos de segurança antes da implantação. Inclui testes de jailbreaking, extração de dados de treinamento e geração de conteúdo nocivo. Recomendado pelo NIST AI RMF e pelo EU AI Act para modelos de risco sistêmico.

Base de dados pública ou organizacional que cataloga os sistemas de IA em uso, incluindo finalidade, categoria de risco, responsáveis e avaliações realizadas. O EU AI Act exige registro na base de dados da UE para sistemas de alto risco. No Brasil, mecanismo similar é discutido no âmbito do PL 2338/2023.

Princípio segundo o qual deve haver atribuição clara de responsabilidade — civil, administrativa, eventualmente penal — quando um sistema de IA causa dano. Um dos principaís desafios regulatórios, especialmente em cadeias complexas de desenvolvimento (criador do modelo, integrador, operador, usuário).

Categoria de sistemas de IA cujos riscos são tão graves que justificam proibição. No EU AI Act: sistemas de pontuação social por autoridades públicas, manipulação subliminar, exploração de vulnerabilidades, vigilância biométrica em massa em espaços públicos. O PL 2338/2023 proíbe sistemas discriminatórios e manipulativos sem lista taxativa equivalente.

Capacidade de um sistema de IA de manter desempenho confiável e previsível diante de variações nos dados de entrada, condições adversariais ou perturbações. Inclui resistência a ataques adversariais, ruído nos dados e mudanças na distribuição dos dados ao longo do tempo (drift). Requisito fundamental em frameworks de IA confiável.

Ambiente controlado criado por um órgão regulador para que empresas e desenvolvedores testem tecnologias inovadoras — incluindo sistemas de IA — sob supervisão, com requisitos regulatórios flexibilizados por período limitado. Permite aprendizado mútuo entre regulador e inovador. Previsto no EU AI Act e discutido no contexto do Marco Legal da IA brasileiro.

Conforme o PL 2338/2023: sistema baseado em processo computacional que pode, para um conjunto de objetivos definidos pelo ser humano, fazer previsões, recomendações ou decisões que influênciam ambientes reais ou virtuais. O EU AI Act acrescenta os elementos de autonomia e adaptabilidade.

Princípio segundo o qual sistemas de IA de alto risco devem ser projetados e operados de forma que seres humanos possam compreender, monitorar, intervir e, se necessário, anular as decisões do sistema. O EU AI Act exige medidas específicas de supervisão humana para sistemas de alto risco.

Princípio segundo o qual desenvolvedores e operadores de IA devem tornar disponíveis informações suficientes sobre como os sistemas funcionam, quais dados utilizam e como tomam decisões. Inclui tanto transparência técnica (para reguladores e auditores) quanto transparência para os usuários afetados.

Prática de tornar acessíveis ao público as informações sobre como um sistema de IA opera, quais dados utiliza, quais critérios influênciam suas decisões e quais são suas limitações conhecidas. Vai além da explicabilidade individual e abrange divulgação proativa de políticas de uso, fichas de modelo (model cards) e relatórios de impacto.

Tendência sistemática de um sistema de IA a produzir resultados injustos ou discriminatórios em relação a determinados grupos, geralmente decorrente de viéses nos dados de treinamento, na definição do problema ou nas escolhas de design do modelo. Pode resultar em discriminação por raça, gênero, renda, origem geográfica ou outras características.

Campo interdisciplinar que examina as implicações morais do desenvolvimento e uso de sistemas de IA. Abrange questões como justiça, autonomia, privacidade, dignidade humana e distribuição equitativa de benefícios e riscos. Fundamenta os princípios adotados por regulações como o EU AI Act e guidelines como os da OECD e UNESCO.

Autoridade pública responsável por supervisionar, fiscalizar e aplicar a regulação de sistemas de IA. No Brasil, o PL 2338/2023 prevê a criação ou designação de um órgão competente — a ANPD é a principal candidata. O EU AI Act designa autoridades nacionais de supervisão de mercado em cada Estado-membro.