Fei-Fei Li defende que a avaliação de segurança da IA não pode ficar só com quem a desenvolve. Para empresas, isso antecipa um novo padrão de governança, auditoria e responsabilidade sobre sistemas de IA em produção.
Introdução contextual
A inteligência artificial deixou de ser um experimento de laboratório para se tornar infraestrutura operacional. Modelos generativos já sustentam atendimento ao cliente, análise de crédito, triagem de currículos, detecção de fraude, manutenção preditiva e uma longa lista de decisões que afetam receita, risco e reputação. Nesse contexto, a pergunta que antes parecia filosófica — quem deve atestar que um sistema de IA é seguro? — passou a ter consequências contratuais, regulatórias e financeiras.
É nesse cenário que ganha peso a manifestação de Fei-Fei Li, uma das pesquisadoras mais influentes da área e fundadora do World Labs. Segundo reportagem do O Globo, ela defende que as avaliações sobre a segurança da IA não podem ficar a cargo somente das empresas que a desenvolvem. A declaração não é um detalhe acadêmico: ela toca diretamente o modelo de confiança sobre o qual boa parte da economia digital está sendo construída.
Para executivos, o recado é claro. A autorregulação pura, baseada em relatórios internos e benchmarks escolhidos pelas próprias fornecedoras, tende a ser insuficiente diante de clientes, reguladores, seguradoras e conselhos de administração cada vez mais exigentes. A supervisão independente deixa de ser bandeira ética e passa a ser requisito de maturidade operacional.
O que aconteceu
Fei-Fei Li, reconhecida por trabalhos fundamentais em visão computacional e por sua atuação no debate sobre IA centrada no ser humano, fez um apelo público por supervisão independente da tecnologia. A tese central é que a segurança de sistemas de IA não pode ser avaliada exclusivamente pelas organizações que os criam, dado o conflito de interesse estrutural: quem desenvolve tem incentivo comercial para demonstrar que seu produto é seguro, capaz e pronto para escala.
A proposta dialoga com um movimento mais amplo. Nos últimos anos, governos, organismos internacionais e institutos de pesquisa vêm construindo frameworks de avaliação, testes de robustez e auditoria de modelos. Ainda assim, boa parte da evidência disponível sobre desempenho e risco continua vindo das próprias desenvolvedoras, o que limita a capacidade de terceiros verificarem alegações de segurança.
O apelo se soma a vozes que pedem padrões verificáveis, auditorias de terceiros e transparência sobre limitações. Não se trata de propor uma moratória à IA, mas de criar mecanismos de confiança proporcionais ao impacto que esses sistemas já têm.
Por que isso importa para empresas
Empresas que compram, integram ou operam IA estão expostas a um risco assimétrico. Se um modelo falha, discrimina, vaza dados ou produz decisões inconsistentes, a responsabilidade jurídica e reputacional recai, em primeiro lugar, sobre quem colocou o sistema em produção — não necessariamente sobre quem o treinou. Essa dinâmica já é visível em setores regulados como serviços financeiros, saúde, seguros e telecomunicações.
A defesa por supervisão independente antecipa três mudanças práticas:
- Due diligence mais rigorosa. Contratos de fornecimento de IA tendem a exigir evidências de testes, documentação de limitações e cláusulas de responsabilidade mais explícitas.
- Auditoria contínua. Avaliações pontuais de conformidade dão lugar a monitoramento recorrente de desempenho, viés, segurança e deriva de comportamento dos modelos.
- Governança formal. Conselhos e comitês de risco passam a demandar métricas de IA comparáveis às de cibersegurança e continuidade de negócios.
Há também um efeito competitivo. Organizações que conseguem demonstrar controles independentes podem se diferenciar em licitações, parcerias e processos de fusão e aquisição, onde a exposição a riscos tecnológicos é cada vez mais escrutinada.
Impacto para cibersegurança, governança, IA ou continuidade
Cibersegurança
Modelos de IA ampliam a superfície de ataque. Prompt injection, envenenamento de dados, exfiltração via agentes autônomos e uso indevido de credenciais são riscos concretos. Sem avaliação independente, é difícil distinguir uma falha de configuração de uma vulnerabilidade estrutural do modelo. A supervisão externa tende a se integrar aos programas de segurança, com testes adversariais e relatórios de exposição.
Governança
A governança de IA deixa de ser tema exclusivo de áreas técnicas. Envolve jurídico, compliance, risco, auditoria interna e conselho. A exigência de verificação independente pressiona por políticas formais de uso, inventário de modelos, classificação por criticidade e trilhas de auditoria documentadas.
Inteligência artificial
Do ponto de vista técnico, a supervisão independente favorece práticas como red teaming estruturado, avaliações padronizadas, cartões de modelo e documentação de dados de treinamento. Isso melhora a qualidade da engenharia e reduz a dependência de marketing técnico.
Continuidade
Dependência de um único fornecedor de IA é risco operacional. Se um modelo é descontinuado, alterado ou bloqueado por questões regulatórias, processos inteiros podem parar. A supervisão independente ajuda a mapear dependências, planejar contingências e definir critérios objetivos de substituição.
Leitura executiva da WSVP
A manifestação de Fei-Fei Li deve ser lida menos como alerta ético e mais como sinal de amadurecimento de mercado. Quando uma das principais vozes técnicas da área pede verificação externa, ela está reconhecendo que a confiança em IA não se sustenta apenas com inovação — sustenta-se com evidência verificável.
Para a WSVP, o movimento aponta para uma convergência entre governança de IA, cibersegurança e gestão de risco corporativo. Empresas que tratarem IA como projeto de tecnologia, e não como ativo de risco, tendem a acumular passivos silenciosos: decisões automatizadas sem rastreabilidade, dados sensíveis em pipelines pouco controlados e dependência crítica de fornecedores sem plano de saída.
A recomendação central é antecipar o padrão que deve se tornar exigência regulatória e contratual. Isso significa construir capacidade de avaliação independente antes que ela seja obrigatória, integrando IA ao mesmo rigor aplicado a controles financeiros e de segurança da informação.
Confiança em IA não é um atributo do modelo. É um resultado de verificação, documentação e responsabilização ao longo de todo o ciclo de vida.
Recomendações práticas
- Inventarie modelos e casos de uso. Classifique por criticidade, impacto em pessoas e exposição regulatória.
- Exija evidências dos fornecedores. Peça documentação de testes, limitações conhecidas, políticas de dados e histórico de incidentes.
- Contrate avaliação independente. Estabeleça auditorias periódicas de desempenho, viés, segurança e robustez.
- Integre IA ao programa de cibersegurança. Inclua testes adversariais, controle de acesso e monitoramento de agentes autônomos.
- Formalize governança. Defina comitê responsável, políticas de uso aceitável e trilhas de auditoria.
- Planeje continuidade. Mapeie dependências de fornecedores e prepare alternativas para modelos críticos.
- Capacite o conselho. Traduza riscos de IA em métricas de negócio, risco e conformidade.
Fontes consultadas
- O Globo — Pioneira da inteligência artificial faz apelo por supervisão independente para a tecnologia
- NIST — AI Risk Management Framework
- OCDE — Temas de inteligência artificial
Disclaimer
Este rascunho foi produzido com apoio de inteligência artificial e ainda requer revisão humana antes da publicação.