Jacob Coxon, ex-pesquisador da Anthropic, afirmou em audiência pública em Nova York que a indústria ainda não sabe controlar sistemas de IA. Para empresas, o recado é direto: adoção sem governança, testes adversariais e continuidade de negócios é risco material, não apenas debate técnico.
Introdução contextual
A inteligência artificial deixou de ser um experimento de laboratório para se tornar infraestrutura operacional de empresas de todos os portes. Modelos de linguagem, agentes autônomos e sistemas de decisão automatizada já influenciam desde a triagem de currículos até a liberação de crédito, passando por diagnósticos médicos e roteamento logístico. Esse avanço acelerado, porém, carrega uma contradição estrutural: a velocidade de implantação supera, em muito, a capacidade de compreensão e controle dos próprios sistemas que estão sendo colocados em produção.
É nesse contexto que ganha peso a declaração de Jacob Coxon, ex-pesquisador da Anthropic, durante audiência na Câmara Municipal de Nova York, noticiada pelo Valor Econômico. Segundo ele, “ainda não sabemos como controlar nenhum sistema de inteligência artificial”. A frase, proferida por alguém com acesso privilegiado ao desenvolvimento de fronteira, não é um exercício retórico: é um alerta operacional para conselhos de administração, comitês de risco e lideranças de tecnologia.
O que aconteceu
Jacob Coxon, que atuou como pesquisador na Anthropic — uma das principais laboratórios de IA do mundo, responsável pelo modelo Claude —, participou de uma audiência pública na Câmara Municipal de Nova York. O tema central era a regulamentação e os riscos associados à inteligência artificial, especialmente em serviços públicos e no setor privado que opera na cidade.
Durante sua fala, Coxon foi categórico ao afirmar que a indústria ainda não domina os mecanismos de controle de sistemas de IA. A declaração ganha relevância porque não vem de um crítico externo ou de um regulador, mas de alguém que esteve dentro de um dos laboratórios mais avançados do setor. O testemunho sugere que a lacuna entre capacidade dos modelos e capacidade de supervisão humana é real, documentada e reconhecida por quem constrói a tecnologia.
A audiência em Nova York se insere em um movimento mais amplo de cidades e estados norte-americanos que buscam criar marcos regulatórios locais para IA, diante da lentidão do Congresso. O depoimento de Coxon adiciona pressão política e técnica sobre o debate, ao mesmo tempo em que expõe a fragilidade das narrativas de “IA segura por design” que dominam o marketing corporativo.
Por que isso importa para empresas
Para o mundo corporativo, a declaração tem consequências práticas imediatas. A maioria das organizações não desenvolve modelos de fronteira, mas consome APIs, integra agentes e delega decisões a sistemas de terceiros. Se nem os criadores afirmam saber controlar plenamente esses sistemas, o risco de dependência operacional se amplifica.
Considere três frentes:
- Responsabilidade fiduciária: conselhos e diretorias têm o dever de zelar pela continuidade do negócio. Adotar IA sem mecanismos de auditoria, explicabilidade e reversão pode ser interpretado, em caso de incidente, como falha de governança.
- Risco reputacional e regulatório: decisões automatizadas enviesadas, alucinações em atendimento ao cliente ou vazamentos de dados sensíveis podem gerar multas, ações coletivas e danos de marca difíceis de reverter.
- Custo de correção: sistemas de IA mal governados tendem a acumular dívida técnica e passivos ocultos. Quanto mais tempo operam sem supervisão, maior o custo de desligamento ou reconfiguração.
O recado de Coxon, portanto, não é um convite à paralisia, mas à maturidade. Empresas que tratam IA como projeto de inovação, e não como ativo de risco, estão expostas a um tipo de vulnerabilidade que não aparece em relatórios financeiros tradicionais.
Impacto para cibersegurança, governança, IA ou continuidade
Cibersegurança
Sistemas de IA ampliam a superfície de ataque. Modelos podem ser manipulados por prompt injection, envenenamento de dados ou extração de informações sensíveis via engenharia social automatizada. Se a própria indústria reconhece não saber controlar plenamente esses sistemas, a defesa baseada apenas em filtros de entrada e saída é insuficiente. É preciso monitoramento contínuo de comportamento, isolamento de agentes e planos de contenção.
Governança
A governança de IA exige estruturas específicas: comitês multidisciplinares, políticas de uso aceitável, trilhas de auditoria e métricas de risco. A declaração de Coxon reforça que a governança não pode ser delegada exclusivamente à área de tecnologia. Jurídico, compliance, risco e negócios precisam participar das decisões sobre onde e como a IA é aplicada.
Continuidade de negócios
Dependência de um único fornecedor de modelo, ausência de planos de contingência para falhas de API ou indisponibilidade de serviços de IA podem paralisar operações críticas. A continuidade exige redundância, testes de estresse e cláusulas contratuais que prevejam responsabilidade e transparência dos fornecedores.
IA responsável
O alerta também pressiona a agenda de IA responsável. Empresas que comunicam compromissos éticos precisam demonstrar mecanismos concretos de supervisão humana, avaliação de impacto e canais de contestação. Caso contrário, o discurso se torna passivo reputacional.
Leitura executiva da WSVP
A WSVP entende que a declaração de Jacob Coxon deve ser lida como um marco de maturidade, não como um obstáculo à inovação. O mercado está migrando de uma fase de experimentação entusiasmada para uma fase de industrialização responsável, na qual a pergunta central deixa de ser “o que a IA pode fazer?” e passa a ser “o que estamos dispostos a delegar e como vamos controlar isso?”.
Três implicações se destacam:
- A vantagem competitiva migrará da adoção para o controle. Empresas que dominarem auditoria, explicabilidade e resposta a incidentes de IA terão vantagem sobre concorrentes que apenas acumulam casos de uso.
- O risco de IA é risco de negócio. Não se trata apenas de tecnologia. Trata-se de reputação, conformidade, continuidade e valor de mercado.
- Regulação virá de baixo para cima. Iniciativas locais, como a de Nova York, tendem a se multiplicar e a criar um mosaico regulatório que exige adaptação ágil das operações.
Em nossa avaliação, o depoimento de Coxon não deve ser interpretado como um sinal para frear a adoção, mas para acelerar a construção de capacidades de supervisão. A pergunta que cada conselho deveria fazer é simples: se um sistema de IA sob nossa responsabilidade falhar amanhã, temos como detectar, conter e explicar o que aconteceu?
Recomendações práticas
- Mapeie a dependência de IA: identifique quais processos críticos dependem de modelos internos ou de terceiros e classifique o risco associado.
- Institua um comitê de governança de IA: com participação de risco, jurídico, compliance, segurança e negócios, com mandato claro e reporte ao conselho.
- Exija transparência de fornecedores: inclua cláusulas contratuais sobre limites do modelo, responsabilidade por falhas, auditoria e portabilidade de dados.
- Implemente testes adversariais contínuos: simule ataques, alucinações e cenários de falha antes que ocorram em produção.
- Defina planos de contingência: mantenha alternativas manuais ou modelos redundantes para processos críticos.
- Treine lideranças e equipes: a supervisão humana só funciona se as pessoas souberem o que observar e como agir.
- Documente decisões e trilhas de auditoria: registre por que um sistema foi adotado, quais limites foram definidos e como o desempenho é monitorado.
Fontes consultadas
- Valor Econômico — Ex-pesquisador da Anthropic diz que IA traz riscos que a própria indústria ainda não compreende
- Anthropic — site oficial
- Câmara Municipal de Nova York — site oficial
Disclaimer
Este rascunho foi produzido com apoio de inteligência artificial e ainda requer revisão humana antes da publicação.


