Ethan Mollick, da Wharton, denunciou em coluna recente que algumas empresas já operam o que ele chama de “dark factories”: pipelines em que IA gera, revisa e sobe código sem intervenção humana significativa. O risco é estrutural, e a tendência é acelerar.
Ethan Mollick, professor da Wharton e uma das vozes mais respeitadas em adoção corporativa de IA, levantou bandeira vermelha em sua newsletter One Useful Thing: empresas começaram a operar “dark factories” — fábricas escuras — onde código produzido por IA é revisado por outra IA e enviado a produção sem revisão humana significativa. O termo é metáfora industrial: fábrica que opera sem luz porque não tem gente. E está virando realidade no software.
O que Mollick viu
Em conversas off-the-record com engenheiros de algumas das maiores empresas de tecnologia americanas, Mollick relata que o ciclo “agente escreve, agente revisa, agente faz deploy” já é prática operacional em times específicos. A justificativa interna é simples: o volume de pull request gerado por agentes superou a capacidade humana de revisar. O CTO escolheu confiar no segundo agente em vez de represar a velocidade.
Os modos de falha conhecidos
Pesquisa da Universidade de Stanford publicada em fevereiro de 2026 documenta que código gerado e revisado exclusivamente por LLM tem taxa de bug crítico 3 a 7 vezes maior do que código com revisão humana. Os modos de falha são previsíveis: hallucination silenciosa em lógica de borda, dependência fantasma, regression em código não tocado mas com efeito colateral. Não são bugs novos — são bugs antigos em escala industrial.
A pressão econômica
O motor por trás da dark factory é um único número: custo unitário por feature shipado. Quando agente custa centavos e engenheiro custa US$ 200 mil por ano, o cálculo de operação é cruel. CTOs com pressão de runway encurtam o caminho. Quem tem capital sobrando e tempo a perder mantém revisão humana e processo. O resultado é uma divisão silenciosa do mercado entre engenharia “luz acesa” e engenharia “luz apagada”.
Por que o Brasil ainda não chegou lá — e quando chega
Empresas brasileiras de tecnologia ainda mantêm revisão humana porque o custo de engenheiro nacional é uma fração do americano. O incentivo econômico para a dark factory é menor. Mas há dois vetores que aceleram a chegada: empresas brasileiras com cliente americano (que precisam manter velocidade competitiva), e startups com runway curto que tratam IA como substituição, não complemento. Em 12 a 18 meses, a prática chega.
O que regulador, board e cliente devem exigir
O risco de operar dark factory sem governança é múltiplo: incidente de segurança não auditável, vazamento de dado por bug invisível, e — em setor regulado — multa pesada por ausência de “explainability” exigida por legislação. Setor financeiro, saúde, energia e telecom não podem operar dark factory sem cláusula contratual e supervisão humana documentada. Quem opera assim está apostando contra o regulador.
Para CTO e VP de Engenharia, a discussão correta hoje não é “vamos ou não usar agente”. Já estão usando, queira o board ou não. A discussão é onde fica o “kill switch”: qual classe de mudança exige aprovação humana obrigatória, qual pode passar com revisão automatizada, qual jamais entra em produção sem dois revisores físicos. Sem essa taxonomia, a dark factory acontece por inércia, não por decisão.
Para CEO e board, o sinal é diferente. A produtividade de engenharia vai parecer dobrar nos próximos 18 meses. Vai ser tentador celebrar. Mas o número de incidentes de produção também vai subir, e o tempo médio de detecção vai aumentar — porque quem entende o código não escreveu o código. O dashboard precisa ganhar duas métricas novas: “PR shipados sem revisão humana” e “incidentes com root cause em código gerado por IA”. Sem isso, a casa não enxerga o que está perdendo.
O recado de Mollick não é luddita. Ele mesmo é defensor do uso intensivo de IA. O recado é mais sutil: o ganho de velocidade é real, mas a degradação silenciosa de qualidade só aparece três trimestres depois, e aí já é tarde para reverter sem custo. Empresa que escolhe dark factory hoje precisa escolher também o orçamento de remediação que vai gastar em 2027.
Publicado em 5 de maio de 2026 · Thinq.news
