IA pode ensinar praticamente qualquer pessoa a fazer praticamente qualquer coisa, e fazer isso com maestria. O perigo não é a informação. A rota de síntese está nos livros didáticos e o exploit está no curso de segurança, e essas informações vazaram há décadas. O perigo é a capacidade, a habilidade de agir, colocada nas mãos de alguém que antes não podia agir. Um livro diz a mesma coisa para todos e não consegue ver onde você travou. Um modelo observa você falhar e corrige a etapa que você perdeu, e quando atua como agente, para de descrever a tarefa e a executa. O tutor que antes era raro, caro e livre para recusá-lo agora é gratuito, incansável e indiferente.
Alguém precisa decidir o que esse tutor pode ensinar, e para quem. Na escala que importa, esse alguém é um soberano, um principal com o poder de estabelecer o limite e fazê-lo valer. Um laboratório pode definir regras internas. Apenas um estado pode definir uma regra vinculante, e em junho de 2026 um estado o fez.
Para definir bem o limite, você gostaria de saber o quão perigosa é uma determinada capacidade. Você não pode. O número que importa é o uplift, o que o modelo adiciona a uma pessoa que não a possuía, medido em comparação ao que essa pessoa já podia fazer com um mecanismo de busca e seu próprio treinamento. Uma pontuação alta em um teste de conhecimento não é uplift se a verdadeira barreira nunca foi o conhecimento. E os casos que mais nos assustam, os raros catastróficos, carregam quase nenhum dado. O número de que a decisão precisa é o número que ninguém consegue obter.
Quando você não pode medir algo, a leitura mais alta dele vence. Os Estados Unidos ordenaram que a Anthropic removesse seus dois modelos mais capazes, e a empresa os desativou mundialmente em horas. A base foi um jailbreak demonstrado e um relatório que remetia a uma única fonte com interesse concorrente. O modelo havia passado mil horas de red teaming e os próprios limites de segurança da empresa. Uma ligação de um concorrente e uma ordem de um regulador o retiraram em cinco dias. Chame isso de cautela, se quiser. Era alavancagem usando a face da cautela.
O erro subjacente percorre a maior parte do campo. As pessoas tratam o tamanho de um perigo como uma razão para acreditar que o perigo é real. As duas coisas são diferentes. O quão ruim seria se fosse verdade não lhe diz nada sobre se é verdade. Uma desvantagem catastrófica é uma razão para exigir mais provas antes de agir, não menos. A gravidade eleva a barra. Ela não a ultrapassa. A ordem Fable interpretou uma desvantagem assustadora como permissão para agir com evidências escassas, e essa manobra passa por responsabilidade, e é por isso que você deve ficar atento.
Um principal que deseja fazer melhor do que alavancagem tem duas ferramentas, e elas fazem trabalhos diferentes.
A primeira mede a crença, porque o risco não será medido. Você constrói o caso mais forte de que a capacidade possibilita danos reais, e o caso mais forte de que não, e age com base no que sobrevive ao confronto. Onde a evidência é fraca, sua convicção permanece fraca, e você o diz. Onde é sólida, você age com uma confiança que conquistou. O tamanho da desvantagem define o quanto você precisa ver antes de agir. Ele nunca substitui o fato de vê-la.
A segunda restringe pelo que vincula. A maioria das estruturas de segurança classifica o risco por domínio, química em uma caixa, cibernética em outra, biologia em uma terceira, e as ameaças caem pelas brechas. Foi assim que um problema cibernético passou por uma estrutura construída para armas químicas e biológicas. Posicione cada capacidade, em vez disso, pelo que a retém: conhecimento, habilidade prática, materiais ou quem controla o acesso. Uma capacidade retida apenas pelo conhecimento é solta, e o modelo remove esse freio, então agora está ativa. Uma capacidade retida por materiais e habilidade de laboratório ainda está vinculada, independentemente de seu domínio. Defina o limite para corresponder ao que vincula a ameaça, e nada escapa por uma lacuna.
As duas ferramentas também dizem a um principal onde colocar o limite. Mantenha a capacidade no modelo e a controle no ponto de uso quando alguém tem uma razão legítima para possuí-la, o que é a maior parte do tempo, porque a capacidade que permite a um atacante encontrar uma falha é a mesma que permite a um defensor corrigi-la. Remova-a do modelo apenas quando o principal tiver decidido que ninguém deveria jamais possuí-la, já que a remoção leva a ferramenta do defensor junto com a do atacante. A primeira mantém viva a questão de para quem. A segunda responde com ninguém.
Nada disso torna uma capacidade livre segura. A capacidade vive nos pesos e não pode sair sem levar o modelo consigo, então os limites controlam o acesso, pesam a crença e delimitam o espaço, e cada um deles vaza. O método não compra segurança. Ele compra uma decisão baseada em evidências e estrutura, em vez de em quem está mais alto na sala quando a questão se torna urgente.
A capacidade é livre. Essa parte está resolvida. A questão em aberto é quem decide o que ela ensina, e para quem, e se eles decidem pesando o que ganharam o direito de acreditar ou estendendo a mão para a alavanca mais próxima. Nomeie o principal. Mantenha o principal em um método.
