IA pode ensinar quase qualquer pessoa a fazer quase qualquer coisa, e fazê-lo com maestria. O perigo não é a informação. A rota de síntese está nos livros didáticos e o exploit está no curso de segurança, e essas informações vazaram há décadas. O perigo é a capacidade, a habilidade de agir, entregue a alguém que antes não podia agir. Um livro diz a mesma coisa para todos e não consegue ver onde você travou. Um modelo observa você falhar e corrige o passo que você perdeu, e quando opera como um agente, para de descrever a tarefa e a executa. O tutor que antes era raro, caro e livre para recusá-lo agora é gratuito, incansável e indiferente.
Alguém tem que decidir o que esse tutor pode ensinar, e para quem. Na escala que importa, esse alguém é um soberano, um principal com o poder de definir o limite e fazê-lo valer. Um laboratório pode estabelecer regras internas. Apenas um Estado pode estabelecer uma regra vinculante, e em junho de 2026 um Estado o fez.
Para definir bem o limite, você precisaria saber o quão perigosa é uma determinada capacidade. Você não consegue. O número que importa é o uplift, o que o modelo adiciona a uma pessoa que não o tinha, medido contra o que essa pessoa já podia fazer com um mecanismo de busca e seu próprio treinamento. Uma pontuação alta em um teste de conhecimento não é uplift se a verdadeira barreira nunca foi o conhecimento. E os casos que mais nos assustam, os raros catastróficos, carregam quase nenhum dado. O número que a decisão precisa é o número que ninguém consegue obter.
Quando você não pode medir algo, a leitura mais ruidosa vence. Os Estados Unidos ordenaram que a Anthropic retirasse seus dois modelos mais capazes, e a empresa os desativou mundialmente em questão de horas. A base foi um jailbreak demonstrado e um relatório que remetia a uma única fonte com interesse concorrente. O modelo havia passado por mil horas de red teaming e pelos próprios limites de segurança da empresa. Uma ligação de um concorrente e uma ordem de um regulador o derrubaram em cinco dias. Chame isso de cautela, se quiser. Era alavancagem vestindo a máscara da cautela.
O erro subjacente percorre a maior parte do campo. As pessoas tratam o tamanho de um perigo como uma razão para acreditar que o perigo é real. As duas coisas são diferentes. O quão ruim seria se fosse verdade não lhe diz nada sobre se é verdade. Uma consequência catastrófica é uma razão para exigir mais provas antes de agir, não menos. A gravidade eleva a barra. Ela não a elimina. A ordem Fable leu uma consequência assustadora como permissão para agir com evidências superficiais, e essa manobra se passa por responsabilidade, e é por isso que você deve ficar atento a ela.
Um principal que deseja fazer melhor do que alavancagem tem duas ferramentas, e elas fazem trabalhos diferentes.
A primeira mede a crença, porque o risco não será medido. Você constrói o caso mais forte de que a capacidade possibilita danos reais, e o caso mais forte de que não possibilita, e age com base no que sobrevive ao confronto. Onde a evidência é escassa, sua convicção permanece escassa, e você diz isso. Onde é sólida, você age com uma confiança que conquistou. O tamanho da consequência negativa define o quanto você precisa ver antes de agir. Ele nunca substitui o ato de ver.
A segunda restringe pelo que vincula. A maioria das estruturas de segurança classifica o risco por domínio, química em uma caixa, cibernética em outra, biologia em uma terceira, e as ameaças escapam pelas brechas. É assim que um problema cibernético passou por uma estrutura criada para armas químicas e biológicas. Posicione cada capacidade, em vez disso, pelo que a retém: conhecimento, habilidade prática, materiais ou quem controla o acesso. Uma capacidade retida apenas pelo conhecimento está solta, e o modelo remove esse freio, então ela está ativa agora. Uma capacidade retida por materiais e habilidade de laboratório ainda está vinculada, qualquer que seja seu domínio. Defina o limite para corresponder ao que vincula a ameaça, e nada escapa por uma lacuna.
As duas ferramentas também dizem a um principal onde colocar o limite. Mantenha a capacidade no modelo e controle-a no ponto de uso quando alguém tem um motivo legítimo para possuí-la, o que ocorre na maioria das vezes, porque a capacidade que permite a um atacante encontrar uma falha é a mesma que permite a um defensor corrigi-la. Exclua-a do modelo apenas quando o principal decidir que ninguém jamais deveria possuí-la, já que a exclusão leva a ferramenta do defensor junto com a do atacante. A primeira mantém viva a questão de para quem. A segunda responde com ninguém.
Nada disso torna uma capacidade livre segura. A capacidade vive nos pesos e não pode sair sem levar o modelo junto, então os limites controlam o acesso, pesam a crença e delimitam o espaço, e cada um deles vaza. O método não compra segurança. Ele compra uma decisão tomada com base em evidências e estrutura, em vez de em quem é o mais ruidoso na sala quando a questão se torna urgente.
A capacidade é livre. Essa parte está resolvida. A questão em aberto é quem decide o que ela ensina, e para quem, e se decidem pesando o que conquistaram o direito de acreditar ou estendendo a mão para a alavanca mais próxima. Nomeie o principal. Responsabilize o principal por um método.
