La IA puede enseñar a casi cualquier persona a hacer casi cualquier cosa, y hacerlo con maestría. El peligro no es la información. La ruta de síntesis está en los libros de texto y la explotación está en el curso de seguridad, y esa información se filtró hace décadas. El peligro es la capacidad, la habilidad para actuar, puesta en manos de alguien que antes no podía actuar. Un libro te dice lo mismo que a todos y no puede ver dónde te atascaste. Un modelo te observa fallar y corrige el paso que te perdiste, y cuando funciona como agente deja de describir la tarea y la hace. El tutor que solía ser raro, caro y libre de rechazarte ahora es gratuito, incansable e indiferente.
Alguien tiene que decidir qué puede enseñar ese tutor y a quién. A la escala que importa, ese alguien es un soberano, un principal con el poder de fijar el límite y hacerlo valer. Un laboratorio puede establecer reglas internas. Solo un estado puede establecer una regla vinculante, y en junio de 2026 un estado lo hizo.
Para fijar bien el límite, querrías saber qué tan peligrosa es una capacidad determinada. No puedes. El número que importa es el impulso de capacidad, lo que el modelo añade a una persona que carecía de ello, medido en comparación con lo que esa persona ya podía hacer con un motor de búsqueda y su propia formación. Una puntuación alta en una prueba de conocimiento no es un impulso si la barrera real nunca fue el conocimiento. Y los casos que más nos asustan, los catastróficos y raros, apenas tienen datos. El número que la decisión necesita es el número que nadie puede obtener.
Cuando no puedes medir algo, gana la lectura más ruidosa. Estados Unidos ordenó a Anthropic retirar sus dos modelos más capaces, y la empresa los desactivó a nivel mundial en cuestión de horas. La base fue un bypass demostrado y un informe que se remontaba a una sola fuente con un interés competitivo. El modelo había superado miles de horas de pruebas de seguridad y los umbrales de seguridad propios de la empresa. La llamada telefónica de un competidor y la orden de un regulador lo retiraron en cinco días. Llámalo precaución si quieres. Era influencia disfrazada de precaución.
El error subyacente recorre gran parte del campo. La gente trata el tamaño de un peligro como una razón para creer que el peligro es real. Las dos cosas son diferentes. Lo malo que sería si fuera verdad no te dice nada sobre si es verdad. Un riesgo catastrófico es una razón para exigir más pruebas antes de actuar, no menos. La gravedad eleva el estándar. No lo despeja. La orden Fable interpretó un riesgo aterrador como permiso para actuar con evidencia débil, y esa maniobra se hace pasar por responsabilidad, por lo que debes estar atento a ella.
Un principal que quiera hacerlo mejor que con influencia tiene dos herramientas, y hacen trabajos diferentes.
La primera mide la creencia, porque el riesgo no se medirá. Construyes el caso más sólido de que la capacidad permite un daño real, y el caso más sólido de que no, y actúas sobre lo que sobrevive al enfrentamiento. Donde la evidencia es escasa, tu convicción se mantiene escasa, y lo dices. Donde es sólida, te mueves con una confianza que te has ganado. La magnitud del riesgo establece cuánto necesitas ver antes de actuar. Nunca sustituye a verlo.
La segunda limita mediante lo que restringe. La mayoría de los marcos de seguridad clasifican el riesgo por dominio, química en una caja, cibernética en otra, biología en una tercera, y las amenazas se cuelan por las grietas. Así es como un problema cibernético pasó por alto un marco construido para armas químicas y biológicas. Posiciona cada capacidad, en cambio, por lo que la frena: conocimiento, habilidad práctica, materiales o quién controla el acceso. Una capacidad frenada solo por el conocimiento está suelta, y el modelo quita ese freno, por lo que ahora está activa. Una capacidad frenada por materiales y habilidad de laboratorio sigue estando limitada, sea cual sea su dominio. Fija el límite para que coincida con lo que restringe la amenaza, y nada se escapa por una grieta.
Las dos herramientas también le dicen a un principal dónde poner el límite. Mantén la capacidad en el modelo y controla el acceso en el punto de uso cuando alguien tiene una razón legítima para tenerla, que es la mayoría de las veces, porque la capacidad que permite a un atacante encontrar una falla es la misma que permite a un defensor repararla. Elimínala del modelo solo cuando el principal haya decidido que nadie debería tenerla nunca, ya que la eliminación se lleva la herramienta del defensor junto con la del atacante. La primera mantiene viva la pregunta de a quién. La segunda responde con nadie.
Nada de esto hace segura una capacidad liberada. La capacidad vive en los pesos y no puede salir sin llevarse el modelo consigo, por lo que los límites controlan el acceso, pesan la creencia y acotan el espacio, y cada uno de ellos tiene fugas. El método no compra seguridad. Compra una decisión basada en evidencia y estructura, en lugar de en quien sea más ruidoso en la sala cuando la pregunta se vuelve urgente.
La capacidad es libre. Esa parte está resuelta. La pregunta abierta es quién decide qué enseña y a quién, y si deciden sopesando lo que se han ganado el derecho a creer o alcanzando la palanca más cercana. Nombra al principal. Exige al principal un método.
