AI có thể dạy hầu như bất kỳ ai làm hầu như bất kỳ điều gì, và làm một cách thành thạo. Nguy hiểm không nằm ở thông tin. Con đường tổng hợp nằm trong sách giáo khoa và khai thác lỗ hổng nằm trong khóa học bảo mật, và những thông tin đó đã bị rò rỉ từ nhiều thập kỷ trước. Nguy hiểm nằm ở năng lực, khả năng hành động, được trao cho một người trước đây không thể hành động. Một cuốn sách cho bạn biết điều giống như nó cho mọi người biết và không thể thấy bạn bị mắc kẹt ở đâu. Một mô hình theo dõi bạn thất bại và sửa bước bạn bỏ lỡ, và khi nó chạy như một tác nhân, nó ngừng mô tả nhiệm vụ và thực hiện nó. Người gia sư trước đây hiếm, đắt tiền và tự do từ chối bạn thì nay miễn phí, không biết mệt mỏi và thờ ơ.
Ai đó phải quyết định người gia sư đó có thể dạy gì và cho ai. Ở quy mô quan trọng, ai đó là một quốc gia có chủ quyền, một chủ thể có quyền lực để đặt ra giới hạn và làm cho nó có hiệu lực. Một phòng thí nghiệm có thể đặt ra nội quy. Chỉ có một nhà nước mới có thể đặt ra một quy tắc ràng buộc, và vào tháng 6 năm 2026, một nhà nước đã làm điều đó.
Để đặt giới hạn tốt, bạn sẽ muốn biết một năng lực nhất định nguy hiểm đến mức nào. Bạn không thể. Con số quan trọng là sự nâng cấp (uplift), những gì mô hình thêm vào cho một người thiếu nó, đo lường so với những gì người đó đã có thể làm với một công cụ tìm kiếm và đào tạo của chính họ. Điểm cao trong bài kiểm tra kiến thức không phải là sự nâng cấp nếu rào cản thực sự không phải là kiến thức. Và những trường hợp khiến chúng ta sợ hãi nhất, những trường hợp thảm khốc hiếm hoi, hầu như không mang dữ liệu nào. Con số mà quyết định cần là con số không ai có thể có được.
Khi bạn không thể đo lường một thứ, cách đọc to nhất về nó sẽ thắng. Hoa Kỳ đã ra lệnh cho Anthropic rút lại hai mô hình mạnh nhất của mình, và công ty đã tắt chúng trên toàn thế giới trong vòng vài giờ. Cơ sở là một vụ vượt rào (jailbreak) đã được chứng minh và một báo cáo bắt nguồn từ một nguồn duy nhất có lợi ích cạnh tranh. Mô hình đã vượt qua hàng nghìn giờ thử nghiệm đối đầu (red teaming) và các ngưỡng an toàn của chính công ty. Một cuộc gọi từ đối thủ cạnh tranh và lệnh của cơ quan quản lý đã kéo nó xuống trong năm ngày. Gọi đó là sự thận trọng nếu bạn muốn. Đó là đòn bẩy mang khuôn mặt của sự thận trọng.
Sai lầm bên dưới chạy xuyên suốt hầu hết lĩnh vực. Mọi người coi quy mô của một mối nguy như một lý do để tin rằng mối nguy đó là có thật. Hai điều đó khác nhau. Mức độ tồi tệ nếu nó đúng không cho bạn biết gì về việc nó có đúng hay không. Một hậu quả thảm khốc là lý do để yêu cầu thêm bằng chứng trước khi hành động, không phải ít hơn. Mức độ nghiêm trọng nâng cao tiêu chuẩn. Nó không xóa bỏ nó. Lệnh Fable đọc một hậu quả đáng sợ như một sự cho phép để hành động trên bằng chứng mỏng manh, và động thái đó được coi là trách nhiệm, đó là lý do tại sao bạn phải cảnh giác.
Một chủ thể muốn làm tốt hơn đòn bẩy có hai công cụ, và chúng làm những công việc khác nhau.
Công cụ đầu tiên đo lường niềm tin, bởi vì rủi ro sẽ không được đo lường. Bạn xây dựng trường hợp mạnh nhất rằng năng lực đó gây ra tác hại thực sự, và trường hợp mạnh nhất rằng nó không gây hại, và bạn hành động dựa trên những gì sống sót sau cuộc tranh luận. Nơi bằng chứng mỏng manh, niềm tin của bạn vẫn mỏng manh, và bạn nói như vậy. Nơi nó vững chắc, bạn tiến lên với sự tự tin mà bạn đã kiếm được. Mức độ của hậu quả xấu nhất đặt ra bạn cần thấy bao nhiêu trước khi hành động. Nó không bao giờ thay thế cho việc thấy nó.
Công cụ thứ hai ràng buộc bằng những gì giữ chặt. Hầu hết các khung an toàn phân loại rủi ro theo lĩnh vực, hóa học trong một ô, mạng trong một ô khác, sinh học trong ô thứ ba, và các mối đe dọa rơi qua các khe hở. Đó là cách một vấn đề mạng lướt qua một khung được xây dựng cho vũ khí hóa học và sinh học. Thay vào đó, hãy định vị mỗi năng lực bằng những gì kìm hãm nó: kiến thức, kỹ năng thực hành, vật liệu, hoặc ai kiểm soát truy cập. Một năng lực chỉ bị kìm hãm bởi kiến thức là lỏng lẻo, và mô hình tháo phanh đó, vì vậy nó đang hoạt động ngay bây giờ. Một năng lực bị kìm hãm bởi vật liệu và kỹ năng phòng thí nghiệm vẫn bị ràng buộc, bất kể lĩnh vực của nó. Đặt giới hạn phù hợp với những gì ràng buộc mối đe dọa, và không có gì lọt qua khe hở.
Hai công cụ cũng cho chủ thể biết nên đặt giới hạn ở đâu. Giữ năng lực trong mô hình và chặn nó tại điểm sử dụng khi ai đó có lý do chính đáng để giữ nó, điều này xảy ra hầu hết thời gian, bởi vì năng lực cho phép kẻ tấn công tìm ra lỗ hổng cũng là năng lực cho phép người phòng thủ sửa nó. Xóa nó khỏi mô hình chỉ khi chủ thể đã quyết định không ai nên giữ nó, vì việc xóa sẽ lấy đi công cụ của người phòng thủ cùng với công cụ của kẻ tấn công. Cách đầu tiên giữ cho câu hỏi 'cho ai' còn sống. Cách thứ hai trả lời nó bằng 'không ai'.
Không điều nào trong số này làm cho một năng lực tự do trở nên an toàn. Năng lực sống trong các trọng số và không thể rời đi mà không mang theo mô hình, vì vậy các giới hạn chặn truy cập, cân đo niềm tin, và giới hạn không gian, và mỗi cái trong số chúng đều bị rò rỉ. Phương pháp này không mua được sự an toàn. Nó mua một quyết định được đưa ra dựa trên bằng chứng và cấu trúc thay vì dựa trên người to nhất trong phòng khi câu hỏi trở nên cấp bách.
Năng lực là miễn phí. Phần đó đã được giải quyết. Câu hỏi mở là ai quyết định nó dạy gì, và cho ai, và liệu họ quyết định bằng cách cân đo những gì họ đã kiếm được quyền tin hay bằng cách với tới đòn bẩy gần nhất. Hãy nêu tên chủ thể. Hãy giữ chủ thể tuân theo một phương pháp.
