Đầu tháng này, chúng tôi đã giành được khoản tiền thưởng bug bounty trị giá 2,5 triệu đô la – khoản bounty lớn nhất từ trước đến nay mà một AI agent nhận được. Đây là một lỗ hổng trong một blockchain lớn, và nó khiến hơn 100 triệu đô la tiền quỹ gặp rủi ro. Chúng tôi đã tìm ra lỗ hổng hoàn toàn tự động bằng V12, AI agent bảo mật của chúng tôi, và phối hợp với đội ngũ kỹ thuật để khắc phục vấn đề.
V12 không phải là một công cụ bảo mật agentic thông thường. Nó thường xuyên tìm ra những lỗ hổng nghiêm trọng như thế này, trong vô số lỗ hổng 0-day (bao gồm LPE trên Linux, thoát QEMU, UXSS trên Firefox, RCE hai chiều trên Postgres và Redis). Đó là vì dù chúng tôi đang xây dựng một sản phẩm, sứ mệnh chính của chúng tôi là nghiên cứu và tạo ra những công cụ tấn công bảo mật mạnh đến mức nguy hiểm. Để làm được điều đó, chúng tôi đã huy động được vòng gọi vốn hạt giống 10 triệu đô la do Electric Capital dẫn đầu, với sự tham gia của ZachXBT, samczsun, Walden Yan, và nhiều người khác.
Chúng tôi khuyến khích bạn tự mình dùng thử V12. Dịch vụ này hoàn toàn tự phục vụ, và bạn sẽ nhận được 200 đô la sử dụng miễn phí khi đăng ký trong bảy ngày tới.
Phần 1: Chúng tôi đang làm gì
Mục tiêu của chúng tôi là chế tạo một "quả bom hạt nhân mạng". Nghĩa là xây dựng thứ có thể tìm ra tất cả các lỗ hổng trong một hệ thống. Điều này đặc biệt thú vị vì khả năng như vậy sẽ cho phép bạn khai thác cả những phần mềm từng được coi là an toàn. Cho đến nay điều này vẫn chưa thể thực hiện được, nhưng AI tiên phong đang thay đổi điều đó.
Chúng tôi không làm pentest. Pentest hộp đen (black-box) mô phỏng một kẻ tấn công bên ngoài không khiến chúng tôi hứng thú. Đó là một thị trường bão hòa, và chúng tôi không muốn tạo ra thêm một sản phẩm chỉ biết ném payload XSS. Pentest dạng agentic rất tốt để tìm ra một số lỗ hổng, nhưng thứ chúng tôi muốn là thứ tìm ra tất cả các lỗ hổng. Điều đó không thể thực hiện nếu không đọc và hiểu mã nguồn. Chúng tôi cần tập trung vào kiểm định mã nguồn dạng white-box, thứ giống với nghiên cứu lỗ hổng hơn.
Nguồn meme: LiveOverflow
Cụ thể hơn, đó là một hệ thống có thể suy luận về mã nguồn cũng như tất cả các lớp trừu tượng bên dưới, thậm chí tạo ra những lớp trừu tượng mới (ví dụ như weird machines). Chúng tôi muốn một hệ thống không chỉ tìm ra lỗ hổng mà còn có thể phát minh ra những lớp lỗ hổng hoàn toàn mới. Tuy nhiên, đây cũng là lĩnh vực bảo mật khó tự động hóa nhất. Rất nhiều nghiên cứu lỗ hổng giống như việc cẩn thận suy luận về mã nguồn và tự chứng minh với bản thân rằng "không, chỗ này không thể có lỗi" hoặc ngược lại, tự hỏi "khoan, nếu… thì sao?". Tất cả đều đòi hỏi trí thông minh ngang con người, thứ chưa thể mở rộng quy mô cho đến nay.
Tóm lại, thứ chúng tôi muốn là một hệ thống AI có thể tiếp nhận một kho mã nguồn lớn và phức tạp tùy ý, suy luận về cách nó thực sự hoạt động, sau đó dùng sự hiểu biết đó để phát minh – chứ không chỉ khám phá – ra các lỗ hổng và cách khai thác.
Tất nhiên, một hệ thống thực sự tìm ra toàn bộ lỗ hổng là điều không khả thi; đó chính là bài toán dừng (halting problem) đội lốt. Nó tương đương với việc chứng minh một thứ không có lỗ hổng, trong đó các cách khai thác chính là những phản ví dụ. Bạn có thể tạo ra những chương trình cực kỳ khó khai thác. Ví dụ, một chương trình sẽ trở nên dễ bị tấn công nếu giả thuyết Collatz là sai. Nhưng chúng tôi dự định sẽ đẩy giới hạn lên và xây dựng phiên bản gần nhất có thể trong thực tế.
Và chẳng có ai dẫn đường
Giả sử chúng ta thực sự chế tạo được quả bom hạt nhân mạng. Rồi sao?
Với sự bùng nổ của các khả năng tấn công, thế giới sẽ thay đổi chóng mặt. Tuy nhiên, thật không thực tế nếu kỳ vọng các nhà phát triển – đặc biệt là doanh nghiệp – tự mình thích nghi ngay lập tức. Các tổ chức lâu năm thiếu tầm nhìn và chuyên môn để chuyển đổi đúng đắn. Họ cũng cần những giải pháp – những sản phẩm vận hành tốt, được thiết kế chỉn chu – chứ không chỉ là "túi công cụ".
Về khả năng thích nghi của các tổ chức: thật dễ để chỉ vào những mô hình hiện đại nhất và tuyên bố rằng an ninh mạng đã được giải quyết. Chuyện hoàn toàn khác là để các nhà phát triển thực sự tận dụng các mô hình để bảo vệ mã nguồn của họ. Một nhà phát triển bình thường vẫn đang hỏi Claude hay Codex "rà soát PR của tôi để tìm lỗi" rồi tiếp đó "OK sửa những chỗ này đi". Điều này còn lâu mới đủ! Kẻ tấn công đã sử dụng những bộ khung và quy trình tìm lỗ hổng phức tạp, mạnh mẽ. Có sự bất đối xứng ở đây. Người phòng thủ không có nguồn lực để tạo ra những quy trình này, cũng không thể phân bổ chi phí cho nhiều mục tiêu săn lỗ hổng. Họ cần ai đó tận dụng, điều khiển và triển khai các mô hình này để khai mở toàn bộ tiềm năng của chúng.
Trong khi đó, con người thì bận rộn. Họ bị quá tải vì phải kịp deadline và tung ra các tính năng theo lộ trình. Họ không có thời gian để nghĩ về bảo mật; họ muốn ai đó – hoặc thứ gì đó – bước vào và sửa nó giúp họ. Nó nên được tích hợp thẳng vào tổ chức của họ (ví dụ như trong Slack), hiểu quy trình làm việc của họ (bạn có dùng GitHub không? lỗi được gán cho ai như thế nào? bạn dùng gì để quản lý issue? bạn dùng những agent nào?), và có cảm giác được cá nhân hóa theo bối cảnh của họ.
Vì lý do tương tự, người phòng thủ sẽ thua trừ khi họ có một sản phẩm hữu dụng ngay khi mở hộp. Sản phẩm đó cần hoặc là hoàn toàn tự phục vụ, hoặc đi kèm với dịch vụ triển khai tận nơi (white-glove). Nó phải có hình thức phù hợp (CLI? MCP? Slack agent? GitHub bot? tất cả những thứ trên?); cảm giác sử dụng tốt (không bị giật lag, hoạt động trên mobile, nút bấm đúng chỗ như bạn mong đợi, …); và phải hợp lý (mô hình thanh toán dễ chịu, kiểm soát truy cập hoạt động đúng đắn, lựa chọn phạm vi kiểm toán hợp logic, …). Có cả triệu thứ phải làm đúng để sản phẩm như thế thực sự được áp dụng.
Tóm lại: hãy xây dựng thứ có thể tiếp nhận những chương trình phức tạp tùy ý, suy luận thấu đáo về chúng, và tìm ra những lỗ hổng mới. Sau đó đóng gói khả năng đó vào một sản phẩm hữu ích, và dìu dắt các nhà phát triển để họ thực sự có thể sử dụng và hưởng lợi từ nó.
Phần 2: Những điều chúng tôi tin
OK, vậy làm thế nào để chúng tôi thực sự biến điều này thành hiện thực? Bất kỳ kế hoạch hành động cụ thể nào cũng vô dụng (đây là một công ty ở giai đoạn hạt giống). Sẽ hợp lý hơn nếu trình bày các nguyên tắc chỉ đạo của chúng tôi và cách chúng tôi dự đoán thế giới sẽ phát triển.
Chống lại "Chủ nghĩa an toàn"
Đầu tiên, chúng tôi tin rằng cách hiệu quả nhất để bảo vệ phần mềm trên thế giới là trao cho tất cả mọi người khả năng tìm lỗ hổng. Chúng tôi không tin vào kiểu "liên hệ với chúng tôi" hay "nộp đơn xin quyền truy cập". Trạng thái cuối cùng hợp lý là một thế giới nơi mọi lỗ hổng đều được tìm ra và vá. Việc hạn chế truy cập chỉ làm chậm quá trình đó. Với những người duy trì dự án, thích nghi với bối cảnh mối đe dọa mới là khó chịu nhưng không thể tránh khỏi, và chúng tôi nghĩ cách tốt nhất là cứ tìm ra tất cả các lỗ hổng ngay bây giờ. Trong thực tế, điều đó có nghĩa là trang bị cho người phòng thủ các khả năng tấn công để họ có thể tự cứng hóa mã nguồn của mình.
Nói rõ hơn, chúng tôi muốn phần mềm an toàn và đáng tin cậy. Tung ra những khả năng tấn công mà thế giới chưa sẵn sàng là điều vô trách nhiệm. Nhưng rất nhiều thứ gọi là "truy cập có kiểm soát" hay "xác minh an ninh mạng" mà chúng ta thấy gần đây chỉ là phô trương và tiếp thị. Người ta dùng mối lo ngại về an toàn làm cái cớ để không thực sự trao quyền truy cập cho bất kỳ ai – và trong quá trình đó, không bảo vệ được mọi người trên quy mô lớn. Chỉ riêng năm nay, V12 đã bảo vệ người dùng bằng hơn 6.000 lượt đánh giá bảo mật. Chúng tôi không chống lại an toàn, chúng tôi chống lại sự an toàn kiểu diễn kịch (safety LARP).
Tiết lộ công khai
Chúng tôi tin vào việc tiết lộ công khai. Việc tiết lộ có trách nhiệm sẽ bị xem là cách báo cáo và sửa lỗi lỗi thời. Các lệnh cấm vận và phối hợp tiết lộ chẳng còn ý nghĩa gì trong một thế giới mà bất kỳ ai có công cụ phù hợp đều có thể tìm ra và vũ khí hóa một lỗ hổng với rất ít sự can thiệp hoặc chuyên môn của con người. Chúng tôi đã thấy điều này khi tìm và báo cáo Fragnesia, Pintheft và DirtyDecrypt – những lỗ hổng LPE 0-day trên Linux mà cuối cùng đã bị rò rỉ trước khi các bản vá được đưa vào nhân chính (mainline kernel). Bất kỳ ai cũng có thể theo dõi các commit công khai và dễ dàng tái tạo một exploit đã vũ khí hóa. Giải pháp thực sự duy nhất là loại bỏ hoàn toàn khoảng trống vá lỗi. Trong thực tế, điều này có nghĩa là các bản cập nhật thường xuyên hơn (và tự động) cùng việc nhà cung cấp tung ra bản vá ngay trong ngày (thậm chí là giờ!) phát hiện ra lỗi. Đặc biệt, điều đó có nghĩa là người phòng thủ cần những khả năng phi thường trong việc tạo PoC và bản vá.
Bug bounty đã chết
Các chương trình bug bounty dưới hình thức hiện tại sẽ chết, ngoại trừ các chương trình mua lỗ hổng cho những lỗi cực kỳ giá trị. Tất cả các lỗ hổng khác sẽ bị những công cụ tấn công mạng như V12 đào bới hết trước khi mã nguồn được phát hành – nghĩa là trước khi kẻ tấn công có cơ hội bắt đầu tìm kiếm.
Những người duy trì dự án đang gục ngã dưới sức nặng của các bài gửi bug bounty do AI tạo ra. Nhiều người đã tuyên bố sẽ chấm dứt hoàn toàn bug bounty. Giờ đây khi lỗ hổng trở nên rẻ hơn bao giờ hết, giải pháp duy nhất là hoặc (1) ngừng quan tâm đến hầu hết các lỗi, hoặc (2) ngừng phát hành chúng. Trong quá khứ, cả hai đều bất khả thi vì trong khi gần như mọi mã nguồn đều có lỗi, việc suy luận qua toàn bộ các lỗi tiềm ẩn là quá tốn thời gian và chi phí. Nhưng giờ đây, chúng tôi tin rằng điều đó không chỉ khả thi mà còn tất yếu.
Bảo mật crypto là một lĩnh vực thú vị
Các dự án crypto là những mục tiêu thú vị và là một bước mở đường quan trọng cho công ty chúng tôi. Chúng tôi ám ảnh với việc tìm ra mọi lỗ hổng, và crypto hiện là nơi điều này có ý nghĩa nhất. Chỉ riêng năm nay, hơn 500 triệu đô la đã bị đánh cắp trong các vụ hack. Nếu V12 có thể thành công trong crypto – nếu chúng tôi có thể chiến thắng ở "chế độ khó" – thì chúng tôi có thể thắng ở bất cứ đâu.
Với một số ngoại lệ hiếm hoi (iOS full chain chăng?), không có lỗ hổng nào ngoài crypto có thể đem về tiền thưởng bảy hoặc tám con số. Ngoài crypto, 50.000 đô la vẫn được coi là một khoản bounty khổng lồ. Còn trong crypto, một lỗ hổng gây mất quỹ nghiêm trọng có thể trị giá hàng trăm triệu đô la nếu bị khai thác. Nhìn chung, không ai muốn coi bảo mật một cách nghiêm túc, nhưng các công ty crypto thì buộc phải làm điều đó. Điều đó có nghĩa là khi chọn sản phẩm bảo mật, họ chọn khả năng tìm lỗi thay vì những bảng điều khiển đẹp mắt – thứ mà V12 được tối ưu hóa. Trong khi đó, ngoài crypto, bảo mật vẫn xoay quanh văn hóa tuân thủ, chứ không phải thực chất.
Mọi phần mềm đều có lỗ hổng, nhưng thế giới vận hành như thể điều đó không tồn tại. Điều này chỉ hiệu quả cho đến nay vì kẻ tấn công hiếm – kỹ năng kỹ thuật chính là điểm nghẽn. AI đã loại bỏ ràng buộc đó. Giờ đây, nếu phần mềm không an toàn thì nó CHẮC CHẮN sẽ bị khai thác.
Tác động càng được nhân lên bởi thực tế là thế giới ngày càng trực tuyến, và phần lớn thế giới giờ đây thực sự tồn tại "bên trong một chiếc máy tính". Mọi thứ sẽ phải trở nên an toàn hơn nhiều trong thời gian rất ngắn, và điều đó có nghĩa là sẽ có nhiều nhóm xử lý bảo mật nghiêm túc như các công ty crypto.
Nhân tiện, để xóa tan một quan niệm sai lầm phổ biến: các kho mã nguồn crypto không hề tầm thường về quy mô, độ phức tạp và sự đa dạng. Firedancer là 722k dòng mã C được tối ưu hóa cao, Geth + Prysm là 1,1 triệu dòng Go, Zcash là 304k dòng C++ và Python (riêng Orchard đã là 44k dòng circuit và mã mật mã trong Rust). Tất cả đều chứa máy ảo, mã hệ thống cấp thấp và cơ sở dữ liệu phân tán. Để hình dung, Postgres và CPython đều dao động quanh khoảng 1 triệu dòng mã.
Đã đến lúc cần bảo mật thực sự
Phần mềm trên thế giới chưa bao giờ hết lỗ hổng, nhưng giờ đây không thể phớt lờ nữa. Web hiện đại phụ thuộc vào mật mã và trình duyệt an toàn, các mô hình tiên phong dựa vào TEE để bảo vệ trọng số, và những đổi mới trong robot học và sinh học sẽ chỉ khiến bảo mật ngày càng quan trọng hơn. Về cơ bản, mọi mã nguồn rồi sẽ trở thành mã nguồn có yêu cầu bảo đảm cao (high-assurance).
Đừng quên sự phức tạp ngày càng tăng của chuỗi cung ứng phần mềm. Rất nhiều mã nguồn chúng ta không nghĩ tới sẽ là (hoặc đã là) mã nguồn có yêu cầu bảo đảm cao. OpenSSH chắc chắn là cái tên hiện lên đầu tiên, nhưng còn tất cả những package chúng ta đã quên lãng thì sao? Internet phụ thuộc vào phần mềm mà không ai ngó ngàng tới.
Cách làm bảo mật hiện tại sẽ không hiệu quả. Nó chỉ là ý nghĩ được thêm vào sau và thực hiện theo kiểu cố gắng hết sức. Các nhóm tập trung phát triển tính năng và đẩy bảo mật thành trách nhiệm của người khác. Hầu hết các sản phẩm bảo mật trông giống như miếng dán cá nhân, chỉ xử lý triệu chứng của lỗ hổng chứ không phải giải pháp thực sự. Nhưng trong một thế giới với AI mạnh mẽ, chỉ cần một lỗi duy nhất tồn tại, sẽ có ai đó tìm ra và khai thác nó.
Thay vào đó, bảo mật cần phải liên tục và toàn diện – mỗi PR được merge cần phải không có lỗ hổng. Con đường đến đó sẽ không dễ dàng, và chúng tôi chưa có câu trả lời cho tất cả. Không ai có cả. Nhưng vấn đề cốt lõi mà mọi thứ quy về – tìm lỗ hổng – là thứ chúng tôi đã ám ảnh suốt 10 năm qua. Trước V12, chúng tôi thành lập Zellic, một trong những công ty bảo mật hàng đầu thế giới, với hơn 1.500 lượt đánh giá bảo mật cho hơn 500 khách hàng bị tấn công nhiều (ví dụ: các sàn giao dịch crypto, cầu nối, L1, ví, hệ điều hành mã nguồn mở). Và trước đó nữa, chúng tôi thành lập perfect blue, đội CTF số 1 thế giới suốt 3 năm.
Mọi thành viên trong đội V12 đều xuất thân từ CTF hoặc nghiên cứu lỗ hổng. Hãy nhìn vào những gì chúng tôi đã báo cáo cho đến nay: nhiều lỗ hổng LPE trên Linux, một lỗ hổng thoát QEMU, RCE có khả năng tự lan truyền (wormable) trên Redis và PostgreSQL (hai chiều!), MariaDB, và Anydesk. Và điều đáng hứa hẹn hơn nữa là bất kể phần mềm mới nào chúng tôi đưa V12 vào, lỗ hổng cứ tuôn ra: Dolphin emulator, NAS của một nhân viên, Signal messenger.
Lời kết
Một vòng gọi vốn hạt giống tốt đẹp mang đến cho bạn thứ tuyệt vời nhất trên đời: cơ hội được xây dựng thứ bạn yêu thích cùng với bạn bè của mình.
Chúng tôi đã mơ về bài toán này – tự động tìm ra mọi lỗ hổng – từ khi còn là những thiếu niên. Giờ đây, AI cuối cùng cũng đủ mạnh để chúng tôi thực sự thử sức. Chúng tôi rất háo hức. Nếu chúng tôi đúng, thứ chúng tôi đang xây dựng sẽ có năng lực nguy hiểm đến mức thế giới sẽ phải thích nghi xung quanh nó.
Chúng tôi muốn là những người biến điều đó thành hiện thực. Nếu V12 nghe giống như thứ bạn muốn góp mặt: hãy gia nhập chúng tôi, chúng tôi đang tuyển dụng!
