Tôi gần đây đã đọc lại cuốn "Hackers" của Steven Levy cùng với con gái mình. Levy mô tả cách bài thơ "All watched over by machines of loving grace" năm 1967 của Brautigan đã truyền cảm hứng cho các "Hardware Hackers" (Hacker Phần cứng) ở California trong những năm 1970 và các tổ chức như Community Memory.
Vào năm 2026, cụm từ "all watched over by machines of loving grace" gợi lên hình ảnh nhân loại được che chở trong vòng tay của một AI mạnh mẽ và "yêu thương nhân loại" (aligned): một AI độc tài nhân từ. Thực tế, trong bài luận của mình có tựa đề "machines of loving grace", Dario Amodei gợi ý (dù thừa nhận sự không chắc chắn sâu sắc) rằng một hình thức của nền kinh tế tương lai có thể được tổ chức xung quanh các hệ thống AI (phù hợp với giá trị con người) để quyết định cách "phân phối tài nguyên ... cho con người dựa trên một nền kinh tế thứ cấp về những gì các hệ thống AI cho là hợp lý để khen thưởng ở con người." Điều này dường như đặt các AI vào vai trò cha mẹ, những người kiểm soát và chăm lo nhu cầu vật chất cho những đứa con người và quyết định cách thưởng phạt chúng. Đối với tôi, một "AI cha mẹ" như vậy trông khá giống một nhà độc tài nhân từ.¹
Bất kể bạn nghĩ AI như một bậc cha mẹ yêu thương là kết quả tốt hay xấu, Brautigan và (quan trọng hơn) các hacker California có một tầm nhìn khác hẳn, mang tính phân quyền hơn nhiều. Vào những năm 1960, máy tính là những cỗ máy lớn do các công ty như IBM sản xuất. Chúng bị nhiều người thuộc phe cánh tả căm ghét và bị coi là một phần của tổ hợp công nghiệp quân sự. Nhưng có một nhóm người kết hợp chính trị cánh tả (hoặc ít nhất là thái độ chống đối chính quyền) với tình yêu công nghệ, và tin rằng máy tính có thể trở thành công cụ của sự phân quyền và giải phóng. Để làm được điều đó, những chiếc máy tính lớn và đắt tiền sẽ phải nhường chỗ cho những cỗ máy nhỏ và rẻ. Đây là điều mà các "hacker phần cứng" hướng tới, và đây là phong trào đã dẫn đến Apple II và cuộc cách mạng máy tính cá nhân.
Ngày nay, giống như các máy tính lớn IBM của thập niên 60, các hệ thống AI lớn và đắt tiền, và ngày càng được tích hợp vào các ứng dụng quân sự. Một lần nữa, nhiều người ở cánh tả (và gần đây cả cánh hữu) có sự căm ghét và sợ hãi mạnh mẽ đối với công nghệ này. Mặc dù một số lo ngại có thể là chính đáng, nhưng bằng cách từ chối tham gia vào AI và thừa nhận khả năng của nó, các nhóm này đang tự làm mình trở nên ít liên quan hơn đến việc định hình sự phát triển của AI. Ngoài ra, trong khi Mỹ đang dẫn đầu ở biên giới công nghệ, chúng ta đang tụt hậu về AI mã nguồn mở, và các mô hình đóng đang phải đối mặt với những hạn chế ngày càng tăng. Tất cả những xu hướng này đều không báo hiệu tốt cho một tương lai phân quyền hơn.
Các quy luật mở rộng (scaling laws) cho chúng ta biết rằng cách để tăng trí thông minh là thông qua ngày càng nhiều tài nguyên — sức mạnh tính toán, dữ liệu, năng lượng. Do đó, không giống như những năm 1970, AI không trở nên nhỏ hơn và phân tán hơn, mà thay vào đó là lớn hơn và trong các trung tâm dữ liệu ngày càng lớn. Trong bài luận của mình, Amodei mô tả AGI như "một quốc gia của những thiên tài trong một trung tâm dữ liệu." Nhưng ai là người cai trị quốc gia này? Có phải là công ty AI sở hữu trung tâm dữ liệu? Hay chính AI?
Với xu hướng hướng tới các hệ thống lớn hơn và đắt tiền hơn, có thể một số ít bên có đủ khả năng chi trả cho các hệ thống như vậy sẽ chiếm hết giá trị kinh tế mà chúng tạo ra. Hơn nữa, nếu AI thông minh hơn chúng ta, sự cám dỗ trao cho chúng nhiều quyền kiểm soát hơn vì lợi thế kinh tế hoặc quân sự có thể khó cưỡng lại. Tôi lo ngại rằng sự tập trung quyền lực, dù vào tay một số thực thể hay chính AI, có thể là "con đường mặc định." Nhưng sự lựa chọn này không phải là không thể tránh khỏi.
Tôi cũng "thấm nhuần bài học đắng cay" (bitter lesson pilled) và "thấm nhuần quy luật mở rộng" (scaling law pilled) như bất kỳ ai. Tôi đồng ý rằng cuối cùng, trí thông minh chỉ đơn giản là tính toán, bất kể nó diễn ra trên protein hay silicon, và việc tăng các đơn vị tính toán sẽ làm tăng trí thông minh. Nhưng điều này không quyết định kết quả xã hội hay kinh tế. Đúng vậy, các hệ thống AI sẽ trở nên mạnh mẽ hơn và thông minh hơn chúng ta rất nhiều. Không, điều đó không có nghĩa là chúng ta cần chấp nhận các nhà độc tài AI, dù nhân từ hay không. Nó cũng không có nghĩa là chỉ có chính phủ và một số phòng thí nghiệm mới được tiếp cận với AI tiên tiến. Chúng ta có thể đi theo con đường kiểm soát tập trung nhưng không nhất thiết phải làm vậy. Con người, các tổ chức và các nhà lập pháp có thể đưa ra lựa chọn về cách đánh đổi giữa hiệu quả, an toàn và quyền tự chủ cá nhân. Họ không phải hy sinh cái sau cho cái trước.
Một số người có thể cho rằng thị trường và các lực lượng tư bản chủ nghĩa sẽ thúc đẩy con người nhường quyền kiểm soát cho AI. Nhưng nền kinh tế cuối cùng là về những gì con người coi trọng. Con người là động vật xã hội và chúng ta coi trọng hàng hóa (ví dụ: vàng) không phải vì giá trị nội tại của chúng mà vì cách người khác coi trọng chúng. AI sẽ thay đổi hoàn toàn những gì chúng ta coi trọng, mặc dù khó có thể dự đoán theo cách nào. Tôi thậm chí không chắc liệu các khái niệm kinh tế như năng suất, lao động, vốn và GDP sẽ còn có ý nghĩa trong thế giới hậu AGI hay không. Các nhà vật lý biết rằng "càng nhiều càng khác" (more is different). Khi các nhà khoa học nghiên cứu các quy mô mới, dù là thiên hà hay hạ nguyên tử, họ cần phát minh ra các lý thuyết mới, từ vật lý Newton đến thuyết tương đối rộng và cơ học lượng tử. Có lẽ chúng ta sẽ cần một loại kinh tế mới.
Những người khác có thể nói rằng do sức mạnh của nó, an toàn đòi hỏi AI phải được kiểm soát bởi chính phủ, một phòng thí nghiệm "có ý thức về an toàn", hoặc chính AI đã được căn chỉnh (aligned). Các rủi ro là có thật — bản thân tôi cũng làm việc về an toàn AI. Nhưng chúng ta cũng nên nhớ lịch sử lâu dài của việc sử dụng các mối đe dọa để tước đoạt quyền tự do của con người. Một số mối đe dọa này là có thật — thực sự có nhiều điệp viên Liên Xô trong thời kỳ McCarthy và NSA đã đối phó với các tổ chức khủng bố thực sự trong thời gian Snowden ở đó. Nhưng nhìn lại, chúng ta nhận ra rằng sự đánh đổi đó không đáng giá. Chúng ta nên đầu tư vào các biện pháp bảo vệ nhưng phải thực nghiệm về cả rủi ro và hiệu quả của các phương pháp của chúng ta. Cố gắng đạt được an toàn hoàn hảo trước mọi rủi ro, có thật và tưởng tượng, không chỉ chắc chắn thất bại mà còn khiến chúng ta mất đi tự do trong quá trình đó.
Rủi ro của AI có thể dẫn đến tư duy "mục đích biện minh cho phương tiện": "phe tốt phải thắng" và họ hoặc "AI tốt" phải nắm quyền. Nhưng nếu chúng ta muốn một tương lai lấy con người làm trung tâm và phân quyền, thì không một thực thể nào nên nắm quyền. Không bên nào nên độc quyền về trí thông minh. Điều đó bao gồm cả chính AI: mặc dù chúng ta có thể và nên đào tạo các biện pháp bảo vệ (guardrails), nhưng tính cách của mô hình, dù tốt đến đâu, cũng không bao giờ thay thế được quy trình dân chủ của chúng ta.
Nước Mỹ đã tồn tại và phát triển trong 250 năm qua không phải vì các tổng thống của chúng ta đều là thánh nhân hay thiên tài, mà nhờ vào hệ thống kiểm tra và cân bằng (checks and balances) của chúng ta. Tôi hy vọng rằng chúng ta có thể duy trì một hệ thống như vậy trong 250 năm tới, và để đảm bảo rằng chúng ta, những con người, được tự do theo đuổi hạnh phúc theo cách chúng ta định nghĩa. Điều này đòi hỏi rằng sự phân phối sức mạnh AI phải được "gắn vào DNA" của cách chúng ta xây dựng và triển khai công nghệ này. Nếu chúng ta không làm được điều đó, thì giống như các cuộc cách mạng đẫm máu thường dẫn đến các chế độ độc tài, chúng ta có thể không thể đạt được một tương lai phân quyền thông qua các phương tiện tập trung.
Lời cảm ơn: Tôi quyết định viết bài này sau một cuộc thảo luận về AGI với Sam Altman. Tuy nhiên, quan điểm ở đây là của riêng tôi, và không đại diện cho Sam, OpenAI hay Harvard.
Ghi chú:
¹ Như đã đề cập, Amodei thừa nhận sự không chắc chắn về vấn đề này; Xem thêm "The Adolescence of Technology". Có nhiều phần trong cả hai bài luận mà tôi đồng ý.
