Vậy là bạn muốn làm nghiên cứu AI? Đúng là không ai thực sự dạy bạn cách làm. Không trực tiếp, ít nhất là vậy. Nhưng hóa ra cách để bắt đầu khá đơn giản: sự kết hợp giữa (i) đọc và (ii) xây dựng thứ gì đó. Bạn không thể làm cái này mà thiếu cái kia. Bạn trở thành một nhà nghiên cứu thông qua sự kết hợp đó.
Hóa ra quá trình trở thành một nhà nghiên cứu xuất sắc cũng không khác gì học thiền:
I.
Có một câu nói trong Thiền tông xưa kể rằng:
*ngày nào ta tìm thấy sự thông suốt, ta ngồi. ngày nào ta không tìm thấy sự thông suốt, ta ngồi.*
Làm nghiên cứu về cơ bản cũng giống như vậy. Những hiểu biết khoa học có thể đến một cách ngẫu nhiên. Hầu hết các ngày chúng sẽ không đến. Một đặc điểm quan trọng để thành công chỉ đơn giản là dành thời gian và công sức. Cũng như bất kỳ hoạt động theo đuổi nào khác (âm nhạc, thể thao, bán hàng, v.v.), nếu bạn muốn trở nên xuất sắc ở cấp độ thế giới, nó sẽ đòi hỏi một kỷ luật to lớn.
Noam Shazeer đã có một lời tri ân đẹp về tính ngẫu nhiên cố hữu của những ý tưởng nghiên cứu thành công trong bài báo SwiGLU:
“Chúng tôi không đưa ra lời giải thích nào về lý do tại sao những kiến trúc này dường như hoạt động; chúng tôi cho rằng sự thành công của chúng, như mọi thứ khác, là nhờ lòng từ bi của thần thánh.”
Một nhận xét liên quan là bạn hoàn toàn có thể đọc quá nhiều bài báo. Nếu bạn muốn giải quyết một vấn đề, con đường đã được kiểm chứng để dẫn đến thành công là thử một giải pháp, thử nghiệm nó, gặp nút thắt, cố gắng giải quyết nó, và chỉ tìm đến tài liệu khi bản thân bạn đã hết ý tưởng.
II.
Được rồi, nhưng tôi nên làm gì?
Nếu bạn mới bắt đầu, đây là câu trả lời thật lòng của tôi: Tôi không nghĩ chủ đề chính xác quan trọng lắm.
Tuy nhiên, tôi sẽ cảnh báo bạn không nên chọn những thứ đã phổ biến chưa đầy sáu tháng. AI tiến triển nhanh, nhưng những ý tưởng nền tảng đã không thay đổi trong bốn mươi năm. Nếu bạn muốn xây dựng sự nghiệp từ lĩnh vực này, tôi sẽ không khuyên bạn suy nghĩ quá nhiều về các khái niệm của năm 2026: khung khai thác, tác nhân, kỹ thuật ngữ cảnh, v.v. Những thứ này sẽ thay đổi.
Thay vào đó, bạn sẽ học được nhiều hơn bằng cách quay lại những điều cơ bản: học cross-entropy là gì. Tính toán nó bằng tay cho một phân phối nhỏ. Hiểu sâu về SVD, đến mức bạn có thể bắt đầu hình dung nó trong đầu. Đừng suy nghĩ quá nhiều về RL cho việc viết mã cụ thể, thay vào đó hãy học những ý tưởng đằng sau policy gradients, tại sao chúng hữu ích, và tại sao chúng đã phổ biến trong nhiều thập kỷ.
Một bình luận siêu hình nữa: nếu kết quả tốt nhất có thể có của dự án nghiên cứu của bạn là điểm số cao hơn trên một benchmark hiện có, thì bạn chưa đi đủ sâu. Thông thường, các tập dữ liệu hiện có sẽ không kiểm tra được những khả năng mới thú vị.
Jason Wei cũng có một điểm tương tự:
Một kỹ năng bị đánh giá thấp nhưng đôi khi có thể quyết định thành bại trong nghiên cứu AI (mà thực sự không tồn tại mười năm trước) là khả năng tìm ra một tập dữ liệu thực sự kiểm tra một phương pháp mới mà bạn đang phát triển.
Về một gợi ý cụ thể, tôi không thể đưa ra; điều đó phải tự đến với bạn. Đi sâu, tập trung vào những điều cơ bản, và đừng đuổi theo các benchmark. Cứ ở trong dòng nước, và những ý tưởng sẽ đến.
III.
trong tâm trí người mới bắt đầu có vô vàn khả năng; trong tâm trí người chuyên gia có rất ít – Suzuki
Một điều thường được nhắc đến ở Thung lũng Silicon gần đây là kinh nghiệm trong nghiên cứu AI thực sự có thể phản tác dụng đối với trực giác nghiên cứu tốt trong thời hiện đại. Tôi đã chứng kiến một phần điều này từ gần; nhiều nhà nghiên cứu từ thời kỳ tiền-scaling vẫn quan tâm đến việc thiết kế các phương pháp hoạt động ở quy mô nhỏ nhưng rõ ràng sẽ thất bại khi được thử nghiệm ở quy mô lớn.
Một điều thực sự ấn tượng về OpenAI là hầu hết những người điều hành công ty (về mặt kỹ thuật, ít nhất) đều dưới 35 tuổi. Nhiều người ra quyết định quan trọng đằng sau ChatGPT dưới 30 tuổi. Một điều chúng ta có thể rút ra từ điều này là vì AI là một lĩnh vực còn non trẻ (ChatGPT mới chưa đầy bốn năm tuổi!) không ai có lợi thế to lớn, bởi vì không ai đã làm việc trong lĩnh vực này quá lâu.
Nói ngắn gọn, bám giữ quá lâu vào những ý tưởng thực sự có thể phản tác dụng. Hãy thực hành tâm trí người mới bắt đầu. Giữ tâm thế cởi mở và từ chối để cái tôi làm mờ phán đoán của bạn.
IV.
Cảm hứng đến khi bạn ít ngờ tới nhất.
Dưới đây là hai ví dụ từ lịch sử:
- Việc khám phá ra cấu trúc của vòng benzen nổi tiếng đến trong một giấc mơ: cấu trúc chưa từng được thấy trước đây, nhưng được hình dung như một con rắn tự cắn đuôi của nó.
- Ozempic về cơ bản đến từ thằn lằn. Hormone GLP-1 mà nó mô phỏng lần đầu tiên được tìm thấy trong nọc độc của quái vật Gila, một loài thằn lằn sa mạc chỉ ăn vài lần một năm. Bằng cách nào đó chúng ta đã tìm ra cách làm cho nó hiệu quả trên cả con người.
Một bài học quan trọng cần rút ra là để làm nghiên cứu tốt, bạn phải làm những việc khác ngoài nghiên cứu. Hầu hết những “khoảnh khắc bừng sáng” cá nhân của tôi xảy ra khi không ở trước bàn phím, đặc biệt là khi đi dạo.
Darwin, Tesla, Feynman, Aristotle. Nhiều nhà tư tưởng vĩ đại của lịch sử đã tuyên bố về những lợi ích to lớn của việc vận động chân tay và đi bộ một chút. Ngay cả khi bạn không làm nghiên cứu, có lẽ bạn nên đi dạo nhiều hơn.
V.
Ngay cả khi cảm hứng đến, tự nhiên có thể không nhân từ: ngay cả với một cách thực hiện hoàn hảo, ý tưởng của chúng ta có thể không đúng theo một nghĩa cơ bản nào đó. Hoặc có thể nó đã đúng, hoặc có vẻ như vậy. Khi kết quả đến, chúng ta nên phản ứng thế nào?
Một nguyên tắc khác chúng ta có thể mượn từ Thiền là tâm bình thản (thực nghiệm).
Khi phân tích một thí nghiệm:
Nó diễn ra tốt đẹp? Tuyệt vời!
Nó diễn ra tồi tệ? Cũng tuyệt vời!
Cả hai kết quả đều dạy cho bạn cùng một lượng thông tin. Thực tế, thường có thể học được nhiều hơn từ một chuỗi các kết quả tiêu cực so với một kết quả tích cực duy nhất. “Chà, nó vẫn không hoạt động – thật đáng kinh ngạc!” Đó mới là một thái độ lành mạnh cho nghiên cứu.
Mặt trái của điều này là bạn không nên quá phấn khích về những kết quả tốt. Thực tế, hầu hết các kết quả tốt đến do lỗi; không phải bản thân kết quả đó tốt, mà là bạn đã đo lường sai và tự thuyết phục mình. Mọi người đều muốn ý tưởng của mình hoạt động – và đây là một điều tốt! – nhưng một điều mà tất cả các nhà nghiên cứu giàu kinh nghiệm đều chia sẻ là sự hoài nghi cực độ, đặc biệt là khi đối mặt với những kết quả có vẻ quá tốt để trở thành sự thật. Thật không may, chúng hầu như luôn luôn như vậy.
VI.
Một bông hoa không nghĩ đến việc cạnh tranh với bông hoa bên cạnh. Nó chỉ nở.
Nghiên cứu cực kỳ định hướng kết quả. Đặc biệt là trong giới học thuật, thật dễ dàng để nhìn vào thành công của người khác trên giấy tờ và chuyển sang cảm xúc.
Mọi người thành công vì những lý do khác nhau. Một số người gặp may mắn. Quy trình đánh giá học thuật, đặc biệt, không nhất quán cũng không công bằng. Khi một nghiên cứu mới xuất hiện trong lĩnh vực của bạn mà bạn ngưỡng mộ, hãy tự hỏi mình câu hỏi sau:
Liệu tôi có đang hoạt động ở mức độ chuyên sâu phù hợp để có thể tự mình tạo ra hiểu biết này không?
Bây giờ có hai kết quả có thể xảy ra. Nếu câu trả lời là có – tuyệt vời. Quy trình của bạn là đúng đắn, nhưng bạn không thực hiện khám phá này; bạn đã bận rộn, bạn đã làm việc khác, nhưng bạn đã có thể.
Và nếu câu trả lời là không – thì hãy coi đây là động lực để đi sâu hơn.
VII.
trước khi giác ngộ, chẻ củi, gánh nước. sau khi giác ngộ, chẻ củi, gánh nước.
Nhiều dự án thành công thường bao gồm hàng trăm giờ lao động chân tay sau hậu trường. Andrej Karpathy đã dán nhãn bằng tay một phần không nhỏ của ImageNet. Những người tạo ra SWEBench, những người đã đi trước thời đại về nhiều mặt, đã dành hàng trăm giờ để tỉ mỉ lọc dữ liệu GitHub để có được một tập nhỏ, dễ quản lý các vấn đề GitHub hữu ích cho việc đánh giá.
Nếu bạn nhìn vào sự nghiệp của các nhà nghiên cứu vĩ đại, có khả năng họ đã dành rất nhiều thời gian làm việc trong bóng tối trước khi tìm thấy thành công. Hãy làm quen với điều này. Một ý tưởng càng tham vọng và có tầm nhìn xa, thì càng cần nhiều công sức để triển khai và đánh giá một cách triệt để. Khó khăn này là một tính năng, không phải lỗi.
VIII.
Collin Raffel, một nhà nghiên cứu tuyệt vời mà tôi vô cùng kính trọng, đã từng đề cập rằng ông nghĩ nhiều ý tưởng thất bại không phải vì chúng là ý tưởng tồi, mà vì mã có lỗi mà nhà nghiên cứu không bao giờ tìm ra.
Nói chung, đây là một vấn đề thực sự khó khăn, đặc biệt là trong thế giới LLM. Một bộ phần mềm học sâu hiện đại cực kỳ phức tạp, và lỗi có thể nằm ở bất cứ đâu: trong quá trình huấn luyện, trong suy luận, trong khung khai thác, trong dữ liệu.
nếu có điều gì đó trông có vẻ sai, bạn không thể bỏ qua. Bạn có thể và nên ghi lại nhiều chỉ số và cố gắng hiểu tất cả chúng. Nếu một số chỉ số trông khác với những gì bạn mong đợi, bạn cần tìm ra lý do tại sao, bởi vì có thể có điều gì đó không ổn. Tôi đã từng tweet rằng một trong những đặc điểm quan trọng nhất của một nhà nghiên cứu là sự hoài nghi lành mạnh. Hãy hoài nghi!
IX.
Một điểm thực tế là hầu hết các thí nghiệm liên quan đến học sâu đều mất quá nhiều thời gian. Huấn luyện mô hình có thể mất hàng tuần hoặc hàng tháng. Ngày nay, đánh giá một mô hình trên một tác vụ duy nhất có thể mất nhiều ngày.
Đặc biệt là khi viết mã với các tác nhân, bản năng của chúng ta có thể là khởi chạy nhiều thí nghiệm song song và để tất cả chúng chạy ở một nhịp độ chậm. Mặc dù việc song song hóa đơn giản có thể giúp ích ở một mức độ nào đó, nhưng chuyển đổi ngữ cảnh là một mô hình có hại.
Điều tối quan trọng là bạn phải thiết kế các quy trình nghiên cứu công thái học hỗ trợ phản hồi thí nghiệm nhanh chóng. Rút ngắn thời gian khởi động nguội cho việc huấn luyện, tạo các bản đánh giá nhỏ trả về kết quả nhanh chóng. Tôi thực sự ngưỡng mộ màn chạy nước rút nanoGPT của Keller Jordan như một ví dụ về việc chúng ta có thể học được bao nhiêu từ các chu kỳ lặp lại nhanh.
(Điều này nói lên rằng, cuối cùng, một số kết quả mất một khoảng thời gian không thể tránh khỏi. Khi bạn có thể, việc duy trì trạng thái qua nhiều ngày và hiểu các thí nghiệm của tuần trước khi chúng kết thúc vào hôm nay là một kỹ năng cực kỳ hữu ích.)
X.
Các tác nhân viết mã giúp bạn di chuyển nhanh hơn, nhưng chúng làm trầm trọng thêm hai vấn đề: chúng ta khó hiểu các chi tiết cơ bản hơn và chúng ta chuyển đổi ngữ cảnh thường xuyên hơn. Một nhà nghiên cứu giỏi tích cực chống lại cả hai lực lượng này.
Codex có thể viết một tập lệnh huấn luyện cho bạn; nó thậm chí có thể thực thi tập lệnh, trông chừng nó trong khi nó đang chạy, diễn giải kết quả và gửi chúng cho bạn qua email. Nhưng có thể nó đã gặp lỗi và rút ngắn prompt hệ thống mà không hỏi bạn. Có thể nó đã rút ngắn độ dài chuỗi để việc đánh giá chạy trong thời gian hợp lý. Có thể nó đã chạy cấu hình sai vì bạn đã không chỉ định.
Từ góc độ kỹ thuật, tất cả đều là những lỗi nhỏ với cách khắc phục dễ dàng. Nhưng từ góc độ khoa học, chúng rất nghiêm trọng: những thiếu sót nhỏ như thế này có thể làm thay đổi đáng kể các kết quả quan trọng của các bài báo và do đó không thể chấp nhận được. Hãy coi chừng rồng. Ngay cả khi bạn không viết mã, nếu bạn muốn hiểu kết quả của mình, bạn cần hiểu hệ thống đã tạo ra chúng.
Tôi sẽ nói thẳng với bạn – điều này thật khó! Thật hấp dẫn để giao phó sự hiểu biết cho máy móc. Đối với nhiều ứng dụng, nó nhanh hơn. Nhưng làm khoa học tốt đòi hỏi phải học cách toàn bộ hệ thống hoạt động, để bạn có thể chắc chắn rằng các quan sát về nó là đúng. Không có cách dễ dàng nào để vượt qua điều này.
XI.
TLDR: Tài năng không phải là tất cả những gì cần để trở thành một nhà nghiên cứu thành công. Khí chất bị đánh giá thấp rất nhiều. Hãy giữ sự tò mò và kiên trì, luôn chu đáo và tỉ mỉ, và những ý tưởng sẽ đến.
