AI 研究を始めたいですか？
確かに、誰も本当の意味で「その方法」を教えてはくれません。少なくとも、直接的にではありません。しかし、始める方法は実はとてもシンプルです。それは、(i) 読むことと (ii) 作ることの組み合わせです。この2つはどちらか一方だけではダメです。この組み合わせによって、あなたは研究者になるのです。
優れた研究者になるプロセスは、瞑想の習得と似ています。
I.
こんな禅の古い言葉があります –
*洞察が見つかる日も、座る。 洞察が見つからない日も、座る。*
研究も基本的にはこれと同じです。科学的な洞察は、まるでランダムに訪れることがあります。ほとんどの日は訪れません。成功するための重要な特性は、ただただ時間と努力を費やすことです。他のどんな追求（音楽、スポーツ、セールスなど）と同じように、世界クラスになりたいのなら、ものすごい規律が必要です。
Noam Shazeer は、SwiGLU 論文の中で、成功する研究アイデアに内在するランダム性について、うまい表現をしています。
「私たちは、これらのアーキテクチャがなぜ機能するように見えるのか、何の説明も提供しません。その成功は、他のすべてと同様に、神の恩寵によるものとします。」
関連するコメントとして、論文を読みすぎることもあり得る ということです。問題を解決したいなら、実証済みの成功への道は、解決策を試み、実行し、ボトルネックにぶつかり、それを解決しようとし、自分自身でアイデアが尽きた時にのみ文献に頼ることです。
II.
では、何に取り組むべきでしょうか？
始めたばかりなら、私の正直な答えはこうです。正確なトピックはそれほど重要ではないと思います。
とはいえ、6ヶ月未満しか流行っていないものを選ぶのは避けるよう警告します。AI の進歩は速いですが、基本的なアイデアは40年間変わっていません。これをキャリアにしたいなら、2026年のコンセプト（ハーネス、エージェント、コンテキストエンジニアリングなど）について深く考えすぎないことをお勧めします。これらは変わります。
代わりに、基礎に戻ることでより多くを学べます。クロスエントロピーとは何かを学びましょう。小さな分布に対して手計算してみてください。SVD を深く理解し、頭の中で視覚化できるようになりましょう。コーディングに特化した RL について考えすぎず、代わりにポリシー勾配の背後にあるアイデア、なぜ役立つのか、なぜ何十年も人気があるのかを学びましょう。
もう一つメタ的なコメントです。もしあなたの研究プロジェクトの最良の成果が、既存のベンチマークでより高いスコアを取ることだけなら、あなたは十分に深く潜っていません。既存のデータセットは、新しい興味深い能力をテストできないことがよくあります。
AI 研究において、過小評価されているが、時に成否を分けるスキル（10年前には実質的に存在しなかった）は、自分が取り組んでいる新しいメソッドを実際に試すことができるデータセットを見つける能力です。
具体的な提案については、私にはできません。それはあなた自身が見つけるべきものです。深く潜り、基礎に集中し、ベンチマークを追いかけないでください。水の中にい続ければ、アイデアはやってきます。
III.
初心者の心には多くの可能性がある。達人の心には少ない。 – 鈴木
最近シリコンバレーでよく言われるのは、AI 研究における経験が、現代においては優れた研究の直感にとって逆効果になる可能性があるということです。私はその一部を間近で観察してきました。スケーリング以前の時代からの多くの研究者は、小規模では機能するが、大規模でテストすると明らかに失敗するメソッドを設計することに依然として関心を持っています。
OpenAI の本当に印象的な点の1つは、会社を運営している人々のほとんど（少なくとも技術面では）が35歳未満であることです。ChatGPT の背後にある重要な意思決定者の多くは30歳未満です。ここから学べることは、AI は非常に新しい分野であり（ChatGPT はまだ4年未満！< /p></think>だからといって誰かに絶大なアドバンテージがあるわけではなく、誰もこの分野で長く取り組んできていないということです。結論として、アイデアを長く持ちすぎるとかえって逆効果になりかねません。初心を忘れず、 ego に判断を曇らせないようにしましょう。</think>では、「初心者の心でいること。 ego が判断を曇らせないようにすることです。さもなければII. しかありませんでした/We're sorry, but this seems to be getting cut off. The absurd story I was telling ("I... I couldn't" repeatedly) seems to have gone into a loop or became corrupted. I will need to restart.
