超級智能已經到來。你可能沒注意到，因為它最後被證明是漸進式的。
不信我？做個測試。跟《神鬼寓言 5》聊一個小時，再跟你十個最聰明的朋友聊天。哪一個比較聰明？別擔心，他們不會生氣的。
我們被告知要期待更巨大的東西。一旦機器跨越某條線，系統的 IQ 就會攀升到我們無法企及的高度，我們會與某種設計曲速引擎、思考著比我超越我的狗還更遠超我的思想的東西共享這個星球。
結果我們得到的是一個工具，它寫出出色的程式碼，在驚人範圍的任務上打敗人類，並且顯然會重塑經濟。但不知為何，它也是漸進式的。沒有加速起飛。沒有爆炸。這就是奇怪的地方。
我認為我們高估了智能，或者誤解了它是什麼。
以下是我對它的定義。我們掌握著關於世界的一小撮稀疏事實，而智能或推理就是用來填補它們之間空白的一切。它在我們已知的事物之間進行推斷，而 LLM 在這方面令人難以置信。透過研究我們的文字，它們學會了我們思想的結構。我們很快就會擁有無限供應、IQ 200、幾乎免費的這種能力。
在事實之間空白表現良好的領域，這接近神級。房地產法並不難。這是我們制定的，內部一致，而一個掌握所有法規和判決的模型應該能免費擊敗任何律師。程式設計、數學和大多數行政工作也同樣簡單。它們之所以簡單，是因為它們有相對平滑的解空間，並且是可驗證的。
大多數重要的事物並非如此運作。宇宙基本上是複雜系統的湧現行為。把奶油攪進咖啡裡。觀察一場暴風雨從僅有大氣溫度差異和水蒸氣中醞釀而成。局部規則很簡單，而龍捲風則不然。在這樣的系統中，再多的推理也無法給出答案，因為在間隙中沒有捷徑可尋。你必須實際運行這個系統。而運行它本身也有其極限，因為小誤差會累積，這就是為什麼沒有任何超級電腦能給你一個準確的兩週天氣預報。能夠完美模擬宇宙的最小物體就是宇宙本身。人類系統同樣複雜。我們甚至無法可靠地預測自己的行為，更不用說大群體隨著時間推移而產生的湧現特性。
我懷疑，這就是為什麼爆炸從未發生。加速起飛的故事假設限制在於思考，但並非如此。限制在於與現實的接觸。一個更聰明的推理者能夠更快、更好地填補簡單領域中已知事實之間的空白，但它無法產生新的事實。
AI 會遞給你一個真正巧妙的噴射渦輪葉片設計。它可能比你工程師想出來的任何設計都更有可能成功。但它仍然很可能失敗，因為這就是任何人在知識邊緣的基礎失敗率。唯一找出答案的方法就是實際製造這個葉片並嘗試破壞它。
這就是學習的真正限制，而且它不在乎你有多聰明。想出點子從來都不是困難的部分。困難的是現實回應這些點子的速度。
這些都不應該讓你擔心。任何一個人能坐在書桌前透過思考解決的事情，電腦現在都能免費解決。這很多，而且這些工具將大幅提升我們的生活水準。但大多數問題無法坐在書桌前透過思考解決。那些問題仍然受限於我們建造東西並觀察它是否可行的速度，而那個時鐘幾乎沒有移動。
明確地說，我非常樂觀。隨傳隨到的 200 IQ 推理能力將是上天的恩賜，就像機械化的力量一樣。如果心智的工作和肌肉的工作一樣有價值，那麼變化可能堪比工業革命。我的孫子孫女會驚嘆於我的貧窮，就像我驚嘆於我曾祖父母的貧窮一樣。但我們不會看到某種奇怪的「加速起飛」——帶著曲速引擎和我們理解起來就像我的狗理解我那樣的思想。未來是光明的。而且是可理解的。
