以下是一個思想實驗，我認為它有助於解釋 AI 與勞動力之間許多問題的根源：
想像一個平行宇宙——出於某種原因——沒有人曾將原始碼公開在網路上。開源運動，甚至開源的概念，根本不存在。自然，LLM 不會擅長寫程式，因為它們沒有大量程式碼資料集可供訓練。
這個平行宇宙和我們的現實宇宙一樣，擁有公開的軟體二進位檔——數十 PB 的量，遠遠超過當今前沿 LLM 訓練資料集的規模。因此，在這些 LLM 規模化過程中的某個時刻，想像它們開始擅長根據規格直接生成完整可運行的應用程式——但完全跳過原始碼生成步驟。AI 生成的軟體會很爛、很粗糙、很不安全，但 AI 公司會不斷承諾下一個更大的模型會解決一切。
在這個宇宙中，生成軟體的 LLM 直接與軟體工程師競爭。二進位檔不是人類可讀的。它們對軟體工程師和非技術人員來說同樣難以理解。隨著時間推移，越來越多的軟體將是「氛圍滾動」出來的（不是「氛圍編碼」——因為根本沒有程式碼！）。它不如人類編寫的軟體好，但生成它是免費的！由於沒有原始碼，讓軟體工程師參與過程只會增加成本（毫無價值）。即使 AI 生成的軟體因其限制而創造了新的勞動需求，也不需要高薪的軟體工程師，而是可以由技能較低的工人來處理（也許只是反覆對 LLM 大吼大叫，讓它不要出錯）。
簡而言之，人類創作和 AI 生成是達到相同結果的兩條平行路徑。軟體工程師和 AI 是替代品，而非互補品。AI 並不能幫助軟體工程師放大他們的能力，軟體工程師在監督 AI 方面也無法帶來比非工程師更有效的技能。在這個世界裡，AI 對軟體工程師來說會是令人疏離且恐懼的。
你可能已經猜到我要說什麼了。在我們的實際時間線上，藝術家及許多其他專業人士體驗 AI 的方式，與這個反烏托邦情境相似。在許多非軟體領域，人類創意努力的最終成品很容易取得並用於訓練，但幾乎沒有什麼關於創作過程的資料可用。因此，AI 工具在創作過程中幫助不大。它們只是模仿和取代。
另一種結果是可能的。在科技界之外未被廣泛認識到的正面願景是：編碼 Agent 賦予了軟體工程師超能力。我們與我們的 Agent 一起工作；複雜的軟體是在人類與 Agent 之間數千次交替互動中產生的。關於編碼 Agent 正在取代工程師的說法，目前看來是胡扯。使用 Agent 的實際體驗與 Simon Willison 的台鋸比喻高度吻合（「因為 LLM 而現在放棄程式設計職業生涯，就像因為台鋸的發明而放棄木工職業生涯一樣」）。開始使用新程式語言、框架或程式碼庫的門檻下降了百倍，因為編碼 Agent 也是教學 Agent（軟體開發者使用 Agent 理解程式碼的頻率高於生成程式碼）。
開源軟體與文化是一個歷史偶然。我們理所當然地認為，不僅軟體工程師創意工作的成果是公開可用的，而且所有中間步驟（規格、計畫、原型）、默會知識（StackOverflow、文檔文化）、詳細的過程痕跡（問題、拉取請求、錯誤修復、程式碼審查）、協作記錄（版本控制、專案面板），以及更廣泛的公開學習文化，也都是公開的。這種程度的明確描述在大多數職業中是完全陌生的。
許多公司正在大力投資於捕捉默會知識、過程痕跡以及這個缺失中間環節的其他組成部分。諷刺的是，他們這樣做是為了追求更多的自動化。我的論點是，與常識和所有投入的資金相反，這波 AI 最終更能幫助工人增強能力，而不是將他們自動化取代。有了適當的框架，經過訓練以深入理解創意工作者如何得出成果的模型，將能夠與他們協作，賦予他們力量並放大他們的潛力。如果業界認識到這一點，無論在經濟上還是政治上，都將是一大勝利。
