這是一個人類歷史上的關鍵時刻。人工通用智能（AGI）——一種具備人類大腦所有認知能力的系統——可能只需短短幾年就會到來。當我們在未來幾十年回顧這段時期時，我想我們會意識到自己正站在奇點的山腳下——這正是人類新紀元的開端。
我一生都在致力於 AGI 的研究，因為我始終深信，如果它能被負責任地構建與部署，它將成為有史以來最具益處、最具變革性的技術之一。AGI 無法與一般的技術突破相提並論，甚至連網際網路或手機這種劃時代的發明也無法比擬——它更像是電或火的發現。仔細想想，我們基本上找到了讓沙子思考的方法。這簡直是奇蹟。
這項技術的影響規模將是前所未有的，也許是工業革命的十倍，速度也是十倍。它將幫助我們解決社會面臨的一些最大問題，從加速藥物研發、開發新的清潔能源，到創造新穎的先進材料。我們甚至可能達到一個資源不再是人類進步限制因素的地步，迎來一個令人驚嘆的富足新時代。
前沿的挑戰
AI 已經開始帶來實際的益處，但要實現其巨大的潛力，我們必須審慎且細心地渡過這個關鍵的發展時期。隨著我們越來越接近 AGI，需要採取緊急行動來應對可能出現的風險。我們已經看到前沿模型對網路安全構成的挑戰，而隨著能力持續進步，包括核子與生物風險在內的其他威脅也可能很快出現。在未來，我們需要強健的防護措施來維持對日益自主、遞迴自我改進的系統的控制，並解決那些隨著時間推移才會逐漸明朗的未知問題。
我一直相信人類的智慧與創造力能夠解決任何問題。我確信，減輕與 AI 相關的技術風險是我們可以共同應對的挑戰，但前提是我們要給自己足夠的時間與空間來走好這關鍵的下一步。目前，無論是整個領域還是更廣泛的社會，我們都沒有做到這一點。
目前，我們陷入了一場極其激烈、多層次的商業與地緣政治競賽。雖然這些競爭動能推動了快速進步並加速了驚人的正面效益，但前沿的進展正超越我們對該技術的理解。世界上沒有人能確切知道接下來會發生什麼，即使是專家也意見分歧。當存在高度不確定性且風險如此之高時，謹慎樂觀是明智且正確的策略。這需要公共政策既能促進創新，又能激勵責任與安全，促進關鍵安全議題上的國際合作，並鼓勵仔細考慮 AI 如何部署以造福社會。
前沿 AI 標準機構的框架
我們在 AI 方面看到的快速進展，需要一種動態、適應性強且嚴謹的新方法來測試前沿 AI 模型的能力。美國憑藉其經濟與技術地位，完全有能力率先制定這樣的框架。它可以建立一個新的標準機構，仿照聯邦監管的公私合作夥伴關係或自律組織，類似於美國金融業監管局（FINRA），其董事會成員包括獨立的頂尖技術專家與開源代表。資金需求將十分龐大，且可能主要來自業界，以吸引世界級的技術人才，並提供大規模測試所需的運算資源。
該標準機構將負責制定評估協議，並與相關聯邦機構及美國國家實驗室合作，在國家安全相關領域進行測試。若某模型在標準機構制定的基準測試中達到特定門檻，且這些基準定期更新以跟上 AI 能力的演進，則該模型將被認定為「前沿級」模型。符合這些基準定義的「前沿模型」所屬組織將被視為「前沿實驗室」，並應被鼓勵採用最佳實踐，例如發布包含技術細節的模型卡、維持強大的內部網路安全、審查關鍵人員、為安全研究提供充足資源等。
初期，前沿實驗室將自願在發布前最多 30 天內，與標準機構共享模型以供審查。一旦評估協議被證明有效且穩健，便可迅速將其正式化，這意味著前沿模型必須通過評估才能在美國市場部署。實驗室也將與標準機構合作，處理任何發布後的關鍵漏洞。
模型評估應包括對網路安全、生物威脅及其他高風險領域能力的嚴謹科學評估。特定的自主 AI 測試可尋找繞過安全護欄或欺騙跡象的企圖，並確保最佳實踐，例如對 AI 生成的圖像進行數位浮水印，以及生成人類可讀的輸出 token 以理解模型的推理過程。
這些評估將定期更新，或許初期每季一次，過時或飽和的基準將被棄用並替換。初期，它們將與前沿實驗室協商制定，但最終標準機構應建立自己的技術能力，獨立於實驗室創建其持有的測試，以防止過度擬合。它可與美國政府合作，推廣第三方審計人員的生態系統，以協助評估並開發新的基準與評估方法。
這種方法的優勢在於它將以技術為核心，同時支持創新並激勵負責任的行為。它旨在跟上該領域的加速發展，並在識別出最大風險時進行調整，若情況嚴重，必要時可加強力度，包括協調前沿實驗室放緩開發速度。被指定為前沿實驗室將具有極高聲望，任何組織只要建構出符合基準標準的模型，均可獲得此資格。該框架適用於所有前沿級模型，無論其來源國或是否開源，但任何非前沿模型（例如來自初創公司或學術界的模型）則不受此流程約束。
這項由美國發起的工作將為建立共同的前沿 AI 國際標準提供一個堅實的起點。由於這項技術將影響整個地球，理想情況下，此框架將促使國際社會達成共識，以管理最嚴重的風險，同時確保每個人都有機會接觸並受益於 AI 帶來的機遇。
未來尚未定論
AGI 有潛力成為推動科學與醫學發展的終極工具，並帶來巨大的生產力提升與經濟成長。但要實現這一目標，我們需要透過圍繞一個共同的全球框架進行協調、使用最嚴謹的科學方法，並匯集最優秀的人才來應對我們面臨的挑戰，從而打好技術基礎。
即使我們解決了這些艱難的技術挑戰，仍然會有更複雜的經濟與哲學問題需要處理：在後稀缺的世界中，需要什麼樣的經濟模式來幫助每個人繁榮發展？我們想要遵循什麼樣的價值觀，意義與目的將是什麼，甚至人類的處境本身會如何改變？解決這些問題顯然不能也不應只交給技術專家。它需要社會的每一部分共同努力，來定義這個新篇章。
圍繞 AI 既有巨大的興奮，也有不確定性，兩者都是合理的。但未來尚未定論，我們必須利用 AGI 到來前的這個寶貴窗口，塑造這項技術以造福全人類。我們現在共同所做的將決定文明下一階段的展開方式。透過安全地將 AGI 引入世界，我們可以進入一個科學發現與進步的全新黃金時代，並迎來一個人類繁榮昌盛的輝煌未來。
