
「我想甚麼時候按就甚麼時候按,感覺對了就按。」

作者|褚杏娟
近期,圍繞 Codex 與 Claude Code 的使用額度問題,社群出現了一個頗為反常的現象:過去被視為「福利」的全域額度重置,如今開始成為部分重度用戶新的投訴對象。
現時,用戶不滿的重點已不只是「額度不足」,而是逐漸轉向額度機制本身的不透明與不可預測性。尤其 OpenAI 多次臨時為付費用戶重置使用額度後,一些用戶發現,全域重置可能打亂原本的週額度週期,甚至令早前刻意保留的額度及手動重置機會失去價值。
一名 Plus 用戶表示,其額度原定於 8 月 26 日恢復,但 OpenAI 卻於 8 月 24 日突然將額度提前恢復至 100%,與此同時,下一次重置時間卻被延遲至 8 月 31 日。這意味著,對已提前規劃好一週工作量的用戶而言,一次看似額外贈送的額度重置,反而可能改變後續使用節奏。
這亦引發更多用戶對 Codex「重置文化」的質疑。有用戶直言,與其不斷進行臨時重置,「不如直接給予更多額度」。另有用戶指出,真正問題並非浪費了一次手動重置,而是全域重置可能將下一次每週限額的刷新時間進一步往後推。
圍繞此一機制,Codex 社群甚至已出現「別再沉迷重置了,這是一種心理策略」的討論。
更有用戶進一步計算發現,若一次臨時重置同時意味著新的七天週期由當日重新開始,則用戶於一個月內獲得的總額度未必明顯增加,本質上更接近於「提前使用下一週期額度」。相比之下,倘若額外重置並不改變原有刷新日期,才更接近真正意義上的額度贈送。
而近期 Codex 額度重置之後的異常消耗,同樣成為用戶近期集中投訴的問題。有人自行追蹤後發現,最近一次重置後,Plus 週額度對應的 API 使用價值似乎由約 160 美元下降至約 80 美元。同日,另一名用戶則表示,重置 Codex 額度之前,產品消耗一直較為正常;但重置之後,相似的日常任務令剩餘額度迅速由通常約 60% 降至 28%。
Claude Code 社群亦正經歷類似的額度爭議。8 月 20 日,一名 Claude 用戶表示,其週額度剛剛刷新,第一次 session 甚至尚未結束,便已消耗 Fable 五週額度的約 20%。評論區另一名用戶稱,額度重置僅 40 分鐘,週額度便已消耗 25%,而過去類似工作一小時通常只會消耗數個百分點。
「使用限額簡直就是個笑話,而且每週都在變得更糟。」有 Claude Code 用戶表示,自己工作約兩小時便耗盡了一整個五小時窗口,並消耗約 17% 的週額度;翌日僅繼續此前的舊會話、工作約半小時,又迅速觸發整套五小時窗口限制。
相比單純的額度縮水,用戶更不滿的是,為避免過快消耗額度,他們不得不研究何時開啟新 thread、何時執行 compaction,以及是否應恢復舊對話——額度管理本身已開始干擾正常開發工作。
近期,針對社群熱議的 OpenAI 用戶使用限額重置問題,Codex 團隊 Tibo 於參與 Matthew Berman 播客時,首次公開詳解背後邏輯,明確該操作並非營銷策略,完全基於個人判斷。
Tibo 表示,此做法最初源於補償:產品迭代過程中,若某項功能出錯、設定失當,或體驗未達預期,便會向用戶增加若干使用量,「感謝你成為我們的用戶」。同時,此決定亦無複雜流程,並非先與市場或財務部門協商。「我想甚麼時候按就甚麼時候按,感覺對了就按。」他亦確認,辦公室裡確實存在一個實體重置按鈕。
目前,Codex 用戶量已突破 2,000 萬,Tibo 將本輪增長核心歸功於 ChatGPT 與 Codex 的融合。憑藉 ChatGPT 庞大的用戶基數,OpenAI 正將編碼能力開放予產品經理、設計師、市場人員等各類非技術從業者。
此外,Tibo 在模型速度方面指出,Ultra Fast 模式理論速度比 Fast 模式快 10–14 倍;但在高頻工具調用場景中,受網絡開銷、智能體執行路徑限制等因素影響,用戶實際僅能感知 3–4 倍提速。
而 OpenAI 降價背後,在他看來,效率提升首先來自演算法層面,即利用最強模型優化整套技術棧;另一層面則是算力策略。兩年前 OpenAI 因大規模投入算力一度備受質疑,但現今看來,這是一次「瘋狂又漂亮的賭注」。
OpenAI 內部對 Ultra Fast 模式採用優先級分配機制,優先供應系統當機等高危應急場景,以保障故障處置效率。同時該模式並不向員工無限制開放,大部分算力資源預留予外部用戶與客戶,員工使用量設有明確上限。
針對外界關注的遞歸式自我改進,Tibo 給出了更寬泛的定義。遞歸式自我改進不僅指以模型開發模型,亦包括運用模型去優化位於關鍵路徑上的基礎設施,例如推理棧、CUDA 核心、更高效的互動方式及雲端智能體。
同時,他證實 OpenAI 已暫停絕對前沿的強化學習訓練,核心目的在全面梳理、加固系統各環節,實現對技術體系的完全掌控後再重啟迭代。

以下是播客對話的詳細內容,我們已進行翻譯與整理,並在不改變原意的基礎上略作刪減,以饗讀者。
Google 與 DeepMind 的不同內部文化
主持人:我想由你在 Google 的經歷說起。你當時在 DeepMind 團隊,在 ChatGPT 出現之前,Google 有一款名為 LMChat 的產品,你更曾發文指 Google 太緊張,不敢推出它,DeepMind 被阻止推出可能顛覆 Google 的產品。我經常想起此事。在 ChatGPT 真正改變世界之前,你開發這些產品時心裡在想些甚麼?
Tibo:那是一段非常令人興奮的時光。DeepMind 是一個極富創造力的地方。我主要專注於自己的專長,即用以加速研究的基礎設施與產品。當時顯然有一支團隊正致力於語言模型與規模化擴展,並取得相當不錯的成果;隨後很自然地便會思考:能否將其變成一款可供聊天、可執行各種任務的工具?於是類似 LMChat 的構思便自然而然地浮現。它先於內部試用,繼而有人希望將其打造成一款公開可用的工具。
主持人:那是哪一年?
Tibo:大概是 ChatGPT 推出前一年左右。
當時我們還在進行許多其他項目,我就不一一展開了,但那確實是一個極富創造力的地方。只不過 DeepMind 並非為發布產品而建立的組織。OpenAI 在這方面截然不同:研究與產品協作極其緊密,我們共同構思、共同設計許多事物,極度傾向於把東西做出來並發布,亦極度傾向於讓大家真正用得上這些東西。這正是我加入此處的原因——使命、人才、人才密度,OpenAI 實在有太多出色之處。
主持人:你在參與 LMChat 時,有否意識到這是一件特別的東西,抑或它將會變得特別?
Tibo:當時確實感覺非常特別。那大概是有史以來第一次,你真正意識到模型已能生成連貫文本,且還能提供有用資訊。起初,它更多是「好玩」而非「有用」,但後來它逐漸變得愈來愈實用。
主持人:你說你經常想起此事,我完全理解。我覺得在許多方面,Google 是自己絆倒了自己。你從那裡學到了哪些教訓,帶到了 OpenAI?
Tibo:這正是我經常回想它的原因。我會從團隊文化、OpenAI 自身文化的視角,思考哪些好的部分應予以保留,哪些則不能效法。OpenAI 擁有極其自下而上的文化,極其重視賦權。人們可以隨時冒出各種想法,聚在一起,然後極快地做出成果。對於新產品構思的推動,整體上幾乎毫無阻力,這令人興奮又愉快,最終目標是以積極方式影響世界。對我而言,保留這種文化至關重要。
另一件同樣重要的事,是絕不能把產品搞得一團混亂。你不能堆砌一大堆功能,卻缺乏整體方向與一致性。因此,這種快速嘗試的文化,尚需另一套原則加以平衡,包括簡潔性,以及真正為產品品質感到自豪。
我認為 ChatGPT 的 iOS 應用是市面上最佳應用之一,我們希望持續維持此等水準。我們在體驗愉悅度、性能、效率與簡潔性等方面均投入大量資源。換言之,一方面我們擁有一套整體原則,另一方面仍充分授權每個人嘗試新事物,並快速發布。
主持人:若要給一位創辦人提建議,如何培養這種文化?OpenAI 內部有哪些較具體的元素或做法可供分享?
Tibo:我認為須具備信念,須找到與用戶建立聯繫的方式,並根據回饋極速迭代。此外,亦須願意自我顛覆。這一點對創辦人而言或許關聯不大,但對 OpenAI 這類公司至關重要。我們不斷湧現新研究、新構思,必須能判斷何時才是正確的投入時機,即使這意味著須從核心業務重新調配資源。這極其困難,卻也極其重要。
主持人:這正是你剛才描述 Google 的情況,他們未能做到這一點。
Tibo:公平而言,他們當然也有自己的計劃,一切皆屬更大計劃的一部分。但對我來說,那並非適合我的地方。
主持人:在 OpenAI,或任何一家公司走向成熟的過程中,維持這種快速發布、願意自我顛覆的文化,會不會變得更難?尤其當你已擁有像「現金牛」般持續賺錢的業務,而另一邊卻有一款可能很酷、很創新、但尚未證明的新產品時。
Tibo:我們是一家面向未來的公司。人工智能最終將發展成甚麼模樣、它將如何造福人類,並不會因你在未來一個月或三個月內已建立了某些東西,便停下來等你。因此,我認為主動投入、睜大雙眼看清整體發展方向、並釐清自身定位,以確保真正抓住這股浪潮,至關重要。
對 OpenAI 而言亦然,我們訓練模型,然後發現它們的能力。基準測試無法告訴你一切,我們必須親自大量使用這些模型,才會忽然意識到:「原來它還能透過這種方式創造價值」、「原來它還能做這件事」。一旦獲得此類發現,你對產品的理解便可能產生變化。
例如,現在我們推出了全新的語音功能,與之交談特別愉悅、非常自然,它還能使用工具。這改變了許多事情,現在我花更多時間直接與它對話。我每天還會做的一件事是語音輸入,因為聽寫品質太好了,比鍵盤輸入提示詞(prompt)高效得多。清晨我就拿著手機坐在那裡,嘰嘰喳喳說幾件待辦之事,它便去執行了;它能調用我所有工具。在真正優秀的語音模型問世前,這是不可能的,這一下子便徹底改變了你對產品的思考方式。
Harness 的創新空間有多大?
主持人:數週前你發過一條推文,你說:「再過二至三個月,現時的 Codex 看起來會非常原始。我們即將經歷又一次重大演進,下一代模型需要的不只是你的筆記型電腦。」我們先由智能體 harness 談起。隨著模型能力愈來愈強,這套 harness 還存在哪些巨大的創新空間?
Tibo:太多了。剛才我已提及語音。另有一點是:如果你是 Codex 或其他程式編寫智能體的資深用戶,你可能已習慣某種笨拙感。
例如,你需要自行管理 skill 檔案,這類檔案可用來「教導」智能體一些知識,但許多人已發現,長期下來其實極難維護。記憶亦類似,它確實存在,卻不一定總能記住所有事情。若你使用子智能體,又得自行管理這些子智能體。久而久之,你便彷彿在手動搭建一個小型網絡,而在與系統互動的許多環節中,那種完整的「幻覺」便會被打破。
真正理想的情況,是你擁有一套能極其深入理解你、理解你的目標、理解你每日所做之事,亦理解你的團隊正在做甚麼的系統。最好它既能回應你,也能主動行動,在日常工作中持續協助你,同時不會破壞那種「它就是一個完美夥伴」的感受。這正是我們正努力實現的方向。
還有一點,當你擁有極其強大的模型時,你會發現筆記型電腦本身便成了限制。
筆記型電腦所能處理的工作量,是為人類設計的。它是為了承載你能產出的工作量、你打字的速度、你思考的速度、你需要同時開啟多少個應用程式——這些全是人類的限制。但模型並無相同限制。未來,一個模型同時處理一百個開啟的應用程式亦無問題。因此,從資源存取的角度看,未來的模型顯然需要獲取比一台筆記型電腦更多的資源。
主持人:我猜你指的是雲端智能體。而且當速度突然提升以後,例如我們稍後會談到的超高速模式(Ultra Fast),生成 token 的速度可能是快速模式(Fast)的十倍,我記得官方數字是十四倍,此時瓶頸便會改變。或者更準確地說,是頻寬限制發生了變化,CPU 反而開始成為新的瓶頸。工具調用、網絡,以及技術棧中的任何額外開銷,都會開始成為限制因素。
Tibo:但你亦可透過並行處理來補償。你可以同時做許多事情,例如一邊探索、一邊撰寫測試、同時編譯,再去驗證一個新假設,這些皆可同步進行。如此一來,你實際上是在不斷轉移整個系統中的瓶頸,因為你能並行完成更多工作,而模型又能極其高效快速地處理。
主持人:以現時的 token 生成速度,我經常並行啟動十至十五個智能體,但這會為我帶來非常明顯的認知負擔,因為我要不斷進行上下文切換。任務發出後,往往要等三十分鐘至四十五分鐘才會返回。
但在超高速模式下,這套工作流程會發生巨大變化。我甚至覺得自己不可能再同時管理十至十五個智能體,可能一次只需三至四個,而這也許反而是好事。你覺得未來獨立開發者的工作流程會怎樣變化?
Tibo:我們極其重視如何協助人們更好地管理注意力,也就是如何讓產品對人的注意力更加友善。畢竟,我們最終是為人類構建產品,希望打造出真正增強人類能力的技術。這要求我們圍繞人類的多工處理能力來設計,例如你希望如何管理自己的注意力?一件事是現在立刻提醒你更好,還是三十分鐘後再提醒你更合適?
當 Ultra Fast 模式與語音結合以後,體驗會突然改變。你會發現,這個系統已能以與你一樣快、甚至比你更快的速度運作。於是,你可以持續保持心流狀態,持續構思、即時看到原型、生成一些小型報告,這種感覺非常好。到那時你會忽然意識到:「之前那種同時管理十個智能體的多工方式,我真不想回去了。」
因此,我們希望帶來的是一種極其自然、同時又彷彿專為你打造的體驗。你不需要去適應技術,而是技術來適應你。
主持人:過去數月,大家討論了很多智能體程式編寫技術。loops 以往很流行,現時仍然流行;最近我又開始聽到 graphs。這些技術是否本質上都是為了讓獨立開發者更好地管理自己的注意力,就像你剛才所說,讓系統對人的注意力更加友善?
Tibo:我會把問題分成兩類。第一類,是打造最佳的個人通用人工智能,或稱個人智能體。它與你一起保持心流,主動在發現價值時提出重要新構思,極其高效地完成你想要的任何事——無論是技術問題、研究、建議,它都能勝任,而且極度為你量身訂造。這極其重要,因為它建立在對「你這個人」的深度理解之上,理解你作為一個獨一無二個體的特徵。我們正極其積極地推進此一方向。
另一類是完全自動化。此時你更多是在構建能處理極其複雜流程的智能系統。例如某些事情確實需要智能、看起來極其複雜:檢視生產日誌並自動進行效能優化,或檢視迴歸問題並自動打補丁。在網路安全領域我們亦見到類似情況,例如掃描器發現一個漏洞,能否自動修補,將漏洞暴露的時間窗口縮小至近乎零。
整個過程可以完全無 human in the loop,或僅保留極少量人工參與,例如僅在某個高風險操作發生時需要人類批准。整體而言,它將成為一套高度自動化的系統。在此類場景中,你是否始終直接控制其每一步,其實並沒有那麼重要。
ChatGPT 為何要與 Codex 融合
主持人:我想稍微轉換話題。過去數月,ChatGPT 和 Codex 一直在走向融合。首先我想問,這件事目前進展如何?你們內部感受如何?從客戶那裡又收到了甚麼回饋?
Tibo:實際效果非常好。最初我們聽到的回饋是:「為何一定要把它們合併?真的有必要嗎?」但答案其實很簡單:未來的模型要求我們走向融合。
因此,我們這麼做,只因這是一件更簡單、亦更正確的事情。我們正打造一個高度個人化、能力極強的智能體,它能以各種方式協助你,而底層將是同一套技術、同一套智能體 harness,我們對它的理解亦將是同一種方式。
它將是高度多模態的、以語音為優先,效率極高,而你是否正在寫程式,並不重要。這個智能體什麼都能做,而且會以極其高效的方式完成。
與此同時,你所見的界面應根據你的需求自動調整。你不應先決定:「我是程式員,所以我需要程式員介面」,或「我不懂技術,所以我需要非技術介面。」
現實中的人本就處於一個「連續光譜」上。我們會為人貼上「軟件工程師」、「設計師」等標籤,但這些只是人類為處理現實世界中過於複雜的抽象而創造的概念。真正的個體就是個體,每個人都處於這個光譜上的不同位置。因此,我們希望構建一個能適應所有人的完美介面。你是否懂技術並不重要,它會根據你這個具體的人進行適配。這正是做這件事的原因。
主持人:這是否意味著,最終不可避免地只剩一個統一介面?不再有下拉選單讓你在不同產品之間切換?想想還挺不可思議的,我媽媽可能會和我使用完全相同的介面,只不過系統會根據我的需求進行定制。如果我在做更複雜的工作,也許我會需要更多資訊。你想像中的最終形態是甚麼?
Tibo:對,就是同一樣東西。你和你媽媽都會使用同一款產品,它成為你們各自的個人通用人工智能。你們拿它做完全不同的任務,也會從中獲得不同的價值,亦會把它連接到各自生活中的不同工具,帶來不同的想法與需求,然後它會持續適應你,並最大程度地協助你。對你的朋友、對其他人,皆是如此。
主持人:對一位普通用戶而言,那種完美的「幻覺」究竟是甚麼?如果我們想像數年後的世界,AI 與人之間的互動會是甚麼樣?
Tibo:對我而言,它應是一個高度為人類量身訂造的東西。
大型語言模型之所以成功,本身亦與這一點有關,因為它使用的是自然語言。自然語言本就是人類的概念,我們習慣彼此交流。例如你明天給我寫一封信,我當然能讀懂。現在我們彼此已有一定了解,所以如果你給我寫信,我大概還能理解其中一些情緒,以及文字背後的細微含意。這一切都非常「人類」。因此,我們正構建的技術,本質上扎根於人性,亦扎根於人類早已習慣的溝通方式與行事方式。
理想情況下,不應再出現這種情況:「你誤解了我,因為你沒理解我語氣中的細微差別」,或「你沒有真正明白這段文字想表達甚麼」。我們希望盡量避免這些問題。我們的目標不是讓人去適應技術,而是讓技術本身成為人類既有行為方式的一種極其自然的延伸。
主持人:人與人之間溝通時,會發現很大一部分其實是非語言的,例如我的手勢、面部動作。未來你覺得 AI 會在多大程度上感知或讀取這些資訊,也許透過視覺來實現?
Tibo:我認為這是必要的。我所想像的未來,應是非常情境化、非常自然的。
例如我稍後回到辦公室在白板上寫東西時,突然有了靈感,那它亦應能「就在那裡」,能理解我正在做甚麼。也許我只需對它說一句:「這個怎麼樣?」然後我們便可直接透過語音進行極其自然的對話。自我們發布全新 ChatGPT 語音功能以來,這種使用方式增長得非常快。現時,僅透過語音與 ChatGPT 互動的用戶數量正急速上升。
我覺得其中的經驗是:每當你把產品做得更貼近人類自然行為,人們便會傾向選擇阻力最小的路徑。正如你所說,在一個小文字框中打字,對某些人來說很自然,但未必對所有人都如此。一旦出現一種更輕鬆、更好的方式,人們往往會直接轉向使用。
「我其實不會太關注 Anthropic」
主持人:首先恭喜,我看到你早上發訊息說 Codex 已達到二千萬用戶。我看過那條增長曲線,起初還比較平緩,後來突然幾乎垂直向上。接下來,我想聊聊你們與 Anthropic 的競爭。
現時很多人都認為 OpenAI 與 Anthropic 是這個行業裡最主要的兩個競爭者。之前有一段時間,Anthropic 幾乎吸走了行業內全部的注意力,表現非常強勁,但後來情況突然發生變化。你現時如何看待這個市場?
Tibo:現在我們真正關注的是構建能力最強、構建效率極高的模型,同時極其認真地為所有人打造產品。我認為 OpenAI 極其擅長的一件事,是始終真正關心整個世界,關心如何將極其強大的技術交到盡可能多的人手中。
我們將 Codex 與 ChatGPT 合併,亦是出於這種想法:我們已擁有這項技術,便要令它更安全、更易使用,並讓所有人都能使用。無論你是產品經理、設計師,還是從事銷售、市場、公關,都應能運用這些能力。
然後,我們可借助 ChatGPT 已擁有的大量用戶,極其迅速地將這些能力分發出去。這亦一直在推動你剛才提到的增長。
我其實不會太關注競爭對手。我更關注的是,哪些事情是我們能夠獨特做好的?我們的價值觀是甚麼?我們如何才能最大限度地加速朝這些目標前進?
主持人:我知道你並不會一直想著 Anthropic,但其他人會。他們會想:『我到底相信哪個產品?我願意把二千二百美元花在哪個產品上?』如果從市場定位、品牌、OpenAI 對外傳遞的語氣,以及它與開發者和更廣泛用戶群互動的方式來看,你覺得 OpenAI 與 Anthropic 的差別是甚麼?
Tibo:我更關心的仍是,我們如何圍繞整個世界建立社群,把所有人都帶進來。你可以從很多地方感受到這一點。我們在很多事情上都非常透明,亦會從社群吸收大量想法。老實說,這本身亦非常有趣,因為我們亦會從社群獲得非常多能量。
而且,我們構建這項技術並非只為自己,不只為加速 OpenAI 自身的發展。我們的使命極其重要,亦是我們動力的來源。對我而言,這種狀態非常踏實,亦非常有趣,而良好的結果往往便是由此產生。
不斷重置額度,背後的算力決策
主持人:那我們就聊聊良好結果。我想說說「重置額度」這件事,現時大家幾乎會盯著你的每一條推文,就是因為這個。尤其是考慮到 Codex 的增長曲線,我想問一個也許有點傻的問題:這些額度重置,究竟有多少是在幫助市場營銷與用戶增長,又有多少只是你們在向開發者社群釋放善意?
Tibo:可能有點違反直覺,但 OpenAI 是一個「你真的可以直接去做事」的地方。
最初,在我們不斷迭代、偶爾令產品當機,或某個設定未設好、導致體驗不如預期時,我會覺得補償用戶是理所當然的。我們會說:「謝謝你願意嘗試這款產品。我們真的在非常努力地把它做好,現時仍處於早期階段。剛才我們可能令它當機了三十分鐘,所以多給你一些使用額度。我們知道這款產品對你很重要、你倚賴它,謝謝你願意成為用戶。」
最初就是這樣開始的,至今我仍然如此看待。如果我們把東西搞砸了,或體驗不夠好,而且我們尚未完全弄清原因,那就應該補償用戶,重置他們的使用額度。
後來,這變成了一件頗受關注的事,現時甚至有一個重置按鈕,但背後其實沒有太多複雜考量。並非與市場部或財務部商量後才做的,就是我想甚麼時候按就甚麼時候按,感覺應該按就按。我們的原則是:我們在打造了不起的東西,如果它沒做到,我們就補償。
主持人:這件事確實在社群中建立了大量好感,也可能在一定程度上促進了增長。
Tibo:我覺得真正關心用戶的話,確實會產生很大影響。你可以嘴上說「我們關心用戶」,也可以真的去關心。如果我們真搞砸了,我們會說:「真的很抱歉,這是我們補償你的方式。」
主持人:這讓我想到 Amazon 的退貨政策。如果你有任何不滿意,就直接退回來。你們似乎也在建立一種類似的文化,或至少讓大家形成了對 OpenAI 的類似認知:如果我們犯錯了,那些 tokens 你就重新用一遍,或者我們再給你一批新的 token。
Tibo:我很感激你這麼說。另外也有一些美好的時刻,我們就是想慶祝一下、記錄那個時刻。有時沒有比「去探索這個新東西吧」更有意義的了。我們總是會盡可能廣泛地發布新功能,但要與整個社群分享點甚麼,就像是「嘿,去試試這個新東西吧,你還沒用過 Ultra,那就多給你一些額度,去體驗一下」。
主持人:我聽說現時還有一個真正的實體按鈕。
Tibo:對,真的有。
主持人:好,之後你得給我看一看。
Tibo:一定給你看,真的很酷。
主持人:不過,你們能夠如此頻繁地重置額度,前提是已經做了非常大量的計算容量規劃。你必須擁有足夠的算力,才能不斷為大家增加額度。
說到這裡,我想再聊聊自我改進。我記得大概是數週前你發過一篇文章,裡面提到 Soul 優化了 Luna 的效率,令 Luna 的價格下降了 80%,Terra 亦降價了。這之中究竟有多少來自 Luna 自身效率上的提升,又有多少是因為你們提前做了非常好的算力規劃,所以現時利潤空間很好,可以直接降價,讓更多人使用?換句話說,演算法層面的收益與戰略規劃分別佔多大部分?
Tibo:我們很早以前便開始提前規劃算力。如果回顧兩年前,當時 OpenAI 因投入了如此多算力,還一度受到許多質疑。
主持人:現時看,那是一個瘋狂但非常正確的押注。
Tibo:對。現時我們非常慶幸擁有這些資源。其中很大一部分計算資源用於研究,也就是投資未來、訓練愈來愈好的模型,同時我們亦持續提高現有模型的效率。
現時有一件非常驚人的事,當我們將最先進模型的能力邊界繼續向前推進後,又可反過來運用這些模型,極其迅速地找出如何改進服務方式,或如何重構、重新設計我們的技術棧,從而獲得非常顯著的效率與性能提升。
而且,我們改善的不只是成本效益。這件事之後我們亦會公開更多內容。我們亦顯著改善了速度效益。即使不算 Ultra Fast 模式,一般模式這段時間亦明顯變快了。如果你把速度畫成一條曲線,現時相比三個月前,大概已快了約 60%。
我們就是在逐層處理技術棧中的每一個部分,確保整個系統真正針對我們的工作負載進行最優設計與工程實現。而我們最強大的模型,讓一支非常小的團隊亦能做到這些事情。
每當我們獲得非常顯著的效率提升與成本效益收益時,我們的承諾都是:繼續讓產品保持在性能與成本的前沿,而不是單純把這些收益留在自己手上。我們會把它分享給客戶,亦分享給用戶。這正是我們在 Luna 上所做的事。
主持人:那你們內部在分配算力時,討論是甚麼樣?例如,一部分算力用於研究新模型,一部分用於優化現有模型的效率,還有推理本身。這些方向之間的拉扯是甚麼樣?
Tibo:我們通常會從第一性原理出發看問題。研究有一部分明確的算力配額,產品亦有一部分明確的算力配額,然後在產品內部再做不同的權衡。但 Luna 這次其實幾乎算不上取捨,因為效率提升已經出現了。我們基本上是在使用同樣的算力預算的情況下,實現了非常顯著的吞吐量提升。
主持人:數月前,你們還發過一篇博客談到一個模型去訓練下一個模型,或者協助優化下一代模型。現時又看到 Soul 分析 Luna 的運作方式,帶來效率提升。在我看來,這已很像遞歸式自我改進的早期階段了。你怎麼看?這就是正在發生的事嗎?
Tibo:遞歸式自我改進現時當然是一個非常大的話題。大家最常討論的是研究層面,也就是模型去開發其他模型。但我們現時取得大量成功的另一個方向,是運用這些模型去開發支撐模型運作、位於關鍵路徑上的基礎設施。
這其實同樣是一種遞歸式自我改進,因為它們本就是一個完整的大系統。例如推理棧,包括更底層、更難優化的核心,以及我們使用的 CUDA 核心;再例如開發新產品、設計與模型互動的新方式,讓人能夠更高效地使用這些模型。
你剛才提到了雲端智能體,如果我們真正把雲端智能體做好,人自身的生產力亦會大幅提升。那這算不算遞歸式自我改進?某種意義上,我認為也算,因為你獲得了更好的方式來釋放模型的實際效用。只不過,這裡更多體現在基礎設施上,然後你可以再把這些能力反過來用於系統本身。當然,我們正在這麼做。如果我們完全不這麼做,反而會很奇怪。
暫停最前沿 AI 訓練的決定,誰做的?
主持人:既然聊到了遞歸式自我改進,我想問一下,Sam Altman 之前談到過,現時暫停最前沿的強化學習(RL)訓練,我記得是這樣。你能談談這個決定嗎?當時是如何做出的?我們之前亦簡單提過 Hugging Face 那次事件,究竟有哪些因素進入了決策?
Tibo:這件事主要是在研究團隊內部決定的。OpenAI 一直都能夠把資源投入到最重要的地方。隨著模型能力不斷增強,明顯地,對齊與安全性會變得愈來愈重要。因此,在這些方向上進行非常大規模的投入,對 OpenAI 來說是一件非常自然的事情,亦是公司一直高度承諾的方向。我們現時已看到這方面的投入大幅增加。
而那次暫停本身亦是必要的,因為團隊與每一位相關成員都需要真正理解整個系統,並對系統的各個部分進行加固,這樣我們才能確保重新開始訓練時,對整個系統擁有充分掌控。我相信,只要有必要,OpenAI 未來仍然會繼續這樣做。我在公司內部還未見過我們無法非常高效地做出這類決定的情況。
主持人:當時有沒有設定一個非常明確的目標?例如必須達到某個具體狀態以後才能恢復訓練,還是說更像「等我們看到足夠的信號,自然就會知道可以恢復了」?
Tibo:這主要屬於安全團隊的職責範疇。在推進過程中,確實包含了大量討論與探索,並非從一開始便有一個完全固定的答案。但後來,他們確實形成了一套相當清晰的原則,一旦這些原則得到滿足,我們便會認為自己已處於一個較為合適的位置。
大量算力會專門留給外部用戶
主持人:我想回到 Ultra Fast。我覺得很多人並未真正意識到,這樣的速度究竟能解鎖甚麼。先由內部使用說起:你們現時有哪些場景,是在擁有這種每秒 token 數以前根本做不到的?
Tibo:我們會在高風險、高關鍵性的場景中大量使用它。例如發生服務中斷時,事件負責人與應變團隊便會獲得 Ultra Fast 的使用權限,因為那時每一秒都極其重要。所以,只要是高風險場景,我們確實會使用它。
還有一個頗有意思的现象:一些正在進行極其關鍵工作的團隊,或至少認為自己正在進行極其關鍵工作的團隊,亦總會申請 Ultra Fast 模式。
主持人:「pets」算關鍵任務嗎?
Tibo:寵物還未重要到那個程度。但我真的很喜歡我的寵物,它一直會出現在我的螢幕上。你在公司裡走一圈,會看到大家螢幕上的寵物,視訊會議時也有,每次看到我都覺得愉悅、開心。但 Pets 目前不算關鍵。我們確实在維護它,好好照顧我們的寵物。
但假設有人正在嘗試一個新構思,他覺得:「我真的認為這可能會變成一個很特別的東西,我們必須試試。但到了星期一,我們就得決定要不要把它放入 Dev Day。」那這種時候當然可以使用 Ultra Fast。
不同人偏好的工作方式亦不同。有些人喜歡像我們剛才所說的那樣單線程工作,有些人喜歡大量進行多工處理。對於特別喜歡多工處理的人而言,Ultra Fast 模式帶來的收益可能沒有那麼大,但有些人就是不喜歡不斷切換上下文。
主持人:那你本人屬於哪一種?
Tibo:我有 ADHD,所以我會一直切換上下文。
主持人:挺有意思的,我也有 ADHD,但我反而完全不想不停切換上下文,那對我來說很難。我更希望同時只專注於二至三件事情上,所以 Ultra Fast 才會讓我特別興奮。沒想到你正好相反。
Tibo:我反而很適應上下文切換,亦喜歡做很多小決定。不過有時,我確實只想專注於一件事情上。這時 Ultra Fast 模式的體驗就非常舒服,因為它能讓你一直保持心流狀態。
Ultra Fast 還有一點,當涉及的工具調用不多,或主要是大量生成上下文時,它效果驚人。例如你要製作一個網站或電子遊戲的原型,需要它撰寫大量程式碼,它會寫得非常非常快,可快十倍。但若有大量工具調用,開銷在網絡的其他地方,或在智能體執行路徑的其他環節,你可能只會感受到三至四倍的提速,無法獲得完整的十四倍加速。
主持人:我知道 OpenAI 員工可以使用不限量的 tokens。如果是我,只要 token 不限量,我大概會永遠把思考強度調到最大,用 5.6 Sol 或當時最新的模型。我對 Ultra Fast 模式亦可能有類似想法:只要不用考慮成本,我就會想全部拉滿。OpenAI 內部也是這樣嗎?
Tibo:我們並不會把 Ultra Fast 對所有員工無限開放,大量的算力容量是專門留給外部用戶與客戶的。OpenAI 員工如果真的完全不受限制,是有能力把所有資源都用完的。我們甚至可以把生產環境裡的 GPU、Ultra Fast 模式的全部容量都用掉。
但我們不會這麼做。我們會進行限制,判斷內部使用多少才算合理。內部當然亦會使用,這樣我們才能真正理解產品、持續改進它,亦能從遞歸式自我改進中受益。但絕大多數 Ultra Fast 模式的容量仍然是留給客戶的。
主持人:明白,這很好。那在 OpenAI 之外,你最期待哪些對延遲敏感的應用場景,因為這樣的速度而真正成為可能?
Tibo:有一個方向我非常興奮,就是非文字互動。能否在共享畫布上操作?能否創造東西?能否生成想法、生成不同的圖片然後選一張,像是「選擇你自己的冒險」,然後快速做出一個原型的草圖,你可以透過語音或文字即時操控它,然後就呈現在你眼前。這是一個極其富創造力的過程,我覺得這樣的速度會帶來非常大的改變。
以往作為工程師,你有時會坐下來想:「我要設計這一整套系統,得考慮所有權衡、所有需求。」但也許未來,你可以先花一分鐘把它直接做出來,看看它實際運作效果,然後在真實回饋中繼續思考與調整,更自然地留在工作流程裡。我覺得這種速度會帶來非常大的改變。
主持人:那我猜 Ultra Fast 的價格會明顯高於一般速度。你覺得這種超高速最終會成為標準配置,還是會一直作為一個需要額外付費的高端檔位存在?
Tibo:這是一個很有意思的問題。我覺得跟技術通常的發展路徑一樣,它會隨著時間變得愈來愈廣泛可及。
智能體完成任務的速度還會繼續提高,我們幾乎每月都能看到非常明顯的改善。而且這裡不僅僅是推理速度的問題,亦包括模型本身的 token 效率。Soul 的 token 效率便顯著高於 Terra,而下一代模型的 token 效率亦會顯著高於 Soul,這是可預期的。我們一直在推動這件事,所以整體速度會不斷提升。推理硬體亦是如此,我們會持續創新,它亦會愈來愈快。
因此,我確實認為,也許一至兩年後,現時這種速度即使尚未完全變成默認標準,亦會非常接近。但與此同時,我也認為永遠會有「再高一檔」的選擇。因為你總可以使用更多硬體,亦總可以做一些成本更高的決定來換取額外的一些能力。
緩解人們對 AI 擔憂的幾句話
主持人:Tibo,我最後通常會問一個面向更廣泛人群的問題。現時有很多人對 AI 表示擔憂,可能因為工作自動化、環境影響,或只是因為眼前正在發生的一切太陌生了。你會對這些更廣泛的用戶說些甚麼,讓他們稍微安心一點?
Tibo:我們真的在為整個世界構建 ChatGPT,同時亦做了大量投入來提升它的效率,這件事與廣泛可及性以及我們希望提供的廣泛效用,是直接一致的。服務成本愈低,你就能用它做愈多事情,亦能在日常生活中獲得愈多價值。
現時模型已變得非常高效。以 Luna 為例,它是一個小得多的模型,但效率高得驚人。如果把時間倒回六個月前,它的能力其實處於當時的前沿水平。再看看 Luna 的成本,真的便宜得驚人,非常誇張。
未來,對這種高水平智能的存取將變得無處不在,而這只有在日復一日、年復一年持續推動效率提升的情況下才有可能發生。所以,今天處於最前沿的東西,六個月後的運作成本可能便會低得多。
這亦是我對這個問題的回答:技術往往會隨著時間推移變得愈來愈高效。我們極其關注讓它能被更廣泛的人使用,亦會持續優化,讓用戶能從中直接獲得最大的實際價值。
主持人:那對於那些甚至還不願第一次嘗試 AI 的人呢?你會怎樣跟他們說?
Tibo:其實不用看得太遠。ChatGPT 已經在非常個人、非常垂直深入的層面幫助了很多人。大量用戶會用它協助寫作,亦會用它獲取個人建議,甚至醫療建議。我們還推出了健康與金融相關功能,我自己亦經常使用。我能從中獲得很多支援,而若沒有它,這些支援其實很難以同樣方便的方式獲得。例如,它可以讓我於見醫生前掌握更多資訊。所以,你可以看到它現時已能帶來的價值。
我覺得一個很好的起點,就是去和別人聊聊,看看其他人是如何使用 AI、如何從中獲益的,然後從這些真實用法裡獲得啟發,再去想想它可能怎樣幫助到你自己。
原播客連結:
https://www.youtube.com/watch?v=4qjEgPojjzM
**

會議推薦**
QCon 全球軟件開發大會·2026(上海站)現已正式啟動。本屆大會聚焦 Harness AI 時代的工程實踐,從「構建 AI」到「駕馭 AI」,圍繞 AI Native 架構、Agent Runtime、AI Infra、Agent 安全與可觀測性、Loop Engineering、具身智能與世界模型等熱門技術方向,邀請全球技術社群與產業一線實踐者,共同分享 AI Native 時代最具價值的工程經驗。

今日薦文
Meta 用整整一年證明 Agent 無法取代員工:事故增加四成,工程師救火多七成
Token 消耗減少 75%,千問辦公創造了新的「省錢模式」
Anthropic 發布「硬件版 MCP」:Claude 操控物理世界,八小時跑通數週整合
谷歌突然發布「最強聽寫模型」:Agent 時代的落伍產品,還是關鍵拼圖?

你也「在看」嗎?👇
閱讀原文
跳轉微信打開
多姆科技(DomTech)是釘釘在香港的官方指定服務商,專門為廣大客戶提供釘釘服務。如果您還想瞭解更多釘釘平臺應用的內容,可以直接諮詢我們的在線客服,或者通过电话+852 64392620或邮箱[email protected]联系我们。我們有優秀的開發和運維團隊,豐富的市場服務經驗,可以為您提供專業的釘釘解決方案和服務!