OpenAI 傳說中的「Strawberry(草莓)」模型終於要來了。
根據外媒 The Information 報導,隨著 OpenAI 不斷籌集更多資金,其研究人員正在嘗試推出一款新的 AI 產品,預計這款產品在解決複雜問題的能力上將超越現有的 AI。
據兩名參與該計畫的知情人士透露,研究人員計劃在今年秋季推出這款內部代號為「草莓」 的新AI(此前稱為Q*,發音為Q Star),它可能會作為ChatGPT 的一部分功能推出。
「草莓」可以解決以前從未見過的數學問題,這是目前的聊天機器人無法做到的,並且還經過訓練能夠解決與程式設計相關的問題。
但這款 AI 的功能並不僅限於技術問題的解答,如果給「草莓」模型更多的「思考」時間,它還能回答顧客關於更主觀話題的問題,例如產品行銷策略。
據悉,為了展示「草莓」在語言任務上的強大能力,OpenAI 員工也曾展示過它如何解出《紐約時報》「Connections」 這個複雜文字謎題。
報導稱,這項技術對未來 AI 產品,特別是旨在解決多步驟任務的智能體,具有重要意義。其中 OpenAI 及其競爭對手目前正在希望透過這些智能體來開闢更多的收入機會。
目前 OpenAI 的業務正在迅猛成長。
儘管其每月支出可能比這一數字還要高,但 OpenAI 向企業銷售的大語言模型和 ChatGPT 訂閱服務的月收入已較去年增長了近三倍,達到了 2.83 億美元。
目前,OpenAI 的估值已經達到 860 億美元。 然而報告指出,OpenAI 的未來在一定程度上取決於其正在開發代號為 Orion 的新旗艦大語言模型。
據悉,這個模型旨在改進其去年稍早推出的現有旗艦大語言模型 GPT-4。到目前為止,其他競爭對手已經推出了在性能上與 GPT-4 相當的大語言模型。
不過,報導也指出,尚不確定 OpenAI 是否能在今年推出「草莓」聊天機器人版本,這個版本是原始「草莓」模型的簡化版,稱為蒸餾版。它旨在保持高性能的同時,操作更為簡單且成本更低。
知情人士表示,OpenAI 也正在利用「草莓」的更大版本產生用於訓練 Orion 的數據。這種 AI 產生的數據被稱為「合成數據」。
這意味著「草莓」可能幫助 OpenAI 緩解從網路獲取高品質訓練資料的挑戰。
此外,這位知情人士還表示,「草莓」可能有助於即將推出的 OpenAI 智能體減少幻覺。
Minion AI 的 CEO 兼 GitHub Copilot 前首席架構師 Alex Graveley 表示,使用「草莓」產生更高品質的訓練資料可能有助於 OpenAI 減少其模型產生的 AI 幻覺。
Graveley 進一步解釋道:「想像『沒有幻覺的模型』,你問它一個邏輯難題,它第一次就答對了。」之所以能夠做到這一點,是因為「訓練資料中的模糊性更少,因此它的猜測更少。
本月早些時候,OpenAI CEO Sam Altman 在 X 平台上發布了一張草莓的圖片,但沒有詳細說明,引發了全網大猜測。
而知情人士表示,今年夏天,OpenAI 也向美國國家安全官員展示了「草莓」模型。
「我們認為這次模型所需的數據已經足夠,」 Altman 在五月的一次活動中說,這很可能是指 Orion。 「我們進行了各種實驗,包括產生合成數據。」
目前,他還在努力為公司籌集更多資金並尋找減少虧損的方法。知情人士透露,自 2019 年以來,OpenAI 已從微軟籌集了約 130 億美元,作為與這家軟體巨頭合作的一部分,合約將持續到 2030 年。
這位知情人士還表示,合作條款可能會發生變化,包括 OpenAI 如何支付租用雲端伺服器以開發其 AI 的費用,畢竟雲端伺服器是 OpenAI 最大的成本來源。
截至發稿前,OpenAI 的發言人對此報道未予置評。
路透社先前也曾報導了草莓的名稱及其推理能力。業界普遍認為,一個能夠解決複雜數學問題的 AI 可能是一個具有潛在利潤的應用領域,因為現有的 AI 在航空航太和結構工程等數學密集領域表現不佳。
許多 AI 研究人員也發現對話式 AI,如 ChatGPT 及其同類產品容易給出錯誤答案,包括前一段時間爆火 9.11 和 9.8 比大小的難題也難倒了不少聊天機器人。
此外,數學推理的改進也可能幫助 AI 模型在推理對話查詢方面表現更佳,例如處理客戶服務請求。
據悉,Google 和一些 AI 新創公司也在努力開發推理技術。上個月,Google DeepMind 表示,其 AI 將擊敗國際數學奧林匹克競賽中的大多數人類參與者。
OpenAI 勁敵 Anthropic 先前表示,得益於其推理能力的提升,其最新的大語言模型能夠編寫比之前的大語言模型更複雜的軟體程式碼,並回答有關圖表和圖形的問題。
為了提高模型的推理能力,一些 AI 新創公司一直在使用一種「討巧」的方式,即將問題分解為更小的步驟,而代價就是這些解決方法速度慢且成本高。
外媒指出,無論草莓是否作為產品發布,人們對 Orion 的期望都很高,因為 OpenAI 希望繼續領先競爭對手,並保持其顯著的收入成長。
有趣的是,草莓的誕生也與前 OpenAI 首席科學家 Ilya Sutskeve 扯上了關係。
據悉,幾年前,正是由當時 OpenAI 首席科學家的 Ilya Sutskever 啟動了對「草莓」模型的研究。 只不過 Ilya最近 宣布從 OpenAI 離職,並創辦了新公司「安全超級智慧」(Safe SuperIntelligence,SSI)。
在他離開之前,OpenAI 的研究人員 Jakub Pachocki 和 Szymon Sidor 基於 Sutskever 的工作開發了一種新的數學求解模型 Q,這引發了一些關注 AI 安全的研究人員的擔憂。 在 Q 的開發過程中,OpenAI 的研究人員也發展了一種稱為「測驗時計算」(test-time computation)的概念變體,旨在提升大語言模型的解題能力。
此方法使模型有機會花更多時間考慮使用者命令或問題的所有部分。當時,Sutskever 也發表了一篇與這項工作相關的部落格文章。
接下來,OpenAI 將繼續全力推動「草莓」的發布,以保持其在 AI 領域的領先地位,並應對來自其他公司的激烈競爭。
同時,Orion 作為 OpenAI 下一個重要的大語言模型,肩負著公司未來發展的重任,其表現將對 OpenAI 的長期前景產生深遠影響。
值得注意的是,隨著 OpenAI 等公司在 AI 領域的不斷突破,業界對 AI 安全性問題的關注也日益增加。
特別是在 AI 技術逐步朝向更複雜的推理能力邁進的背景下,「草莓」和 Q* 的開發過程引發了 AI 倫理和安全的廣泛討論。
基於此,OpenAI 以及整個 AI 產業所面臨的挑戰,不僅在於技術層面的突破,還在於如何平衡創新與安全之間的關係。
未來,隨著更多類似「草莓」這樣的 AI 產品的推出,AI 的發展方向將更加多樣化,也將對社會各方面帶來更大的影響。
但不管怎麼說,「草莓」的推出將標誌著 OpenAI 在 AI 推理能力方面的另一個重要進步。無論是對現有的 GPT-4 進行改進,還是為未來的 Orion 模型提供支持,「草莓」都將發揮關鍵作用。
寫在最後,如果需要付費ChatGPT,可以用國際虛擬信用卡。 NIUNIUCard就是一個專門提供國際虛擬信用卡的平台,有興趣的朋友可以回到官網或添加客服TG(@bullbull1999)進行了解。
附上報道原文網址:https://www.theinformation.com/articles/openai-shows-strawberry-ai-to-the-feds-and-uses-it-to-develop-orion