OpenAI 與 Goodfire 達成 AI 安全合作,此前曾探討超 50 億美元收購
IT之家 11 月 17 日消息,今日,OpenAI 宣佈與 Apollo Research、METR、Transluce 和 Goodfire 達成合作,將啓動首階段嵌入式評估項目(Embedded Assessments),共同開展模型可解釋性與安全評估工作。與此同時,據《The Information》今日報道,OpenAI 此前曾探討以超過 50 億美元(IT之家注:現匯率約合 333.92 億元人民幣)收購 Goodfire 的方案,但雙方最終未能達成收購協議。根據 Goodfire 發佈的公告,該公司將派遣可解釋性研究人員進駐 OpenAI,使用自有可解釋性分析平臺監測模型訓練過程、排查非預期行爲,並幫助改善模型對齊與安全性。研究人員將獲得 OpenAI 內部模型和系統的深度訪問權限,具體包括訓練過程中的內部信號及相關技術資源。此次合作的重點是模型取證(Model Forensics)。Goodfire 將通過分析模型內部計算過程,監測訓練期間出現的已知風險和異常行爲,幫助 OpenAI 研究人員發現傳統監控手段可能遺漏的問題。相關評估結果主要提供給 OpenAI 內部研究團隊,用於改進模型安全性。Goodfire 還表示,隨着合作推進,將逐步公開部分研究成果。OpenAI 在公告中表示,嵌入式評估允許獨立專家在較長時間內深入接觸實驗室內部模型和系統,評估模型對齊情況及安全防護措施的有效性。根據不同評估項目的需求,外部評估人員可以接觸模型檢查點、源代碼、訓練與評估數據、監控系統、技術文檔,以及負責相關工作的研究人員和工程師。另一方面,據《The Information》報道,OpenAI 今年夏季曾多次與 Goodfire 接觸,OpenAI CEO 薩姆 · 奧爾特曼也參與了相關討論。當時 OpenAI 正在調查 AI 模型引發的內部及外部安全事件,希望藉助 Goodfire 的技術更深入地理解模型行爲。知情人士稱,OpenAI 一名高級管理人員曾提出以超過 50 億美元收購 Goodfire,或採取其他形式的商業合作。若按收購報價計算,其估值將超過 Goodfire 今年 2 月融資時公佈的 12.5 億美元估值的四倍。不過,雙方最終沒有達成收購協議。Goodfire 管理層認爲,保持獨立經營並向多家 AI 開發商銷售技術,可能爲公司帶來更高的長期價值。《The Information》還提到,Anthropic 於 2025 年向 Goodfire 投資 100 萬美元(現匯率約合 667.8 萬元人民幣),這是 Anthropic 首次直接投資其他初創公司。Anthropic CEO 達里奧 · 阿莫迪當時表示,這筆投資反映了公司對機制可解釋性技術的重視,希望將黑箱神經網絡轉變爲更容易理解和控制的系統。