Mira Murati 實驗室預覽 Inkling-Small，專為預算有限的開發者打造的精簡開源模型

新聞摘要

由前 OpenAI 技術長 Mira Murati 創立的 AI 研究公司 Thinking Machines Lab，於太平洋時間 2026 年 7 月 15 日上午 9 點發表了其首個開放權重模型家族。名為 Inkling 的旗艦版本是一個擁有 9750 億參數的多模態混合專家模型，並與較輕量的兄弟版本 Inkling-Small 一同推出，後者專為無法使用大型 GPU 叢集但需要強大推理效能的團隊所設計。該公司並未追求在排行榜上奪冠，而是將這兩個模型定位為彈性的起點，供希望為自家產品客製化並微調 AI 系統的開發者使用。

Inkling 與 Inkling-Small 是什麼

Inkling 建構於混合專家 Transformer 架構之上，每層有 256 個路由專家和 2 個共享專家，其中針對任何給定的 Token 會啟動 6 個路由專家。此設計讓完整模型擁有 9750 億個總參數，但在推論期間僅有約 410 億個參數處於活躍狀態，從而使運算成本維持在可控範圍。Inkling-Small 遵循相同架構但規模較小：總參數量為 2760 億，每個 Token 約有 120 億個活躍參數。這兩個模型皆支援高達 100 萬個 Token 的上下文視窗，並在總計 45 兆個涵蓋文字、影像、音訊和視訊的 Token 上進行訓練。

值得注意的是，Inkling-Small 在發布時僅作為技術預覽版本分享。其完整的可下載權重因額外的安全性與品質測試而短暫延後發布，不過開發者已經可以透過 Thinking Machines 的客製化平台 Tinker 對其進行微調。

用於成本控制的「思考投入」調節鈕

Inkling 家族中一個更為獨特的功能是可控的「思考投入」設定，該設定可透過系統訊息進行調整，讓開發者能以推理深度換取速度與 Token 成本。該公司研究人員報告指出，此方法讓 Inkling 在 Terminal Bench 2.1 等代理程式編寫基準測試上，能夠媲敵其他競爭系統，同時使用的 Token 數量僅約為 Nvidia Nemotron 3 Ultra 模型的三分之一。具體而言，針對 Inkling-Small，其高效推理設計明確瞄準對延遲敏感且注重預算的工作負載，包括程式編寫助手、自動化評分系統，以及為較小的下游模型生成合成訓練資料。

基準測試效能

在其最高推理投入設定下，Inkling 在 GPQA Diamond 上獲得 87.2% 的分數，在 AIME 2026 上獲得 97.1%，在作為真實世界程式編寫能力廣泛衡量指標的 SWE-Bench Verified 上則獲得 77.6%。在多模態評估中，該模型在視覺任務的 MMMU Pro 上達到 73.5%，在音訊理解的 VoiceBench 上達到 91.4%。Thinking Machines 報告指出，Inkling-Small 在許多相同的評估中僅略微落後於其較大的版本，其視覺和音訊分數通常與完整尺寸模型相差一到三個百分點，儘管它使用的活躍參數不到三分之一。

訓練方法與安全工作

Inkling 家族使用混合最佳化方法進行訓練，將 Muon 最佳化器應用於大型權重矩陣，並將 Adam 應用於剩餘的參數，隨後進行監督式微調以及涉及超過 3000 萬次 rollout 的大規模強化學習。該公司表示，他們特別強調校準，針對具有已解決結果的真實世界問題來訓練模型，使其能夠表達適當的不確定性，而非自信地猜測。安全性評估包含對抗性紅隊測試基準，其中 Inkling 在 StrongREJECT 測試中獲得 98.6% 的分數，在 FORTRESS 對抗性安全套件中獲得 78.0%，並輔以獨立測試人員的外部審查。

可用性與定價

Inkling 的完整權重現在可透過 Hugging Face 下載，包含針對 Nvidia Blackwell 晶片最佳化的壓縮 NVFP4 檢查點，該模型也可透過託管合作夥伴存取，包括 Together AI、Fireworks、Modal、Databricks 和 Baseten。Thinking Machines 為透過 Tinker 進行微調的開發者提供限時 50% 的折扣，並提供在 Tinker 控制台內 Inkling 操場的免費限時存取權。Inkling-Small 的完整權重預計將在額外測試結束後隨之發布。

產業背景

此次發布為 Thinking Machines 的公開產品陣容增添了第二個項目，繼先前首次亮相的 Tinker 微調平台之後。該公司研究人員坦承，Inkling 並非旨在成為現有最強大的單一模型，無論是開源或閉源；相反地，其重點在於為開發者、大學和研究實驗室提供一個全面且高效的基礎，讓他們能夠針對專業科學、程式編寫和推理應用進行調整。透過與投資公司 Bridgewater Associates 的合作，凸顯了早期的企業興趣，該公司報告指出，將 Inkling 應用於金融推理基準測試時獲得了強大的成果，而其運算成本僅為同等級專有模型的一小部分。