DeepSeek R1 蒸餾模型已上架 IBM watsonx

IBM表示，支持DeepSeek-R1的蒸餾變體是IBM於AI開源創新的一部分；透過讓更多企業與開發者使用watsonx.ai 平台上同類型且最優秀的開源模型，例如第三方的DeepSeek與IBM Granite模型，IBM期望繼續宣揚與培養協同合作與知識共享的文化。

IBM watsonx.ai協助企業按照特定需求、使用如DeepSeek-R1與IBM Granite等開源模型，從建置環境的靈活度，到建立直覺式的工作流包括代理型AI（AI agent）的開發、微調、RAG、指令工程、及整合既有的企業應用程式等，watsonx.ai的內建安全護欄可以保護企業的應用程式。此外，IBM watson.ai平台提供容易理解的格式和使用者介面，協助開發者測試與評估模型輸出，透過連接各種向量資料庫與嵌入式模型構建RAG，並且與LangChain和CrewAI等常見的框架和連接器協作。

IBM認為資料安全與AI治理是企業在應用AI時最關心的議題。IBM watsonx.ai除了提供安全護欄功能之外，DeepSeek這類的開源模型在watsonx.ai上將成為企業的專屬應用，除了watsonx.ai平台，企業資料將不會在其他任何地方共享。此外，IBM watsonx.ai與IBM watsonx.governance工具包無縫整合，提供強大的治理、風險控管與合規（GRC）能力，確保企業AI應用在整個AI生命週期裡保持透明，是可解釋與負責任的AI應用。

企業可以藉由以下兩種方式，在watsonx.ai上使用DeepSeek的蒸餾模型：一是透過watsonx.ai的「按需部署目錄」使用DeepSeek Llama 3.1 8B與Llama 3.3 70b；二是使用自定義基礎模型導入功能導入DeepSeek-R1模型的其他變體，如Qwen蒸餾模型。

以下是從IBM watsonx的資源中心部署DeepSeek-R1基礎模型的步驟：

1. 從選單點選資源中心
2. 在「按小時付費」處，找到想部署的DeepSeek模型
3. 從「模型詳細訊息」網頁點選「部署」
4. 從基礎模型段落點選「部署」，再選擇要部署基礎模型的位置
5. 點選「建立」
6. 透過「指令Lab」或API/SDK開始使用模型

IBM watsonx.ai在介面上用英文斜體顯示模型的思維過程，最終輸出則用非斜體顯示；只需一個簡單的提示，該模型就能推理並規劃回應裡需要包含的各部分。

使用者也可以使用REST API在watsonx上部署R1模型；使用者必須將bearer token和space-id等訊息改為相應憑證。模型部署完成，使用者就可以從Prompt Lab或watsonx.ai API提示基礎模型。