DeepSeek R1蒸餾模型已上架 IBM 企業級AI平台 watsonx

IBM watsonx.ai 協助企業客戶按照特定需求、使用如 DeepSeek-R1與 IBM Granite等開源模型，從建置環境的靈活度，到建立直覺式的工作流包括代理型AI (AI agent) 的開發、微調、RAG、指令工程、及整合既有的企業應用程式等，watsonx.ai 的內建安全護欄可以保護企業用戶的應用程式。此外，IBM watson.ai 平台提供容易理解的格式和使用者介面，協助開發者測試與評估模型輸出，透過連接各種向量資料庫與嵌入式模型構建RAG，並且與LangChain和CrewAI等常見的框架和連接器協作。

IBM 認為資料安全與AI治理是企業在應用AI時最關心的議題。IBM watsonx.ai 除了提供安全護欄功能之外，DeepSeek 這類的開源模型在 watsonx.ai上將成為企業專屬應用，除了watsonx.ai平台，企業資料將不會在其他任何地方共享。此外，IBM watsonx.ai與 IBM watsonx.governance 工具包無縫整合，提供強大的治理、風險控管與合規 (GRC) 能力，確保企業AI應用在整個AI生命週期裡保持透明，是可解釋與負責任的AI應用。

企業可以藉由以下兩種方式，在 watsonx.ai 上使用 DeepSeek的蒸餾模型：一是透過watsonx.ai 的「按需部署目錄」使用DeepSeek Llama 3.1 8B 與 Llama 3.3 70B；二是使用自定義基礎模型導入功能導入 DeepSeek-R1 模型的其他變體，如 Qwen 蒸餾模型。

以下是從IBM watsonx的資源中心部署DeepSeek-R1基礎模型的步驟：

1. 從選單點選資源中心
2. 在「按小時付費」處，找到想部署的DeepSeek 模型
3. 從「模型詳細訊息」網頁點選「部署」
4. 從基礎模型段落點選「部署」，再選擇要部署基礎模型的位置
5. 點選「建立」
6. 透過「指令Lab」或API/SDK 開始使用模型

IBM watsonx.ai 在介面上用英文斜體顯示模型的思維過程，最終輸出則用非斜體顯示；只需一個簡單的提示，該模型就能推理並規劃回應裡需要包含的各部分。

使用者也可以使用 REST API 在 watsonx上部署R1模型；使用者必須將 bearer token 和 space-id 等訊息改為相應憑證。模型部署完成，使用者就可以從 Prompt Lab 或 watsonx.ai API 提示基礎模型。

試用watsonx.ai™中的DeepSeek-R1蒸餾模型

關於 IBM

IBM 是全球領先的混合雲、人工智慧及企業諮詢專業的提供者，為全球超過 175 個國家的客戶服務，協助其從擁有的資料裡獲取商業洞察、簡化業務流程、降低成本，並取得產業競爭優勢。 來自金融服務、電信和健康醫療等關鍵基礎設施領域、數千家政府和企業機構，採用 IBM 混合雲平台和 Red Hat OpenShift 解決方案，快速、高效、安全地實踐企業數位轉型。IBM 在人工智慧、量子運算、產業專用的雲端運算解決方案和企業諮詢服務領域的突破性創新，為客戶提供開放和靈活的選擇。IBM 對企業誠信、透明治理、企業社會責任、多元與包容文化和服務精神的承諾，歷久彌新，是 IBM 業務發展的基礎。

台灣 IBM 公司新聞室：https://taiwan.newsroom.ibm.com/

新聞聯絡

IBM 公司公關部           Kate Liu              [email protected]