IBM watsonx Granite 為高度監管行業採用生成式AI開啓了信任之門

為了利用生成式人工智能實現真正的商業價值，企業在考慮生成式AI的三種消費模式時，需要評估最適合其企業目標的方式：一是採用嵌入了生成式AI的軟件；二是通過 API 調用查詢AI模型；三是利用公共和私有數據創建（然後查詢）自己的基礎模型。

另一個需要考慮的方面是，並非所有的生成式AI模型都是一樣的。企業需要一種根據其獨特需求和自身數據而量身定制的模型。基礎模型的前景在於它們能夠根據企業獨特的數據和領域知識進行調整，並以管制和靈活性為核心，從而使AI部署的可擴展性、經濟性和效率大大提高。

我們針對企業的需求發佈了 IBM watsonx，其中的IBM watsonx.ai支持多種基礎模型並提供 watsonx.ai studio （開發平台），以幫助企業利用基於可信數據集和AI管制的基礎模型來開發、微調和部署其AI應用。

無論企業是想微調開源模型、創建自己的模型，還是在本地或雲端部署AI，IBM 都致力於為各行各業的新一代企業提供支援，將AI嵌入其戰略核心。我們為企業提供開放、可信、有針對性且能創造價值的AI解決方案。IBM watsonx 為在混合雲（本地或非本地）上部署AI提供一種無縫、高效且負責任的方法。

利用基于可靠数据开发的具有业务针对性模型的强大力量

採用生成式AI的業務領導需要靈活的模型選擇。認識到單一模型無法適用於所有場景，因而IBM watsonx.ai提供不同規模和架構的基礎模型系列，為客戶提供靈活的選擇，以實現符合其業務需求的性能、速度和成本效益。

watsonx.ai 模型庫包含之前發佈的採用僅編碼器架構的 IBM Slate 基礎模型，這些模型對於企業自然語言處理的非生成式 AI 用例非常高效，適用於情感分析、實體提取、關係檢測和分類等。隨著 IBM 開發的生成式基礎模型 IBM Granite 的引入，企業可以利用專為生成式任務設計的僅解碼器架構的模型，來完成例如摘要、內容生成、檢索增強生成（通過將模型鏈接到外部知識源來提高響應質量的框架）、分類和提取洞察等工作任務。

除了靈活的模式選擇外，企業還需要安全訪問與業務相關的數據，以加速實現業務價值與洞察。IBM 為由IBM 開發的基礎模型提供 IP 賠償（合約保護）[ii]，使其客戶能夠更有信心地使用他們的數據來構建 AI ，這是生成式 AI 競爭優勢之所在。 現在客戶可以使用自己的數據和IBM 基礎模型所提供的客戶保護、準確性和信任來開發他們的 AI 應用程式。

Granite 由IBM研究院開發，是僅解碼器架構的模型系列，第一個版本的 Granite 系列包括 130 億參數模型的兩個變體：granite.13b.v1.chat 和 granite.13b.v1.instruct。 granite.13b.v1.chat 專為對話和問答而設計，而 granite.13b.v1.instruct 旨在遵循簡短的指令並返回簡潔的響應。日前，granite.20b.code 也隨著 watsonx Code Assistant 的發佈而推出，這是 200 億參數的代碼生成大模型，可幫助企業的開發人員和 IT 運營人員使用自然語言提示，從而更快、更準確地編寫代碼。

所有Granite基礎模型都經過IBM在企業聚焦的數據集上進行訓練和處理，數據集來自互聯網、學術、代碼、法律和金融五個領域，其中10%的訓練數據來自法律和金融領域。這種獨特的數據組合使Granite模型能夠為金融任務提供卓越的性能，包括信用風險評估、保險QA、對話式財務QA和摘要，或為有法律要求的客戶提供卓越服務。

Granite使用高質量的金融數據進行訓練，在執行金融任務時表現卓著。IBM 研究院進行了初步評估和測試，包括 11 項不同的金融任務，結果表明， Granite-13B 模型可以實現與更大的模型相似甚至更好的性能，對標的大模型包括Llama 2-70B-chat、BLOOM-176B 和 gpt-neox-20B 等，而Granite.13B需要更少的 GPU 資源，具有更高的性價比。進行評估的金融任務包括：提供股票和財報電話會議記錄的情緒評分、對新聞標題進行分類、提取信用風險評估、總結金融長篇文本以及回答金融或保險相關問題。

行業應用見解：在保險業採用生成式AI，以結構化方法獲得最大投資回報率並緩解風險

在保險業蓬勃發展的香港，有遠見的保險公司擁有獨特的機會，利用可信的生成式AI提供前所未有的客戶體驗與效率，在競爭中取勝。  

IBM 一直在與保險行業客戶合作，支持他們的生成式 AI 之旅，在各種用例中發揮生成式AI多種多樣的功能，例如：

• IBM與香港一家保險公司合作，利用生成式AI摘要生成的功能，根據客戶對話記錄進行總結，並提取客戶洞察和情緒，促進改善服務的必要行動。
• IBM與香港一家保險公司合作，利用生成式AI的對話式知識庫的功能，幫助客戶部署24/7的虛擬助理，為保險代理提供及時的資訊，以應對客戶的不同問題。
• IBM與瑞士一家財富管理公司合作，利用生成式AI內容生成的功能，幫助客戶總結市場研究和分析報告，自動生成客戶案例的podcast，協作客戶關係經理把握市場動向以提供個性化的服務。
• IBM與中國大陸一家保險集團公司合作，利用生成式AI代碼生成的功能，幫助客戶將其核心保險業務平台現有的COBOL代碼轉為JAVA代碼，打開應用程式現代化的新視野。

IBM Consulting採用結構化方法，幫助企業確定最具潛力的起點，從實施生成式 AI 黨中獲得最大回報。

利用 IBM 的保險行業模型，IBM Consulting團隊全面分析保險公司在不同業務領域的工作流程，評估人工智能和自動化在每個領域的潛在影響和準備情況——考慮到了財務規模、效率收益和其他效益驅動因素，如改善客戶體驗、增強決策和增加銷售機會。這一分析為保險機構提供了實施AI投資回報率最高領域的寶貴見解。

IBM Consulting 團隊還考慮了與生成式AI實施相關的潛在法律和聲譽風險，並制定了通 過控制和管制措施降低這些風險的戰略。這種全面的風險評估可確保所選擇的起點不僅能產生有利的投資回報率，還能最大限度地減少潛在的弊端。

IBM 認為，生成式 AI 可以在三個主要方面為保險業提供 最大價值： 客戶服務、 運營 和應用程式現代化。

1. 對客戶服務，生成式AI可用於實現客戶對個性化風險對話與建議的高度接受度，虛擬代理在幫助客戶的同時讓代理和服務代表瞭解情況，同時向服務代表提供即時和個性化的建議，以便其對索賠和保單管理採取下一步最佳行動。
2. 在運營方面，我們可以利用生成式AI在眾多數據存儲中進行核保信息收集和合成；通過自動輸入，匯總理賠案件細節以加快理賠速度；通過自動化數據填充與常規任務（如保單轉移和直接協助客戶完成簡單任務）來提高人工代理的工作效率。
3. 在應用程式現代化方面，生成式AI可用於改變傳統核心應用現代化的業務案例，保留 IBM Z 作為安全數據存儲庫和AI平台的關鍵優勢，同時增強性能、安全性、可持續性和可靠性。它還可以實現AI驅動的保險規則和代碼庫的現代化，並具有很高的復用及接受度。

展望未來

IBM watsonx會繼續演進，預計會做一系列重要發佈。我們將專注於把企業級基礎模型的用例擴展到NLP之外，實施為目標用例而定制的100B +參數的模型，為更廣泛的企業採用打開大門。此外，IBM watsonx Granite 正在積極開發具有不同參數大小的模型，提供一系列選項來滿足不同業務的特定需求。

我們還希望通過 watsonx.governance 的全面發佈來發揮我們的AI管制能力，幫助企業和組織實施端到端的AI生命週期管制，降低風險和管理針對不斷增多的AI和行業法規的合規性。AI管制絕不應該是事後才考慮的工作，因此我們鼓勵客戶從一開始就著手管制他們的機器學習（ ML） 模型和基礎模型。

IBM Consulting的watsonx 實踐提供生成式 AI 技術堆棧方面的專業知識以及領域和行業經驗，可以助力客戶加速業務轉型——企業要求 AI 能夠產生準確且值得信賴的結果，可以跨雲擴展，並且可以輕鬆地適用於相關的企業領域和用例，IBM watsonx 正是為了滿足企業客戶的這些關鍵需求。

讓我們一起攜手共創，讓AI成為企業的核心生產力。

瞭解更多信息，請訪問 https://www.ibm.com/watsonx。

有關 IBM 未來方向和意圖的聲明如有更改或撤銷，恕不另行通知，僅代表目標和目的。

本文作者：IBM傑出工程師、IBM香港首席科技總監李永輝（Peter Lee）；IBM香港諮詢服務合夥人高嘉欣 （Karen Ko）

關於 IBM

IBM 是全球領先的混合雲與人工智能、以及企業服務提供商，為全球175個國家和地區的客戶服務，幫助企業把握其數據洞察、簡化業務流程、降本增效，獲得行業競爭優勢。 IBM 混合雲平台和紅帽OpenShift 為全球超過4,000家政府和企業機構的關鍵性基礎設施提供有力支撐，例如來自金融服務、電訊和醫療健康等行業的客戶，幫助他們快速、高效、安全地實現數碼轉型。 IBM 在人工智能、量子運算、特定行業的雲解決方案以及企業服務等方面的突破性創新，使其可以為客戶提供開放和靈活的選擇。 IBM 對信任、透明、責任、包容和服務的歷久彌新的承諾，是我們業務發展的基石。查詢更多資料，請瀏覽：www.ibm.com/ 

關於 IBM 香港，請訪問IBM 香港Facebook 頁面 www.facebook.com/IBMHongKong 。

傳媒查詢：郭韜 [email protected] 

^[i] 來源：https://www.finastra.com/financial-services-state-nation-survey-2023
^[ii] 來源：https://www.ibm.com/products/watsonx-ai/foundation-models
https://hongkong.newsroom.ibm.com/2023-10-19-IBM-watsonx-Granite-watsonx