2023年的秋天,OpenAI面臨全球大當機,2024年的夏天也發生微軟(Microsoft)服務全球斷線,種種事件均警示著用戶們,切勿將所有生成式人工智慧雞蛋放在同個籃子。
編譯/戴偉丞
2023年的秋天,OpenAI面臨全球大當機,2024年的夏天也發生微軟(Microsoft)服務全球斷線,種種事件均警示著用戶們,切勿將所有生成式人工智慧雞蛋放在同個籃子。這刻起,各家廠商均開始蠢蠢欲動,出現大量開源模型、更具經濟成效的方案、特性與功能的競賽。此外,各國法規範要求也促使地端資料中心或私有雲的需求。有鑑於前述諸項原因,部分用戶也正尋求第三方雲端平台,使其擺脫單一廠商依賴。VMware正是這些平台競爭者之一。
新增Nvidia外掛程式
2023年11月美國晶片製造商博通(Broadcom)宣布將以610億美元正式收購VMware,更於2024年的「VMware Explore」年度大會上宣布開始支援VMware Private AI Foundation的模型服務,並在其VMware Cloud Foundation 9平台上新增輝達(Nvidia)外掛程式。VMware 和輝達的聯合平台於2024年5月已經正式上路,其中支援輝達的人工智慧模型、工具、架構等等。
該聯合平台甫發布之際,就允許企業部署生成式人工智慧相關應用程式,其中也包含向量資料庫,以便用戶得以使用資料檢索,增強生成功能(RAG),使人工智慧提供更為精準與最新的回應,更允許企業開發人員,提供適合的人工智慧模型及其存取控制權。
模型「彈藥庫」琳瑯滿目
VMware產品副總裁Paul Turner表示,這確保了沒有人會使用你不想用的大型語言模型。對此,他進而補充道,有鑑於用戶並不曉得其網路上大型語言模型的出處,因此該聯合平台的服務提供用戶一種管理大型語言模型的方法,使其得以真正地觸發生成式人工智慧創新。
目前,VMware客戶可以使用輝達、Hugging Face的人工智慧模型,以及Meta Llama 3模型、Google Mistral模型。除了模型存取外,其他新功能還包括透過整合存取控制,來保護模型的工具、簡化部署工作流程、PDF資料提取等人工智慧功能。
資料來源:Network World
※探索職場,透視薪資行情,請參考【科技類-職缺百科】幫助你找到最適合的舞台!
這篇文章 AI雞蛋不敢放同個籃 Vmware撿到AI彈藥 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。