大時事
沒有結果
查看所有結果
  • 生活與消費
  • 健康與運動
  • 旅遊與美食
  • 國際時事
  • 地方時事
  • 科技與產業
  • 影劇與娛樂
  • 藝術與教育
  • 金融與財經
  • 生活與消費
  • 健康與運動
  • 旅遊與美食
  • 國際時事
  • 地方時事
  • 科技與產業
  • 影劇與娛樂
  • 藝術與教育
  • 金融與財經
沒有結果
查看所有結果
大時事
沒有結果
查看所有結果
首頁 科技與產業

地端AI與雲端服務競逐(上)它只贏了月均成本

2024-06-17
閱讀時間:閱讀 2 分鐘
A A
分享到Facebook分享到LINE分享到Twitter分享到Wechat

人工智慧新創公司Lytix創辦人Sid Premkumar發布分析文章,內容闡述其自行利用開源人工智慧模型以及使用AWS服務兩者之間的成本比較。就結果而言,長期將成本攤提後,自行託管人工智慧的經濟成本相對便宜,但是仍然有幾點重要因素尚需考量。

編譯/戴偉丞

人工智慧新創公司Lytix創辦人Sid Premkumar發布分析文章,內容闡述其自行利用開源人工智慧模型以及使用AWS服務兩者之間的成本比較。就結果而言,長期將成本攤提後,自行託管人工智慧的經濟成本相對便宜,但是仍然有幾點重要因素尚需考量。

人工智慧基礎設施的硬體開銷比傳統雲端運算的成本更為高昂。圖/123RF

地端系統月均成本略勝一疇

Premkumar 的分析重點在於其自行託管的 Llama-3 8B 模型,以及他使用AWS雲端服務的相關成本。根據其分析顯示,AWS模型的月均成本約為2816.64美元,反觀自行託管的硬體前期投資月均成本約為3800美元。

不得不注意的是,Premkumar的分析假設為所有硬體使用率為100%,在現實實務中是相當少見的情形;另外透過自行託管的方法至少需要5年半的時間才能開始回收成本,鑑於人工智慧在硬體的快速變動,於此期間可能已經有更新、更強大的硬體出現。

更多新聞:全都是泡沫?企業重返地端取代雲端運算

變化快速形成硬體成本風險

在這場地端人工智慧以及雲端的鬥爭中,雲端仍然具有幾點優勢,包括其「規模經濟」、「服務支付模式」、「成本效率」、「技術稟賦」、「延展性與靈活性」、「資訊安全」等不同層面。除前述優勢外,人工智慧基礎設施的硬體開銷比傳統雲端運算的成本更為高昂,當人工智慧創新速度不斷增快以及其效能持續改進,地端人工智慧使用者可能會面臨硬體升級的成本風險。

地端基礎架構過於複雜

在權衡人工智慧與自行託管間的成本撙節及把控程度的同時,不得不考量到邊緣運算的趨勢,在未來將有更多雲端運算搭配邊緣運算的模型出現,並得以為企業級用戶所用,例如:AWS的Outposts功能、Azure的Stack Edge功能、Google Cloud的Anthos功能等,均得使用雲端功能更接近資料產生、使用的位置。藉著邊緣運算的優勢,雲端資源的部署已勝過地端基礎架構的複雜性。

雲端隱私須化阻力為助力

確保數據資料的隱私與安全也是相當關鍵的考量因素,由於人工智慧高度依賴使用者的數據資料,也導致傳統雲端人工智慧服務因其隱私保護政策而為人詬病,然而也因此形成人工智慧解決方案中的隱私層面快速成長,例如Apple透過私有雲提供隱私保護服務就是一個很好的案例。

資料來源:Global Village Space、VentureBeat

這篇文章 地端AI與雲端服務競逐(上)它只贏了月均成本 最早出現於 TechNice科技島-掌握科技與行銷最新動態。

Buy JNews
廣告

推薦閱讀

職場新變局   面試15次AI職位終於進入微軟   

聚焦家用機器人  亞馬遜Astro for Business終止服務

沒電無法下車?電動車電池耗盡如何打開車門

分享130分享Tweet81分享

相關的文章

職場新變局   面試15次AI職位終於進入微軟   
科技與產業

職場新變局   面試15次AI職位終於進入微軟   

2024-07-06
聚焦家用機器人  亞馬遜Astro for Business終止服務
科技與產業

聚焦家用機器人  亞馬遜Astro for Business終止服務

2024-07-05
沒電無法下車?電動車電池耗盡如何打開車門
科技與產業

沒電無法下車?電動車電池耗盡如何打開車門

2024-07-05
雲端狩獵開始!反覆搜查加主動消滅潛在威脅
科技與產業

雲端狩獵開始!反覆搜查加主動消滅潛在威脅

2024-07-05
Google碳排放上升   AI與雲端運算挑戰減碳
科技與產業

Google碳排放上升   AI與雲端運算挑戰減碳

2024-07-05
太空3D列印新技術  邁向太空製造新時代
科技與產業

太空3D列印新技術  邁向太空製造新時代

2024-07-05
下一篇文章
地端AI與雲端服務競逐(下)最終贏家會是?

地端AI與雲端服務競逐(下)最終贏家會是?

漾新聞|前鎮高中有美術班如今更有藝廊了!「勤藝廊」開幕「藝教人生」首登場

漾新聞|前鎮高中有美術班如今更有藝廊了!「勤藝廊」開幕「藝教人生」首登場

最新新聞

起士公爵「茶金鐵觀音乳酪蛋糕」 用沉穩回甘的茶韻向親愛老爸致敬!
地方時事

起士公爵「茶金鐵觀音乳酪蛋糕」 用沉穩回甘的茶韻向親愛老爸致敬!

2024-07-06

閱讀更多
臺南成大辦科學嘉年華指導學生探索科學奧秘

臺南成大辦科學嘉年華指導學生探索科學奧秘

2024-07-06
台南虎頭埤神社修竣開放參觀

台南虎頭埤神社修竣開放參觀

2024-07-06
蹦火、牽罟、魚路古道   海委會攜手新北市政府重現磺港百年記憶

蹦火、牽罟、魚路古道   海委會攜手新北市政府重現磺港百年記憶

2024-07-06
首個官方大熊貓沉浸式光影大展“熊貓星球”將於成都全球首展

首個官方大熊貓沉浸式光影大展“熊貓星球”將於成都全球首展

2024-07-06

熱門推薦

《猛鬼聲泣泣》幽默玩轉《送葬人》《鬼聲泣》 演員本尊驚笑演出

2024-07-01
馬斯克打臉自己  特斯拉轉向氫能源

馬斯克打臉自己  特斯拉轉向氫能源

2024-06-17
觀光工廠 x 創意生活北車開展 邀您探索夏日體驗之旅

觀光工廠 x 創意生活北車開展 邀您探索夏日體驗之旅

2024-06-14
前新竹市長參選人龔偉綸 砸10億新莊溫仔郡重劃區獵地

前新竹市長參選人龔偉綸 砸10億新莊溫仔郡重劃區獵地

2024-04-06
小紅書亮相VOGUE Business紐約美妝峰會,引領美妝洗護行業新浪潮

小紅書亮相VOGUE Business紐約美妝峰會,引領美妝洗護行業新浪潮

2024-07-01
大時事

大時事是一個全方位的新聞媒體網站,專注報導國內外的最新消息。我們提供緊密關注世界各地重要事件、政治、經濟、科技、文化和社會議題的深入報導,讓讀者即時獲取全球動態。無論是國際局勢變化還是本地議題,大時事都將為您帶來精確可靠的新聞資訊。

近期文章

  • 起士公爵「茶金鐵觀音乳酪蛋糕」 用沉穩回甘的茶韻向親愛老爸致敬!
  • 臺南成大辦科學嘉年華指導學生探索科學奧秘
  • 台南虎頭埤神社修竣開放參觀

分類

  • 健康與運動
  • 國際時事
  • 地方時事
  • 影劇與娛樂
  • 旅遊與美食
  • 未分類
  • 生活與消費
  • 科技與產業
  • 藝術與教育
  • 金融與財經

Copyright © 大時事 Bigtimes All rights reserved.

沒有結果
查看所有結果
  • 生活與消費
  • 健康與運動
  • 旅遊與美食
  • 國際時事
  • 地方時事
  • 科技與產業
  • 影劇與娛樂
  • 藝術與教育
  • 金融與財經

Copyright © 大時事 Bigtimes All rights reserved.