首頁電子資訊資訊硬體

生成式AI邊緣應用發展動向

免費
字數 1811
頁數
出版作者 楊智傑
出版單位 資策會MIC
出版日期 2024/01/12
出版類型 產業評析
所屬領域 資訊硬體
瀏覽次數 753
加入購物車 直接下載 直接下載 加入最愛
摘要

繼生成式AI(Generative AI)為ChatGPT帶動並形成新的AI熱潮後,生成式AI從雲端的訓練與推論服務,開始走向雲端訓練,企業端、邊緣推論的應用模式,除各大廠推出用於生成式AI的專家型大語言模型(Large Language Model, LLM)外,AI評測機構MLPerf亦首次訂立LLM推論評測標準,晶片、伺服器業者則陸續推出企業端LLM產品,示意著生成式AI的地端、邊緣應用已開始進入白熱化階段。

內文標題

一、雲端生成式AI服務,逐漸顯出應用侷限

二、首個「生成式AI推論」評測標準誕生

三、大廠紛推企業LLM解決方案

四、結論

上一篇2023年國內鋁產業上半年回顧...
下一篇日本半導體設備市場現況及布局
熱門點閱
推薦閱讀
推薦新聞

若有任何問題,可使用下方檢索互動介面找解答,或是寫信到客服信箱。

itismembers@iii.org.tw

星期一~五
9:00-12:30/13:30-18:00