隨著自ChatGPT問世一週年後,生成式AI熱潮持續爆發,個別業者都開始積極推動生成式AI應用落地,協助企業客製化自己的大型語言模型(Large Language Models, LLMs)來成為自身大腦。然而客製化LLMs的過程中仍存在許多問題,例如訓練資料品質參差不齊、模型產出偏見歧視,以及大型語言模型的幻覺(Hallucination)問題等,都需要不斷優化及微調(Fine-tuned),方能滿足企業需求,因此也催生出許多業者提供生成式AI應用落地的解決方案,希望幫助企業加速導入客製化LLMs。
一、前言
二、LLMs管理開發類業者分析
三、結論
圖1、Galileo提供優化與檢測語言模型幻覺解決方案
圖2、Snorkel AI平台能自動標記整理數據來優化LLMs
圖3、DataRobot提供從MLOps到LLMOps解決方案