
KKBOX共同創辦人林冠羣(攝影者.陳宗怡)
每家企業都想導入生成式AI,卻不是每家企業都有專門的研究團隊。所以前陣子輝達推出新服務「NIM」,幫助企業加速部署專屬的生成式AI應用。
但與此同時,我也已經看見不少企業領先同業,正在利用小規模語言模型(SLM),搭配自家企業累積的專業知識數據庫來「增強生成」。而這種截長補短的方式在業界,已經有個專有名詞叫作「檢索增強生成(RAG)」。
RAG的運作方法有很多種。譬如過去在醫院,醫療人員經常要反覆回答病人常見問題,像是,手術後可不可以吃麻油雞?但是現在醫院可以透過SLM加上自家的知識庫,也就是用RAG來生成一個準確答案當初步回覆。