在如今的辦公環境中，利用 AI 輔助工作已然相當普遍，不過，我們卻可以觀察到一個有趣的現象，雖然員工對 AI 接受度高，但許多大型企業，如金融、醫療，或涉及高度機密的物流業和製造業，卻對大規模導入商用 AI 大模型抱持疑慮，而這究竟是怎麼一回事呢？

本集我們邀請到鼎新數智股份有限公司的數位專家黃正傑博士，來為大家揭開企業尚未普遍使用 AI 大模型的原因，以及客製化的專屬小模型，如何改變未來的企業生態。

對於大模型的擔憂並非源自對科技的抗拒，而是企業對「資安」和「隱私風險」的深刻顧慮，因為一旦將敏感數據上傳至商業 AI 大模型，資料外洩的風險便如影隨形。此外，甚至有不少企業還沒釐清，AI 應該如何安全、有效地融入既有的業務流程與工作情境中。

企業專屬的「地端小模型」（Small Language Models, SLMs）最大的優勢在於資料安全，它可以部署在企業內部的伺服器，讓所有敏感資料只保存在公司的資料庫中，從根本上避免了資料外洩的風險，同時也可以預先訓練出想要的功能，以及符合工作情境的 AI 回答方式。因此，越來越多企業開始將 SLMs 視為企業在安全和效率間，取得平衡的最佳解方。

要讓這些小模型發揮作用，企業的數據準備工作是成功的基石！我們先前介紹過的企業數位轉型（歡迎參考 ep106、ep34），目的是將以往企業散落的訂單、採購等訊息整理上線；而如今生成式 AI 的技術核心，就是要讓資料「知識化」，意即將那些屬於非結構化的企業知識（如會議記錄、技術文件、內部信件等）進行分析與理解。

黃博士建議，企業在餵資料給 AI 模型前，必須先清理、標註，並建立機制以確保資料版本能夠即時更新，這樣才能確保 AI 抓取到真實運作的資料，降低其產生「幻覺」的機率，使模型輸出的結果更為精準可靠。

但單純擁有 AI 小模型還不夠，企業還需要二項關鍵技術來將其轉化為實戰能力，一是透過「自動微調」，讓通用模型擁有企業獨特的知識及語氣，實現高度客製化；二是藉由「檢索增強生成」（RAG），讓 AI 模型能夠即時連通，並查詢企業內部的最新知識庫，大幅提升回答的即時性和準確性。

透過 AI 小模型、自動微調與 RAG 的結合，企業將不再需要在「安全」和「效率」之間取捨。建構專屬的 AI 小模型，正是企業在新時代中，提升競爭力、實現工作流程優化的必經之路！

關於善科聊天室

每週四晚上八點於「善科教育基金會」Facebook 粉絲專頁首播，由主持人帶領觀眾朋友透過節目，和科技、科學、教育相關領域的來賓暢談，主題廣泛，從前沿科技、環保課題、創新創業、電影講解、到天文盛宴等等，全都能在《善科聊天室》中看到！希望透過簡單、輕鬆的聊天節目，寓教於樂，傳達正確、豐富的知識給各位觀眾朋友，也期待能透過主持人及來賓獨特的魅力，用不同角度來關心時事和科技教育。

✓更多節目影片｜https://reurl.cc/Xk6M9M
✓鎖定節目首播｜https://reurl.cc/Z7O3qV

⇠上一篇：【前進AI #18】人工智慧間的即時口譯？照AI通訊協議說的做就對了？

：下一篇⇢