在資訊科技日新月異下,雲端運算(Cloud Computing)、大數據分析(Big Data Analytics)與人工智慧(Artificial Intelligence)已不再是願景,新興技術已迅速重塑各行各業的營運模式,不僅改變了企業的營運效率與競爭優勢,及與顧客端之關係,更進一步驅動新商業模式。隨著專業知識中對精準決策及有效問題解決需求之增加,針對特定領域的大型語言模型已逐步在醫療、財務金融、法律等專業領域中廣泛應用。這些專業化的AI模型並非僅僅是基於大規模語言訓練數據所生成的一般性語言處理工具,而是透過深度學習(Deep Learning)和產業知識(Domain Knowledge)之結合,進一步提升對特定領域需求的適應性與準確性。
在AI浪潮下,本公司緣於2024年1月著手辦理「研議人工智慧應用提升數位量能最適方案」(下稱本案)。有鑑於集保服務費查詢平台 (TDCC E-billing Platform)於2022年9月正式上線,服務近2,500家金融機構與發行公司。由於參加人收費諮詢大多集中於每月服務費帳單發送期間,財務室同仁除需兼顧日常業務,還需迅速且準確的回應參加人收費問題。因此,如何在高需求時段有效調配人力、優化工作流程並提高處理效率,將是提升整體服務品質和效能的關鍵。財務室爰提案參與其中之AI導入文字客服系統,希冀以參加人為本,提供兼具人性溫度與科技便利的服務。為了更有效並精準回應參加人的疑問,除納入本公司現行20餘份收費辦法外,同仁們亦每天彙整電話諮詢內容並研析對話內容,藉以充實本案訓練資料。
本案係採檢索增強生成(RAG,Retrieval-Augmented Generation)訓練收費資料以及常見問答集,以建構 AI 文字客服。在初次訓練20餘份收費辦法後,發現訓練結果未如預期,主要原因係如何將大量文本資料有效的輸入語言模型,以便讓AI模型進行分析或生成。這項挑戰的核心問題在於許多語言模型對單次輸入的長度有嚴格的限制,這些限制通常是以符元(Token)數量來計算,導致大量的文本無法一次性處理或有效學習。因此,一旦文本過長,超過模型的處理範圍,將影響到模型處理的效率和準確度,導致模型無法有效運行。在這種情況下,我們無法將整個長篇文本放入模型中進行分析或處理,這樣將大幅降低模型對整體資料的掌握程度,甚至無法得到有效且準確的回應。為了解決這項問題,在顧問及數位暨資安部協助下,重新進行資料前處理,將收費辦法進行長文檔切割(Chunking), 將收費辦法劃分為較小且相對獨立的單位(Chunk),讓每個單位都可以專注處理特定的段落或主題,除突破符元數量限制外,亦可保持文檔內邏輯的一致性,更可改善AI模型對於上下文理解能力以及回應的準確性,俾利後續的處理與分析;另外我們也將近300項收費代號逐項歸納分析。在面對相對較複雜的問題時,雖然有時出現理解上的偏差致未能精準表達的問題,但同仁們花非常多的時間在調整訓練資料、調教模型。透過前述的努力,本案訓練結果得以漸入佳境,同仁們也持續將日常業務所蒐集客戶常見問答納入AI訓練範圍。AI文字客服在例行收費及常見問題方面之表現有目共睹,測試結果顯示,對於大部分例行收費的諮詢是能準確回應客戶所需,除了幫助參加人減少了每月核帳時的困難與不便,更是收到不少的正向回饋,提升了客戶滿意度。
前幾年因疫情影響,分地或居家上班已是多數參加人之新常態生活,因此財務室結合數位服務與ESG建置集保服務費查詢平台,整合所有服務費資料與線上查詢等功能需求,提供服務費全面電子化之查詢服務。我們期望在導入AI文字客服系統後,能在現有集保服務費查詢平台的基礎上,進一步實現無紙化且即時回應客戶需求的目標。這不僅能顯著提升服務的品質,亦加強團隊的工作效率,使同仁能夠將更多精力集中於處理更為複雜且具挑戰性的核心業務問題。藉由與 AI 技術的深度合作,我們相信能夠在提升工作效率的同時,實現共同成長,推動業務的可持續發展。展望未來,財務室同仁在公司積極推動數位轉型思維引領下,持續致力於探索更多創新性的解決方案,不僅優化內部流程,也不斷提升客戶的整體體驗,確保我們在數位時代的競爭力,並為客戶提供更高效、更智能且溫暖的服務。