人工智慧(下簡稱AI)的浪潮正以驚人的速度席捲全球，對各行各業帶來了顛覆性的變革，AI從協助人類執行既有任務、跨平台應用的自主完成工作到無處不在的融入人類生活，改變了我們與科技互動的方式。現在AI應用已不再只是效率提升的工具，而是要求企業重新審視自身定位與價值，雖是起於科技的創新，最終將演變成企業核心職能與營運的重塑。 本文推敲在AI越發普及的背景下，對於內部稽核與內部控制領域之影響，稽核單位該如何協助企業強化法令法規遵循與擘劃稽核遠景，藉此應對挑戰、擁抱機遇並掌握人工智慧所伴隨而來的風險，進而實現從「監督與合規」到「策略顧問與價值共創」的蛻變。就筆者觀點，企業勢必盡速建立AI管理系統、同時加強員工AI素養與使用規範訓練以及培養員工的批判性思考與人性化價值，透過相應的風險管理機制，控制AI所帶來的風險，如：錯誤生成內容、缺乏情境理解、資訊安全、隱私保護、偏見與道德等問題，以確保AI的應用是安全且符合倫理規範。
強化AI法令法規遵循與落實合規評估
經濟合作暨發展組織早於2019年提供AI發展相關建議，今年更發布新興科技前瞻性治理框架，為世界各國制定具前瞻性AI政策提供參考，其中包含以人為本、公平、透明與可解釋性、安全與可歸責等基本價值。各國對AI之要求，無非都是從上述價值衍生出相對應的具體措施，而本國金融監督管理委員會也在2024年6月提出金融業運用AI指引，包括建立治理與問責機制、重視公平性及以人為本的價值觀、保護隱私及客戶權益、確保系統穩健性與安全性、落實透明性與可解釋性、促進永續發展等六大原則。 筆者認為不論是作為AI系統的使用者或是提供者，皆有責任識別AI系統的發展過程，於系統生命週期各階段所產生之風險，並制定控制措施。稽核單位更須預先了解AI系統之法令法規、國際標準與相關指引、技術發展等內容，用以設計適合之稽核項目與查核程式。舉例而言，該如何稽核AI系統是否對特定群體產生不公平、偏見或歧視等風險？首先，我們可以從資料層面著手，分析AI系統之訓練資料，能否充分反映真實世界的多樣性，包含不同性別、種族、年齡層、文化背景等群體的資料，檢視是否設置資料輸入之偏見審核機制，了解資料處理階段，訓練資料是否經適當檢測並移除資料中可能的偏見，並有無適時修正資料中的不平等性；再者從模型設計與開發層面切入，評估AI系統所使用之演算法，是否採專門設計的公平性演算法來訓練模型，這類演算法會在優化模型表現的同時，也考慮到對不同群體的公平性指標，或是否建立並監測公平性指標，如：群體平等性、機會平等性，以驗測模型對所有群體都提供公平；最後則從監控層面察看，檢視在AI系統上線後，是否持續監控其對不同群體的表現、異常事件因應與調整措施，確認相關使用者回饋管道及人工審核機制，讓受影響的群體能夠反應AI系統的不公平行為。 除金融業運用AI指引之外，亦可以參考美國國家標準技術研究所發布的人工智慧風險管理框架，幫助企業思考和管理AI風險，並評估AI系統的可靠性、可解釋性與公平性等。此外，若是涉及個人資料與隱私保護議題，則可以參酌新加坡的AI推薦與決策系統中之個人資料使用諮詢指引。
擘劃內部稽核遠景與轉型策略
鑒於傳統的稽核模式難以有效應對AI系統衍生的各類風險，稽核人員必須具備更前瞻的思維，從被動的事後審查轉變為主動的風險偵測與災難預防。然過程中，運用AI協助稽核單位的轉型已勢在必行，不僅是技術層面的升級，更是一種角色再造與價值提升，從根本上改變其思維模式與工作方式，憑藉AI賦能，讓稽核人員可以從繁瑣的日常工作中解放出來，把更多精力投入到高價值的風險分析與策略諮詢上，運用AI進行高風險異常偵測、持續性稽核，甚至更及時的整合與協同第一、二道防線調整控制措施。 本室近年來積極參與國際內部稽核年會，持續關注全球稽核與內控領域之最新發展趨勢及應用。今年第一季已完成次世代稽核平台之概念性驗證，藉由建置平台，以集中協作方式和整合各系統資源，串接審計、ESG、法令遵循、資安情資等訊息，除了可以增進與監理機關、第三方供應商及子公司之間的互動與資料傳遞，也提高稽核報告內容之可信度和來源真實性，更可及時與相關單位意見交流，將治理、風險和合規流程整合在一起，對本公司實施精準的稽核作業，主動管理風險，並實施有效的控制措施。同時，透過平台及時觀察與分析內控情形及執行風險評估作業，創建稽核分析流程，實施持續監控，與追蹤改善情形，應用AI主動識別本公司潛在風險，找出控制缺口的根本原因，並驅動內部稽核與內部控制再一次精進與革新。
結語
據世界經濟論壇今年所發佈的全球風險報告，AI技術所造成的不良後果，未來十年將攀升成為的重大科技風險，這也是歐盟、美國、日本等國家制定AI相關法規時，不約而同的強調AI的透明、可信賴、公平、道德與問責。然AI系統的風險並非來自技術本身，而是源自於AI的開發者、訓練師與AI學習的資料來源。筆者看來企業至少應該從合規的角度，參採國內外AI法令法規之合規要求，妥適擬定AI系統之控制目標與措施，確保該系統係以人為本，落實友善的服務。 下一個世代的稽核人員不僅要懂會計、財務和法規，還需要熟悉數據科學、資訊安全與AI相關知識，方可有效應對AI系統所帶來的多維度風險，並能與技術人員有效溝通。在AI日益自動化的世界裡，培養獨立思考與人性化價值是相當重要的，稽核人員的人文智慧，包括批判性思維、溝通協調能力與道德判斷等，這些都是無法被機器取代的寶貴資產，定能幫助企業在擁抱創新與控制風險之間取得平衡，稽核工作已然從事後被動的「抓錯」，轉向事前主動的「賦能」與「領航」。
