生成式AI怎麼用？IBM與精誠攜手共創，AI虛擬助教幫使用者解決系統操作問題

摘要： 由ChatGPT帶起的生成式AI浪潮，推動企業AI應用進入一個全新的時代，除了與人對話、寫程式或行銷腳本，生成式AI還可以怎麼用？如何為企業創造新的商業價值？

IBM運用全新的企業級AI開發平台watsonx.ai，為精誠資訊股票分析系統DQ2打造虛擬幫手，協助使用者解決系統操作時遇到的問題，不只降低進入門檻、優化使用體驗，更為企業生成式AI應用做了最佳示範。

以共創思維，推動生成式AI從通用框架走向專屬應用

提及本次合作的原因，精誠資訊副總經理吳文舜表示，IBM在AI領域有相當豐富的經驗和技術能力，而精誠資訊則在金融領域累積多年的產業知識（Domain Know-how），雙方合作可以發揮優勢互補效益，探索更多生成式AI應用的可能性，從而加速企業導入的腳步。

吳文舜進一步指出，IBM深藍電腦與西洋棋世界冠軍在21年前進行的對抗賽，可說是企業AI應用的濫觴，自此之後，每一波AI變革都依循著「先有通用型框架，再發展專屬應用」的模式。而在這波生成式AI的革命中，IBM提出了通用型框架，加上精誠資訊在金融領域所累積的專屬知識，兩者結合，讓通用型AI進入發展專屬應用的階段。

「這次合作是IBM與精誠資訊共創的過程，IBM不只提供技術解決方案，更就精誠資訊的商業價值和需求，共同討論出可以快速實踐又能符合需求的生成式AI應用模式，」台灣IBM合作夥伴生態事業部總經理闕志銘說，未來還能將此次合作模式延續至產業端，將專屬知識由金融替換成各企業的專業領域，創造出多種生成式AI應用場景。

先求有再求好，運用MVP加快AI應用落地

台灣IBM技術長莊士逸說明雙方如何進行共創。首先，由IBM客戶工程團隊與精誠資訊進行交流，討論DQ2各種可能的AI應用模式，再根據MVP（最小可行性）概念慢慢收斂出協作目標，之後就進入系統開發階段，透過IBM watsonx.ai訓練大型語言模型並讀取DQ2的操作使用手冊，進行文件的主題分類、總結、從文件中提取重要的股票專有名詞等作業，養成AI回答問題的能力。

日後，當民眾在使用DQ2遇到問題或是有不懂的專有名詞，可以用口述或文字的方式提出問題，系統會自動生成包含文字、圖表及步驟說明的解答，讓使用者可以輕鬆理解並按圖操作。台灣IBM應用資深技術顧問李維倫補充指出，使用者在詢問專有名詞相關問題時，AI除了提取使用手冊內的訊息，也會結合外部資料一起回答，藉此提升使用者的金融知識。

藉由生成式AI的導入，不僅在使用者端降低DQ2進入門檻，更可提升高齡用戶的使用率，降低對營業員的重度依賴，對精誠資訊未來在發展AI應用上亦有相當大的幫助。

精誠資訊協理鄒本善認為，IBM在創新管理上有一套獨特的方法論，對AI導入亦具備足夠經驗，可以避免太過天馬行空的想法，將AI應用控制在最小可行性的範疇內，並快速完成開發與上線，讓更多同仁看到AI應用的效益，自然能刺激更多想法、加速擴大AI應用。

技術平台與顧問服務，快速展現AI商業價值

「因為IBM擁有完整的技術平台與專業的顧問服務，才能協助企業快速展現AI的商業價值，」莊士逸強調。

先就技術平台來看，除了前述提及的watsonx.ai，可用來建構與部署AI模型，包含基礎模型、生成式 AI 模型和機器學習模型，IBM watsonx平台還有watsonx.data、watsonx.governance二個模組，watsonx.data是基於湖倉一體（lakehouse）架構的數據儲存平台，watsonx.governance則用於協助企業建立負責任、透明、可解釋的AI工作流程與AI治理框架。

而watsonx.ai所具備的4大特色，可以充分滿足企業開發AI應用的需求。一是開放性，企業可自行開發或使用現成的AI模型，如：IBM訓練的基礎模型、開源AI模型等，且AI模型可彈性部署在雲端或地端。二是可以被信任，避免AI道德風險，IBM內部CPO團隊會定期檢視新模型是否符合資料安全與道德標準。三是針對企業應用而設計，聚焦於改善流程、優化客戶體驗、加速產品開發等企業需求。四是賦能企業（empower），透過UI/UX設計，讓使用者清楚知道目前使用哪一種模型、輸入哪些資料及產出結果，還能自行調校，確保AI模型得以發揮最大價值。

吳文舜指出，在導入生成式AI應用時，可能有人會擔憂以watsonx.ai訓練出的大語言模型，是否在中文、產業或企業專有名詞上的理解能力偏弱，其實這並不是watsonx.ai這種通用型AI平台要解決的問題，企業應該善用外部模型去補強AI的能力，像精誠資訊基於NLP技術發展出的GPT相關應用方案，就可以整合watsonx.ai平台，增加AI對中文或專有名詞的理解能力。

再就顧問服務而言，IBM客戶工程團隊會運用設計思考的方式，與企業共同討論目前現況、面對哪些挑戰及未來規劃，在短短4-8週的時間內，快速實現企業對AI應用的想法，之後再慢慢擴大。

其實，AI就像2000年興起的Web，隨著時間推移，企業對AI的接受度會越來越高，在這過程中，IBM與精誠資訊將持續探索企業AI應用的各種可能，例如：用AI去提取ESG報告書、財富管理報告的重點等，希望藉由合作產出更多示範應用，進而協助企業找到AI應用的甜蜜點，逐步蛻變為AI優先的智能企業。

轉貼自： bnnext.com

若喜歡本文，請關注我們的臉書 Please Like our Facebook Page： Big Data In Finance