AI實戰機：器人客服回答正確率99%

跟AI對話常出現亂回答窘況，台灣大機器人客服卻逼近百分百正確。能精準訓練模型，跟企業文化有關。它如何轉型，甚至能銷售AI經驗？

文—林以璿

你喜歡真人客服，還是機器人客服？

隨著網路普及，愈來愈多工作轉由效率更高的機器人代勞。然而，幾乎所有人都曾遇過，與機器人對話時雞同鴨講、有理說不清的局面。

舉例來說，「我要去日本玩，手機要怎麼上網？」對電信客服人員而言，這是一道相當簡單的問題，即刻就能提供國際漫遊套餐。然而，由於問題中沒提到「國際漫遊」這個關鍵字，文字機器人客服可能因此無法解答。

如何讓機器人客服理解客人的弦外之音？台灣大哥大想從生成式AI找解方。台灣大每個月客服人次約一五○萬，大約有一千五百位真人客服專員，一週七天、二十四小時無休。

並且，台灣大也透過app、官網、IVR（互動式語音應答），設置了能自動回覆的機器人客服「小麥」，每月使用量超過六百萬次。機器人客服會根據台灣大的客服題庫，提供相應答案，過去的正確回覆率大概是九七%。

關鍵三%，為何不正確？

「那（不正確的）三%中，很多並不是因為沒有答案，」台灣大資訊長蔡祈岩舉例，就像「出國玩」沒有連結到「國際漫遊」，問題在機器人不能理解問題。

自從ChatGPT為首的大型語言模型（LLM）爆紅，台灣大改善「小麥」，回答正確率因此提升到九九%。

「別看只從九七%到九九%，」蔡祈岩強調，「小麥」能夠爭取回覆愈多問題，需仰賴真人處理的問題就愈少，這些省下來的人力可以轉換去打業務電話衝業績。然而，這關鍵的兩個百分點，也非一帆風順。

直接用LLM，容易出現幻覺

一開始，台灣大使用資料庫、客服紀錄和公司的公開資料，訓練如Meta開源的Llama 2、台智雲福爾摩沙等既有的大模型成為客服，但台灣大的訓練資料量與這些模型既有的資料量差距過於懸殊，造成這些LLM客服的答案時常出現幻覺。

「其實我們不缺答案，只是缺看懂問題的方式，」蔡祈岩解釋。台灣大改變做法，不直接將LLM作為客服主體，而是在客服資料庫上使用嵌入模型（embeddingmodel）這種機器學習模式，作為客服輔導工具。

嵌入模型可以將客戶的語句數據轉換成向量形式，這就像是將問題量化成在座標系統上的一個點，只要找到客服資料庫中，與這個點距離最相近的答案，通常就是客戶需要的解答。

「大型語言模型不能直接完全替代人員，」台灣人工智慧學校校務長蔡明順肯定道，「台灣大先理解客戶的問題，再去尋找精確的答案，我覺得這個做法是比較聰明，也更精準的。」

今年台灣大開始嘗試第二階段的AI客服，也就是讓AI做語音客服。

例如，透過旁聽，可以協助主管了解新進人員是否按照標準作業流程回答問題；或是直接為客服人員調閱出客戶詢問的資料，省下客服人員查詢資料庫的時間，更能在每次通話結束後，快速完成文字摘要。

蔡祈岩解釋，前兩個階段中，所有的AI與真人合作過程，其實都在協助訓練台灣大的AI客服模型。最終極目標則是預計明年開始，讓AI直接接手語音客服。

屆時，用戶撥打語音客服時，AI客服將能做到模仿真人的用戶體驗。

台灣大更將這一套自身經驗，整合打包為AI2.0的商業方案，讓有類似應用場景的公司，能夠與台灣大合作，直接將這套做法應用在自家產品中。

全員出動，不能僅少數懂AI

明明大部份企業都站在同樣的AI起跑線，為何台灣大不只供內需，還能開始「外銷」呢？

「台灣大的幾個主管有創業經驗，對於新創的敏銳度更高，這是他們的先天優勢，」蔡明順認為，「因為要推動AI轉型，不只是技術，文化才是重點，」Chat-GPT發布的第一週，台灣大高層會議馬上就開始規劃，讓全體員工都能使用這項新工具。

一般公司也能參考台灣大的經驗，做內部AI轉型。

首先，台灣大有固定的經費，可以投入購買新工具，例如購買幾個OpenAI或是Midjourney的帳號供大家一起使用，在沒有業績壓力的情況下，讓同仁先認識新工具。

「但並不是給好處和資源，都會像00940那樣搶手，」蔡祈岩幽自己一默，「沒過多久，我們就發現很多人不知道怎麼用。」

在這階段，公司還不必積極介入教育，而是營造出同仁互相交流討論的氛圍。

例如，由於帳號是公共使用，大家能看到其他同事的使用過程；每週也有一個小時的時間，讓各崗位的人來分享使用AI工具的經驗。

最後，台灣大定期舉辦「OP黑客節」、「創新大獎賽」等活動，鼓勵跨部門同仁用各種AI生成工具做產品，並提供獎金作為誘因。

「從這個時候開始，大家要做事情不用再等IT部門的排程，而是有工具可以自己做，」蔡祈岩指出，讓最前線的人提出需求，才能最切中要害。

台灣大還有個意外收穫。蔡祈岩觀察，因為有了個AI下屬可以使喚，工作心情變好，勞累度降低了。「至此，員工使用AI工具的體質已經養成，」他認為。

儘管員工第一線的應用可能百花齊放，台灣大總經理林之晨提醒企業主管，鼓勵提案的同時，要從五花八門的應用中沉澱下來，找出哪些應用最值得進一步投資，並實際導入商業化運轉。

「台灣大不只有一個團隊在摸索，而是整個公司全體總動員，」蔡祈岩強調。有些公司喜歡成立專案小組來應對新科技，但是AI跟每個人都息息相關，無論管理者或是基層員工，都不能置身事外。

愈簡單愈好用，別怕被搶飯碗

全體員工用AI後，會不會被AI搶走工作？林之晨以自家經驗實證指出：不會。

林之晨發現，公認最實用的AI功能，其實非常簡單，就是每天抄寫報表、填寫固定表格等重複性工作。也因此，員工能將更多時間用在攸關業績、KPI的事情上。

「就像是回到六十年前，全台八成的人都是農夫，你告訴農夫有了耕土機後，只要二%的人種田就好，農夫一定很擔心，」他舉例，「我們現在擔心AI取代工作，其實就像當年的農夫一樣無知。」

林之晨透過台灣大的經驗喊話，「AI跟人類是協作的關係，而不是取代。」 閱讀完整內容