您現在的位置是:首頁 > 動作武俠首頁動作武俠

對話浪潮資訊:AI大模型“源”煉造客服大腦

簡介近日,鈦媒體App對話浪潮資訊服務總監陳彬、浪潮資訊AI軟體研發總監吳韶華,圍繞智慧客服市場當前解決的難題,以AI大模型的實際落地應用為視角,進行深入交流

一個好客服是怎麼樣的

圖片來源@視覺中國

2018年至今,NLP領域經歷了非常大的變化,Transformer、ELMO、BERT、GPT-3,再到最近的ChatGPT(GPT 3。5的微調)的突破,NLP在預訓練大模型的暴力拆解路上越走越遠,這也讓各行業開始相信:很多之前無法做到的場景、效果,現在可以有新的解法和落地。

智慧客服,是NLP和深度學習技術落地的重要領域之一。客服可以基於提前設定好的規則,對使用者意圖進行判斷並生成對應的固定話術。文字機器人、外呼機器人,可以替代掉原有重複性比較強的人工動作,逐漸轉變為相對日常的落地場景。比如你日常所接聽到的快遞客服電話,訂單諮詢的對話方塊等等,背後都有來自客服機器人的驅動。

但在對客服要求比較高的企業級場景中,對多輪對話理解使用者意圖和知識專業度要求較高,現有的客服機器人仍有很高提升的空間。

一是系統整體搭建的維護成本比較高,效率比較低,因為大多數的企業級智慧客服的知識庫不是流程化的,而是技術知識庫,需要人工/半自動的方式進行搭建。

二是業務場景複雜,專門知識門檻會更高,往往會涉及不同客戶的應用場景,與業務流程相關的複雜場景。

三是持續突破比較難,邊際效益遞減明顯,一般在良好技術知識庫的支撐下,企業級智慧客服的起步較快,但受制於方法論的影響,前期需要投入的大量人力、算力和資料,而到一定階段則會陷入提升的瓶頸。

這樣的問題也曾經困擾浪潮資訊的客服系統研發人員。

近日,鈦媒體App對話浪潮資訊服務總監陳彬、浪潮資訊AI軟體研發總監吳韶華,圍繞智慧客服市場當前解決的難題,以AI大模型的實際落地應用為視角,進行深入交流。

具體來講,浪潮資訊以AI大模型“源”為智慧引擎,和InService智慧服務平臺,搭建出了“智慧客服大腦”。

據介紹,“智慧客服大腦”學習了2萬餘份產品文件和使用者手冊的資料,並結合百萬條浪潮資訊專家工程師服務對話、數十萬份日誌、工單資料等演算法訓練,具備語言理解、資料分析、自主學習和智慧推理等能力,支援自然語言互動服務、已授權IT裝置的智慧運維與診斷、以及備品備件等資源的智慧管理和排程。

AI大模型在應用過程中必然會面臨各個行業的應用落地。在此之前,浪潮AI大模型“源”已經在人機互動、知識檢索、語言翻譯、文學創作等領域有所應用。

以大模型作為基礎能力,透過大模型的蒸餾實現相關的小模型,不僅實現的速度更快,智慧化水平更高,從技術角度來講,大模型在落地過程中呈現出了與以往模型非常不同的技術特徵,也帶來了更好的智慧化水平。不論對大模型進行微調,還是引入領域知識庫的方式,均是業界在探索的路徑。

在浪潮資訊AI軟體研發總監吳韶華看來,“

大模型想要在某個方向上訓練得更好,智慧化水平更高,確實需要在具體落地場景引入額外的領域知識,才能解決實際問題。

AI大模型有其自身特點,訓練時使用的資料集主要來自網際網路,在通用知識和領域知識的分佈上存在不均,會影響其在具體行業的應用。”

舉個例子,在浪潮資訊服務所面臨的主要客戶問題,包括諮詢和故障報修兩大類:前者如各類的產品服務政策、裝置使用、以及複雜的技術諮詢,如技術諮詢方面其實比較常見的是如何做系統安裝、Raid配置等,因為這個過程比較複雜,常出現各種問題;產品諮詢包括購買產品的記憶體配置、保修時長等等;故障報修相對會比較有針對性、更多元,例如無法開機、硬碟故障、記憶體故障等等。

在浪潮資訊的諮詢客戶中,有80%的使用者為非專業工程師,智慧客服需要在準確理解使用者、精準定義問題的基礎上,透過多輪迴答解決技術問題,給予客戶滿意的答案。對於客戶而言,

如若智慧客服所給予的答案過於標準和冗餘,卻無法快速幫客戶解決具體問題,客服所給予的答案只可被定義為對的答案而不是好的答案。

實際上,浪潮資訊從4、5年前就開始進行客服的數字化轉型和探索,並且在2019年開始著手應用業內在探索的FAQ、任務式對話、知識圖譜等NLP領域相關技術,對客服系統進行了一定程度的改造和提升。

但當時遇到的瓶頸也十分明顯,主要在於兩方面:“一是企業產品資訊更新快,造成模型訓練任務非常大,加之模型知識庫的封閉,在訓練效果上也受到制約;二是機器人需要對上下文結合語境進行語義理解,引導客戶提問並且精準識別問題,在專業知識領域的IT行業,難度非常高。”浪潮資訊服務與實施部總監陳彬指出。

除了在大模型的落地中引入領域知識外,浪潮智慧客服在研發過程中還重點考慮了其他幾點因素:

第一,客服系統是不是真正地理解客戶

,是否能夠透過多次對話瞭解到客戶真實的服務意圖。

企業級場景中,客戶有個報修問題,但無法用專業的技術語言對服務場景進行準確描述時,就非常考驗客服系統的理解能力。

第二,

是否需要投入額外和高昂的人力成本讓客服機器人具備自主學習、迭代的能力

。讓專業工程師做重複的模型訓練工作,既不符合企業成本要求,也不符合企業建設專家型團隊的長期規劃。

第三,B端客戶對企業的服務體驗、服務口碑要求高,

訓練出的客服系統是否能夠讓更多的客戶接受、信任並滿意地使用

。相較於傳統的智慧客服採用多模型、多資料庫的架構,浪潮資訊智慧客服系統最終實現統一架構支援多工解決問題。而此前完成一套客服動作,往往涉及FAQ、任務式知識圖譜、知識檢索等模組,需要在多個知識庫、模型之間進行任務排程,架構複雜且維護難度比較大。

此外,由於在模型訓練上實現了自進化、快進化學習,而不是原有需要人工或半人工搭建和訓練模型的過程,在人工標註和訓練成本上得到了極大降低。

從浪潮資訊資料中心服務的成效來看,在應用智慧客服系統後,客戶問答的匹配率(即覆蓋率)達到92%,對常見的複雜問題的解決率目前能達到80%以上,平均解決率是65%左右。此外,服務整體人員規模佔浪潮資訊總人員規模的4%,而業內一般都佔比15%到20%左右,在整體人均效能上得到了一定提升。

“服務作為一個公司的重要視窗業務部門,也是和客戶互動最緊密的平臺。所以我們首先考慮的是怎麼把實際業務和AI演算法結合在一起。本身IT的服務場景非常複雜,且面對是更多大量的B類客戶,我們當初也在討論,是否真的需要花這麼大的精力,把傳統的服務場景,做AI的相關技術和演算法的落地,在專案初期也是比較有爭議的。”陳彬表示。

但從目前取得的成效來看,當初的投入是值得的。

結合鈦媒體的觀察,客服機器人的背後仍是複雜的AI技術棧作為支撐。涉及語音識別、語義理解和生成、人機互動等等,存在系統搭建成本較高。如AI的邊際成本,模型訓練中對人工標註資料的成本,加之企業多數存在二次開發的定製化要求,導致部署交付成本也難以避免。

企業對技術的投入和成熟與否直接決定了體驗的高低,而如今浪潮AI大模型“源”在智慧客服場景的實際落地應用,為業界提供了一種另一種可參考的解決方案。

(本文首發鈦媒體APP 作者 | 楊麗)

Top