近年來(lái)，大模型技術(shù)在全球范圍內(nèi)引起了廣泛關(guān)注和應(yīng)用熱潮。

提到人工智能，很多人會(huì)想到它強(qiáng)大的運(yùn)算能力和廣泛的應(yīng)用場(chǎng)景。如今，語(yǔ)言模型的發(fā)展如火如荼，但其中的“幻覺(jué)”問(wèn)題卻帶來(lái)了諸多困擾。這一問(wèn)題有哪些有效的應(yīng)對(duì)策略？新的研究能為解決“幻覺(jué)”問(wèn)題帶來(lái)突破性進(jìn)展嗎？

在成都，有一家本土高新技術(shù)企業(yè)迅速崛起——成都它思科技有限公司(以下簡(jiǎn)稱“它思科技”)。這家公司專注于高可靠對(duì)話云技術(shù)的研發(fā)，由一群清華大學(xué)的優(yōu)秀校友組成的領(lǐng)導(dǎo)團(tuán)隊(duì)，致力于利用先進(jìn)的大模型技術(shù)解決行業(yè)中的諸多難題。

它思科技的核心目標(biāo)包括消除AI幻覺(jué)內(nèi)容、解決數(shù)據(jù)稀缺問(wèn)題、提高模型訓(xùn)練效率，并實(shí)現(xiàn)算力配置的國(guó)產(chǎn)化。這些目標(biāo)不僅旨在提升技術(shù)能力，還致力于推動(dòng)企業(yè)在人工智能領(lǐng)域的穩(wěn)健發(fā)展。

近日，數(shù)據(jù)猿走訪并采訪了它思科技CTO聶瑋奇，深入探討了AI幻覺(jué)的概念以及公司在解決這一問(wèn)題方面所采取的創(chuàng)新方法。通過(guò)這次采訪，聶瑋奇闡述了它思科技如何通過(guò)技術(shù)創(chuàng)新和團(tuán)隊(duì)合作，成功應(yīng)對(duì)AI幻覺(jué)這一行業(yè)挑戰(zhàn)。

解決“AI幻覺(jué)”問(wèn)題，清華團(tuán)隊(duì)搭建高可靠對(duì)話平臺(tái)

什么是AI幻覺(jué)？

“AI幻覺(jué)”是指人工智能在生成內(nèi)容時(shí)出現(xiàn)的錯(cuò)誤或不準(zhǔn)確信息。通俗來(lái)說(shuō)，我們?cè)谑褂肁I的時(shí)候，不知道哪句話是正確的，哪句話是瞎編的。采訪中，聶瑋奇解釋說(shuō)，常見(jiàn)的AI錯(cuò)誤包括推理中斷和邏輯偏差。推理中斷是指，AI在推理過(guò)程中忘記了自己的論點(diǎn)，導(dǎo)致內(nèi)容混亂。邏輯偏差則是指，AI的推理過(guò)程看似合理，但得出的結(jié)論卻是錯(cuò)誤的。

AI幻覺(jué)在行業(yè)內(nèi)是一個(gè)重要的挑戰(zhàn)。實(shí)際上，人類在記憶和處理信息時(shí)也會(huì)出現(xiàn)類似的問(wèn)題。例如，當(dāng)我們被要求回憶并詳細(xì)描述今年發(fā)生了哪些事情時(shí)，人也可能會(huì)忘記一些細(xì)節(jié)，甚至記錯(cuò)。“這是因?yàn)槿四X在處理信息時(shí)會(huì)進(jìn)行壓縮，并不是所有信息都能準(zhǔn)確存儲(chǔ)。類似地，AI模型在生成內(nèi)容時(shí)也會(huì)因?yàn)閿?shù)據(jù)壓縮和抽象處理而出現(xiàn)不準(zhǔn)確的情況。”

聶瑋奇解釋說(shuō)：“我們希望AI模型能夠在某些工作中替代人類，因此對(duì)模型的要求更高。如果要讓AI模型替代人類的部分工作，必須解決其出現(xiàn)的幻覺(jué)問(wèn)題。”

為了解決這一問(wèn)題，它思科技專注研究高可靠對(duì)話云平臺(tái)。它思科技即將發(fā)布的TasiChat人機(jī)對(duì)話產(chǎn)品，通過(guò)“檢索增強(qiáng)生成”(RAG)和引用溯源技術(shù)，在大模型生成的內(nèi)容中明確地標(biāo)記出哪些部分的信息來(lái)自知識(shí)庫(kù)中的文檔，用戶可以更好地評(píng)估生成內(nèi)容的可信度和準(zhǔn)確性，增強(qiáng)生成內(nèi)容的可靠性。

具體來(lái)看，該平臺(tái)依賴用戶自己上傳相關(guān)文件，通過(guò)大模型技術(shù)的應(yīng)用，解決當(dāng)前人工智能領(lǐng)域的AI幻覺(jué)問(wèn)題。它思科技的平臺(tái)允許用戶上傳各種類型的文件，如Pdf 文檔、word 文檔、excel表格、markdown 文檔、txt文檔等，并根據(jù)這些文件內(nèi)容生成對(duì)話或其他文本輸出。

“我們?cè)诋a(chǎn)品中提供了參考來(lái)源功能，用戶可以直接查看生成內(nèi)容的出處。這在寫論文等需要嚴(yán)謹(jǐn)引用的場(chǎng)景中尤為實(shí)用，因?yàn)橛脩艨梢暂p松追溯到內(nèi)容的原始來(lái)源。” 聶瑋奇解釋道。

據(jù)他介紹，解決AI幻覺(jué)問(wèn)題并不能通過(guò)簡(jiǎn)單的算法調(diào)整來(lái)實(shí)現(xiàn)，而是需要通過(guò)改進(jìn)算法和數(shù)據(jù)來(lái)源來(lái)緩解。例如，人類在撰寫報(bào)告時(shí)，通常會(huì)參考外部數(shù)據(jù)來(lái)源，確保信息的準(zhǔn)確性。同樣，為了提升AI模型的可靠性，需要為模型提供可靠的數(shù)據(jù)來(lái)源，并進(jìn)行嚴(yán)格的驗(yàn)證。

目前，公司正不斷對(duì)產(chǎn)品進(jìn)行迭代。盡管已經(jīng)將大約50-60%的積累技術(shù)應(yīng)用到產(chǎn)品中，但產(chǎn)品化的過(guò)程依然復(fù)雜，需要考慮使用場(chǎng)景、使用方法、用戶習(xí)慣以及多端適配等多個(gè)因素，公司第一個(gè)版本已于去年3月啟動(dòng)。

據(jù)悉，目前公司的版本更新到1.1版本，并計(jì)劃每?jī)芍馨l(fā)布一個(gè)新版本。據(jù)悉，目前公司大模型已經(jīng)完成備案準(zhǔn)備，已經(jīng)提交國(guó)家網(wǎng)信辦審核。在這段時(shí)間內(nèi)，公司將繼續(xù)進(jìn)行內(nèi)部測(cè)試和更新，目標(biāo)是在11月正式上線運(yùn)營(yíng)。

高可靠性是件知易行難的“苦差事”

雖然高可靠性在AI領(lǐng)域被廣泛提及，并成為行業(yè)共識(shí)，但真正投入資源和精力去實(shí)現(xiàn)高可靠性的企業(yè)卻很少。這背后的原因主要集中在技術(shù)門檻和實(shí)際操作的復(fù)雜性上。

聶瑋奇指出，解決AI幻覺(jué)問(wèn)題是一個(gè)復(fù)雜且漫長(zhǎng)的過(guò)程，可能需要數(shù)年的持續(xù)努力。盡管從業(yè)者們也在不斷研究如何提高可靠性，但真正愿意投入資源去解決這些問(wèn)題的企業(yè)卻很少。這是因?yàn)閷?shí)現(xiàn)高可靠性，不僅需要強(qiáng)大的技術(shù)能力和資金支持，還需要長(zhǎng)期的投入和耐心。

據(jù)悉，目前它思科技是業(yè)內(nèi)在解決幻覺(jué)問(wèn)題上投入最多的企業(yè)。“高可靠性是一個(gè)知易行難的事情。”聶瑋奇解釋道，從理論上看，搭建一個(gè)簡(jiǎn)單的基于文檔的大模型檢索系統(tǒng)似乎很容易，只需要幾分鐘的時(shí)間寫幾行代碼，就可以搭建一個(gè)看似運(yùn)行良好的系統(tǒng)。然而，當(dāng)嘗試處理更復(fù)雜的任務(wù)，比如分析多個(gè)公司的財(cái)務(wù)報(bào)告之間的聯(lián)系時(shí)，會(huì)發(fā)現(xiàn)系統(tǒng)無(wú)法提供更可靠的結(jié)果。

實(shí)際上，這背后的原因在于，各個(gè)環(huán)節(jié)都需要深入的工作。檢索增強(qiáng)生成（RAG）技術(shù)雖然在理論上很簡(jiǎn)單，但實(shí)際操作起來(lái)卻比較難。例如，模型需要從各種格式的文檔中提取和理解信息，并在回答問(wèn)題時(shí)高效地檢索相關(guān)內(nèi)容。這不僅需要強(qiáng)大的計(jì)算能力和高效的檢索算法，還需要對(duì)各種文檔格式進(jìn)行預(yù)處理和轉(zhuǎn)換。

此外，高可靠性的大模型開(kāi)發(fā)需要大量的資金和人力資源。然而，這些投入在短期內(nèi)可能看不到顯著的回報(bào)，使得很多企業(yè)在投資時(shí)缺乏信心。市場(chǎng)對(duì)高可靠性模型的需求尚不明確，進(jìn)一步增加了企業(yè)的投資風(fēng)險(xiǎn)。

總的來(lái)說(shuō)，雖然高可靠性在AI領(lǐng)域的重要性毋庸置疑，但由于其技術(shù)復(fù)雜性和巨大的資源需求，很多企業(yè)選擇避而不談。

在技術(shù)復(fù)雜性中迎難而上，采用檢索增強(qiáng)生成(RAG)技術(shù)

高可靠性技術(shù)的開(kāi)發(fā)充滿挑戰(zhàn)，但其潛在價(jià)值和市場(chǎng)需求是不可忽視的。隨著時(shí)間的推移，越來(lái)越多的重度用戶，會(huì)逐漸認(rèn)識(shí)到高可靠性的重要性。

它思科技的高可靠對(duì)話云平臺(tái)，通過(guò)用戶上傳的各種文檔，如PDF、DOC和TXT等格式，結(jié)合檢索和生成兩個(gè)步驟，提升了模型的可靠性。具體來(lái)看，用戶上傳的文檔首先會(huì)被轉(zhuǎn)換為模型可以理解的形式，隨后模型在回答問(wèn)題時(shí)，從大量文檔中高效檢索相關(guān)信息。

同時(shí)，平臺(tái)采用了“檢索增強(qiáng)生成”(RAG)技術(shù)，該技術(shù)能夠根據(jù)知識(shí)庫(kù)中的信息生成可靠的答案，降低了編造答案的可能性，從而降低了模型的幻覺(jué)。在這個(gè)過(guò)程中，需要企業(yè)一定量的標(biāo)注數(shù)據(jù)對(duì)檢索、生成等環(huán)節(jié)進(jìn)行優(yōu)化。

與同行相比，它思科技的獨(dú)特之處在于其高可靠性解決方案的全面性和實(shí)用性。平臺(tái)不僅提供參考來(lái)源功能，讓用戶可以直接查看生成內(nèi)容的出處，還通過(guò)不斷的迭代和改進(jìn)，提升模型的性能和可靠性。

據(jù)了解，盡管它思科技于2024年才全面投入大模型的開(kāi)發(fā)，但團(tuán)隊(duì)此前在技術(shù)積累上已有很多年時(shí)間。它思科技的總部位于清華大學(xué)附近，由清華團(tuán)隊(duì)孵化而成，自成立以來(lái)一直致力于語(yǔ)音識(shí)別和大模型的研究，依托清華大學(xué)語(yǔ)音與智能實(shí)驗(yàn)室(THU-SPMI)的深厚研究成果，它思科技擁有一流的語(yǔ)音與語(yǔ)言處理技術(shù)，涵蓋人機(jī)對(duì)話系統(tǒng)、語(yǔ)音識(shí)別與理解、自然語(yǔ)言處理等多個(gè)前沿領(lǐng)域。自2017年起，團(tuán)隊(duì)成員開(kāi)始轉(zhuǎn)向大模型領(lǐng)域，并在這方面積累了豐富的經(jīng)驗(yàn)，完成了諸多早期項(xiàng)目，在技術(shù)積累奠定了基礎(chǔ)。

為什么要做高可靠性？

“我們認(rèn)為確保信息的準(zhǔn)確性至關(guān)重要，所以在成立之初就把解決幻覺(jué)問(wèn)題當(dāng)作頭號(hào)問(wèn)題，我們認(rèn)為高可靠性的大模型是未來(lái)發(fā)展的重要方向。”如今，它思科技的云對(duì)話平臺(tái)致力于解決三個(gè)問(wèn)題：高可靠、高效益和國(guó)產(chǎn)化，尤其是高可靠性方面，從一開(kāi)始就瞄準(zhǔn)這一方向。盡管市場(chǎng)上有許多誘惑，但它思始終堅(jiān)持在高可靠性技術(shù)上發(fā)力。

所有產(chǎn)品都值得用大模型重新做一遍，成都在我心中是國(guó)內(nèi)城市前十

雖說(shuō)做高可靠領(lǐng)域是件“苦差事”，但聶瑋奇認(rèn)為，做大模型是一件快樂(lè)的事情。他分享，在推出產(chǎn)品前，公司會(huì)去對(duì)大模型進(jìn)行對(duì)話訓(xùn)練，在對(duì)話過(guò)程中，AI會(huì)觸發(fā)很多很好玩的對(duì)話，團(tuán)隊(duì)在這個(gè)過(guò)程中也收獲頗多。

實(shí)際上，成都本地涌現(xiàn)的大模型公司相比北上廣要少一些，它思科技為什么會(huì)選擇在成都發(fā)展呢？成都的獨(dú)特環(huán)境對(duì)AI企業(yè)開(kāi)展業(yè)務(wù)和研發(fā)活動(dòng)有哪些影響？

在聶瑋奇心中，成都是一個(gè)能夠發(fā)展大模型公司的理想城市，并且在國(guó)內(nèi)城市中排名前十。

聶瑋奇笑著說(shuō)：“我們這棟辦公樓里，許多都是我們的客戶。”一棟樓里都是潛在的客戶和合作伙伴，這種緊密的產(chǎn)業(yè)鏈條使公司能夠快速找到合作機(jī)會(huì)。在他看來(lái)，成都擁有良好的科技創(chuàng)新氛圍。

目前，它思科技在成都的團(tuán)隊(duì)已經(jīng)發(fā)展到20多人，成都是它思科技大模型研發(fā)的主要基地。雖然部分核心算法研發(fā)仍在北京進(jìn)行，但公司新招聘的大部分人員都在成都開(kāi)展工作。北京的團(tuán)隊(duì)主要負(fù)責(zé)核心技術(shù)的研究，而成都團(tuán)隊(duì)則專注于大模型的應(yīng)用和優(yōu)化。

相比北上廣，成都的運(yùn)營(yíng)成本更低，無(wú)論是人力成本還是辦公成本，成都都具備顯著優(yōu)勢(shì)。“公司能夠以較低的成本，吸引到高質(zhì)量的人才，并為他們提供更好的生活和工作條件。我們發(fā)現(xiàn)，許多在北京、上海等一線城市工作的高端人才，愿意為更好的生活質(zhì)量和較低的生活成本而選擇來(lái)到成都。”據(jù)了解，它思科技的團(tuán)隊(duì)中，有很多是從外省來(lái)到成都的技術(shù)人才。

除此之外，算力也是吸引它思來(lái)到成都的原因。對(duì)于AI企業(yè)來(lái)說(shuō)，算力是不可或缺的資源。成都的算力資源豐富，能夠滿足公司大規(guī)模模型訓(xùn)練和數(shù)據(jù)處理的需求，這一點(diǎn)對(duì)于依賴高性能計(jì)算的大模型公司尤為重要。

聶瑋奇談到，在政策方面，成都的政府政策對(duì)企業(yè)有不少的傾斜，幾乎每一兩周都會(huì)有新的政策出臺(tái)，為企業(yè)的發(fā)展提供了豐富的資源和支持。政策紅利也為在成都的發(fā)展的AI公司提供了堅(jiān)實(shí)保障，也對(duì)企業(yè)的發(fā)展起到了積極的推動(dòng)作用。

未來(lái)，它思科技計(jì)劃是與更多本土的成都企業(yè)進(jìn)行合作。“在我看來(lái)，所有的產(chǎn)品，都可以用大模型重新做一遍。”利用大模型技術(shù)為各類產(chǎn)品進(jìn)行革新。未來(lái)，它思科技將深耕成都市場(chǎng)，利用大模型技術(shù)為各類產(chǎn)品進(jìn)行革新。

來(lái)源：數(shù)據(jù)猿