2025年世界人工智能大會(huì)（WAIC）正在上海舉行，大模型在專業(yè)領(lǐng)域的應(yīng)用成為業(yè)界關(guān)注焦點(diǎn)之一。7月27日下午的“從通用智力到專業(yè)生產(chǎn)力：高階程序引領(lǐng)的AI應(yīng)用新范式”論壇上，螞蟻集團(tuán)旗下螞蟻密算宣布對(duì)外開源高階程序（High-Order Program）大模型可信應(yīng)用技術(shù)框架，探索智能與工程融合的AI應(yīng)用新范式，致力解決大模型在專業(yè)應(yīng)用中的可靠性困境，推動(dòng)大模型在專業(yè)領(lǐng)域中規(guī)?；瘧?yīng)用。

論壇上，浙江大學(xué)教授、區(qū)塊鏈與數(shù)據(jù)安全全國(guó)重點(diǎn)實(shí)驗(yàn)室主任陳純表示，大模型的專業(yè)化應(yīng)用，首當(dāng)其沖的是可靠性問題。盡管當(dāng)前技術(shù)SOTA已經(jīng)到了80%到90%的水平，但其可靠性距離醫(yī)療、工業(yè)、金融等專業(yè)場(chǎng)景的要求仍有顯著差距。陳純說，有人將這一問題簡(jiǎn)單歸結(jié)為“幻覺”，但我想強(qiáng)調(diào)：幻覺是智力的必然代價(jià)。若消除所有幻覺，大模型將退化為機(jī)械的檢索工具。因此，可靠性的突破不在于消滅“智力特征”，而在于構(gòu)建工程化保障框架。

螞蟻集團(tuán)副總裁、螞蟻密算董事長(zhǎng)韋韜認(rèn)為，要突破大模型在專業(yè)化應(yīng)用中的可靠性困境，技術(shù)上不應(yīng)當(dāng)只依賴于大模型“十全十美”不犯錯(cuò)，而是通過智能體系和工程體系的結(jié)合，實(shí)現(xiàn)專業(yè)應(yīng)用可靠性的保障。正如每個(gè)人作為個(gè)體，是容易犯錯(cuò)、容易有幻覺的，但人類幾千年以來不斷在工程體系上的進(jìn)步，能夠在易錯(cuò)的個(gè)體之上構(gòu)建龐大而可靠的工程體系，完成諸如登月、探訪火星等巨型任務(wù)。他提出，通過全新的程序表達(dá)、場(chǎng)景知識(shí)嵌入和閉環(huán)核驗(yàn)反饋機(jī)制，可以將大模型不確定的智力輸出轉(zhuǎn)化為可信的專業(yè)生產(chǎn)力。

對(duì)此，螞蟻密算正在探索高階程序（High-Order Program）大模型可信應(yīng)用技術(shù)框架，核心組件包括業(yè)務(wù)邏輯的程序化表達(dá)、場(chǎng)景知識(shí)圖譜和受控工具鏈，在全流程中貫穿核驗(yàn)機(jī)制，對(duì)關(guān)鍵執(zhí)行結(jié)果進(jìn)行及時(shí)、有效地核驗(yàn)和處理。該框架借鑒了人類在工程管理體系中的成功經(jīng)驗(yàn)，如通過標(biāo)準(zhǔn)作業(yè)程序（SOP）和檢查清單等機(jī)制，構(gòu)建一個(gè)能夠有效復(fù)用、驗(yàn)證、擴(kuò)展和派生的機(jī)制，使大模型在應(yīng)用過程中即使出現(xiàn)幻覺問題，也能保證大模型達(dá)到專業(yè)領(lǐng)域所需的精確性和可靠性。

高階程序（HOP）同時(shí)具備編程語言的精確性、可擴(kuò)展性與自然語言的知識(shí)語義與語境適配等優(yōu)勢(shì)，承載了專業(yè)領(lǐng)域的關(guān)鍵知識(shí)和實(shí)踐，通過任務(wù)細(xì)化拆解與核驗(yàn)，確保大模型實(shí)現(xiàn)專業(yè)應(yīng)用的可靠性，通過知識(shí)概念匹配實(shí)現(xiàn)從專業(yè)知識(shí)到場(chǎng)景應(yīng)用的派生適配，從而實(shí)現(xiàn)了在眾多原本需要人工處理的場(chǎng)景下高可靠、高自動(dòng)化應(yīng)用。目前，高階程序技術(shù)框架已經(jīng)在金融風(fēng)控全鏈路、網(wǎng)絡(luò)入侵檢測(cè)、醫(yī)療重復(fù)計(jì)費(fèi)等多行業(yè)場(chǎng)景中初步應(yīng)用，在可靠性和時(shí)效性上有顯著提升。

以金融聯(lián)合風(fēng)控為例，在傳統(tǒng)金融風(fēng)控體系下，從數(shù)據(jù)探查、處理到模型構(gòu)建與調(diào)優(yōu)的全鏈路操作，高度依賴人工干預(yù)，導(dǎo)致流程冗長(zhǎng)、響應(yīng)緩慢，并且容易受人員主觀因素影響，制約了金融風(fēng)控聯(lián)合建模的效率與一致性。在應(yīng)用HOP技術(shù)框架后，將復(fù)雜的SOP轉(zhuǎn)化為可執(zhí)行的流程和代碼，實(shí)現(xiàn)風(fēng)控全鏈路的智能化編排與自動(dòng)化執(zhí)行。相較于傳統(tǒng)建模人員手動(dòng)進(jìn)行數(shù)據(jù)分析和代碼開發(fā)，大模型結(jié)合HOP能夠在確保高精度的同時(shí)縮短建模周期，并顯著減少了重復(fù)性數(shù)據(jù)處理和流程執(zhí)行等繁瑣的基礎(chǔ)工作。這不但能降低處理成本，還能夠緩解專業(yè)人才緊缺的局面。

韋韜表示，高階程序可以與大模型強(qiáng)互補(bǔ)，將大模型這樣的通用智力引擎，可靠地應(yīng)用于眾多專業(yè)場(chǎng)景。“大模型可靠性的解法，不在于大模型本身，而在于工程化和智能化的融合。我們開源高階程序HOP，希望與行業(yè)一起把大模型從人類助手正在變成規(guī)?；瘜I(yè)生產(chǎn)力。我們也相信，解決了可靠性問題，大模型即將涌現(xiàn)新的Killer App(殺手級(jí)應(yīng)用)。”

來源：數(shù)據(jù)猿