外灘大會開幕，美國三院院士邁克爾·喬丹：人工智能系統(tǒng)設計缺乏激勵機制
數(shù)據(jù)猿 | 2024-09-05 13:31
【數(shù)據(jù)猿導讀】 “缺乏對集體性、不確定性和激勵機制的關注，是當前對人工智能的討論中缺失的三個方面。”9 月 5 日，在2024 Inclusion·外灘大會開幕主論壇上，機器學習泰斗、美國“三院院士”邁克爾·喬丹在時隔一年后，再次帶來對人工智能的最新洞見。邁克爾·喬丹認為，人工智能落地產業(yè)，需要...
“缺乏對集體性、不確定性和激勵機制的關注，是當前對人工智能的討論中缺失的三個方面。”9 月 5 日，在2024 Inclusion·外灘大會開幕主論壇上，機器學習泰斗、美國“三院院士”邁克爾·喬丹在時隔一年后，再次帶來對人工智能的最新洞見。邁克爾·喬丹認為，人工智能落地產業(yè)，需要形成互相協(xié)作的集體；要構建人工智能的協(xié)作系統(tǒng)，必須要引入經(jīng)濟學的“激勵”視角。
在外灘大會的主論壇上，邁克爾·喬丹再次談到人工智能的不確定性。“ChatGPT，你確定你剛生成的是對的嗎？"他指出，當前的人工智能系統(tǒng)很難表達它真正學到哪些知識，也沒有能力表達它有多確定。相較之下，人類在面對不確定性時表現(xiàn)出色，尤其是集體協(xié)作共同應對時。
因此，邁克爾·喬丹建議不僅單獨設備要具備一定智能，人工智能更要通過協(xié)同體現(xiàn)在整體系統(tǒng)層面。他指出，僅僅將人類的智慧融入超級智能計算機中是不夠的，現(xiàn)代信息技術在醫(yī)療、交通、金融科技和商業(yè)領域的應用，需要集體性、去中心化的智能系統(tǒng)。
邁克爾·喬丹進一步探討了不確定性與集體性的關系。他指出，人類在集體協(xié)作時能夠更好地應對不確定性，但如何讓當前的AI系統(tǒng)也具備類似的集體協(xié)作能力，仍是一個未解的關鍵問題。他認為，微觀經(jīng)濟學視角是當前AI研究的一個缺失。
“激勵機制”是市場經(jīng)濟和集體智能的關鍵因素，“AI擁有海量的數(shù)據(jù)，但有些不能生成價值，通過設計激勵機制才能驅動AI智能體貢獻和協(xié)作。”邁克爾·喬丹提出了“三層數(shù)據(jù)市場（Three-Layer Data Markets）”模型，其中用戶、平臺和數(shù)據(jù)買家通過“出讓數(shù)據(jù)”、“購買數(shù)據(jù)”、“提供服務”形成了閉環(huán)。他強調，數(shù)據(jù)購買者也就是企業(yè)可以結合“數(shù)據(jù)和服務”建立與用戶的激勵機制，從而為他們帶來真正的價值。
對此，邁克爾·喬丹援引了統(tǒng)計契約理論，這是一種結合了統(tǒng)計學和經(jīng)濟學的新型理論。在契約理論中，代理人擁有私有信息，而委托人通過激勵機制形成了數(shù)據(jù)和服務相互促進的市場，維持了供需雙方的利益平衡。
例如航空公司分“商務艙”和“經(jīng)濟艙”，航空公司作為委托人能夠根據(jù)代理人的不同支付意愿提供不同的價格，而不需要代理人透露其個人信息。由于過去十年間，全球范圍內對數(shù)據(jù)隱私的監(jiān)管不斷增加，他也建議“我們可以通過非一致的隱私要求進一步提高用戶效用，對低成本平臺施加更高的要求。”
人工智能作為新興工程領域，正通過大規(guī)模系統(tǒng)以創(chuàng)新方式連接人類。它的發(fā)展類似于上世紀中葉化學工程和19世紀末電氣工程的興起，前者建立在化學、流體力學等領域，后者基于建立在電磁學、光學等技術的基礎上。人工智能系統(tǒng)建立在過去人類300年的推理理念、算法理念和經(jīng)濟理念基礎之上，需要以人類福祉為目標。邁克爾·喬丹提醒道，“但人工智能正被置于那些未經(jīng)深思熟慮的、樸素的舊式愿景之中，它的興起和發(fā)展受到扭曲。”
邁克爾·喬丹教授是機器學習領域的先驅，通過在機器學習、概率學、統(tǒng)計學以及圖模型這四者間建立聯(lián)系，為機器學習奠定了數(shù)學與計算基礎。他曾獲得IEEE約翰·馮·諾依曼獎章、國際人工智能聯(lián)合會議卓越研究獎和2022年第一屆世界頂尖科學家協(xié)會獎。
2024 Inclusion·外灘大會于9月5日-7日在上海黃浦世博園區(qū)舉辦，舉辦1場開幕主論壇和36場開放見解論壇。近期，長期關注全球科技趨勢的權威媒體《亞洲科技日報》，評出了四大“2024下半年最值得期待的全球創(chuàng)新科技大會”，外灘大會入選。
來源：數(shù)據(jù)猿
