近期，OpenAI的首席執(zhí)行官Sam Altman重回董事會(huì)的消息引領(lǐng)了科技新聞的頭條，這標(biāo)志著人工智能領(lǐng)域的一個(gè)里程碑事件。Sam Altman同時(shí)當(dāng)選為“TIME時(shí)代周刊”2023年度最佳CEO。2023年，我們見(jiàn)證了AI技術(shù)的巨大飛躍，特別是在大型語(yǔ)言模型的發(fā)展上，ChatGPT 4.0以及國(guó)產(chǎn)大語(yǔ)言模型憑借不斷發(fā)展的技術(shù)能力，不斷推動(dòng)各行各業(yè)的技術(shù)革命。

在最近幾天的新聞中，多模態(tài)模型的進(jìn)展尤為引人矚目。谷歌Gemini模型展示了其在同時(shí)理解和生成圖像、文字、視頻多種內(nèi)容的能力上的巨大進(jìn)步，而百度文心一言、科大訊飛星火、阿里通義千問(wèn)在本地化應(yīng)用上取得了顯著成績(jī)，進(jìn)一步拓寬了AI技術(shù)的應(yīng)用范圍。

在應(yīng)用層面，AIGC技術(shù)已成為內(nèi)容營(yíng)銷的新寵。企業(yè)正利用這些先進(jìn)工具來(lái)生成創(chuàng)意的市場(chǎng)營(yíng)銷內(nèi)容，Midjourney和Stable Diffusion等工具在“文生圖”方面的應(yīng)用，使內(nèi)容創(chuàng)作者能夠輕松地根據(jù)提示詞將文本轉(zhuǎn)化為精美的圖像作品，這些AIGC技術(shù)的進(jìn)步正不斷改變企業(yè)運(yùn)作的方式。而最近Pika在AI生成視頻領(lǐng)域的表現(xiàn)，更是引發(fā)了廣泛關(guān)注，它開(kāi)啟了未來(lái)通過(guò)文字來(lái)生成創(chuàng)意視頻的大門(mén)。

這些進(jìn)步表明，AI不再是只在實(shí)驗(yàn)室或者僅服務(wù)于ToB的客戶的一種技術(shù)，而是已經(jīng)深入到我們生活和工作的各個(gè)方面。從企業(yè)到個(gè)人，從寫(xiě)詩(shī)作畫(huà)到短視頻生成，人工智能的應(yīng)用正在以各種形式影響著我們的工作和生活方式。隨著大模型技術(shù)的不斷成熟和多模態(tài)應(yīng)用的不斷擴(kuò)展，我們正站在一個(gè)全新的技術(shù)革命的門(mén)檻上，AI不斷拓展人類的認(rèn)知范圍。在直面企業(yè)信息化轉(zhuǎn)型的前沿話題上，CIO們?cè)诟鞣N群里已經(jīng)開(kāi)始在討論如下話題：我們能在飛書(shū)、釘釘和企業(yè)微信等辦公工具中集成ChatGPT嗎？智能客服機(jī)器人能否融入這種高級(jí)的語(yǔ)言模型？CRM（客戶關(guān)系管理）和CDP（客戶數(shù)據(jù)平臺(tái)）系統(tǒng)能否結(jié)合ChatGPT以增強(qiáng)數(shù)據(jù)處理和客戶服務(wù)嗎？這些集成是否能延伸至人力資源系統(tǒng)，以輔助招聘、員工培訓(xùn)和其他HR相關(guān)工作？

隨著機(jī)遇的到來(lái)，挑戰(zhàn)也隨之而來(lái)。企業(yè)和個(gè)人都需要認(rèn)真考慮如何在追求創(chuàng)新的同時(shí)，確保數(shù)據(jù)安全、隱私保護(hù)和合規(guī)性。

AI在企業(yè)系統(tǒng)中的數(shù)據(jù)安全與隱私保護(hù)方面的挑戰(zhàn)

這些問(wèn)題的核心在于，企業(yè)渴望通過(guò)AI提高創(chuàng)意和效率，但同時(shí)，這種技術(shù)的集成攜帶著潛在的信息安全、數(shù)據(jù)泄露和法律風(fēng)險(xiǎn)。

1、數(shù)據(jù)泄露風(fēng)險(xiǎn)：

如員工通過(guò)企業(yè)微信和ChatGPT、國(guó)產(chǎn)大語(yǔ)言模型交互時(shí)，可能會(huì)要求用戶提供敏感數(shù)據(jù)。如果員工在與ChatGPT的互動(dòng)中不小心提供了公司的敏感信息，如財(cái)務(wù)數(shù)據(jù)、銷售數(shù)據(jù)、客戶信息或內(nèi)部機(jī)密文檔，這些信息可能會(huì)被存儲(chǔ)在ChatGPT的服務(wù)器上，從而導(dǎo)致數(shù)據(jù)泄露的風(fēng)險(xiǎn)。

2、合規(guī)性風(fēng)險(xiǎn)：

中國(guó)的《網(wǎng)絡(luò)安全法》和即將實(shí)施的《個(gè)人信息保護(hù)法》（PIPL）對(duì)個(gè)人數(shù)據(jù)的收集和處理有著嚴(yán)格的規(guī)定。因此，任何在中國(guó)境內(nèi)操作的企業(yè)在使用ChatGPT或國(guó)產(chǎn)大語(yǔ)言模型時(shí)必須確保遵守這些法律。通過(guò)企業(yè)微信或釘釘、飛書(shū)等應(yīng)用程序訪問(wèn)ChatGPT可能會(huì)導(dǎo)致個(gè)人數(shù)據(jù)被轉(zhuǎn)移到法規(guī)要求之外的第三方服務(wù)器，這可能違反數(shù)據(jù)保護(hù)法規(guī)。

3、認(rèn)證和訪問(wèn)控制：

通過(guò)企業(yè)微信或釘釘、飛書(shū)等應(yīng)用程序集成訪問(wèn)ChatGPT時(shí)，可能會(huì)繞過(guò)常規(guī)的認(rèn)證和訪問(wèn)控制過(guò)程。這可能允許未經(jīng)授權(quán)的用戶訪問(wèn)敏感數(shù)據(jù)或功能。

4、記錄和監(jiān)控的缺失：

在通過(guò)這些應(yīng)用程序與ChatGPT交互時(shí)，可能沒(méi)有足夠的記錄和監(jiān)控來(lái)跟蹤信息的共享和訪問(wèn)。這使得審計(jì)和追蹤潛在的數(shù)據(jù)泄露變得困難。

5、知識(shí)產(chǎn)權(quán)的風(fēng)險(xiǎn)：

當(dāng)員工在與ChatGPT的互動(dòng)中討論公司的創(chuàng)新想法或即將推出的產(chǎn)品時(shí)，這些信息可能會(huì)被第三方記錄和分析，導(dǎo)致知識(shí)產(chǎn)權(quán)的無(wú)意泄露。

6、數(shù)據(jù)出境的風(fēng)險(xiǎn)：

中國(guó)法律要求某些類型的數(shù)據(jù)必須存儲(chǔ)在本地，且跨境傳輸需要滿足嚴(yán)格的條件。這意味著，在未獲得相應(yīng)批準(zhǔn)的情況下，將數(shù)據(jù)傳輸?shù)矫绹?guó)服務(wù)器可能會(huì)違反中國(guó)的法律。

實(shí)際案例中的風(fēng)險(xiǎn)：

假設(shè)一家企業(yè)將ChatGPT集成到其CRM系統(tǒng)中，意在通過(guò)AI的數(shù)據(jù)挖掘和深度學(xué)習(xí)來(lái)分析客戶數(shù)據(jù)，提供個(gè)性化的營(yíng)銷策略和客戶服務(wù)。這一集成也許確實(shí)會(huì)帶來(lái)了效率的大幅提升——客戶滿意度上升，營(yíng)銷成本下降。然而公司可能沒(méi)有注意到敏感的客戶數(shù)據(jù)在沒(méi)有適當(dāng)安全措施的情況下被上傳到了云端的AI服務(wù)器，這不僅違反了數(shù)據(jù)保護(hù)法規(guī)，還使客戶信息面臨被未授權(quán)第三方訪問(wèn)的風(fēng)險(xiǎn)。

假設(shè)一家公司將ChatGPT或國(guó)產(chǎn)大語(yǔ)言模型集成到了人力資源系統(tǒng)，用以自動(dòng)化篩選簡(jiǎn)歷和初步面試，這種自動(dòng)化可能大大減輕了HR部門(mén)的負(fù)擔(dān)。但是系統(tǒng)可能因缺乏適當(dāng)?shù)姆瞧缫曅栽O(shè)計(jì)而引發(fā)問(wèn)題，因?yàn)锳I模型在不知不覺(jué)中學(xué)習(xí)并應(yīng)用了歷史數(shù)據(jù)中的偏見(jiàn)，導(dǎo)致某些候選人因性別、年齡等因素而被錯(cuò)誤地篩選掉。在進(jìn)行職業(yè)推薦時(shí)，由于歷史數(shù)據(jù)中的性別分布不均，AI可能會(huì)向男性推薦技術(shù)和管理職位，而向女性推薦后勤和文員職位。如果企業(yè)使用這樣的模型來(lái)輔助招聘過(guò)程，就可能導(dǎo)致性別偏見(jiàn)，從而違反平等就業(yè)的法律和原則。

當(dāng)模型用于智能客服機(jī)器人時(shí)，它可能根據(jù)用戶的姓名、消費(fèi)等級(jí)或其他標(biāo)簽產(chǎn)生對(duì)用戶的社會(huì)經(jīng)濟(jì)背景的推斷，并在無(wú)意中提供差異化的服務(wù)，這可能導(dǎo)致對(duì)特定用戶群體的不公平對(duì)待，特別是在國(guó)內(nèi)CRM系統(tǒng)對(duì)客戶產(chǎn)生幾十種甚至數(shù)百種標(biāo)簽的情形下。

私有化部署是可能的嗎？

醫(yī)療保健行業(yè)、金融服務(wù)行業(yè)、政府和公共部門(mén)、研究和開(kāi)發(fā)部門(mén)經(jīng)常需要處理大量敏感的個(gè)人信息或研究數(shù)據(jù)，他們并不愿意將這些敏感或高價(jià)值數(shù)據(jù)提供給公有的大模型，這個(gè)時(shí)候就需要私有化大模型來(lái)保證數(shù)據(jù)隱私安全。然而，這一做法也存在不足之處。高昂的成本、維護(hù)的復(fù)雜性、對(duì)專業(yè)技術(shù)人員的需求和可擴(kuò)展性問(wèn)題都是中小型企業(yè)需要考慮的難題。

在兼顧效率和數(shù)據(jù)隱私方面取得平衡：

筆者認(rèn)為在公司內(nèi)部應(yīng)用系統(tǒng)中集成ChatGPT等人工智能服務(wù)時(shí)，可以通過(guò)以下措施來(lái)確保數(shù)據(jù)隱私的同時(shí)提高內(nèi)部效率：

1、設(shè)置API網(wǎng)關(guān)和數(shù)據(jù)過(guò)濾層：

創(chuàng)建一個(gè)API網(wǎng)關(guān)作為內(nèi)部應(yīng)用系統(tǒng)和AI大語(yǔ)言模型之間的中介。在這個(gè)網(wǎng)關(guān)中，實(shí)現(xiàn)數(shù)據(jù)過(guò)濾功能，確保任何傳遞給AI大語(yǔ)言模型的信息都不包含敏感數(shù)據(jù)。例如，可以脫敏處理或使用數(shù)據(jù)掩碼技術(shù)來(lái)隱藏個(gè)人信息。比如在一個(gè)HR系統(tǒng)需要通過(guò)大語(yǔ)言模型如ChatGPT來(lái)自動(dòng)回答員工關(guān)于公司政策的問(wèn)題，API網(wǎng)關(guān)會(huì)在發(fā)送請(qǐng)求之前去掉或替換所有個(gè)人識(shí)別信息（PII），如員工ID、姓名等。

2、使用安全的API調(diào)用協(xié)議：

使用HTTPS協(xié)議在數(shù)據(jù)傳輸層面進(jìn)行加密，確保調(diào)用API時(shí)數(shù)據(jù)在傳輸過(guò)程中的安全。

3、限制數(shù)據(jù)的授權(quán)訪問(wèn)：

確保只有授權(quán)的用戶才能訪問(wèn)API。我這里建議通過(guò)API密鑰和訪問(wèn)控制列表（ACLs）來(lái)實(shí)現(xiàn)。

4、嚴(yán)格的權(quán)限管理：

為使用國(guó)產(chǎn)大語(yǔ)言模型或ChatGPT API的用戶設(shè)置嚴(yán)格的權(quán)限，確保他們只能訪問(wèn)和操作必要的數(shù)據(jù)。有權(quán)訪問(wèn)敏感信息的數(shù)據(jù)的人越少越好。

5、審計(jì)日志：

IT應(yīng)用系統(tǒng)必須記錄所有通過(guò)API發(fā)送的請(qǐng)求和接收的響應(yīng)，以便在發(fā)生數(shù)據(jù)泄露或其他安全事件時(shí)進(jìn)行跟蹤和審計(jì)。

6、定期評(píng)估和監(jiān)控：

定期評(píng)估使用國(guó)產(chǎn)大語(yǔ)言模型和ChatGPT的效益，同時(shí)監(jiān)控?cái)?shù)據(jù)訪問(wèn)模式，以便發(fā)現(xiàn)并解決潛在的隱私問(wèn)題。

7、使用自定義模型：

大型企業(yè)或者政府機(jī)構(gòu)可以考慮在本地部署類似國(guó)內(nèi)的科大訊飛星火大模型等或者開(kāi)源的模型如Llama、ChatGLM、Bloom、Stable Diffusion等，這樣所有數(shù)據(jù)處理都在公司內(nèi)部進(jìn)行，不必發(fā)送到外部服務(wù)器。

8、選擇具有大模型開(kāi)發(fā)能力的供應(yīng)商

目前很多應(yīng)用系統(tǒng)如CRM系統(tǒng)、客戶服務(wù)系統(tǒng)的供應(yīng)商都在基于大模型開(kāi)發(fā)垂直化的應(yīng)用，如歐美很多公司使用了Salesforce用于構(gòu)建企業(yè)商城和CDP系統(tǒng)，Salesforce既內(nèi)置了Einstein AI來(lái)提升數(shù)據(jù)處理和營(yíng)銷自動(dòng)化的效率，也提供了將數(shù)據(jù)脫敏處理提供給ChatGPT訓(xùn)練的能力。目前很多優(yōu)秀的垂直化大模型已經(jīng)取得了可喜的進(jìn)步，企業(yè)可以優(yōu)先選擇那些具有大語(yǔ)言模型開(kāi)發(fā)能力的供應(yīng)商以擴(kuò)展未來(lái)的AI在企業(yè)內(nèi)部應(yīng)用系統(tǒng)中的使用。

對(duì)員工使用公有云大模型提供安全指南

對(duì)員工使用公有云如ChatGPT或AI國(guó)產(chǎn)大語(yǔ)言模型時(shí)，需要注意如下幾點(diǎn)：

1、設(shè)置一個(gè)復(fù)雜的密碼，如字母符號(hào)和數(shù)字的組合，并定期更換。

2、設(shè)置MFA多因素身份驗(yàn)證：?jiǎn)⒂枚嘁蛩厣矸蒡?yàn)證功能，增加額外的安全保障。

3、設(shè)置公司公有云大模型清單，避免員工使用不安全的大語(yǔ)言模型平臺(tái)。

4、在使用公有云大模型時(shí)，務(wù)必告誡員工不要將個(gè)人敏感信息和公司敏感信息上傳給AI大模型，確保機(jī)密數(shù)據(jù)和隱私信息不被泄露。

5、在公司內(nèi)部定期組織網(wǎng)絡(luò)安全和隱私保護(hù)培訓(xùn)，提高對(duì)網(wǎng)絡(luò)釣魚(yú)、社交工程等安全威脅的識(shí)別能力。

結(jié)語(yǔ)

通過(guò)上述措施，公司可以在確保數(shù)據(jù)隱私的前提下，利用國(guó)產(chǎn)大模型或者ChatGPT提高內(nèi)部效率。在用AI提高工作效率的同時(shí)保證避免違反相關(guān)隱私法規(guī)和公司政策。

·關(guān)于本文作者：

李德勝(Andrew Li)，新秀麗（中國(guó)）有限公司CIO。2005年加入新秀麗（中國(guó)）有限公司，擁有20多年的消費(fèi)品行業(yè)數(shù)字化經(jīng)驗(yàn)，在IT治理、IT戰(zhàn)略、數(shù)字化轉(zhuǎn)型方面有著豐富的經(jīng)驗(yàn)。

來(lái)源：數(shù)據(jù)猿