在2023年，生成式AI技術(shù)經(jīng)過持續(xù)的完善和迭代，終于如同蛻變后的蝴蝶，徹底展翅飛翔，引領(lǐng)了一次AI時(shí)代的盛大變革。目前，這項(xiàng)技術(shù)已經(jīng)成功跨越了多個(gè)領(lǐng)域的界限。無論是醫(yī)療、金融、制造業(yè)、教育，還是科研領(lǐng)域，生成式AI都顯示出了令人震驚的創(chuàng)造能力和巨大的應(yīng)用前景。

然而，正如許多技術(shù)都帶有雙面性，生成式AI也不例外。它在助力企業(yè)解決實(shí)際問題、提高工作效率的同時(shí)，也伴隨著數(shù)據(jù)安全和隱私泄露的巨大隱患。

不幸的是，就在今年初，一個(gè)跨國大型企業(yè)在進(jìn)行大規(guī)模的AI模型訓(xùn)練時(shí)，不慎泄露了其數(shù)據(jù)庫中的敏感信息，這不僅對企業(yè)的聲譽(yù)造成了重大打擊，更讓全球?qū)τ谏墒紸I技術(shù)的數(shù)據(jù)安全問題產(chǎn)生了深深的擔(dān)憂。這樣的事例并不是孤立的，而是在業(yè)界中頻繁發(fā)生。

事實(shí)上，生成式AI在其訓(xùn)練和應(yīng)用的各個(gè)環(huán)節(jié)都可能存在數(shù)據(jù)泄露的風(fēng)險(xiǎn)。從數(shù)據(jù)的采集、處理，到模型的訓(xùn)練、部署，再到最終的輸出和反饋，每一個(gè)環(huán)節(jié)都需要嚴(yán)格的安全措施來防止任何可能的數(shù)據(jù)泄露。這引發(fā)了一個(gè)亟待解答的問題：如何確保生成式AI在帶給我們便利和創(chuàng)新的同時(shí)，不犧牲我們的數(shù)據(jù)安全和隱私權(quán)益呢？亞馬遜云科技的探索，給了我們一個(gè)答案。

8月31日，亞馬遜云科技re:Inforce 2023中國站正式開啟，此次大會(huì)以“AI時(shí)代 全面智能的安全”為主題，目標(biāo)就是幫助企業(yè)解決生成式AI在全部流程環(huán)節(jié)中的安全挑戰(zhàn)。

安全是構(gòu)建生成式AI應(yīng)用之根本

亞馬遜云科技大中華區(qū)解決方案架構(gòu)總監(jiān)代聞表示：安全是構(gòu)建生成式AI應(yīng)用不可回避的重要議題。從全棧角度出發(fā)，應(yīng)該從數(shù)據(jù)、傳輸、應(yīng)用到基礎(chǔ)設(shè)施整體構(gòu)建出可靠的合規(guī)體系，這樣才能真正保障AI應(yīng)用的安全。

代聞 亞馬遜云科技大中華區(qū)解決方案架構(gòu)總監(jiān)

亞馬遜云科技一直嚴(yán)格遵從客戶擁有和控制數(shù)據(jù)的理念，提供了行業(yè)領(lǐng)先的技術(shù)和物理措施來防止未經(jīng)授權(quán)的訪問，為數(shù)據(jù)提供涵蓋存儲(chǔ)、傳輸、使用、治理等各個(gè)環(huán)節(jié)的加密及保護(hù)服務(wù)。

舉例而言，企業(yè)在訓(xùn)練AI模型過程中首先要訪問數(shù)據(jù)庫，現(xiàn)代企業(yè)的業(yè)務(wù)數(shù)據(jù)是創(chuàng)新的基礎(chǔ)，也是“命脈”，一旦數(shù)據(jù)泄露就將帶來不可逆的惡劣影響。同時(shí)，在數(shù)據(jù)傳輸、使用、治理、訪問等各個(gè)環(huán)節(jié)，也會(huì)面臨泄露風(fēng)險(xiǎn)。

因此，安全是構(gòu)建生成式AI應(yīng)用不可回避的議題！

針對生成式AI，亞馬遜云科技將安全防護(hù)劃分為三個(gè)階段，分別為：數(shù)據(jù)和模型安全、應(yīng)用安全和全球合規(guī)，并基于此提供了更為系統(tǒng)化的安全防護(hù)工具。

數(shù)據(jù)安全，從存儲(chǔ)和傳輸開始

在數(shù)據(jù)保護(hù)方面，亞馬遜云科技重點(diǎn)推薦的第一項(xiàng)服務(wù)就是Amazon KMS。其全稱為Amazon Key Management Service，是一項(xiàng)通過硬件安全模塊來保護(hù)用戶密鑰的云端安全服務(wù)。借助Amazon KMS，用戶可以創(chuàng)建和管理加密密鑰，并控制相關(guān)權(quán)限。這些密鑰可用于跨各種亞馬遜云科技服務(wù)和用戶應(yīng)用程序訪問加密數(shù)據(jù)。

同樣地，數(shù)據(jù)傳輸也是安全防護(hù)的重要階段，此環(huán)節(jié)可通過Amazon Nitro來構(gòu)建獨(dú)立的安全傳輸通道。Amazon Nitro是一種虛擬化基礎(chǔ)設(shè)施，Amazon Nitro安全芯片可用于加密和驗(yàn)證虛擬機(jī)的訪問，并可檢測未經(jīng)授權(quán)的硬件修改和惡意軟件的植入。依托于虛擬化技術(shù)，Amazon Nitro系統(tǒng)還能夠提供更好的網(wǎng)絡(luò)和存儲(chǔ)性能。

有了安全的存儲(chǔ)和傳輸，針對計(jì)算環(huán)節(jié)亞馬遜云科技則有Amazon Nitro Enclaves計(jì)算加密。它可將計(jì)算實(shí)例進(jìn)行隔離，并控制應(yīng)用互訪vCPU和內(nèi)存，可幫助用戶減少用于處理最敏感數(shù)據(jù)的應(yīng)用程序的攻擊面，從而保護(hù)計(jì)算安全。

涂鴉信息技術(shù)有限公司安全總監(jiān)劉龍威表示：涂鴉智能是一家全球化的物聯(lián)網(wǎng)解決方案商，以亞馬遜云科技Amazon Nitro為安全的云基礎(chǔ)，通過硬件隔離的方式保障了整個(gè)用戶數(shù)據(jù)體系的可信。與Amazon KMS聯(lián)動(dòng)實(shí)現(xiàn)了更高基本的安全管理，從而服務(wù)于78萬的開發(fā)者及海量的IoT設(shè)備，并使其牢不可破。

在re:Inforce 2023大會(huì)上，亞馬遜云科技與涂鴉智能成立“聯(lián)合安全實(shí)驗(yàn)室”，雙方將在智能家居、數(shù)據(jù)安全、安全文化建設(shè)、海外合規(guī)等領(lǐng)域，重點(diǎn)就機(jī)密計(jì)算及數(shù)據(jù)隱私、Matter技術(shù)合作及體系建設(shè)、生成式AI在IoT領(lǐng)域等安全實(shí)踐展開聯(lián)合共創(chuàng)。

此外，亞馬遜云科技中國方案開發(fā)中心還正式發(fā)布了敏感數(shù)據(jù)保護(hù)解決方案，可實(shí)現(xiàn)自動(dòng)發(fā)現(xiàn)企業(yè)敏感數(shù)據(jù)，并在統(tǒng)一平臺(tái)管理數(shù)據(jù)資產(chǎn)。例如在Amazon S3存儲(chǔ)中，允許用戶創(chuàng)建數(shù)據(jù)目錄、使用內(nèi)置或定制數(shù)據(jù)識(shí)別規(guī)則定義敏感數(shù)據(jù)類型，以機(jī)器學(xué)習(xí)方式來匹配并識(shí)別敏感信息，并做出警告。以可視化方式進(jìn)行管理，進(jìn)而幫助用戶實(shí)現(xiàn)對敏感數(shù)據(jù)的管理與保護(hù)。目前該解決方案已經(jīng)可以提供下載。

訓(xùn)練安全，Amazon SageMaker的模型三劍客

數(shù)據(jù)在存儲(chǔ)、傳輸及計(jì)算環(huán)節(jié)的安全得到了保障，接下來需要關(guān)注的自然就是模型的構(gòu)建環(huán)節(jié)了。

代聞表示：Amazon IAM API每秒調(diào)用次數(shù)超過10億，其為大模型的構(gòu)建提供了強(qiáng)大的源動(dòng)力。Amazon SageMaker正在為設(shè)置、授權(quán)、驗(yàn)證、調(diào)優(yōu)等環(huán)節(jié)提供針對模型的訪問策略，并通過Amazon Model Cards、Amazon Model Monitor及Amazon Model Registry等工具全方位地監(jiān)控模型的運(yùn)行。

在AI大模型的初始爆發(fā)期，很多企業(yè)的模型訓(xùn)練環(huán)節(jié)都處于“裸奔”狀態(tài)，即原始數(shù)據(jù)與模型未加防護(hù)，此時(shí)的數(shù)據(jù)泄露風(fēng)險(xiǎn)也是最高。

針對這些痛點(diǎn)，模型三劍客之一的Amazon SageMaker Model Cards問世了，它是一套文檔化機(jī)器學(xué)習(xí)模型的規(guī)范格式工具，可實(shí)現(xiàn)對模型信息的統(tǒng)一管理，包括模型的描述、功能、性能等信息。通過使用Amazon Model Cards，用戶可以更好地了解和評估機(jī)器學(xué)習(xí)模型，以選擇最適合其需求的模型，并為下一步監(jiān)測與管理做好準(zhǔn)備。

Amazon SageMaker Model Monitor提供的就是自動(dòng)化監(jiān)控與檢測服務(wù)，可以幫助用戶在生產(chǎn)環(huán)境中監(jiān)控模型的性能、數(shù)據(jù)質(zhì)量和數(shù)據(jù)偏差，以確保模型的準(zhǔn)確性和穩(wěn)定性。

功能方面Amazon Model Monitor提供了數(shù)據(jù)捕獲、數(shù)據(jù)分析、數(shù)據(jù)報(bào)告和數(shù)據(jù)警報(bào)，可生成詳細(xì)的報(bào)告和警報(bào)通知用戶，有利于促進(jìn)模型的持續(xù)改進(jìn)和優(yōu)化。

Amazon Model Registry則是Amazon SageMaker提供的一個(gè)功能強(qiáng)大的工具，用于管理和跟蹤機(jī)器學(xué)習(xí)模型的版本和元數(shù)據(jù)。它提供了版本控制、回滾、元數(shù)據(jù)管理和集成功能，使用戶能夠更好地管理和部署模型。

在Amazon SageMaker這三套工具的幫助下，能夠讓用戶實(shí)現(xiàn)模型管理自動(dòng)化，極大提升了工作效率。

大模型之潮已經(jīng)勢不可擋，如果企業(yè)級用戶自身技術(shù)能力較弱，是否可以嘗試構(gòu)建大模型呢？

別急，這就安排！

就在今年4月，亞馬遜云科技發(fā)布了完全托管的基礎(chǔ)模型服務(wù)Amazon Bedrock，可讓用戶根據(jù)需求通過API訪問及使用其中的基礎(chǔ)模型。Amazon Bedrock可使用用戶自己的數(shù)據(jù)私下自定義FM，并使用相關(guān)工具和功能將它們無縫集成和部署到應(yīng)用程序中，無需管理任何基礎(chǔ)設(shè)施。

舉例而言，用戶希望在零基礎(chǔ)的情況下構(gòu)建一套文本生成大模型，那么就可以通過簡單的操作在亞馬遜云端自定義出模型需求，并通過各種模型工具將其集成并部署到應(yīng)用之中，就像拼裝樂高一樣簡單，極大降低了模型構(gòu)建的門檻。

開發(fā)安全，利用AI取長補(bǔ)短

度過了激動(dòng)人心的模型構(gòu)建環(huán)節(jié)，接下來是開發(fā)。很多企業(yè)級用戶對開發(fā)戲稱是：人多手雜，容易出錯(cuò)，同時(shí)還經(jīng)常出現(xiàn)安全性問題。

針對這些痛點(diǎn)，亞馬遜云科技展示了兩套自動(dòng)化工具服務(wù)，能夠幫助用戶排憂解難。

Amazon CodeWhisperer 可以看作是AI編程助手，經(jīng)過數(shù)十億行代碼的訓(xùn)練，可以根據(jù)用戶需求和現(xiàn)有代碼實(shí)時(shí)生成從代碼片段到全函數(shù)的代碼建議。Amazon CodeWhisperer支持主流編程語言和IDE，還可以為用戶提供有關(guān) API 安全性、性能和最佳實(shí)踐的建議。

融合機(jī)器學(xué)習(xí)和自動(dòng)化分析就有了Amazon CodeGuru Security，它是一套強(qiáng)大的代碼漏洞掃描工具，可提供漏洞修補(bǔ)建議，并解決檢測配置錯(cuò)誤、權(quán)限問題和敏感數(shù)據(jù)的泄露等安全問題。有效提升代碼的安全性和可靠性。

運(yùn)行安全，來自云端的保障

當(dāng)生成式AI大模型經(jīng)歷開發(fā)后就迎來上線運(yùn)行，而在該階段的安全防護(hù)也不能掉以輕心。因?yàn)樵趯?shí)際操作過程中，有很多安全事件都出在運(yùn)行環(huán)節(jié)。此時(shí)，應(yīng)用程序需要保護(hù)模型本身、數(shù)據(jù)及用戶隱私等來自多方面的安全，而最有效的方式就是：驗(yàn)證。

Amazon Verified Permissions是亞馬遜云科技向開發(fā)者提供的一種驗(yàn)證用戶訪問權(quán)限的機(jī)制。通過該服務(wù)，開發(fā)者可以確保用戶只能訪問其應(yīng)用程序需要的有效權(quán)限，以保護(hù)用戶的隱私和數(shù)據(jù)安全。

當(dāng)用戶向應(yīng)用程序授權(quán)時(shí)，亞馬遜會(huì)驗(yàn)證并返回一個(gè)訪問令牌，該令牌包含用戶已授權(quán)的權(quán)限。開發(fā)者可以使用這個(gè)令牌來驗(yàn)證用戶的權(quán)限，并根據(jù)需要執(zhí)行相應(yīng)的操作。

通過令牌式驗(yàn)證，開發(fā)者可以確保用戶數(shù)據(jù)的安全性，并且遵守隱私法規(guī)和規(guī)定。同時(shí)也通過訪問權(quán)限控制來保障應(yīng)用程序的數(shù)據(jù)安全。

構(gòu)建全球化安全合規(guī)

在全球安全合規(guī)方面，亞馬遜云科技的全球化基礎(chǔ)設(shè)施包括超過200大類廣泛而深入的云服務(wù)和解決方案，包括覆蓋全球的安全合規(guī)、高速穩(wěn)定的云基礎(chǔ)設(shè)施，以及來自亞馬遜的全球資源和創(chuàng)新文化。

據(jù)了解，亞馬遜云科技現(xiàn)已在全球獲得超過140個(gè)安全標(biāo)準(zhǔn)和合規(guī)認(rèn)證。并進(jìn)一步通過在其500多項(xiàng)自身合規(guī)審計(jì)控制項(xiàng)中使用 AI 技術(shù)，大幅提升了自身的合規(guī)效率，將審計(jì)時(shí)間節(jié)約了53%。

此外，亞馬遜云科技還通過零信任架構(gòu)，來幫助用戶增強(qiáng)安全性、靈活性、擴(kuò)展性并有效降低來自安全方面的成本，幫助企業(yè)構(gòu)建更安全、高效和可靠的云安全體系。

生成式AI，作為人工智能技術(shù)的前沿領(lǐng)域，正對我們的創(chuàng)作、個(gè)性化服務(wù)、用戶交互以及創(chuàng)新研究帶來前所未有的突破和機(jī)會(huì)。這不僅為我們打開了一個(gè)新維度的工具和平臺(tái)，拓寬人類創(chuàng)造力和智慧的邊界，而且預(yù)示著一個(gè)數(shù)字化、高度智能化的未來。

在近期，尤其是在中國市場，這種技術(shù)的影響力不容小覷。不經(jīng)意間，它引發(fā)了一場盛大的“百模大戰(zhàn)”，幾乎每一個(gè)行業(yè)都在試圖利用這個(gè)技術(shù)，希望借助其強(qiáng)大的生成能力實(shí)現(xiàn)行業(yè)的創(chuàng)新與突破，多家頂級企業(yè)紛紛投入資源進(jìn)行深入探索和實(shí)踐。

但與此同時(shí)，這種創(chuàng)新的浪潮也帶來了一系列復(fù)雜且尖銳的安全性挑戰(zhàn)。當(dāng)企業(yè)試圖利用生成式AI去為客戶提供獨(dú)特的價(jià)值和服務(wù)時(shí)，它們也必須面對這些技術(shù)可能帶來的潛在威脅和風(fēng)險(xiǎn)。在這種背景下，一個(gè)強(qiáng)大且可靠的合作伙伴變得尤為重要。

亞馬遜云科技，憑借其深厚的技術(shù)積累、持續(xù)的創(chuàng)新能力以及對AI領(lǐng)域的深入洞見，毫不猶豫地投身于這場競賽中。為了應(yīng)對日益復(fù)雜的安全挑戰(zhàn)，亞馬遜云科技專注于開發(fā)一系列面向生成式AI全流程的安全服務(wù)。這些服務(wù)不僅針對AI技術(shù)本身，還涵蓋了與其相關(guān)的數(shù)據(jù)、算法和應(yīng)用等各個(gè)環(huán)節(jié)，旨在為企業(yè)提供全方位的保護(hù)。

實(shí)際上，安全并不僅僅是防止?jié)撛诘耐{或攻擊，它還涉及到如何確保技術(shù)的可靠性、透明性和公正性。對于任何一家企業(yè)，特別是在數(shù)字化和高度互聯(lián)的時(shí)代，安全已經(jīng)成為了其成功與否的關(guān)鍵因素。

代聞的觀點(diǎn)同樣強(qiáng)調(diào)了這一點(diǎn)：“從我們投身AI技術(shù)的第一天起，安全就應(yīng)當(dāng)被視為首要和最高的優(yōu)先級。”這不僅僅是一個(gè)技術(shù)或策略問題，更是關(guān)乎企業(yè)和客戶利益、聲譽(yù)和未來發(fā)展的核心問題。

在此次大會(huì)上，亞馬遜云科技與其合作伙伴共同呼吁，必須將客戶放在中心位置，深入到應(yīng)用AI的每一個(gè)環(huán)節(jié)，不遺余力地加強(qiáng)安全性。通過與合作伙伴的緊密協(xié)作，亞馬遜云科技希望能共同打造一個(gè)更加安全、可靠和有益的AI未來。

來源：數(shù)據(jù)猿