本文字?jǐn)?shù): 3500, 閱讀完需: 18 分鐘
在這場(chǎng)演講中,演講者討論了如何在構(gòu)建生成式AI過程中保護(hù)數(shù)據(jù)與模型安全。他解釋了生成式AI面臨的前景和挑戰(zhàn),如何改善云上安全狀態(tài),以及如何安全地使用生成式AI。演講重點(diǎn)介紹了亞馬遜云科技的Amazon Bedrock服務(wù),該服務(wù)通過數(shù)據(jù)隱私、數(shù)據(jù)安全、密鑰管理服務(wù)和模型隔離等措施,確保客戶數(shù)據(jù)和模型在構(gòu)建生成式AI應(yīng)用時(shí)的安全性。演講還提供了云安全成熟度模型和行動(dòng)建議,幫助企業(yè)評(píng)估和提升云上工作負(fù)載的安全水平。
以下是小編為您整理的本次演講的精華，共3200字，閱讀時(shí)間大約是16分鐘。
亞馬遜云科技的解決方案架構(gòu)師李寧先生在演講中闡述了在構(gòu)建生成式人工智能(GenAI)的過程中,如何保證數(shù)據(jù)和模型的安全。他將這一問題分為四個(gè)子問題進(jìn)行探討。
首先,李寧先生分析了生成式人工智能面臨的前景和挑戰(zhàn)。他指出,雖然過去兩年生成式人工智能發(fā)展迅速且備受關(guān)注,但它也面臨著一系列挑戰(zhàn)。第一個(gè)挑戰(zhàn)是創(chuàng)新障礙。當(dāng)開發(fā)團(tuán)隊(duì)或產(chǎn)品團(tuán)隊(duì)發(fā)布新產(chǎn)品時(shí),他們往往需要尋求安全團(tuán)隊(duì)的評(píng)估,但安全團(tuán)隊(duì)的回復(fù)通常是需要等待或類似的回復(fù),因此有人將安全團(tuán)隊(duì)?wèi)蚍Q為”禁止部門”。為了趕在上線前,一些產(chǎn)品甚至嘗試避開安全團(tuán)隊(duì),導(dǎo)致安全團(tuán)隊(duì)缺乏參與感。
第二個(gè)挑戰(zhàn)是安全專家的數(shù)量相對(duì)較少。一方面,這是由于安全領(lǐng)域的技術(shù)挑戰(zhàn)性和復(fù)雜性所致;另一方面,則可能是由于預(yù)算不足,無法聘請(qǐng)足夠的高水平專家。第三個(gè)挑戰(zhàn)是生成式人工智能技術(shù)的快速發(fā)展,使得安全環(huán)境和安全風(fēng)險(xiǎn)變得動(dòng)態(tài)化,要求安全團(tuán)隊(duì)時(shí)刻保持最新狀態(tài)并隨時(shí)應(yīng)對(duì)環(huán)境變化。第四個(gè)挑戰(zhàn)是除了遵守各種安全法則和行業(yè)法規(guī)外,數(shù)據(jù)安全和隱私保護(hù)也成為一大挑戰(zhàn)。
李寧先生引用了亞馬遜云科技首席安全官的一句話:“我們不是在下棋,我們是以每小時(shí)250公里的速度在下棋,而且所有人都在看。”這句話的意思是,技術(shù)發(fā)展非常之快,以至于我們沒有太多時(shí)間去思考或緩慢應(yīng)對(duì)。計(jì)算資源作為一種常用資源,已經(jīng)變成了許多人都可以獲取和使用的東西,其中包括安全威脅者和安全防御者。
接下來,李寧先生探討了如何改善云上的安全狀態(tài)。他指出,雖然安全這一話題伴隨著信息技術(shù)產(chǎn)業(yè)的興起,但在傳統(tǒng)的安全模型中,云安全也遵循了”洋蔥模型”。亞馬遜云科技將安全過程劃分為身份識(shí)別、基礎(chǔ)架構(gòu)保護(hù)、數(shù)據(jù)保護(hù)和事件響應(yīng)五個(gè)維度,并圍繞這五個(gè)維度開發(fā)了累計(jì)超過300項(xiàng)的安全功能,幫助客戶配置云上的安全能力,改善云安全狀況。
在這些服務(wù)中,有些是免費(fèi)的,如IAM服務(wù)、Organizations服務(wù)和Trusted Advisor服務(wù),這些都是免費(fèi)服務(wù)。另一部分服務(wù)則提供了部分免費(fèi)配額,如Amazon Cognito User Pools服務(wù)的前50萬個(gè)用戶免費(fèi),Lambda服務(wù)的前100萬個(gè)請(qǐng)求免費(fèi)。在許多場(chǎng)合,李寧先生發(fā)現(xiàn),在構(gòu)建無服務(wù)器、事件驅(qū)動(dòng)的應(yīng)用程序時(shí),前100萬個(gè)請(qǐng)求都是免費(fèi)的。
還有一些服務(wù)提供15天到30天不等的免費(fèi)使用周期,在此期間,用戶可以免費(fèi)體驗(yàn)這些安全服務(wù),根據(jù)自己的使用場(chǎng)景配置服務(wù),甚至估算成本。對(duì)于這些服務(wù),亞馬遜云科技還提供了詳細(xì)的操作文檔、實(shí)驗(yàn)指導(dǎo)手冊(cè),甚至提供了一些游戲?qū)鬼?xiàng)目,幫助客戶熟悉服務(wù)。
客戶可以綜合這些服務(wù)和自身需求構(gòu)建基于云原生的解決方案,這些解決方案不僅具有靈活性和彈性,而且比一些商用解決方案更加靈活。這與亞馬遜云科技利用云技術(shù)幫助廣大客戶普惠,改善他們的云上安全狀態(tài)的初衷非常契合。
面對(duì)如此多的服務(wù),用戶往往會(huì)感到困惑,不知從何入手,如何確定安全能力建設(shè)的優(yōu)先順序。對(duì)此,亞馬遜云科技推薦了一個(gè)選擇矩陣,從安全受益最大和實(shí)施難度兩個(gè)維度構(gòu)建行動(dòng)。將這兩個(gè)要素結(jié)合,圈定的安全任務(wù)被稱為”速勝任務(wù)”。速勝任務(wù)對(duì)大多數(shù)客戶而言,可能只需一兩周就能構(gòu)建起來,實(shí)現(xiàn)從0到1或從0.5到1的過程,而且安全防御的成效回報(bào)也非常大。
之后,客戶可以根據(jù)自身的業(yè)務(wù)需求以及安全團(tuán)隊(duì)或IT團(tuán)隊(duì)的技術(shù)積累能力,逐步選擇其他任務(wù),一步一步構(gòu)建安全能力。速勝任務(wù)只是幫助客戶踏上了云安全治理的演進(jìn)之路,并不意味著通過這個(gè)順序就可以從不安全、不確定變成安全,大膽部署工作負(fù)載。事實(shí)上,它只是幫助客戶具備了一個(gè)初始的安全環(huán)境,客戶還需要持續(xù)不斷地演進(jìn),堅(jiān)持今天比昨天做得更好,這條路任重而道遠(yuǎn)。
為了達(dá)到云安全的目的,亞馬遜云科技還推薦了一個(gè)云安全成熟度模型,包括四個(gè)階段。第一個(gè)階段就是速勝任務(wù)選擇的區(qū)域,是模型的起點(diǎn)。在這個(gè)階段,亞馬遜云科技建議客戶從最簡單、回報(bào)最大的任務(wù)開始構(gòu)建,爭(zhēng)取獲得立竿見影的效果。目的不僅是直接快速解決初始的云安全威脅,降低風(fēng)險(xiǎn),更關(guān)鍵的是通過一兩周的快速構(gòu)建過程,降低了面對(duì)風(fēng)險(xiǎn)的時(shí)間。
第二個(gè)階段是基礎(chǔ)階段,亞馬遜云科技認(rèn)為每一個(gè)亞馬遜云科技云上的用戶或賬號(hào)都應(yīng)該具備這個(gè)安全能力水平,因?yàn)橹挥羞_(dá)到這個(gè)水平,賬戶才具備部署生產(chǎn)環(huán)境的基本要求,否則就可能存在或多或少的安全風(fēng)險(xiǎn)。
第三個(gè)階段是高效階段。在這個(gè)階段,安全團(tuán)隊(duì)?wèi)?yīng)該積極參與到整個(gè)信息化建設(shè)或數(shù)字化轉(zhuǎn)型的過程中,具備高效的云安全置頂能力,能夠快速制定安全計(jì)劃并實(shí)施云治理任務(wù)。
第四個(gè)階段是已優(yōu)化階段,是最高的階段。不一定每個(gè)企業(yè)都會(huì)進(jìn)入這個(gè)階段,對(duì)于一些高要求或有特定治理計(jì)劃的企業(yè),亞馬遜云科技會(huì)在已優(yōu)化階段持續(xù)開展更深入的云安全治理。
接下來,李寧先生討論了如何安全地使用生成式人工智能。他相信在座的各位對(duì)生成式人工智能并不陌生,也應(yīng)該是看好它的前景。演講中展示的一些圖片都是由人工智能創(chuàng)作的,而不是人工創(chuàng)作。生成式人工智能屬于人工智能的一個(gè)分支,但與傳統(tǒng)人工智能不同。傳統(tǒng)人工智能利用特定數(shù)據(jù)為特定目的訓(xùn)練特定模型,應(yīng)用于翻譯、預(yù)測(cè)或個(gè)性化推薦等場(chǎng)景,模型通常較小,目的性和訓(xùn)練方法、算法數(shù)據(jù)都較有針對(duì)性。
而生成式人工智能的模型稱為基礎(chǔ)模型,是采用大量數(shù)據(jù)訓(xùn)練產(chǎn)生的,具有多用途和多模態(tài)的特點(diǎn)。一個(gè)單一的模型就可以覆蓋大多數(shù)客戶對(duì)圖像、文本、音頻、視頻等的使用場(chǎng)景需求,因此生成式人工智能技術(shù)發(fā)展非常快,模型能力非常強(qiáng)。
但業(yè)界也開始對(duì)生成式人工智能的安全性產(chǎn)生顧慮,擔(dān)心人工智能的發(fā)展速度可能會(huì)超出我們對(duì)其技術(shù)的理解以及降低相關(guān)風(fēng)險(xiǎn)的能力,這是一種未知或不可控的風(fēng)險(xiǎn)。根據(jù)亞馬遜云科技的研究,人工智能的安全可能分為三個(gè)維度:
首先是抵御生成式人工智能帶來的危險(xiǎn)。根據(jù)了解,生成式人工智能已經(jīng)在以下幾個(gè)方面得到應(yīng)用:第一,釣魚郵件的生成。生成式人工智能技術(shù)可以幫助構(gòu)建更加本地化或更符合用戶真實(shí)場(chǎng)景的郵件內(nèi)容,使得攻擊更加個(gè)性化和逼真,防御更加困難。第二,生成惡意代碼。如果直接向基礎(chǔ)模型提問生成惡意代碼,可能會(huì)被拒絕。但如果轉(zhuǎn)而詢問生成加密遠(yuǎn)端文件集的代碼,并提供登錄憑證和方法,模型就可能生成惡意病毒代碼的全過程。第三,深度偽造和完美語音克隆。假如一個(gè)企業(yè)高管的公開演講視頻上傳到互聯(lián)網(wǎng),攻擊者下載視頻、提取聲紋特征,再合并一段語音發(fā)給公司財(cái)務(wù)人員,要求做出財(cái)務(wù)劃撥,如果沒有進(jìn)一步確認(rèn),面對(duì)真實(shí)聲音的指令,企業(yè)可能會(huì)面臨巨大的金融風(fēng)險(xiǎn)。
針對(duì)這些情況,李寧先生提出了一些應(yīng)對(duì)實(shí)踐。首先,改善團(tuán)隊(duì)的安全意識(shí),在團(tuán)隊(duì)內(nèi)部討論生成式人工智能的風(fēng)險(xiǎn)場(chǎng)景及潛在風(fēng)險(xiǎn),對(duì)于任何突然的指令和要求,都需要二次確認(rèn)或提供憑證,按照公司正規(guī)流程執(zhí)行。其次,在IT建設(shè)過程中更廣泛地實(shí)施多因子認(rèn)證,加強(qiáng)審核機(jī)制。對(duì)于企業(yè)內(nèi)部各個(gè)人員,要將他們?cè)谑褂霉緲I(yè)務(wù)系統(tǒng)時(shí)的權(quán)限降到最低,并持續(xù)開展審計(jì)和權(quán)限審查,確保人員角色與權(quán)限相匹配。
第二個(gè)維度是如何利用生成式人工智能提升安全性。亞馬遜云科技一直走在行業(yè)前列,已經(jīng)基于生成式人工智能構(gòu)建了一系列具備相關(guān)能力的服務(wù)。
第一個(gè)服務(wù)是Amazon CodeWhisperer,包括CodeWhisperer Develop和CodeWhisperer Business等產(chǎn)品。重點(diǎn)介紹的是CodeWhisperer for Developer,它是一個(gè)代碼助手,開發(fā)人員可以利用它開發(fā)業(yè)務(wù)程序。另外,Amazon CodeWhisperer還可以幫助執(zhí)行代碼安全性掃描,發(fā)現(xiàn)不安全的代碼,并在要求下生成安全的代碼替代。
第二個(gè)服務(wù)是Amazon Inspector,是一個(gè)更久遠(yuǎn)的脆弱性管理服務(wù)。它的好處是能夠?yàn)榭蛻籼峁┛缳~號(hào)的集中式脆弱性管理,持續(xù)掃描亞馬遜云科技上的資源,包括掃描Lambda的Runtime運(yùn)行時(shí)代碼,發(fā)現(xiàn)脆弱性并以用戶看板的形式呈現(xiàn),讓用戶快速發(fā)現(xiàn)并執(zhí)行加固。
第三個(gè)服務(wù)是Amazon GuardDuty,能夠綜合分析被妥協(xié)或遭攻擊的指標(biāo),分析威脅事件的根本原因,利用生成式人工智能技術(shù)生成簡潔的報(bào)告,讓用戶快速理解整個(gè)事件過程。
討論了如何利用生成式人工智能提升安全性后,李寧先生繼續(xù)探討如何保護(hù)基于生成式人工智能構(gòu)建的應(yīng)用程序安全。由于企業(yè)看好生成式人工智能,肯定會(huì)構(gòu)建符合企業(yè)增長、重塑應(yīng)用程序價(jià)值鏈的相關(guān)應(yīng)用程序,因此如何保護(hù)這些應(yīng)用程序就變得非常重要。
在這方面,亞馬遜云科技最新推出的Amazon Bedrock服務(wù)具有重要作用。Amazon Bedrock提供了簡單易用的API入口點(diǎn),讓開發(fā)者可以快速構(gòu)建基于生成式人工智能的應(yīng)用程序。客戶可以自由選擇來自不同服務(wù)提供商的模型,甚至基于這些基礎(chǔ)模型訓(xùn)練自己的模型或上傳自己的模型使用。
更重要的是,Amazon Bedrock在確保生成式人工智能安全使用方面提供了多重保障:
因此,在整個(gè)過程中,Amazon Bedrock的部署框架和技術(shù)權(quán)限確保了用戶的數(shù)據(jù)和模型不會(huì)被外部或未經(jīng)授權(quán)的對(duì)象訪問。用戶的數(shù)據(jù)始終在自己的賬號(hào)內(nèi),亞馬遜云科技提供了賬號(hào)級(jí)的隔離。
除了Amazon Bedrock本身的安全保障,亞馬遜云科技還為其提供了Gating.AI服務(wù),在用戶輸入和模型輸出之間運(yùn)行,提供四個(gè)關(guān)鍵能力:
最近,Gating.AI服務(wù)還添加了兩項(xiàng)新功能:模型幻覺檢測(cè),能夠根據(jù)模型輸入輸出判斷模型返回的幻覺事實(shí)性和相關(guān)性,提供判斷依據(jù);開放API,允許非Amazon Bedrock用戶調(diào)用Gating.AI的功能,在自己的輸入和模型之間執(zhí)行負(fù)責(zé)任的檢測(cè)和過濾。
總的來說,亞馬遜云科技通過Amazon Bedrock服務(wù)及其數(shù)據(jù)隱私、數(shù)據(jù)安全、密鑰管理、模型隔離等多重技術(shù)措施,為客戶提供了安全使用生成式人工智能的保障。同時(shí),Gating.AI服務(wù)的多種功能有助于負(fù)責(zé)任地使用生成式人工智能。
在演講的最后,李寧先生總結(jié)了保護(hù)數(shù)據(jù)和模型安全的幾點(diǎn)要求:
最后,李寧先生建議客戶利用云安全成熟度模型評(píng)估自身云上負(fù)載的安全狀態(tài),持續(xù)關(guān)注工作負(fù)載的安全狀態(tài),確保至少達(dá)到第三級(jí)或第四級(jí)成熟度。同時(shí),提升團(tuán)隊(duì)對(duì)生成式人工智能安全風(fēng)險(xiǎn)的認(rèn)知,并鼓勵(lì)探索和使用Amazon Bedrock服務(wù)。
總的來說,這場(chǎng)演講深入探討了在構(gòu)建生成式人工智能過程中如何保護(hù)數(shù)據(jù)和模型安全,闡述了亞馬遜云科技在這一領(lǐng)域的解決方案和實(shí)踐經(jīng)驗(yàn),為客戶保護(hù)生成式人工智能應(yīng)用程序的數(shù)據(jù)和模型安全提供了指導(dǎo)和建議。
下面是一些演講現(xiàn)場(chǎng)的精彩瞬間：
演講者在演講中闡述了在構(gòu)建深層次人工智能時(shí)如何確保數(shù)據(jù)和模型的安全性。
生成式AI技術(shù)發(fā)展迅速,模型能力強(qiáng)大,但也引發(fā)了安全顧慮,擔(dān)心AI發(fā)展速度超出技術(shù)理解和風(fēng)險(xiǎn)控制能力。
深度偽造技術(shù)可能導(dǎo)致企業(yè)面臨巨大金融風(fēng)險(xiǎn),必須采取應(yīng)對(duì)措施。
亞馬遜云科技CodeWhisperer是一款代碼助手,可幫助開發(fā)人員編寫業(yè)務(wù)程序,并執(zhí)行代碼安全掃描和生成安全代碼。
在這段演講中,演講者建議用戶利用云的安全成熟度模型評(píng)估云上負(fù)載的安全狀態(tài),持續(xù)關(guān)注工作負(fù)載的安全狀態(tài),并通過深層次AI的場(chǎng)景和風(fēng)險(xiǎn)意識(shí)提升團(tuán)隊(duì)的安全認(rèn)知。
亞馬遜云科技在構(gòu)建生成式AI過程中保護(hù)數(shù)據(jù)與模型安全的主要做法如下:
生成式AI帶來了前景和挑戰(zhàn),亞馬遜云科技提供了300多項(xiàng)安全功能幫助客戶改善云安全狀態(tài),并推薦了云安全成熟度模型來持續(xù)演進(jìn)。針對(duì)生成式AI的安全風(fēng)險(xiǎn),亞馬遜云科技建議提高團(tuán)隊(duì)意識(shí)、實(shí)施多因子認(rèn)證和審計(jì)機(jī)制。亞馬遜云科技利用生成式AI提升安全性,如CodeWhisperer代碼安全掃描、Inspector漏洞管理、GuardDuty威脅分析報(bào)告生成等。
在Amazon Bedrock服務(wù)中,亞馬遜云科技采取多重措施保護(hù)數(shù)據(jù)和模型安全:客戶數(shù)據(jù)不會(huì)用于模型訓(xùn)練,數(shù)據(jù)加密傳輸和存儲(chǔ),精細(xì)訪問控制,密鑰管理服務(wù)加密,模型隔離部署。Amazon Bedrock還提供Gating服務(wù),支持話題拒絕、內(nèi)容過濾、敏感信息過濾、關(guān)鍵詞過濾、幻覺檢測(cè)等,確保負(fù)責(zé)任使用生成式AI。
亞馬遜云科技建議客戶利用云安全成熟度模型評(píng)估工作負(fù)載安全狀態(tài),提升生成式AI安全意識(shí),并探索使用Amazon Bedrock服務(wù)。通過這些措施,亞馬遜云科技致力于在構(gòu)建生成式AI過程中保護(hù)數(shù)據(jù)與模型安全。
本文字?jǐn)?shù): 3500, 閱讀完需: 18 分鐘
在這場(chǎng)演講中,演講者討論了如何在構(gòu)建生成式AI過程中保護(hù)數(shù)據(jù)與模型安全。他解釋了生成式AI面臨的前景和挑戰(zhàn),如何改善云上安全狀態(tài),以及如何安全地使用生成式AI。演講重點(diǎn)介紹了亞馬遜云科技的Amazon Bedrock服務(wù),該服務(wù)通過數(shù)據(jù)隱私、數(shù)據(jù)安全、密鑰管理服務(wù)和模型隔離等措施,確保客戶數(shù)據(jù)和模型在構(gòu)建生成式AI應(yīng)用時(shí)的安全性。演講還提供了云安全成熟度模型和行動(dòng)建議,幫助企業(yè)評(píng)估和提升云上工作負(fù)載的安全水平。
以下是小編為您整理的本次演講的精華，共3200字，閱讀時(shí)間大約是16分鐘。
亞馬遜云科技的解決方案架構(gòu)師李寧先生在演講中闡述了在構(gòu)建生成式人工智能(GenAI)的過程中,如何保證數(shù)據(jù)和模型的安全。他將這一問題分為四個(gè)子問題進(jìn)行探討。
首先,李寧先生分析了生成式人工智能面臨的前景和挑戰(zhàn)。他指出,雖然過去兩年生成式人工智能發(fā)展迅速且備受關(guān)注,但它也面臨著一系列挑戰(zhàn)。第一個(gè)挑戰(zhàn)是創(chuàng)新障礙。當(dāng)開發(fā)團(tuán)隊(duì)或產(chǎn)品團(tuán)隊(duì)發(fā)布新產(chǎn)品時(shí),他們往往需要尋求安全團(tuán)隊(duì)的評(píng)估,但安全團(tuán)隊(duì)的回復(fù)通常是需要等待或類似的回復(fù),因此有人將安全團(tuán)隊(duì)?wèi)蚍Q為”禁止部門”。為了趕在上線前,一些產(chǎn)品甚至嘗試避開安全團(tuán)隊(duì),導(dǎo)致安全團(tuán)隊(duì)缺乏參與感。
第二個(gè)挑戰(zhàn)是安全專家的數(shù)量相對(duì)較少。一方面,這是由于安全領(lǐng)域的技術(shù)挑戰(zhàn)性和復(fù)雜性所致;另一方面,則可能是由于預(yù)算不足,無法聘請(qǐng)足夠的高水平專家。第三個(gè)挑戰(zhàn)是生成式人工智能技術(shù)的快速發(fā)展,使得安全環(huán)境和安全風(fēng)險(xiǎn)變得動(dòng)態(tài)化,要求安全團(tuán)隊(duì)時(shí)刻保持最新狀態(tài)并隨時(shí)應(yīng)對(duì)環(huán)境變化。第四個(gè)挑戰(zhàn)是除了遵守各種安全法則和行業(yè)法規(guī)外,數(shù)據(jù)安全和隱私保護(hù)也成為一大挑戰(zhàn)。
李寧先生引用了亞馬遜云科技首席安全官的一句話:“我們不是在下棋,我們是以每小時(shí)250公里的速度在下棋,而且所有人都在看。”這句話的意思是,技術(shù)發(fā)展非常之快,以至于我們沒有太多時(shí)間去思考或緩慢應(yīng)對(duì)。計(jì)算資源作為一種常用資源,已經(jīng)變成了許多人都可以獲取和使用的東西,其中包括安全威脅者和安全防御者。
接下來,李寧先生探討了如何改善云上的安全狀態(tài)。他指出,雖然安全這一話題伴隨著信息技術(shù)產(chǎn)業(yè)的興起,但在傳統(tǒng)的安全模型中,云安全也遵循了”洋蔥模型”。亞馬遜云科技將安全過程劃分為身份識(shí)別、基礎(chǔ)架構(gòu)保護(hù)、數(shù)據(jù)保護(hù)和事件響應(yīng)五個(gè)維度,并圍繞這五個(gè)維度開發(fā)了累計(jì)超過300項(xiàng)的安全功能,幫助客戶配置云上的安全能力,改善云安全狀況。
在這些服務(wù)中,有些是免費(fèi)的,如IAM服務(wù)、Organizations服務(wù)和Trusted Advisor服務(wù),這些都是免費(fèi)服務(wù)。另一部分服務(wù)則提供了部分免費(fèi)配額,如Amazon Cognito User Pools服務(wù)的前50萬個(gè)用戶免費(fèi),Lambda服務(wù)的前100萬個(gè)請(qǐng)求免費(fèi)。在許多場(chǎng)合,李寧先生發(fā)現(xiàn),在構(gòu)建無服務(wù)器、事件驅(qū)動(dòng)的應(yīng)用程序時(shí),前100萬個(gè)請(qǐng)求都是免費(fèi)的。
還有一些服務(wù)提供15天到30天不等的免費(fèi)使用周期,在此期間,用戶可以免費(fèi)體驗(yàn)這些安全服務(wù),根據(jù)自己的使用場(chǎng)景配置服務(wù),甚至估算成本。對(duì)于這些服務(wù),亞馬遜云科技還提供了詳細(xì)的操作文檔、實(shí)驗(yàn)指導(dǎo)手冊(cè),甚至提供了一些游戲?qū)鬼?xiàng)目,幫助客戶熟悉服務(wù)。
客戶可以綜合這些服務(wù)和自身需求構(gòu)建基于云原生的解決方案,這些解決方案不僅具有靈活性和彈性,而且比一些商用解決方案更加靈活。這與亞馬遜云科技利用云技術(shù)幫助廣大客戶普惠,改善他們的云上安全狀態(tài)的初衷非常契合。
面對(duì)如此多的服務(wù),用戶往往會(huì)感到困惑,不知從何入手,如何確定安全能力建設(shè)的優(yōu)先順序。對(duì)此,亞馬遜云科技推薦了一個(gè)選擇矩陣,從安全受益最大和實(shí)施難度兩個(gè)維度構(gòu)建行動(dòng)。將這兩個(gè)要素結(jié)合,圈定的安全任務(wù)被稱為”速勝任務(wù)”。速勝任務(wù)對(duì)大多數(shù)客戶而言,可能只需一兩周就能構(gòu)建起來,實(shí)現(xiàn)從0到1或從0.5到1的過程,而且安全防御的成效回報(bào)也非常大。
之后,客戶可以根據(jù)自身的業(yè)務(wù)需求以及安全團(tuán)隊(duì)或IT團(tuán)隊(duì)的技術(shù)積累能力,逐步選擇其他任務(wù),一步一步構(gòu)建安全能力。速勝任務(wù)只是幫助客戶踏上了云安全治理的演進(jìn)之路,并不意味著通過這個(gè)順序就可以從不安全、不確定變成安全,大膽部署工作負(fù)載。事實(shí)上,它只是幫助客戶具備了一個(gè)初始的安全環(huán)境,客戶還需要持續(xù)不斷地演進(jìn),堅(jiān)持今天比昨天做得更好,這條路任重而道遠(yuǎn)。
為了達(dá)到云安全的目的,亞馬遜云科技還推薦了一個(gè)云安全成熟度模型,包括四個(gè)階段。第一個(gè)階段就是速勝任務(wù)選擇的區(qū)域,是模型的起點(diǎn)。在這個(gè)階段,亞馬遜云科技建議客戶從最簡單、回報(bào)最大的任務(wù)開始構(gòu)建,爭(zhēng)取獲得立竿見影的效果。目的不僅是直接快速解決初始的云安全威脅,降低風(fēng)險(xiǎn),更關(guān)鍵的是通過一兩周的快速構(gòu)建過程,降低了面對(duì)風(fēng)險(xiǎn)的時(shí)間。
第二個(gè)階段是基礎(chǔ)階段,亞馬遜云科技認(rèn)為每一個(gè)亞馬遜云科技云上的用戶或賬號(hào)都應(yīng)該具備這個(gè)安全能力水平,因?yàn)橹挥羞_(dá)到這個(gè)水平,賬戶才具備部署生產(chǎn)環(huán)境的基本要求,否則就可能存在或多或少的安全風(fēng)險(xiǎn)。
第三個(gè)階段是高效階段。在這個(gè)階段,安全團(tuán)隊(duì)?wèi)?yīng)該積極參與到整個(gè)信息化建設(shè)或數(shù)字化轉(zhuǎn)型的過程中,具備高效的云安全置頂能力,能夠快速制定安全計(jì)劃并實(shí)施云治理任務(wù)。
第四個(gè)階段是已優(yōu)化階段,是最高的階段。不一定每個(gè)企業(yè)都會(huì)進(jìn)入這個(gè)階段,對(duì)于一些高要求或有特定治理計(jì)劃的企業(yè),亞馬遜云科技會(huì)在已優(yōu)化階段持續(xù)開展更深入的云安全治理。
接下來,李寧先生討論了如何安全地使用生成式人工智能。他相信在座的各位對(duì)生成式人工智能并不陌生,也應(yīng)該是看好它的前景。演講中展示的一些圖片都是由人工智能創(chuàng)作的,而不是人工創(chuàng)作。生成式人工智能屬于人工智能的一個(gè)分支,但與傳統(tǒng)人工智能不同。傳統(tǒng)人工智能利用特定數(shù)據(jù)為特定目的訓(xùn)練特定模型,應(yīng)用于翻譯、預(yù)測(cè)或個(gè)性化推薦等場(chǎng)景,模型通常較小,目的性和訓(xùn)練方法、算法數(shù)據(jù)都較有針對(duì)性。
而生成式人工智能的模型稱為基礎(chǔ)模型,是采用大量數(shù)據(jù)訓(xùn)練產(chǎn)生的,具有多用途和多模態(tài)的特點(diǎn)。一個(gè)單一的模型就可以覆蓋大多數(shù)客戶對(duì)圖像、文本、音頻、視頻等的使用場(chǎng)景需求,因此生成式人工智能技術(shù)發(fā)展非常快,模型能力非常強(qiáng)。
但業(yè)界也開始對(duì)生成式人工智能的安全性產(chǎn)生顧慮,擔(dān)心人工智能的發(fā)展速度可能會(huì)超出我們對(duì)其技術(shù)的理解以及降低相關(guān)風(fēng)險(xiǎn)的能力,這是一種未知或不可控的風(fēng)險(xiǎn)。根據(jù)亞馬遜云科技的研究,人工智能的安全可能分為三個(gè)維度:
首先是抵御生成式人工智能帶來的危險(xiǎn)。根據(jù)了解,生成式人工智能已經(jīng)在以下幾個(gè)方面得到應(yīng)用:第一,釣魚郵件的生成。生成式人工智能技術(shù)可以幫助構(gòu)建更加本地化或更符合用戶真實(shí)場(chǎng)景的郵件內(nèi)容,使得攻擊更加個(gè)性化和逼真,防御更加困難。第二,生成惡意代碼。如果直接向基礎(chǔ)模型提問生成惡意代碼,可能會(huì)被拒絕。但如果轉(zhuǎn)而詢問生成加密遠(yuǎn)端文件集的代碼,并提供登錄憑證和方法,模型就可能生成惡意病毒代碼的全過程。第三,深度偽造和完美語音克隆。假如一個(gè)企業(yè)高管的公開演講視頻上傳到互聯(lián)網(wǎng),攻擊者下載視頻、提取聲紋特征,再合并一段語音發(fā)給公司財(cái)務(wù)人員,要求做出財(cái)務(wù)劃撥,如果沒有進(jìn)一步確認(rèn),面對(duì)真實(shí)聲音的指令,企業(yè)可能會(huì)面臨巨大的金融風(fēng)險(xiǎn)。
針對(duì)這些情況,李寧先生提出了一些應(yīng)對(duì)實(shí)踐。首先,改善團(tuán)隊(duì)的安全意識(shí),在團(tuán)隊(duì)內(nèi)部討論生成式人工智能的風(fēng)險(xiǎn)場(chǎng)景及潛在風(fēng)險(xiǎn),對(duì)于任何突然的指令和要求,都需要二次確認(rèn)或提供憑證,按照公司正規(guī)流程執(zhí)行。其次,在IT建設(shè)過程中更廣泛地實(shí)施多因子認(rèn)證,加強(qiáng)審核機(jī)制。對(duì)于企業(yè)內(nèi)部各個(gè)人員,要將他們?cè)谑褂霉緲I(yè)務(wù)系統(tǒng)時(shí)的權(quán)限降到最低,并持續(xù)開展審計(jì)和權(quán)限審查,確保人員角色與權(quán)限相匹配。
第二個(gè)維度是如何利用生成式人工智能提升安全性。亞馬遜云科技一直走在行業(yè)前列,已經(jīng)基于生成式人工智能構(gòu)建了一系列具備相關(guān)能力的服務(wù)。
第一個(gè)服務(wù)是Amazon CodeWhisperer,包括CodeWhisperer Develop和CodeWhisperer Business等產(chǎn)品。重點(diǎn)介紹的是CodeWhisperer for Developer,它是一個(gè)代碼助手,開發(fā)人員可以利用它開發(fā)業(yè)務(wù)程序。另外,Amazon CodeWhisperer還可以幫助執(zhí)行代碼安全性掃描,發(fā)現(xiàn)不安全的代碼,并在要求下生成安全的代碼替代。
第二個(gè)服務(wù)是Amazon Inspector,是一個(gè)更久遠(yuǎn)的脆弱性管理服務(wù)。它的好處是能夠?yàn)榭蛻籼峁┛缳~號(hào)的集中式脆弱性管理,持續(xù)掃描亞馬遜云科技上的資源,包括掃描Lambda的Runtime運(yùn)行時(shí)代碼,發(fā)現(xiàn)脆弱性并以用戶看板的形式呈現(xiàn),讓用戶快速發(fā)現(xiàn)并執(zhí)行加固。
第三個(gè)服務(wù)是Amazon GuardDuty,能夠綜合分析被妥協(xié)或遭攻擊的指標(biāo),分析威脅事件的根本原因,利用生成式人工智能技術(shù)生成簡潔的報(bào)告,讓用戶快速理解整個(gè)事件過程。
討論了如何利用生成式人工智能提升安全性后,李寧先生繼續(xù)探討如何保護(hù)基于生成式人工智能構(gòu)建的應(yīng)用程序安全。由于企業(yè)看好生成式人工智能,肯定會(huì)構(gòu)建符合企業(yè)增長、重塑應(yīng)用程序價(jià)值鏈的相關(guān)應(yīng)用程序,因此如何保護(hù)這些應(yīng)用程序就變得非常重要。
在這方面,亞馬遜云科技最新推出的Amazon Bedrock服務(wù)具有重要作用。Amazon Bedrock提供了簡單易用的API入口點(diǎn),讓開發(fā)者可以快速構(gòu)建基于生成式人工智能的應(yīng)用程序。客戶可以自由選擇來自不同服務(wù)提供商的模型,甚至基于這些基礎(chǔ)模型訓(xùn)練自己的模型或上傳自己的模型使用。
更重要的是,Amazon Bedrock在確保生成式人工智能安全使用方面提供了多重保障:
因此,在整個(gè)過程中,Amazon Bedrock的部署框架和技術(shù)權(quán)限確保了用戶的數(shù)據(jù)和模型不會(huì)被外部或未經(jīng)授權(quán)的對(duì)象訪問。用戶的數(shù)據(jù)始終在自己的賬號(hào)內(nèi),亞馬遜云科技提供了賬號(hào)級(jí)的隔離。
除了Amazon Bedrock本身的安全保障,亞馬遜云科技還為其提供了Gating.AI服務(wù),在用戶輸入和模型輸出之間運(yùn)行,提供四個(gè)關(guān)鍵能力:
最近,Gating.AI服務(wù)還添加了兩項(xiàng)新功能:模型幻覺檢測(cè),能夠根據(jù)模型輸入輸出判斷模型返回的幻覺事實(shí)性和相關(guān)性,提供判斷依據(jù);開放API,允許非Amazon Bedrock用戶調(diào)用Gating.AI的功能,在自己的輸入和模型之間執(zhí)行負(fù)責(zé)任的檢測(cè)和過濾。
總的來說,亞馬遜云科技通過Amazon Bedrock服務(wù)及其數(shù)據(jù)隱私、數(shù)據(jù)安全、密鑰管理、模型隔離等多重技術(shù)措施,為客戶提供了安全使用生成式人工智能的保障。同時(shí),Gating.AI服務(wù)的多種功能有助于負(fù)責(zé)任地使用生成式人工智能。
在演講的最后,李寧先生總結(jié)了保護(hù)數(shù)據(jù)和模型安全的幾點(diǎn)要求:
最后,李寧先生建議客戶利用云安全成熟度模型評(píng)估自身云上負(fù)載的安全狀態(tài),持續(xù)關(guān)注工作負(fù)載的安全狀態(tài),確保至少達(dá)到第三級(jí)或第四級(jí)成熟度。同時(shí),提升團(tuán)隊(duì)對(duì)生成式人工智能安全風(fēng)險(xiǎn)的認(rèn)知,并鼓勵(lì)探索和使用Amazon Bedrock服務(wù)。
總的來說,這場(chǎng)演講深入探討了在構(gòu)建生成式人工智能過程中如何保護(hù)數(shù)據(jù)和模型安全,闡述了亞馬遜云科技在這一領(lǐng)域的解決方案和實(shí)踐經(jīng)驗(yàn),為客戶保護(hù)生成式人工智能應(yīng)用程序的數(shù)據(jù)和模型安全提供了指導(dǎo)和建議。
下面是一些演講現(xiàn)場(chǎng)的精彩瞬間：
演講者在演講中闡述了在構(gòu)建深層次人工智能時(shí)如何確保數(shù)據(jù)和模型的安全性。
生成式AI技術(shù)發(fā)展迅速,模型能力強(qiáng)大,但也引發(fā)了安全顧慮,擔(dān)心AI發(fā)展速度超出技術(shù)理解和風(fēng)險(xiǎn)控制能力。
深度偽造技術(shù)可能導(dǎo)致企業(yè)面臨巨大金融風(fēng)險(xiǎn),必須采取應(yīng)對(duì)措施。
亞馬遜云科技CodeWhisperer是一款代碼助手,可幫助開發(fā)人員編寫業(yè)務(wù)程序,并執(zhí)行代碼安全掃描和生成安全代碼。
在這段演講中,演講者建議用戶利用云的安全成熟度模型評(píng)估云上負(fù)載的安全狀態(tài),持續(xù)關(guān)注工作負(fù)載的安全狀態(tài),并通過深層次AI的場(chǎng)景和風(fēng)險(xiǎn)意識(shí)提升團(tuán)隊(duì)的安全認(rèn)知。
亞馬遜云科技在構(gòu)建生成式AI過程中保護(hù)數(shù)據(jù)與模型安全的主要做法如下:
生成式AI帶來了前景和挑戰(zhàn),亞馬遜云科技提供了300多項(xiàng)安全功能幫助客戶改善云安全狀態(tài),并推薦了云安全成熟度模型來持續(xù)演進(jìn)。針對(duì)生成式AI的安全風(fēng)險(xiǎn),亞馬遜云科技建議提高團(tuán)隊(duì)意識(shí)、實(shí)施多因子認(rèn)證和審計(jì)機(jī)制。亞馬遜云科技利用生成式AI提升安全性,如CodeWhisperer代碼安全掃描、Inspector漏洞管理、GuardDuty威脅分析報(bào)告生成等。
在Amazon Bedrock服務(wù)中,亞馬遜云科技采取多重措施保護(hù)數(shù)據(jù)和模型安全:客戶數(shù)據(jù)不會(huì)用于模型訓(xùn)練,數(shù)據(jù)加密傳輸和存儲(chǔ),精細(xì)訪問控制,密鑰管理服務(wù)加密,模型隔離部署。Amazon Bedrock還提供Gating服務(wù),支持話題拒絕、內(nèi)容過濾、敏感信息過濾、關(guān)鍵詞過濾、幻覺檢測(cè)等,確保負(fù)責(zé)任使用生成式AI。
亞馬遜云科技建議客戶利用云安全成熟度模型評(píng)估工作負(fù)載安全狀態(tài),提升生成式AI安全意識(shí),并探索使用Amazon Bedrock服務(wù)。通過這些措施,亞馬遜云科技致力于在構(gòu)建生成式AI過程中保護(hù)數(shù)據(jù)與模型安全。