從去年的銀色亮片夾克，到今年的彩色背帶褲，亞馬遜云科技安全副總裁Hart Rossman的穿搭，在人群中依舊搶眼。

作為亞馬遜云科技的第一位安全顧問，Hart Rossman已在公司工作了13年。今年，他特意以這身造型亮相re:Inforce，是因為要做一場關(guān)于如何在亞馬遜云科技上構(gòu)建生成式AI安全基礎(chǔ)的分享。

這既是他的個人風格，也為生成式AI安全增加了“可見度”。

Hart Rossman強調(diào)，面對生成式AI，企業(yè)需要一套“深度防御”策略：先做策略、流程、意識培訓和教育，然后才是技術(shù)層面的起點，身份與訪問控制。

此外，亞馬遜云科技也是首個通過FedRAMP High和美國國防部IL-4/5認證的云服務商，適用于Anthropic和Meta基礎(chǔ)模型。“我們正在追求最高等級的安全保障來服務客戶。”Hart Rossman認為。這并不是終點，亞馬遜云科技始終從客戶需求出發(fā)，持續(xù)學習、不斷挑戰(zhàn)自我，力求把安全性做到更好。

亞馬遜云科技安全副總裁Hart Rossman

生成式AI讓安全范式發(fā)生轉(zhuǎn)移

一年前，大家在面對生成式AI時，提出的問題不是擔憂，更多是出于不了解。因為當你沒有用過一種新技術(shù)是，自然不知道會遇到什么。

Hart Rossman看到生成式AI有兩個特別值得注意的現(xiàn)象，這有助于企業(yè)理解AI安全的核心基礎(chǔ)。

第一個現(xiàn)象是，關(guān)于大語言模型，如今的授權(quán)模型早已不再是針對單個數(shù)據(jù)元素，不像過去那樣在數(shù)據(jù)庫中設置行級或單元格級別的權(quán)限。在大語言模型里，所有信息從技術(shù)上講對用戶都是可訪問的。那么問題變成，我們該如何為整個模型本身建立訪問控制和授權(quán)機制，而不是針對模型內(nèi)部每條數(shù)據(jù)逐個控制。

亞馬遜云科技也在探索如何構(gòu)建與大語言模型交互的分布式系統(tǒng)，比如RAG框架、API接口、接入外部數(shù)據(jù)集。但需要注意的是，更多大語言模型的訓練是預先完成的，意味著它的訪問模型是固化的。

Hart Rossman解釋稱，這有點像編譯型代碼和解釋型代碼的區(qū)別：我們習慣在解釋型環(huán)境里實現(xiàn)授權(quán)邏輯，隨時查看和調(diào)整執(zhí)行過程；現(xiàn)在一旦模型訓練完成，就像代碼已經(jīng)編譯好，內(nèi)部細節(jié)便無法再查看或修改。

因此，真正要做的是對“模型本身”進行訪問控制和授權(quán)，而不是對其底層訓練數(shù)據(jù)進行授權(quán)。

第二個現(xiàn)象是，我們正在邁向AI智能體階段，企業(yè)已經(jīng)開始把AI智能體當作“虛擬同事”來看待。

許多組織將AI智能體視作更復雜分布式系統(tǒng)中的一部分，因此問題變成：如何合理賦予AI智能體權(quán)限，確保它在安全可控的前提下完成任務。就像任何深度防御策略一樣，一切都要從身份開始，然后是架構(gòu)、數(shù)據(jù)、運維、響應。

用生成式AI改寫安全運營三大環(huán)節(jié)

將安全融入開發(fā)、升級流程的能力，正在變得越來越重要，亞馬遜云科技的安全團隊正在三個方面融入生成式AI。

第一是代碼輔助，比如，使用Amazon CodeGuru或其他編碼助手，開發(fā)者可以在編碼階段自動執(zhí)行安全檢查，實現(xiàn)“安全左移”，也就是在軟件開發(fā)生命周期的早期，就把潛在的安全隱患消除。同時，客戶可以通過Amazon Q for Business對舊有Java代碼進行升級改造，并在這個過程中自動完成安全加固和依賴項更新。

第二是漏洞評估和滲透測試，很多客戶和合作伙伴已經(jīng)能夠?qū)崿F(xiàn)這類工作的自動化。如果再結(jié)合傳統(tǒng)的模糊測試（fuzz testing），就能從整體安全測試策略中獲得更高質(zhì)量的檢測結(jié)果。

第三是，事件響應，事件響應的本質(zhì)是調(diào)查，涉及數(shù)據(jù)分析、解讀和推理。不僅亞馬遜云科技客戶安全事件響應團隊（CIRT）在使用生成式AI輔助調(diào)查，很多合作伙伴和客戶也開始將生成式AI工具與人類分析師協(xié)作，提升事件響應的效率與判斷質(zhì)量。

Hart Rossman最近最常用的服務就是全新的Amazon Security Hub，其在原有基礎(chǔ)上進行了全面升級，變得更加直觀、易用，帶來了既強大又簡潔的安全運營體驗。他用了新版本一段時間后，現(xiàn)在甚至有些記不清舊版是什么樣子了。

他非常喜歡Amazon Security Hub的一點是，關(guān)鍵信息能在關(guān)鍵時刻出現(xiàn)在你面前。他談到，Amazon Security Hub可以更好地進行漏洞優(yōu)先級管理，也能直觀展現(xiàn)來自Amazon GuardDuty檢測的攻擊路徑。

Hart Rossman的團隊負責運營的Amazon Security Response Service，與Amazon GuardDuty 和Amazon Security Hub是深度集成的。這次新功能升級，讓團隊在處理客戶實時安全事件時，響應速度和處置效率都得到進一步提升。