生成式AI工具迎來(lái)王炸升級，就在亞馬遜云科技re:Invent全球大會(huì )

　　去年此時(shí)，ChatGPT橫空出世席卷全球，許多人稱(chēng)其意味著(zhù)AI的iPhone時(shí)刻到來(lái)。CSDN創(chuàng )始人蔣濤對此曾預測：「下一步就是應用時(shí)刻，新應用時(shí)代將來(lái)臨……大模型將推動(dòng)更多的AI應用程序員誕生」。

　　在2023亞馬遜云科技re:Invent全球大會(huì )第三天的Keynote，亞馬遜云科技數據和人工智能副總裁Swami Sivasubramanian博士關(guān)于亞馬遜云科技生成式AI的最新能力、面向生成式AI時(shí)代的數據戰略以及借助生成式AI應用提高生產(chǎn)效率的演講中，可以真真切切地感受到亞馬遜云科技將生成式AI應用開(kāi)發(fā)門(mén)檻打下來(lái)，生成式AI新應用的到來(lái)。

　　Swami博士在開(kāi)場(chǎng)中這樣說(shuō)道：“今天，人類(lèi)和技術(shù)之間正展現出前所未有的緊密關(guān)系，生成式AI正以許多意想不到的方式提升人類(lèi)的生產(chǎn)力。這種關(guān)系讓人類(lèi)與人工智能共同形成新的創(chuàng )新充滿(mǎn)了無(wú)限可能性。”

　　基于此，Swami博士帶來(lái)了亞馬遜云科技一系列的產(chǎn)品，其關(guān)鍵作用在于：幫助所有開(kāi)發(fā)及企業(yè)快速、安全、規?；貥嫿ㄉ墒綉?。并且，Swami博士認為，數據是構建差異化生成式AI應用的核心優(yōu)勢，亞馬遜云科技在生成式AI能力的基礎上，從數據維度為所有企業(yè)保駕護航。

　　針對Swami博士的精彩演講，亞馬遜云科技人工智能產(chǎn)品市場(chǎng)經(jīng)理宋洪濤、亞馬遜云科技數據分析與人工智能產(chǎn)品總監Troy Cui、亞馬遜云科技數據產(chǎn)品技術(shù)總監王曉野，以及CSDN人工智能技術(shù)主編袁滾滾聯(lián)袂，在re:Invent全球大會(huì )現場(chǎng)展開(kāi)了深入的解讀與探討，助力所有開(kāi)發(fā)者及企業(yè)盡情擁抱生成式AI時(shí)代。

亞馬遜云科技在生成式AI領(lǐng)域的布局

　　宋洪濤：今天Swami博士從非常獨特的視角介紹了如何借助數據來(lái)構建自己的生成式AI應用，以及有了生成式AI應用之后，如何更好地改變我們的生活方式，提升自己的工作效率。在昨天的大會(huì )上，亞馬遜云科技首席執行官Adam Selipsky也重磅分享了亞馬遜云科技生成式AI技術(shù)棧的三層架構，這三層技術(shù)架構具體是什么樣的?以及Amazon Bedrock升級帶來(lái)了哪些亮點(diǎn)?

　　王曉野：亞馬遜云科技投身生成式AI領(lǐng)域，其實(shí)與我們之前在云計算和其他領(lǐng)域的做法一脈相承。我們的目標是將一項極其復雜的技術(shù)變得更易用，降低使用門(mén)檻，使得任何人都能夠輕松應用。

　　因此，基于這一大前提，我們提出了三層架構的理念。這樣的分層結構有助于更清晰地組織技術(shù)，實(shí)現端到端地幫客戶(hù)思考問(wèn)題。

　　最底層是基礎架構。一方面，它離不開(kāi)基礎模型的構建。這一維度模型的典型特點(diǎn)是參數規模比較大，從訓練到推理、性能、一個(gè)模型可能要幾個(gè)月的時(shí)間才能完成，成本在百萬(wàn)美金級別。亞馬遜云科技希望在基礎模型的訓練和推理階段，提供最好的基礎模型的基礎設施。比如Amazon SageMaker作為模型訓練的核心產(chǎn)品，我們也把它劃到基礎設施這一層去幫助客戶(hù)，把整個(gè)模型無(wú)論是訓練還是推理的性能都做到極致。

　　另一方面，芯片也提供了強有力的支持。在這次大會(huì )上，我們與英偉達深度合作。實(shí)際上，業(yè)內最領(lǐng)先的GPU在亞馬遜云科技可以使用。同時(shí)亞馬遜云科技對于自研芯片Trainium和Inferentia，都更新到了第二代的水平。

　　中間層是存儲，這一層可以讓客戶(hù)能更好地利用模型能力。此次，Amazon Bedrock進(jìn)行了全新的升級，用戶(hù)可以基于此平臺挑選到最好的模型，以及獲得最簡(jiǎn)單的使用方式。我們會(huì )根據用戶(hù)的實(shí)際場(chǎng)景，例如Amazon CoderWhisperer代碼生成助理，不斷擴展平臺的功能，以滿(mǎn)足更多需求。

　　最上層是應用層，Adam在本屆大會(huì )上發(fā)布了最重磅的產(chǎn)品Amazon Q，就是希望通過(guò)生成式AI助理為用戶(hù)解惑，讓了解業(yè)務(wù)的專(zhuān)家一直在線(xiàn)。應用層還涵蓋開(kāi)箱即用的生成式AI應用，為生成式AI用戶(hù)和缺乏開(kāi)發(fā)技能的業(yè)務(wù)人員提供便捷使用服務(wù)的途徑，以加速工作效率。

　　Troy Cui：基于A(yíng)mazon BedRock來(lái)看，它存在的意義在于亞馬遜云科技幫助我們篩選市場(chǎng)上最優(yōu)秀的模型，將這些模型提供給我們，使得我們自己無(wú)需再進(jìn)行繁瑣的連接步驟?，F在，只需通過(guò)一個(gè)API即可直接訪(fǎng)問(wèn)這些模型。

　　這一次，Amazon BedRock最直接的改進(jìn)之一是對這些模型進(jìn)行了大量更新，比如增加了對Claude 2.1和Llama 2 70b的支持。其中，Claude 2.1模型在處理復雜的總結和推理方面非常強大，支持200k上下文token，而我們還進(jìn)一步加強了對整個(gè)穩定性方面的支持，提供了強大的擴展性。

　　宋洪濤：亞馬遜云科技最近發(fā)布了一款最新產(chǎn)品，名為Amazon Titan Multimodal Embeddings。多模態(tài)實(shí)際上代表了在生成式AI模型領(lǐng)域一個(gè)非常重要的趨勢。對于我們的客戶(hù)和基礎模型而言，Multimodal Embeddings到底意味著(zhù)什么呢?在技術(shù)領(lǐng)域，Embedding是一個(gè)經(jīng)常被提及的術(shù)語(yǔ)，那么它究竟是用來(lái)做什么的呢?

　　王曉野：簡(jiǎn)單理解，可以將Embedding視為數字化。在聊天語(yǔ)言類(lèi)模型火爆時(shí)，大家紛紛使用像向量數據庫這樣的工具，它將信息數字化，因為只有數字化后，我們更容易通過(guò)數學(xué)方法計算其相似性。因此，核心問(wèn)題是將諸如"Embedding"這樣的概念轉化為數字，以便更輕松地尋找相似性。

　　這一次我們發(fā)布的是一個(gè)被稱(chēng)為“多模態(tài)”的概念，可能聽(tīng)起來(lái)有些抽象。它包括了圖片、聲音、視頻等多種形式，而不僅僅是文本。在這其中最有用的場(chǎng)景之一是電商網(wǎng)站上的以圖搜圖。當我們看到一件喜歡的產(chǎn)品，比如手機殼，想要找到在哪個(gè)電商網(wǎng)站上購買(mǎi)時(shí)，我們可以拍照然后搜索。這時(shí)，我們就依賴(lài)中間層將這個(gè)圖片轉化為數字，這將提升搜索的準確性。

　　在數學(xué)層面，尋找相似性并不是特別困難的任務(wù)，因此關(guān)鍵在于模型能否在這個(gè)過(guò)程中有效地將兩個(gè)圖片或類(lèi)似的元素的相似感覺(jué)轉化為數字。在這一步驟中，模型的性能至關(guān)重要，因為它需要綜合多個(gè)維度，如顏色、場(chǎng)景等，從而使兩者在數字化轉換后更加相似。

　　我們此次發(fā)布的模型更加注重在這一層面的表現，此外還包括了將圖片和文字描述放一起考慮，能夠更全面地呈現物品的特點(diǎn)。

加快生成式AI腳步的同時(shí)，如何保護隱私和保證安全？

　　宋洪濤：我關(guān)注到Swami博士宣布了幾款大語(yǔ)言模型的更新，其中一個(gè)是Amazon Titan Image Generator文生圖模型，Swami博士提到要做負責任的AI，比如通過(guò)不可見(jiàn)的水印方式，來(lái)更好的保護大模型生成的圖片的版權。我知道在文書(shū)處理領(lǐng)域，版權問(wèn)題或者是隱私問(wèn)題實(shí)際上是很多客戶(hù)的一個(gè)非常大的痛點(diǎn)。

　　袁滾滾：我的工作是屬于內容創(chuàng )作，經(jīng)常使用大模型生成文字和圖片。OpenAI發(fā)布過(guò)Copywriter Shield Support版權盾支持計劃，面向API開(kāi)發(fā)者和企業(yè)客戶(hù)，如果因為生成結果遭遇版權上的法律糾紛，OpenAI會(huì )給他們兜底。但相信未來(lái)大模型會(huì )應用到各個(gè)領(lǐng)域和場(chǎng)景，這類(lèi)承諾的時(shí)效性是不確定的。因此，像圖片水印技術(shù)，底層是較為成熟的數字水印技術(shù)，可以在多方面保護大模型生成內容的安全。

　　當你發(fā)現網(wǎng)上有違規的內容，懷疑是大模型生成的，可以通過(guò)圖片水印去追責到它是哪個(gè)大模型生成的。還有一種是我通過(guò)咱們的大模型去生成附帶數字水印的圖片，可以保護作者版權。

　　王曉野：首先，Swami博士提到了目前關(guān)于圖片水印技術(shù)的三個(gè)挑戰：

　　第一，水印必須是不可見(jiàn)的，否則會(huì )直接影響圖片。

　　第二，圖片加水印意味著(zhù)在推理過(guò)程中要額外消耗一些性能，但又不能因此延遲變慢，這些問(wèn)題都需要解決。

　　第三，大部分人生成圖片后都會(huì )再編輯，無(wú)法確保圖片在編輯之后水印是否還在。

　　通過(guò)Swami博士的解釋?zhuān)覀兛梢园l(fā)現一些以為很成熟的技術(shù)實(shí)際上并不容易也確實(shí)很重要，需要特殊處理和對待。同時(shí)，也能看出image generator模型與其他開(kāi)源模型的區別在哪。如果企業(yè)真要用起來(lái)，這種模型可能值得第一個(gè)去嘗試。

百花齊放的大模型，究竟該怎么選？

　　宋洪濤：在面對如此多的基礎模型時(shí)，客戶(hù)究竟應該如何選擇最適合其業(yè)務(wù)場(chǎng)景的模型呢?亞馬遜云科技是否已有相關(guān)產(chǎn)品或工具來(lái)協(xié)助客戶(hù)做出更明智的選擇?

　　TroyCui：在生產(chǎn)環(huán)境中選擇大模型需要考慮多個(gè)因素。

　　首先，模型的準確度在問(wèn)題回答中尤為重要。

　　其次，在生產(chǎn)環(huán)境中，你必須關(guān)注延時(shí)情況。

　　最后，如果你的產(chǎn)品將被大量用戶(hù)使用，也需要考慮在大規模運作下的成本。

　　作為一個(gè)面向生產(chǎn)和企業(yè)客戶(hù)的模型大型生態(tài)平臺，亞馬遜云科技發(fā)布了Model evaluation and selection，旨在幫助企業(yè)客戶(hù)在生產(chǎn)環(huán)境中做出最佳選擇。這個(gè)工具為你提供了在選擇最適合的模型時(shí)進(jìn)行比較的選項。整個(gè)比較過(guò)程將綜合考慮這三個(gè)關(guān)鍵因素，幫助你在準確性、延時(shí)和成本之間取得平衡。這個(gè)工具以一種輕松而便捷的方式，為企業(yè)提供了價(jià)值和持續交付的途徑。

　　袁滾滾：在模型選擇上，我們剛剛提到了Amazon BedRock現在支持Claude 2.1以及Llama 2 70b。在此之前，大家總覺(jué)得GPT是一個(gè)斷層式領(lǐng)先的大模型，只要選擇GPT就對了。

　　但其實(shí)隨著(zhù)時(shí)間的推移，其他的一些模型都有很大的提升，與GPT差距逐漸縮小。比如說(shuō)Claude 2.1對長(cháng)文本的支持，以及它對文件上傳的支持，其實(shí)都可以幫助用戶(hù)找到適合的場(chǎng)景。Llama2是開(kāi)源的基礎大模型，具有非常完備的生態(tài)，有很多開(kāi)源的工具和組件也可以提升模型效果，所以其實(shí)并不是只有GPT一個(gè)選擇。

　　宋洪濤：在過(guò)去半年的時(shí)間里，我們可以看到一個(gè)叫RAG(Retrieval Augmented Generation)的技術(shù)成為了企業(yè)用戶(hù)構建生成式AI應用時(shí)的主流選擇。Troy Cui老師能否以一種深入淺出的方式向大家介紹一下RAG的具體原理?

　　Troy Cui：大語(yǔ)言模型的基本能力是理解和表達，即完全理解你所說(shuō)的事情、了解你的意圖等，RAG則是在此基礎上賦予大模型記憶的能力。當大模型遇到一些問(wèn)答或搜索場(chǎng)景的時(shí)候，先會(huì )理解對方的意思，再到記憶里去檢索，最后輸出結果。所以簡(jiǎn)單來(lái)說(shuō)，RAG其實(shí)是把向量數據庫和大語(yǔ)言模型以這種方式進(jìn)行結合來(lái)賦能的。

　　在使用RAG的過(guò)程中，實(shí)際上會(huì )涉及到許多組件。首先要用到Embedding模型，將已有的內容知識，包括文本、圖片等多模態(tài)內容變成向量，然后把這些向量化的數據存儲到向量數據庫中。當真正面對業(yè)務(wù)流程時(shí)，你還需要處理許多方面，比如性能優(yōu)化、各種調整工作等，最后還要將其構建成一個(gè)完整的package，以便對外輸出。

　　因此，RAG的概念聽(tīng)起來(lái)雖然很簡(jiǎn)單，但要將其工程化以形成一個(gè)能夠對外賦能的業(yè)務(wù)，實(shí)際上還需要進(jìn)行大量的工程化工作。

　　宋洪濤：今天Swami博士宣布接入了一項名為Knowledge Bases for Amazon Bedrock的服務(wù)，這項服務(wù)是否能幫助客戶(hù)或應用開(kāi)發(fā)者在一定程度上解決您上面提到的挑戰或困難?

　　Troy Cui：今年，亞馬遜云科技進(jìn)行了非常多的發(fā)布，很多都致力于協(xié)助企業(yè)客戶(hù)融入具體服務(wù)場(chǎng)景。例如在某個(gè)具體場(chǎng)景中，我們會(huì )提供一個(gè)相對實(shí)用的開(kāi)箱即用工具，讓客戶(hù)可以直接在這個(gè)場(chǎng)景中賦能和上線(xiàn)——而Knowledge Bases for Amazon Bedrock提供的就是這么一個(gè)能力。

　　剛才我們提到，整個(gè)知識庫處于檢索的場(chǎng)景里，客戶(hù)可能把數據放在了Amazon S3，可以通過(guò)Amazon Bedrock將它直接轉成向量，并勾選一些Embedding的向量數據庫，包括Open Search、Pinecone、Redis，之后還會(huì )有Aurora、MongoDB等更多新的數據庫。然后通過(guò)向量數據存儲，將其送給模型以形成一個(gè)反饋。

　　因此Knowledge Bases for Amazon Bedrock就相當于已經(jīng)把整個(gè)端到端的工作都package好了，企業(yè)可以直接拿出來(lái)進(jìn)行業(yè)務(wù)賦能。

以低代碼、無(wú)代碼的方式，更快捷構建生成式AI應用

　　宋洪濤：我今天看到Swami博士提到了一個(gè)叫“Agents for Amazon Bedrock”的工具，想請曉野老師給大家簡(jiǎn)單的剖析一下Agents for Amazon Bedrock，它將如何幫助開(kāi)發(fā)者用低代碼甚至無(wú)代碼的方式去構建生成式AI應用?

　　王曉野：Agents for Amazon Bedrock的實(shí)現邏輯是能先幫你做任務(wù)規劃，Swami博士每次都會(huì )用買(mǎi)鞋換顏色來(lái)舉例?？蛻?hù)買(mǎi)鞋要求換顏色的場(chǎng)景下，需要做任務(wù)規劃：第一步模型會(huì )幫你核實(shí)購買(mǎi)記錄，再對照換購政策，判斷是否能換鞋退貨，然后執行退貨任務(wù)，接著(zhù)進(jìn)入物流任務(wù)，下一步和客戶(hù)做差價(jià)結算。

　　每一步背后都需要一個(gè)微服務(wù)，而要跑這種單一功能的函數，最適合的就是在Lambda這種無(wú)服務(wù)器計算服務(wù)上。Agents for Amazon Bedrock的作用就是把這些工作流程串起來(lái)，自動(dòng)幫你做任務(wù)編排：只要你告訴它這個(gè)函數是干什么的，它基本就能把這件事情推理明白并推進(jìn)執行。

　　宋洪濤：如何打通生成式AI應用從POC(Proof of Concept)到落地的“最后三公里”，是目前很多企業(yè)頭疼的問(wèn)題?；诖?，Swami博士分享了一個(gè)針對Anthropic Claude的客戶(hù)定制模型項目(Custom model program)，曉野老師能否介紹一下?

　　王曉野：首先，我們爭取降低客戶(hù)開(kāi)發(fā)門(mén)檻，例如通過(guò)產(chǎn)品讓模型更容易訪(fǎng)問(wèn)，通過(guò)安全Agent幫助完成任務(wù)，使構建生成式AI應用更容易?？蛻?hù)評估這個(gè)產(chǎn)品是否有效，取決于最終的業(yè)務(wù)產(chǎn)出，但這需要一個(gè)不斷變化的迭代過(guò)程。

　　為此，我們推出了這個(gè)全球化項目，并形成了Generative AI Innovation Center這個(gè)組織部門(mén)。本質(zhì)上來(lái)說(shuō)，這個(gè)項目是提供人力支持，即一組專(zhuān)家去幫你調教模型，包括改prompt、做RAG等復雜的工程化工作，來(lái)幫你用好Anthropic Claude，并針對企業(yè)業(yè)務(wù)做定制化模型。在中國，這個(gè)專(zhuān)家團隊叫做Innovation Lab。

為算法工程師降低運維門(mén)檻

　　宋洪濤：對于大多數的模型提供商而言，Amazon SageMaker HyperPod是一款很受歡迎的產(chǎn)品，在訓練、部署、推理優(yōu)化方面，它能有效提高開(kāi)發(fā)效率并降低復雜度。那么對于今天發(fā)布的Amazon SageMaker HyperPod，各位有什么理解和看法?

　　袁滾滾：在Swami博士分享的時(shí)候已經(jīng)提到Amazon SageMaker HyperPod非常適用于基礎大模型，在訓練階段減輕運維負擔。

　　基礎大模型訓練的時(shí)間周期可能要十天半個(gè)月甚至更長(cháng)，算力成本也更高，有非常多復雜的運維問(wèn)題，算法工程師不一定能解決。比如說(shuō)我們的一臺服務(wù)器Crash之后，怎么樣去定位問(wèn)題，需要很強的工程經(jīng)驗和能力?？焖俣ㄎ皇菙祿?wèn)題，算法問(wèn)題，還是集群?jiǎn)?wèn)題，再去解決問(wèn)題。

　　Amazon SageMaker HyperPod就是提供了非常自動(dòng)化運維的訓練集群，可以快速定位到故障節點(diǎn)，然后自動(dòng)化替換，再重啟上一個(gè)Checkpoint的訓練任務(wù)。我相信Amazon SageMaker HyperPod能夠可以解放很多算法工程師，在模型訓練階段的運維壓力。

　　Amazon Sagemaker HyperPod預裝了Amazon SageMaker的訓練庫。所以只需選擇自己需要的訓練環(huán)境，自定義訓練庫和調優(yōu)工具，然后就新建實(shí)例，就直接開(kāi)始訓練任務(wù)。

　　王曉野：這點(diǎn)確實(shí)非常重要?，F在市場(chǎng)上AI人才本就較為短缺，很多都去訓練模型了，對于如何運維、檢測機器故障、如何排查問(wèn)題等工作很難負擔，很多時(shí)候會(huì )忘記做Checkpoint，重啟就回到了兩三天前，很耽誤開(kāi)發(fā)進(jìn)度。Amazon SageMaker HyperPod的出現，能讓數據科學(xué)家從底層的運維問(wèn)題解放出來(lái)，更專(zhuān)注于模型的超參數調整等工作。

　　宋洪濤：從全面的產(chǎn)品角度出發(fā)，向量數據庫是一個(gè)十分重要的組成部分。請Troy分享一下，亞馬遜云科技在數據庫產(chǎn)品這一側是怎樣去支持向量能力的?

　　Troy Cui：我認為向量是將整個(gè)客戶(hù)數據進(jìn)行向量化，以在未來(lái)為業(yè)務(wù)提供更好的服務(wù)能力，這是當前的一個(gè)大趨勢。在實(shí)際中，有不少客戶(hù)會(huì )好奇：為什么亞馬遜云科技不做一個(gè)名字就叫向量數據庫產(chǎn)品，而是發(fā)布如此多的向量功能呢?對此，亞馬遜云科技希望在每一個(gè)數據基礎上，客戶(hù)都能擁有選擇權，讓客戶(hù)將數據存放在最適合存儲的環(huán)境中，并賦予環(huán)境向量化能力。這樣，當真正需要向量支撐的業(yè)務(wù)時(shí)，他們不需要將數據從已存儲的數據挪到向量數據庫里?；谶@樣一個(gè)大的思路，我們希望給客戶(hù)一個(gè)說(shuō)明，無(wú)論數據存儲在哪里，你都隨時(shí)擁有使用向量化的能力。此次大會(huì )上，我們又發(fā)布了一些具備向量存儲環(huán)境的數據庫能力。目前，亞馬遜云有7個(gè)具備向量存儲環(huán)境能力的數據庫產(chǎn)品，讓客戶(hù)有許多選擇。

生成式AI正在徹底改變開(kāi)發(fā)者的工作方式

　　宋洪濤：之前亞馬遜云科技推出了一款名為Amazon CodeWhisperer的產(chǎn)品，旨在從代碼開(kāi)發(fā)的角度助力開(kāi)發(fā)者提高編寫(xiě)代碼的效率?，F在引入了Amazon Q，與Amazon CodeWhisperer相結合，是否能夠進(jìn)一步提升開(kāi)發(fā)者在代碼開(kāi)發(fā)方面的體驗和效率呢?

　　袁滾滾：CSDN在前一陣子在社區進(jìn)行了調研，數千開(kāi)發(fā)者填寫(xiě)了問(wèn)卷，提交他們代碼生成工具的使用習慣。結果有近90%的開(kāi)發(fā)者都已經(jīng)試用過(guò)了各類(lèi)代碼生成工具，接近40%的開(kāi)發(fā)者現在每天都在使用。我們也對大家的工具選型做了調查，Amazon CodeWhisperer也是遙遙領(lǐng)先的。

　　代碼生成的應用場(chǎng)景，或者說(shuō)開(kāi)發(fā)者使用代碼生成工具生成什么內容呢?常見(jiàn)用途有單元測試、代碼注釋、學(xué)習新語(yǔ)言或者編寫(xiě)跨技術(shù)棧產(chǎn)品。

　　還有一類(lèi)情況，比如某個(gè)編程語(yǔ)言的發(fā)生了變化，尤其是新版本發(fā)生了大改變時(shí)，我們需要通過(guò)代碼生成工具來(lái)了解這些變化。

　　所以開(kāi)發(fā)者是使用場(chǎng)景很復雜，使用環(huán)境也很復雜，有些在是通過(guò)IDE里的插件使用代碼生成工具，有的是在對話(huà)式窗口使用，還有的通過(guò)本地部署使用。Amazon Q能夠針對不同的用戶(hù)需求，更加細粒度的解決這個(gè)問(wèn)題。

　　王曉野：在代碼應用場(chǎng)景中，我們并沒(méi)有分得那么細，統一將其歸納為代碼生成，但實(shí)際上這一領(lǐng)域涵蓋了許多不同的功能。這一次，Amazon Q并非提供所有可能的代碼生成功能，它的核心是在你原有的一部分代碼基礎上，利用大型模型理解你的原始代碼的功能，并在此基礎上生成新的功能，對某些代碼段進(jìn)行增強。

　　我們希望在這個(gè)特定的領(lǐng)域提供一種新的能力。此外，代碼的翻譯和轉換也是我們關(guān)注的重點(diǎn)。當然，未來(lái)會(huì )有更多的應用場(chǎng)景，但目前我們建議大家首先關(guān)注這兩個(gè)核心能力，以便更好地理解其基本原理。

　　Amazon Q以企業(yè)級AI助理為Slogan，為業(yè)務(wù)領(lǐng)域工作人員提供一個(gè)智能化助手。用戶(hù)可以直接連接到自己業(yè)務(wù)的數據庫，例如里面包含員工工資的數據庫，然后與助手進(jìn)行對話(huà)。在設計時(shí)，Amazon對數據保護和權限便在考慮。一開(kāi)始，當你進(jìn)行連接時(shí)，它會(huì )與你的企業(yè)的單點(diǎn)登錄(SSO)進(jìn)行集成，通過(guò)SSO中設置的角色權限了解你能訪(fǎng)問(wèn)什么。舉例說(shuō)明，當一個(gè)普通員工而不是經(jīng)理詢(xún)問(wèn)整個(gè)團隊其他成員的工資時(shí)，它將限制這個(gè)權限，不會(huì )回答這樣的問(wèn)題。因此，它充分考慮了企業(yè)的相關(guān)因素。

　　未來(lái)Amazon Q會(huì )針對更多的場(chǎng)景進(jìn)行開(kāi)發(fā)。目前，我們推出了一個(gè)可能會(huì )受到一些客戶(hù)歡迎的平臺——Center，它涵蓋了我們的呼叫中心。同時(shí)，在業(yè)務(wù)智能(BI)領(lǐng)域，我們也引入了助手。

　　宋洪濤：幫助開(kāi)發(fā)者借助于生成式AI的應用來(lái)提升個(gè)人的效率，以及持續推動(dòng)生成式AI的普惠化，是亞馬遜云科技一直以來(lái)的愿景?；诖?，除了上面產(chǎn)品之外，Swami博士在演講中還帶來(lái)一款與Amazon Bedrock名字相似的產(chǎn)品——PartyRock。那么，這款產(chǎn)品到底有什么作用?

　　王曉野：PartyRock的底層是基于A(yíng)mazon Bedrock研發(fā)的。簡(jiǎn)單來(lái)看，它相當于是一個(gè)“游樂(lè )場(chǎng)”，讓開(kāi)發(fā)者感受到生成式AI+Agent的能力所散發(fā)的巨大潛力，以及讓眾多開(kāi)發(fā)者發(fā)揮想象，去創(chuàng )新創(chuàng )造。

　　Troy Cui：我認為可以將其視為一個(gè)體驗區，甚至不需要亞馬遜云科技的賬號，可以在PartyRock上嘗試網(wǎng)絡(luò )體驗。

　　袁滾滾：我強烈推薦嘗試一下PartyRock，它實(shí)際上是基于A(yíng)mazon BedRock打造的一站式AI應用生成工具。你甚至無(wú)需注冊亞馬遜云科技的賬戶(hù)，就能夠免費使用亞馬遜云科技的云資源，輕松生成令人驚嘆的Web和App應用，并可以與他人分享。更有趣的是，它在線(xiàn)上已經(jīng)提供了一些示范應用，有些甚至功能異常強大，底層采用了Claude2的先進(jìn)模型技術(shù)，讓人感到非常驚喜。

對開(kāi)發(fā)者的建議

　　宋洪濤：最后請各位用一句話(huà)總結一下觀(guān)看Swami博士演講的感受，以及對當代開(kāi)發(fā)者的建議。

　　袁滾滾：我寫(xiě)了一句話(huà)：云服務(wù)霸主，深度擁抱AI、企業(yè)與開(kāi)發(fā)者，共享技術(shù)紅利。這實(shí)際上也是對我們開(kāi)發(fā)者的號召，希望大家都能抓住這波人工智能技術(shù)、大模型技術(shù)的機會(huì )，在亞馬遜云科技堅實(shí)的云服務(wù)基礎上，開(kāi)發(fā)更多新的創(chuàng )新應用。

　　王曉野：我想基于A(yíng)mazon Q產(chǎn)品的定位與大家分享我們想要實(shí)現的目標，以及產(chǎn)品迭代時(shí)優(yōu)先考慮的一些關(guān)鍵維度和因素，一切的基礎其實(shí)就是企業(yè)需求。

　　重視企業(yè)需求，即企業(yè)的數據是否有被認真對待、數據隱私的保護以及是否能夠通過(guò)個(gè)性化數據定制來(lái)打破商業(yè)壁壘。在滿(mǎn)足企業(yè)需求的前提下，我們需要負責任地確保產(chǎn)品能夠為企業(yè)提供實(shí)質(zhì)幫助。

　　Troy Cui：從數據層面來(lái)看，亞馬遜云科技將進(jìn)一步解決隱私與安全問(wèn)題，讓客戶(hù)完全不用擔心這部分，而是將更多精力放在數據價(jià)值的挖掘上，而非關(guān)注那些耗費時(shí)間卻重復的工作。

　　宋洪濤：感謝三位老師的精彩總結。我們非常幸運地處在生成式AI爆發(fā)的時(shí)代，期待后續的生成式AI能為我們的工作和生活帶來(lái)更多便利。