【又有新嘢啦】AWS 推出生成式AI新工具

當地時間週四(4月13日)，亞馬遜雲服務部門(AWS)宣佈，推出Bedrock生成式人工智能服務，以及自有的大型語言模型泰坦(Titan)。
據亞馬遜介紹，推出 的Amazon Bedrock 和 Amazon Titan 模型，是使用 FM 構建和擴展生成式 AI 應用程序的最簡單方法。

對於推出的Amazon Bedrock，亞馬遜表示這是一項新服務，可以通過 API 訪問來自 AI21 Labs、Anthropic、Stability AI 和 Amazon 的 FM 。

Bedrock 將提供訪問一系列強大的文本和圖像 FM 的能力——包括亞馬遜的 Titan FM，它由兩個新的 LLM 組成— 通過可擴展、可靠且安全的 AWS 託管服務。

藉助 Bedrock 的無服務器體驗，客户可以輕鬆地找到適合他們要完成的工作的正確模型、快速入門、使用他們自己的數據私下定製 FM，並使用他們使用的 AWS 工具和功能輕鬆地將它們集成並部署到他們的應用程序中熟悉（包括與 Amazon SageMaker ML 功能集成，例如用於測試不同模型的實驗和用於大規模管理其 FM 的管道），而無需管理任何基礎設施。
亞馬遜表示，Bedrock 客户可以從當今可用的一些最前沿的 FM 中進行選擇。這包括來自 AI21 Labs 的 Jurassic-2 系列多語言 LLM，它們遵循自然語言指令生成西班牙語、法語、德語、葡萄牙語、意大利語和荷蘭語的文本。克勞德是 Anthropic 的法學碩士，可以執行各種對話和文本處理任務，並且基於 Anthropic 對培訓誠實和負責任的人工智能系統的廣泛研究。Bedrock 還可以輕鬆訪問 Stability AI 的文本到圖像基礎模型套件，包括 Stable Diffusion（同類產品中最受歡迎的），它能夠生成獨特、逼真、高質量的圖像、藝術、徽標和設計。

Bedrock 最重要的功能之一是定製模型非常容易。客户只需將 Bedrock 指向 Amazon S3 中的幾個標記示例，該服務就可以針對特定任務微調模型，而無需註釋大量數據（少至 20 個示例就足夠了）。
另外，據亞馬遜介紹，公司一直在與一些客户一起預覽亞馬遜的新 Titan FM，然後在未來幾個月內更廣泛地提供它們。最初會有兩個 Titan 模型。第一個是生成式 LLM，用於諸如摘要、文本生成（例如，創建博客文章）、分類、開放式問答和信息提取等任務。第二種是嵌入 LLM，它將文本輸入（單詞、短語或可能的大文本單元）翻譯成包含文本語義的數字表示（稱為嵌入）。

雖然此 LLM 不會生成文本，但它對於個性化和搜索等應用程序很有用，因為通過比較嵌入，模型將產生比單詞匹配更相關和上下文相關的響應。事實上，亞馬遜。com 的產品搜索功能使用類似的嵌入模型來幫助客户找到他們正在尋找的產品。為了繼續支持負責任地使用 AI 的最佳實踐，Titan FM 旨在檢測和刪除數據中的有害內容，拒絕用户輸入中的不當內容，並過濾包含不當內容（例如仇恨言論、褻瀆和暴力）。
此外，亞馬遜還宣佈全面推出由 AWS Trainium 提供支持的 Amazon EC2 Trn1n 實例和由 AWS Inferentia2 提供支持的 Amazon EC2 Inf2 實例，這是用於生成 AI 的最具成本效益的雲基礎設施。

在過去的五年中，AWS 一直在投資自己的芯片，以推動 ML 訓練和推理等要求苛刻的工作負載的性能和性價比，而AWS Trainium 和 AWS Inferentia 芯片為訓練模型和運行推理提供了最低的成本在雲端。

由 Trainium 提供支持的 Trn1 實例可以比任何其他 EC2 實例節省高達 50% 的培訓成本，並且經過優化以在與 800 Gbps 第二代 Elastic Fabric Adapter (EFA) 網絡連接的多台服務器之間分發培訓。

AWS Inferentia2 提供支持的Inf2則是專門針對模型包含數千億個參數的大規模生成 AI 應用程序進行了優化。與上一代基於 Inferentia 的實例相比，Inf2 實例的吞吐量提高了 4 倍，延遲降低了 10 倍。它們還具有加速器之間的超高速連接，以支持大規模分佈式推理。
最後，亞馬遜還宣佈 Amazon CodeWhisperer 全面上市，對個人開發者免費。