AWS推出五項生成式AI創新,使各種規模的企業都可以建立新的生成式AI應用程式,提高員工生產力並完成業務轉型。
!此為分頁標誌前台不顯示!
Amazon Titan基礎模型是由AWS在大型資料集上建立和預訓練的一系列模型,可以支援各種應用場景。作為這些模型中第一個正式可用的模型,Amazon Titan Embeddings是一種大語言模型(LLM),它將文本轉換成嵌入(embeddings)的數值表示,以支持檢索增強生成(RAG)的應用場景。基礎模型雖然適用於多種任務,但卻只能根據從訓練資料和提示詞上下文中學到的資訊來回答問題。一旦這些回答需要利用高時效性的知識或專門資料時,其有效性就會受限。
為了能透過擴展資料來改進基礎模型的回答,許多企業將目光轉向RAG,這一種模型客製技術能將基礎模型連接到可被引用的知識庫,進而改進回應效果。要開始使用RAG,客戶必須先使用一個嵌入模型,將資料轉換成嵌入數值,使基礎模型更容易理解資料之間的語義和關係。然而,建立嵌入模型需要大量的資料和資源,以及深厚的機器學習專業知識,因此很多客戶很難完成自行建立,也就無法實現RAG。
Amazon Titan Embeddings使客戶能夠更簡單地啟用RAG,以便利用專門資料擴展各種基礎模型。Amazon Titan Embeddings支援超過25種語言和多達8192個token的上下文長度,適合基於客戶應用場景去處理單詞、短語或整個文檔。該模型可產生1536個維度的輸出向量,確保高度準確性的同時,還實現更低延遲和優化性價比。
Amazon Bedrock是透過託管API提供Meta下一代大語言模型Llama 2的完全託管生成式AI服務。Llama 2模型與前一代的Llama模型相比有顯著進步,包括使用了比原始訓練多40%的訓練資料,並具有更長的上下文長度(4000個token),以處理更龐大的文檔。Amazon Bedrock提供的Llama 2模型已經過優化,可以在AWS基礎設施上提供快速的回應,極為適合對話式應用場景。客戶可以建立具130億和700億個參數的Llama 2模型驅動的生成式AI應用程式,且無需設置和管理任何基礎設施。