亚马逊(NASDAQ:AMZN)的AWS部门正在为其Bedrock GenAI完全托管服务揭晓一系列新功能和改进,所有这些都旨在简化为GenAI应用程序选择和部署正确工具的过程。
具体来说,
亚马逊正在增加将定制基础模型导入到服务中的功能,然后允许公司在这些定制模型中利用Bedrock的功能。
例如,使用自己的数据(可能使用亚马逊自己的SageMaker模型开发工具)训练Llama或Mistral等开源模型的公司现在可以将该定制模型与Bedrock中现有的标准化模型集成。
因此,组织可以使用单个API来构建应用程序,以利用其定制模型以及现有的Bedrock模型选项,包括AI21 Labs、Anthropic、Cohere、Meta和Stability AI的最新版本,以及亚马逊自己的Titan模型。
事实上,亚马逊还推出了Titan Text Embeddings模型的第二版,该模型专门针对RAG(检索增强生成)应用程序进行了优化。该公司还宣布全面推出Titan Image Generator模型。
说到RAG,将自定义模型导入Bedrock的其他好处之一是能够利用该服务的集成RAG功能。这使得公司能够利用这种日益流行的新技术,继续利用新数据微调其定制模型。
由于它是无服务器的,Bedrock还包含用于跨AWS实例无缝扩展模型性能的内置功能,使公司能够根据情况需要更轻松地管理其实时需求。
此外,对于寻求构建能够执行多步骤任务的人工智能驱动的代理的组织来说,Bedrock还提供了一些工具,允许开发人员创建代理,并让企业在创建代理时利用他们的定制模型。
代理是目前GenAI中最热门的讨论话题之一,因此这些类型的功能必然会引起那些想要保持领先地位的组织的兴趣。
除了Bedrock的这些现有功能之外,亚马逊还宣布了另外两个功能,这两个功能都可以扩展到现有的Bedrock模型和自定义导入模型。
亚马逊Bedrock的新Guardrails添加了一组额外的过滤功能,以防止创建和发布不当和有害内容以及个人身份和/或敏感信息。
正如亚马逊指出的那样,几乎所有模型都已经包含了某种程度的内容过滤,但新的Guardrails提供了额外的可定制预防层,以帮助公司进一步保护自己免受此类问题的影响,并确保生成的内容符合客户的指导方针。
此外,Bedrock中的亚马逊模型评估工具现已全面推出。该工具可帮助组织为他们想要实现的特定任务或他们想要编写的应用程序找到最佳的基础模型。
评估者比较不同模型响应的准确性和鲁棒性等标准特征。它还允许定制几个关键标准。例如,公司可以将自己的数据或一组自定义提示上传到评估器,然后生成一份报告,根据其定制需求比较不同模型的表现。