安全快速的构建 / 定制 / 部署: 生成式 AI 将赋能每个人

来源 | 《财经》杂志 文 | Swami Sivasubramanian 亚马逊云科技 数据和人工智能副总裁  

2024年12月06日 11:52  

生成式AI应用程序引领商业变革,企业真正能从生成式AI中获益,实现真实的商业价值。

让我们设想这样一个场景:所有员工都能借助生成式 AI 提升工作效率,让每项任务都变得更有创意,不再单调。每个应用程序都能提供更具价值、更个性化、更吸引人的体验。

要让这一未来变成现实,不仅需要一个强大的大语言模型(LLM)或智能助手,还需要有全方位的能力,来构建和扩展定制化的生成式 AI 应用,满足业务的需求——包括内嵌生成式 AI 的应用程序、快速构建生成式 AI 应用程序的工具、高性价比的基础设施,以及严密的安全防护。这正是亚马逊云科技致力于构建全面生成式AI技术栈的初衷。

在这一技术栈的顶端,我们有 Amazon Q,基于生成式 AI 的强大助手。中间层是Amazon Bedrock,它提供了一套工具,使构建、部署和扩展利用大语言模型的生成式 AI 应用更轻松快捷。底层是高弹性、高性价比的基础设施,包括专为生成式AI设计的芯片,以及Amazon SageMaker,用于构建和运行基础模型。所有这些服务不是嵌入了安全组件,而是以安全性为第一要义而设计的。在过去18个月里(截至2024年9月),我们推出的机器学习和生成式AI功能的数量,是其他主要云厂商的两倍还多。这也是数十万客户选择使用亚马逊云科技生成式 AI 服务的一个主要原因。

 

 

生成式AI应用程序引领商业变革

生成式AI使信息更加普惠化,让创新和创造变得触手可及,并且为人们提供了前所未有的生产力提升工具。这正是我们致力于构建面向所有人的生成式 AI 应用的初衷。

Amazon Q(包括Amazon Q Developer和Amazon Q Business),是基于生成式 AI,帮助软件开发和员工利用公司数据做出准确决策的最强大助手。Amazon Q不仅能生成业内最精准的代码建议,还能自动执行升级Java应用程序。开发者可以在Amazon Management Console以及 IntelliJ IDEA、Visual Studio、VS Code和 Amazon SageMaker Studio等主流的集成开发环境中使用Amazon Q。你可以使用内部代码库定制 Amazon Q,从而获得更有用的代码建议,大幅节省时间。

例如,澳大利亚国民银行使用的Amazon Q代码建议接受率从50%提升到了60%,Amazon Prime的开发者代码接受率也提高了30%。Amazon Q 还能帮助员工充分利用公司文档、系统和应用程序中的海量数据,通过自然语言问答,总结并生成BI报告,甚至生成关键的应用程序。我们为见证到的生产力提升感到兴奋,数据表明,Amazon Q可以帮助员工将工作效率提高80%以上。

Amazon Q的 Amazon Q Apps 功能可以让每位员工都能轻松创建自己的生成式 AI 应用程序,实现任务自动化。借助 Amazon Q Apps,员工可以用对话,在几秒钟内将公司数据和流程,转变为基于生成式 AI 的应用程序。只需在提示中描述所需应用程序的功能,Amazon Q便能迅速生成相应的应用,然后这个应用还能分享给更多的同事一起使用。

除了让任何员工都能轻松实现个人任务自动化的Amazon Q Apps 外,我们还推出了Amazon App Studio,可以让IT项目经理、数据工程师和企业架构师等专业开发者,使用自然语言在整个组织内创建、部署和管理企业级应用程序。使用App Studio,只需用自然语言描述所需的应用程序、想要实现的功能和要集成的数据源,App Studio便能在几分钟内构建出一个类似的应用程序,而传统上专业开发者从头开始构建可能需要几天时间。

 

Amazon Bedrock 助力生成式AI应用开发

Amazon Bedrock,是构建和扩展安全生成式 AI 应用程序的最快捷、最简单的方式,提供了最广泛的领先大语言模型和基础大模型选择。已有数万客户在使用Amazon Bedrock,它已成为亚马逊云科技过去十年中增长最快的服务之一。例如,法拉利正在利用Amazon Bedrock快速为客户、经销商和内部团队引入新的生成式AI体验,帮助经销商更快地运行、创建知识库,增强赛车迷的体验,并从法拉利提供的数百万款选择中,为客户提供高度个性化的推荐,而整个过程仅需几秒钟。

我们致力于创造更先进、更个性化的客户体验。Amazon Bedrock的AI Agent功能,让应用程序能够利用公司系统和数据源执行复杂的多步骤任务,大幅提升了生成式AI应用程序的实用性。Amazon Bedrock的AI Agent已经有了突破性的功能升级。过去,AI Agent仅能根据单次会话的信息进行操作,但现在它能够跨多次交互并保持记忆,记住上次的操作状态,并根据之前的互动提供更加精准的建议。例如,在机票预订中,开发人员可以创建一个AI Agent,不仅能记住旅客上次旅行的日期,还能记住饮食偏好,比如旅客选择了素食餐。AI Agent现在还能理解和解释代码,处理包括数据分析、数据可视化、文本处理、解方程和优化问题在内的复杂数据驱动型任务。比如,用户可以请求AI Agent分析不同邮政编码区域的历史房地产价格,帮助他们发现投资机会。

使用Amazon Bedrock的安全防护机制,可以有效地降低生成式 AI 带来的风险。客户普遍担心大语言模型可能会通过混淆信息片段、提供不准确信息或编造信息,导致所谓的“幻觉”现象。这种错误响应可能会误导员工和客户,损害品牌形象,从而限制了生成式AI在企业级的应用。为了应对这一挑战,我们已经在Amazon Bedrock的防护机制中引入了上下文理解检查功能。这项功用于检测在使用RAG和总结归纳时模型中的杜撰内容。上下文理解检查是Amazon Bedrock防护措施中的一项业界领先的安全保护措施,它确保大语言模型的响应基于正确的企业源数据,并评估模型的响应是否与用户的指令相关。在处理RAG时,上下文理解检查能够检测并过滤掉超过75%的“幻觉”问题。

自 2024 年初以来,Amazon Bedrock上推出的新功能和能力超越了其他云厂商的类似服务,有效助力客户将生成式AI应用程序从概念验证阶段快速推进到生产阶段。这包括可以选择Anthropic、Mistral 等行业领导者的新一代尖端模型,以及最新引入的Anthropic Claude 3.5 Sonnet——这是迄今为止技术最先进的模型,并通过Amazon Bedrock向广大客户开放。自发布以来,已有数千名客户体验了Anthropic 的Claude 3.5模型的强大功能。

 

亚马逊云科技为客户提供的工具,让所有员工都能掌握生成式AI,提供了更多创建个性化生成式AI应用的方式,并积极解决“AI幻觉“的问题,让企业真正能从生成式AI中获益,实现真实的商业价值。

 

注:本文来自Swami Sivasubramanian在亚马逊云科技官网的博客。

 

更多相关评论