Amazon Bedrock 中的 Writer Palmyra

借助 Writer 可靠的企业级 Palmyra LLM 实现快速构建

介绍 Writer 的 Palmyra 基础模型

使用 Palmyra X 混合模型,在先进的推理能力与企业级可靠性之间取得平衡。在复杂的代理工作流程中实现卓越的性能。

Palmyra X5

Palmyra X5 是 Writer 最先进的模型,专为在企业范围内构建和扩展人工智能座席而打造。它由一种新颖的 Transformer 架构和混合注意力机制提供支持,在包含高达 100 万个令牌的上下文窗口上实现了行业领先的速度和效率。这使其能够在处理大量企业数据和工具调用时加快推理速度并扩展内存,这对于扩展人工智能座席至关重要。凭借基于上下文动态调整策略的自适应推理能力,Palmyra X5 还支持代码生成、结构化输出以及 30 多种语言。

Palmyra X4

Palmyra X4 在斯坦福大学的 HELM 评估中名列前茅,在处理复杂任务和代理式工作流程方面性能出色。它结合了包含 12.8 万个令牌的上下文窗口以及一系列功能,包括先进的推理能力、工具调用、LLM 委托、内置 RAG、代码生成、结构化输出、多模态和多语言支持。通过使用特定于企业的工具扩展模型的行动能力,Palmyra X4 使开发人员能够构建应用程序和代理,以更新系统、执行交易、发送电子邮件、触发工作流程等等。

优势

Palmyra X5 和 X4 分别可处理 100 万和 12.8 万个令牌。这种扩展的窗口能够处理大量文档、进行复杂的多步骤推理以及实现复杂的基于代理的工作流程。X5 中包含 100 万个令牌的上下文窗口有效消除了传统的上下文限制,可以进行更深入的分析并更全面地完成任务。

Palmyra X5 和 X4 是兼具先进的推理能力和可靠性的混合模型。这些模型擅长解决复杂问题、进行多步骤逻辑推理和复杂的决策过程。这些模型能够理解细微的上下文,适应不同的业务场景,并在各种使用案例中保持一致、准确的输出。

这些模型支持先进的工具调用功能,能够实现复杂的多步骤工作流程和代理式操作。这些模型可以与企业系统进行交互,以执行更新系统、执行交易、发送电子邮件和触发工作流程等任务。此功能可用于创建复杂的自动化流程和智能代理,从而处理复杂的业务操作。

Palmyra 模型在斯坦福大学的 HELM 等领先基准测试中名列前茅,展现了其在现实业务应用程序中的强大性能。它们能够在维持企业使用所需的严格质量标准的同时提供一致、准确的结果。这些模型基于商业内容进行训练,确保输出符合专业标准和业务要求。

使用案例

Palmyra 模型为投资银行以及资产与财富管理领域的各种解决方案提供支持,包括交易支持、10-Q/10-A 报告和收益记录要点分析、基金与市场调研,以及大规模的个性化客户拓展。

支付方和服务提供方使用帕尔米拉模型来构建用于客户获取与入职、申诉与投诉处理、病例与医疗资源使用管理、雇主 RFP 回复等方面的解决方案。制药公司使用 Palmyra 模型来构建用于商业医疗事务、研发、临床试验等方面的解决方案。

零售商使用 Palmyra 模型进行网页创建与变体设计、性能分析、SEO 更新、品牌与合规性审查、营销活动工作流程自动化、RFP 分析与回复等。

Palmyra 模型支持涵盖市场推广策略、客户支持和运营职能的人工智能解决方案,包括个性化和基于账户的营销、内容创作、营销活动工作流程自动化、账户准备与调研、知识支持、工作简报和候选人报告、EFP 回复等。

模型版本

Palmyra X5

Palmyra X5 是 Writer 最先进的模型,具有 100 万个令牌上下文窗口,以业界领先的速度和效率实现复杂的工作流程和深度分析。

最大令牌数:100 万

语言:英语、西班牙语、法语、德语、中文等

支持微调:

支持的用例:复杂的应用程序和代理开发、代码生成和部署、深度研究和长上下文分析

阅读博客

Palmyra X4

Palmyra X4 是一款针对企业工作流程进行了优化的高性能模型,具有高级推理和 128K 上下文窗口。

最大令牌数:12.8 万

语言:英语、西班牙语、法语、德语、中文等

支持微调:否

支持的用例:多步骤任务和工作流程、聊天、文本生成以及从非结构化数据中提取知识

阅读博客