AMD Silo AI 扩展 Poro 2 模型，提升上下文和数学能力

AMD Silo AI 推出了其 Poro 2 大语言模型 (LLM) 系列中的两个新的开源模型，旨在推动多语言 AI 和数字主权的边界。这些发布包括 Poro 2 8B Long，其上下文窗口显著扩展为 131,072 个标记，相较于原来的 8,192 个标记提升了 16 倍；以及 Poro 2 8B Math Reasoning，这是一个专注于数学推理的变体，专为芬兰语和英语的数学推理设计。这两个模型及相关的训练资源现已在 Hugging Face 上提供，进一步提高了开发者和研究人员的可访问性。

Poro 系列由 TurkuNLP 合作开发，并在 LUMI 超级计算机上训练，已成为调整基础 LLM 以适应较小的、未被充分代表的语言的典范。基于 Meta 的 Llama 3.1 架构的原始 Poro 2 模型，专注于优化芬兰语性能，同时保留强大的多语言能力。这些新模型继续基于 2024 年推出的 Poro 34B 首次采用的方法，该方法证明了多语言预训练在语言和编程任务中的价值。

通过扩展的上下文窗口突破障碍

Poro 2 8B Long 的突出特点是其能够在单次交互中处理多达 131,072 个标记，这是原始 8,192 标记限制的 16 倍扩展。这种扩展的上下文窗口显著提高了其在检索增强生成 (RAG) 工作流中的实用性，使其能够将更广泛的数据集或更长的文档纳入其响应中。对于依赖于大量文本分析的行业，如法律、学术或企业搜索应用，这一升级可能显著改善效率和准确性。

多语言数学推理：芬兰语的首次突破

Poro 2 8B Math Reasoning 模型是另一个重要发展，专为解决芬兰语和英语的数学问题而定制。虽然仍处于预览阶段，尚未达到生产就绪状态，但它填补了多语言推理模型的一个重要空白。目前的市场解决方案大多将推理迹限于英语或中文，这使非英语使用者在审查或验证 AI 输出时处于不利地位。芬兰语使用者现在可以用母语分析推理过程，这是迈向更具包容性的 AI 解决方案的一步。

开源访问与社区影响

这两个模型均以开源许可证发布，并附有详细介绍其在 AMD Instinct GPU 上开发过程的操作手册和训练数据集。通过提供这些资源，AMD Silo AI 继续专注于民主化先进 AI 工具的访问，符合 OpenEuroLLM 联盟的目标。该泛欧洲倡议旨在通过促进多语言、开源权重 AI 模型的创新来加强地区的数字主权。尤其是 Poro 2 8B Long 的发布，是为欧洲语言量身定制 AI 系统的持续努力中一个有意义的贡献。

未来值得关注的内容

AMD Silo AI 暗示将在今年晚些时候推出的 Poro 3 中实现进一步的进步，预计将包括扩展的推理能力和针对代理工作流的新功能。目前，研究人员和开发者可以在 Hugging Face 上探索 Poro 2 8B Long 和 Poro 2 8B Math Reasoning 模型，或参考 AMD ROCm 博客 提供的训练操作手册。这些最新发布强调了 AMD 在推进多语言 AI 领域的承诺，并为未来更自主和动态的 AI 系统奠定了基础。