联想在最近的消费电子展上发布了三款全新的AI推理服务器型号，随着企业在未来几年内从AI训练转向AI推理，这将给快速发展的企业AI领域带来重大变化。
这是两位 IT 分析师的观点，他们与 ChannelE2E 讨论了该行业将如何继续发展，从训练 AI 模型到使用这些模型来推断数据，从而生成现实世界中有用的结果。
联想全新推理服务器包括：联想ThinkSystem SR675i，专为运行完整的大型语言模型 (LLM) 而设计，可处理最大的工作负载，并可在制造业、关键医疗保健和金融服务环境中加速仿真；联想ThinkSystem SR650i，具有加速的 AI 推理能力、高密度 GPU 计算能力、广泛的可扩展性，并且易于在现有数据中心部署；以及联想ThinkEdge SE455，这是一款紧凑而坚固的机器，专为零售、电信和工业环境而设计，可将 AI 推理功能带到任何数据所在之处。
J. Gold Associates, LLC 的总裁兼首席分析师Jack E. Gold告诉ChannelE2E，这些新服务器将允许企业和渠道合作伙伴在传统数据中心部署它们，在那里他们可以直接开展工作，而无需依赖超大规模数据中心和超级云的大规模模型。
“虽然大型人工智能数据中心系统可能占据了媒体的大量版面，但我们估计，未来两到三年内，超过85%的人工智能工作负载将基于推理而非训练，而训练才是目前的主要用途，”戈尔德说道。“英伟达的大型GPU数据中心系统并不适合将人工智能普及大众，因为人工智能需要在边缘计算等更本地化的环境中运行，并靠近最终用户场景。”
他表示，联想和其他厂商（包括戴尔和HPE）提供的更经济实惠的AI推理服务器“对于许多希望运行使用自定义数据训练的专用AI模型的组织来说至关重要”。他还说：“企业也希望从现有供应商处购买系统，因此传统服务器供应商与客户之间已经建立了稳固的关系，可以利用这种关系。”
此外，Gold 还表示，“这些小规模系统的回报可能比从超大规模数据中心‘租用’计算资源要高得多，特别是对于边缘计算系统而言。”
另一位分析师， Techaisle创始人兼首席全球分析师Anurag Agrawal表示，新的AI推理服务器“非常实用，因为它们解决了许多企业目前面临的云成本压力。随着企业将AI从实验性试点项目推进到全天候生产环境，它们会遇到一个成本拐点，云推理的持续性支出将变得难以承受。”
但通过购买自己的推理服务器并将其部署在自己的数据中心，企业可以将稳定的工作负载转移到本地，“这为持续性任务提供了一种比租用云容量更经济的选择，”Agrawal 表示。“此外，由于像 SR650i 这样的型号采用标准企业级外形尺寸，MSP 可以将其部署到现有数据中心，而无需客户对其设施进行改造，这使其成为立即控制成本的实用解决方案。”
与此同时，他表示，这些功能强大的新型服务器还将使企业“从构建人工智能模型转向利用这些模型创造商业价值”。“在零售和酒店行业，企业将使用像SE455这样的边缘设备在本地运行视觉人工智能，从而实现实时防损和无缝结账系统，数据在源头即时处理，无需传输到云端。这消除了延迟和带宽成本，同时提高了响应速度。”
阿格拉瓦尔表示，联想的新型 AI 推理服务器将为渠道合作伙伴带来其他重大变化。
他表示：“关键在于合作伙伴的转变，特别是他们必须进行垂直领域专业化，否则就有被淘汰的风险。销售通用人工智能能力只会陷入恶性竞争；MSP（托管服务提供商）的真正机会在于，在联想硬件的基础上构建垂直领域特定的应用场景，销售诸如区域银行欺诈检测之类的解决方案，而不仅仅是服务器。”
Agrawal 表示，新推理服务器的另一个重大变化是采用了液冷技术，他称这是合作伙伴需要了解的一个主要区别因素。
“随着下一代人工智能机架的密度接近兆瓦级，传统的风冷方式正逐渐被淘汰，”他说道。“联想的Neptune液冷技术使合作伙伴能够在客户老旧的风冷机房中部署高密度人工智能基础设施，而无需承担泄漏风险或进行昂贵的改造。结合联想TruScale基础设施即服务等按需付费模式，合作伙伴能够提供灵活的财务模式，同时兼具本地部署硬件的性能和安全优势。”
据该公司称，新的推理服务器旨在帮助企业从训练好的 LLM 过渡到现实世界的自主应用程序，同时连接云、数据中心和边缘环境中的数据，使 AI 能够在能够带来最大业务影响的任何地方运行。
联想此次发布的AI推理服务器消息，是基于其与NVIDIA合作推出的AI云超级工厂（AI Cloud Gigafactory）项目。该项目是一个千兆瓦级AI工厂计划，旨在加速企业AI从开发到生产的整个流程。联想的企业级AI硬件是其“联想混合AI工厂”（Lenovo Hybrid AI Factory）的基础，这是一个经过验证的模块化框架，可用于构建和使用涵盖广泛任务的AI应用程序。
新的 AI 推理服务器可选择多种操作系统环境，包括 Lenovo Hybrid AI Inferencing with Nutanix AI、Red Hat AI 或 Canonical Ubuntu Pro。
四川旭辉星创有限公司_四川省政采一体化框架协议入围、央采、成都市政采企业，信创产品方案解决商
欢迎访问网站：成都联想服务器总代理商 https://www.lxzdl.com/
欢迎访问网站：浪潮服务器代理商 https://www.lczdl.com/
欢迎访问网站：四川惠普服务器授权代理商 https://www.cditdl.cn/
欢迎访问网站：四川戴尔服务器金牌代理商 https://cditdl.com/
服务热线：13438344046 李丹（微信同号）
请用微信扫描二维码
