联想发布端侧AI新技术,宣布PC本地推理媲美OpenAI-mini

来自: 新浪网 收藏 邀请

仟茂科技讯 5月7日上午消息,在今日举行的2025联想创新科技大会(Tech World)上,联想首次定义“超级智能体”三大核心功能――感知与交互、认知与决策、自主与演进,并正式发布“联想天禧”个人超级智能体、“联想乐享”企业超级智能体。

会上,联想展示了其在端侧算力方面的最新创新成果 ―― “联想推理加速引擎”。这款由联想、清华大学及无问芯穹联合研发的推理引擎,是专为高效AI PC推理而设计的软硬件协同优化平台,可以让一台普通PC的本地推理能力,媲美OpenAI去年发布的o1-mini云端模型。

“联想推理加速引擎”通过高性能并行解码、算子融合优化以及异构计算技术, 实现了多种应用场景下推理速度的大幅提升,以及功耗和内存占用的显著降低。与大模型推理芯片相结合,通过硬件加速与软件优化的无缝协作,进一步放大了性能提升,形成了叠加效应。

为直观展示 “联想推理加速引擎”的实力,现场设置了一场“竞速赛”。三台配置相同的AI PC同时解答2024年高考数学压轴题:其中,初代大模型耗时27秒,答案0分;二代大模型耗时26秒,答案满分;二代大模型+“联想推理加速引擎”耗时13秒,答案满分。

这表明模型能力的提升和 “联想推理加速引擎”对算力的提升,让设备的预填充更为迅速、解码速度更快、推理时间更短,同时占用内存更少,能耗更低,设备上的 AI 能力得到了大幅提升。

过去一年,AI 领域创新不断。尤其是DeepSeek 的出现将算法创新与工程优化深度融合,推动了 AI 算力和模型技术的普及,更进一步加速了强推理模型端侧化的发展。

联想集团董事长兼CEO杨元庆表示,很快大家就会在即将发布的下一代 AI PC 上体验到 “联想推理加速引擎”带来的强大本地推理能力,其性能可以与云端大模型相媲美,但成本却低得多。“今天随着AI需求的爆发式增长,端侧计算和推理能力的提升将依然保持指数级增长的速度,甚至更快。未来12个月,端侧AI综合能力实现至少三倍的提升,这也许不是梦想! ”

责任编辑:杨赐

(责任编辑:张晓波 )

【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。邮箱:news_center@staff.hexun.com


鲜花

握手

雷人

路过

鸡蛋
相关推荐
热门排行

在线客服(服务时间 9:00~18:00)

在线QQ客服
公司地址:贵州省贵阳市观山湖区长岭街道长岭路与观山路西北角中天会展城TA-1、TA-2栋(2)16层14号
电子邮箱:599599113@qq.com
客服电话:13765656037

Powered by 贵州阡乐科技有限公司 © 2025 qianlew.com Inc.( 黔ICP备2025043673号-1 )