舞动奇迹

WAIC 上的推理芯片：爱芯元智的元曦系列_我的网站

一 |     08月26日讯 米切尔此前参加节目，谈到了自己的一日三餐。

二 | “我一天要喝7-8瓶的BODYARMOR运动水（一种高碱性电解质运动专用水），我不爱喝咖啡，所以我开始喝姜茶。    芝能智芯出品                    今年 WAIC 走到第八届，展馆里最热闹的场景悄悄换了主角。从前人群聚在某个大模型的炫技 demo 前，今年更多人主要来看机器人，当然大家也看看推理芯片。                   大模型火了三年，算力长期被云数据中心攥在手里，今年一个明显的变化是，大家开始把推理往终端和边缘搬，本、延迟、合规三座山，逼着芯片公司重新排兵布阵，这恰恰是元曦出场的大背景。                   爱芯元智带来了"元曦"，面向大算力的 AI 推理系列公开亮相。

三 | ”“早餐我会吃2个煎饼，4到5个鸡蛋，有时候会吃普通培根或者火鸡培根。

四 |                    过去几年，这家公司给人的印象更多停留在端侧视觉：物联感知摄像头里那颗能夜视、能识别的芯片。训练后我会补充氨基酸，加一些健康的水果酸奶果昔。                             Part 1           发布了什么：     元曦和边缘推理                    元曦系列里最打眼的是 A 系列 AI 推理卡。

五 | 官方给出的是超 1000 TOPS 的推理算力，配上超大显存和超高显存带宽。

六 |                    光看数字没感觉，把它放进爱芯自己的产品梯队里就好懂了：                    ◎ 底下是已经规模落地的 M.2 算力卡，巴掌大小，塞进工业设备就行；                    ◎ 中间是标准化核心模组，给整机厂做二次开发；                    ◎ 顶端就是这次新揭的 A 系列，专门啃高并发、高负载的硬骨头，比如机房集群、多路视频分析、私有化知识库。”“午餐我会吃烤鸡肉配意面或瘦肉、西兰花，尽可能吃得健康。                   三层一拼，爱芯想覆盖的是从几十 TOPS 到上千 TOPS 的整条边缘推理光谱。晚餐是鸭肉配虾仁，大米或意面，我真的很喜欢我的厨师做的鸭肉，还得加点红薯，不要加太多，这也是我的最爱之一，所以我不能让自己吃得太疯狂。”“我一直在努力控糖，我超级爱吃小熊软糖，哈瑞宝（软糖品牌）是我最喜欢的之一。我需要努力想办法尽可能地限制自己吃它，这是个挑战，但也是我专注于做的事情。”米切尔说道。

七 |                    这种分层打法很务实：小场景用轻量卡低成本解决，大客户用千 TOPS 级算力在本地闭环跑核心业务，同一套软件栈往下能缩、往上能扩。                   这个系列要解决的是大模型普及后被绑在云端的三处难受：Token 越用越贵，峰值算力顶不住并发，敏感数据出不了企业内网，让许多企业卡在"云上试点很香、规模铺开很疼"的阶段。

八 |                    爱芯把这句话的份量放在"从云端试点迈向边缘规模化落地"上，从前大家先在云上试试水，现在想把推理真正搬回自己的地盘常驻。                   对中小微企业，一张轻量卡就能完成日常智能化；对政企和工业大客户，千 TOPS 级算力让核心数据就近运算，合规和成本一起兜住。

九 |                              爱芯做混合精度 NPU 已有多年积累，从 第一代芯片就把自研 NPU 和 AI-ISP 一起推进商用，如今这套积累被搬到了大算力卡上。                   它押注的"爱芯通元"能在 INT4、INT8、FP16 等不同精度之间灵活调度，访存效率更高，模型兼容更全。                   这句话展开说就是：同一个网络里，有的层用低精度省算力，有的层留高精度保精度，芯片自己排布，既不浪费也不丢准头。                   对边缘大算力卡来说，显存和带宽才是命门：大模型权重动辄几个 GB，推理时还要留出放中间结果的缓存，显存不够就装不下，带宽不够就喂不饱算力，千 TOPS 标称只能干瞪眼。                   元曦给的超大显存和超高带宽，作用就是把长文本推理、高清图像解析这类"吃 Token"的活，从云端拽回本地做。                   这也是爱芯反复提的"重构边缘 Token 经济"，把推理留在企业自己的机房，云端开销和传输成本从源头压下来，数据还不用出门。                             ◎ 具身智能一块叫具身大脑控制器，1500 TOPS 算力，带宽约为行业旗舰的两倍，过了 AEC-Q100 车规级功能安全，还能自己写算子、原生跑世界模型和 VLA。                   ◎ 另一块是专用视觉感知芯片 AX8910，已经在多家双目相机里规模化落地，专门对付透明物体、纯白墙面、高反光这些传统视觉方案的软肋。                   这两块合起来，把爱芯的老本行，自研 NPU 加爱芯智眸 AI-ISP，从物联感知摄像头延展到了机器人身上。                   双目深度算法和 AX8910 的算力深度协同，让机器人能稳稳识别那些"看不清"的东西，正是具身智能规模化之前必须补的感知课。                   从夜视摄像头到机器人眼睛，这条路爱芯走了好几年，技术积累前后一脉相承，并没有凭空冒出来的新故事。                   Part 2           峰值标称和真实落地之间     还隔着几道坎                    爱芯这条路线很连贯，从端侧视觉芯片起家，把自研 NPU 和 AI-ISP 两块硬骨头啃下来，如今顺着边缘推理的热潮把算力往上推，顺手切进具身智能。两条自研引擎，是它和纯拼算力的玩家拉开距离的底气。                   边缘大算力这张牌，桌上早坐满了人。                   ◎ 华为昇腾在边缘盒领域市占约 23.5%，                    ◎ 寒武纪约 14.8%，                    ◎ 英伟达 Jetson 虽在国内份额下滑到 11% 出头，生态依旧扎实。                   把爱芯放进这个牌桌看，它的位置更偏"边缘视觉推理"这一格，和主攻车载的地平线、主攻云边统一架构的寒武纪、全栈覆盖的昇腾都不完全重合。                   1000+ TOPS 是峰值标称，落到真实业务里，能效比、软件栈成熟度、模型适配的顺滑程度，才是客户最后掏钱的理由。                   2025 年国产 AI 芯片出货已占国内四成，去英伟达化的势头明显，可生态从"能用"到"好用"还要熬，算子库、框架适配、工具链这些软功夫，比一颗芯片更难速成。

十 |                    发布会到规模化商用之间，还隔着客户认证、可靠性验证和量产爬坡几道硬坎，工业与车载客户的认证周期往往要 12 到 24 个月，一旦导入订单能续好几年，反过来说，进不去也就久久进不去。                   对爱芯而言，元曦的显存带宽和自研 NPU 是加分项，可要把这套硬件变成客户手里"插上就能跑"的方案，软件与生态的功课才刚开篇。爱芯把元曦亮出来，是这场芯片聚会里一个清晰的信号：边缘推理的仗，已经从"有没有"打到了"好不好用"。                   顺着这条线看，端侧算力卡今年需求暴涨并非偶然，工业质检、车载域控、智慧物联感知都在把模型往本地搬，单条产线就要几张到几十张卡，国产替代率已摸到四成。                   谁能在能效、价格和软件体验上先立住，谁就拿到下一段增长的门票。这股势能背后，是"物理 AI"从概念走向产线的真实节奏，算力要落到设备、机器人和产线这些实体上，才算真正兑现价值，而边缘推理卡正是那块最基础的垫脚石。

十一 |                     小结                    WAIC 的芯片聚会一年比一年热闹，爱芯元智这次把元曦掀开一角，亮出的是一条从摄像头走到机房、再伸向机器人的算力路线。

Current article:http://lyco.diuhuairandaikaomangshangnen.buzz/622cnf/q8vv4h.html

Published on:00:00:00