TechTrends360 科技前沿

聚焦全球科技前沿资讯:AI、芯片、互联网大厂动态,每日更新

芯片半导体

爱芯元智发布AX8860:256TOPS边端AI芯片

10月13日,爱芯元智(Axera)在2026中国国际工业博览会(CIIF 2026)上正式发布AX8860大算力边端AI芯片系列,同步推出元曦模组A256S,并展示了元曦系列推理卡与推理服务器。这是该公司迄今算力最高的边端芯片产品,定位为专为大模型在边缘和端侧落地打造的”算力底座”。

核心规格:256 TOPS + 128GB 内存

按官方公布数据,AX8860采用6nm工艺,集成16核Arm Cortex-A55 CPU与自研NPU,提供256 TOPS混合精度算力,原生支持FP4且不依赖稀疏性。存储方面,单芯片最高配备128GB LPDDR5X,256-bit位宽下内存带宽达273 GB/s。互联侧支持AXLink级联技术与PCIe 5.0,并提供256 Gbps网络接口。视频处理能力面向工业场景,支持64路视频解码与16路编码,覆盖多路视觉输入的实时处理需求。

从模组到服务器:完整产品矩阵

AX8860覆盖多种产品形态:额定功耗40W的专用模块;采用Gen5x4连接器的单槽PCIe卡;单槽四芯方案;以及基于该芯片规划的Mini PC与口袋PC。元曦模组A256S把芯片与内存做成标准模块,客户在其上开发底板即可推出整机。推理卡与推理服务器则覆盖单芯、双芯到四芯配置,多芯级联下双芯可达512 TOPS、四芯宣称1024 TOPS,扩展效率约80%。

软件生态:开箱即用的推理工具链

AX8860支持vLLM、SGLang、PyTorch等主流推理框架,提供ONNX、Hugging Face模型格式的开箱即用支持,并兼容OpenAI API服务接口,配套覆盖量化、转换、编译、Profiling及调试的完整工具链,可运行LLM、VLM与Omni等多类模型。工博会现场,合作伙伴原力灵机用自研DM0.5通用具身大脑,完成了接口插拔质检、通用工业插入与灵巧手柔性切削三项任务的现场演示。

背景分析:边端AI为何需要”大算力”

过去几年,边端AI芯片多以几十TOPS的轻量算力为主,跑的是目标检测、分类等小模型。而大模型向边缘落地带来了完全不同的需求:现场要跑多模态模型,输入变长、并发任务变多会推高内存占用,128GB容量决定了模型完整部署后还能剩下多少运行余量;大模型逐token生成时,内存带宽不足会让算力闲置,273 GB/s正是这方面的下限约束;FP4精度压缩能减少内存占用与数据搬运,但用在缺陷识别、装配质检这类工业任务上,还需要先确认压缩之后精度仍然够用。

爱芯元智把这次发布定义为”边端AI从技术验证阶段,跨入以业务价值为导向的端到端生产力落地新周期”,应用指向智能制造、仓储物流与机器人——这些场景需要把多路视觉输入与模型推理放到接近设备的位置,现场实时响应取决于整条感知、推理与控制链路。

对标英伟达DGX Spark:性能与价格双重宣称

据开发板厂商Sipeed公布的测试数据,在Qwen 27B模型上,AX8860的prefill速度比英伟达DGX Spark快25%,decode速度快30%;整机定价”接近DGX Spark的一半”(DGX Spark 64GB版本起售价4999美元,128GB版本6950美元)。需要注意的是,这些对比数据来自厂商单方公布,尚待第三方独立验证。

从参数上看,256 TOPS是特定精度下的峰值指标,现场实际能跑到多少,还要看模型结构、输入路数与量化方式。工程选型时除了峰值算力,还需在固定模型、输入路数、量化精度与环境温度下比较端到端时延、每瓦性能与内存占用。

影响与展望

发布次日(10月14日),港股爱芯元智(00600)早盘一度涨超9%,收报21.06港元,上涨8.95%,成交额2733.25万港元。据Wccftech报道,爱芯元智后续产品路线图还包括算力达500 TOPS的Axera 8950,以及超过700 TOPS的下一代8970芯片。

爱芯元智创始人兼董事长仇肖莘在发布现场表示:”我们要做客户长期稳定的算力底座,让企业聚焦业务创新,不用为算力迁移分心。”随着大模型推理从云端向边缘下沉,边端大算力芯片的竞争才刚刚开始,AX8860能否真正打开工业现场的规模化落地,还要看后续的量产交付与生态建设。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注