初创企业Acrab近日正式推出首款面向边缘计算的AI终端SoC芯片GΞLIX 1，凭借5nm制程工艺与650TOPS的AI总算力，成为当前端侧大模型部署领域的重要突破。该芯片支持本地运行百亿参数规模大模型，在硬件架构、内存系统及预填充性能等关键指标上展现出显著优势。
在硬件设计层面，GΞLIX 1采用异构计算架构，集成20核Arm CPU、3TFLOPS算力的GPU以及独立NPU，配合专用音视频处理引擎形成完整计算矩阵。其NPU单元提供的650TOPS算力，较高通骁龙X Elite平台的45TOPS和英特尔酷睿Ultra系列的40TOPS提升超过14倍，为复杂AI任务提供充足算力储备。
针对大模型推理的内存带宽瓶颈，芯片团队重构了缓存与内存子系统。8MB一级缓存与768GB/s共享二级缓存带宽的组合，配合256-bit位宽的LPDDR5X内存（传输速率8533MT/s），有效解决了权重数据读取和KV Cache存取的带宽需求。这种设计使得百亿参数模型在端侧部署时，能够保持稳定的推理性能。
预填充阶段性能成为此次发布的技术亮点。作为大语言模型处理长文本输入的关键环节，预填充效率直接影响首Token生成延迟。Acrab通过定制矢量硬件单元加速Transformer注意力计算，并对数据流进行深度优化。在Gemma 26B模型（40k KV缓存、10k Token输入）的测试中，该芯片实现1416.8 Token/s的处理速度，较苹果M4 Pro Mac Mini的188.9 Token/s提升7.5倍。
为降低开发者适配门槛，Acrab同步推出覆盖全开发链路的软件栈，包含底层驱动优化、中间件支持及上层应用框架。配套发布的Agent Box终端设备作为参考设计，集成了芯片的全部功能特性，开发者可通过该平台快速完成算法验证与原型开发。这种软硬协同的生态策略，有望加速边缘AI应用的落地进程。
