万益资讯网

【瑞芯微发布车规级AI协处理器:20TOPS算力可跑7B大模型,语音交互不用联网

【瑞芯微发布车规级AI协处理器:20TOPS算力可跑7B大模型,语音交互不用联网】
国产芯片厂商瑞芯微推出了车规级端侧算力协处理器RK1820/RK1828,采用三核64位RISC-V架构,集成20TOPS算力的AI加速单元(NPU),并内置2.5GB高速内存。它能支持在车端本地运行30亿到70亿参数的大语言模型,推理速度可达每秒100个token,适用于车载语音交互、视频分析和多模态感知等智能座舱场景。关键是这些AI能力不需要依赖网络云端,断网也能用。【来自懂车帝车友圈】