6月13日，2024上海国际镶嵌式伸开幕，在这次展会时期芯原股份召开了主题为“从云到端，AI垂手而得”的“芯原AI专题时期议论会”。芯原股份先容了其AI家具线布局及面向AIGC的芯片设想平台和软件措置决策。

频年来，东谈主工智能（AI）可谓长短常的火爆，异常是跟着生成式AI在云表的发展并过问结尾侧，鼓舞了关于各类AI芯片需求的爆发。行动国产半导体IP大厂，芯原领有丰富的与AI规划的NPU、GPU、ISP、VPU IP家具线，何况得回了极为平素应用。

据芯原股份执行副总裁、IP职业部总司理戴伟先容，在夙昔七年里，芯原在镶嵌式AI/NPU限制环球滥觞，其NPU IP已被72家客户用于128款AI芯片当中，主要应用于物联网、可穿着诞生、灵敏电视、灵敏家居、安防监控、职业器、汽车电子、智高手机、平板电脑、灵敏医疗等10个市集限制。当今，集成了芯原NPU IP的AI类芯片已在环球范畴内出货卓绝1亿颗。

除了专用的AI加快的NPU IP除外，在当今被平素应用于通用AI加快的GPU方面，芯原也领有一系列自研的GPU IP。芯原在GPU限制也仍是扶持了20多年，领有70项海外专利，集成了其GPU IP的芯片已在环球累计出货近20亿颗，并过问了近千万辆汽车。

在当今生成式东谈主工智能大模子在云表及角落端闹热发展的趋势之下，芯原字据当今市集的需求，基于自己NPU IP可伸缩可膨大的特色，已发展了隐私从高性能云贪图到低功耗角落贪图的生成式AI措置决策，包括特大地向角落端大模子的NPU IP——VIP9X00以及AI-GPU IP，以及面向云表大模子的Tensor Core GPU IP——CCTC-MP。

芯原股份NPU IP研发总监查凯南示意，端侧AI性能很不毛，然则功耗、面积关于端侧的IP更不毛，一定要有相比好的PPA。因为端侧主如果要作念推理，也要有一些浮点运算的身手，更阵势的是低比特的量化及压缩身手。而在云表一定是高性能、十分高的TOPS，它要或者去作念锤真金不怕火和推理。而且不光是单卡的锤真金不怕火推理，还要作念漫衍式的推理锤真金不怕火，需要多卡多机的身手，是以它需要的更多是通用的GPGPU的编程模子，需要相比高的浮点跟定点算力的配比，关于高精度是相比不毛的，然后还要或者去接入到大的生态当中去。

在夙昔两年当中，Transformer基本仍是酿成一个主导的模子架构，不单是是在大讲话模子上头，在视觉、语音、Pixel等，齐有相比好的推崇。联系于传统的卷积神经网罗，Transformer总共这个词的效能汲引是相比知晓的。因此，在芯原最新的NPU架构里面也寥落对Transformer作念了定制优化，包括4bit、8bit、16×4、16×8等。或者去把权重作念4bit和8bit的量化压缩，或者大大减少带宽的浪费。关于通用的矩阵运算，GEMM/GEMV，大模子需要的Transformer里面需要的多数卷积运算，以及在Transformer里面有不同的Vector径直构建到里面的带宽。芯原针对Transformer规划的网罗性能汲引了10倍。

据查凯南先容，芯原的端侧NPU或者达成48TOPS的算力，或者撑执在结尾侧的大模子驱动。比如在Stable Diffusion 1.5模子下，芯原的NPU不错在2秒内进行20步推理；在LLaMA2 7B模子下，芯原的NPU或者在1秒内生生成20个Token。

当今，芯原股份的端侧NPU IP仍是不错撑执智高手机、AI PC、智能汽车等角落诞生上的大模子的驱动。

同期芯原基于自研的NPU IP和ISP IP等其他丰富的处理器IP储备，还推出了一系列翻新的AI-ISP、AI-GPU等子系统，以应酬东谈主工智能不息发展的应用需求。

据先容，芯原最新的面向角落和云表大模子提供优化的图像数据的AI ISP芯片在9个月内就完成了从开案到流片，软件SDK在流片前就完成了总共功能考证。该芯片基于台积电N6制程，集成了高性能的RISC-V内核，领有雅致的PPA，模拟待机功耗低于4mW，AI增强拍照功耗也低于3.5W。

另外，在视频处理方面，基于芯原AI VPU（视频处理器）IP的第一代视频转码加快措置决策，在提供传统高端CPU 6倍转码身手的同期，功耗仅为其1/13。这一翻新时期已胜仗应用于环球头部芯片公司定制的基于5nm工艺的媒体加快器芯片，并已过问量产阶段。

为便于开辟者关于多样大模子的部署以及多样AI应用软件的开辟，芯原也基于我方的AI-Computing IP家具线推出了配套的AI-Computing软件框架。

“无论是端侧如故云侧，总共这个词芯原AI-Computing软件齐是通用的软件栈。应用层有框架上头相比撑执PyTorch、Transformer。寥落针对大模子的，咱们会遴荐去撑执VLLM的框架。再往下走有通用的算子加快库及运算图加快库、以及多核间通讯库，底层会撑执有表率的OpenCL、OpenVX，编译器及驱动。总共这个词芯原的推理器用链，是芯原自研不错通过器用链径直导入总共类型框架的，里面自嵌一些量化的功能、不错去径直生成一个十分易于部署的Generate Binary。不错撑执微软的ONNX Runtime，本年10月还会接入OpenAI的Triton。”查凯南先容谈。

除了前边说起的与AI规划的NPU、GPU IP、VPU IP、ISP IP除外，芯原还领有视频/语音DSP IP、显露处理器IP，以及1,500多个数模羼杂IP和射频IP，仍是职业了近400家IP授权客户，不错撑执客户的各类的AI SoC的设想。

此外，芯原还领有一站式的设想职业平台，每年流片30-50颗芯片，累计出货了10000片14nm FinFET晶圆，近30000片10nm FinFET晶圆。芯原在2018年就完成了环球首批7nm EUV芯片流片一次胜仗，何况已有5nm SoC一次流片胜仗，多个一站式职业名堂正在执行。

据芯原股份高档副总裁、定制芯片平台职业部总司理汪志伟先容，芯原的SiPaaS系统级芯片设想平台既不错温情数据中心条目的高性能AIGC芯片的设想需求，基于Chiplet构建云表高性能AIGC决策；也或者温情基于Chiplet时期的下一代可膨大高性能自动驾驶芯片设想需求，诓骗超高算力在角落端驱动大模子。

同期，芯原还提供了齐全的软件措置决策，不错温情推理、锤真金不怕火和数据通讯需求。

在这次的2024上海国际镶嵌式展上，芯原也展示了集成芯原神经网罗处理器（NPU）IP的新一代8K电视及滥觞的智能相机；集成芯原视频处理器（VPU）IP的新一代无东谈主机；内嵌芯原图形处理器（GPU）IP和显露处理器IP的智高腕表及AR眼镜；内嵌芯原IP的灵敏家居诞生等；基于芯原GPGPU IP和NPU IP的蓝洋智加快卡的高性能AI PC家具；基于芯原双通谈图像信号处理器（ISP）IP的银牛视觉AI处理器等；芯原第二代数据中心视频转码平台措置决策等。

剪辑：芯智讯-浪客剑开元棋盘app官网版下载