6 月 2 日,,,,,,,,COMPUTEX 2026 开展首日,,,,,,,,抖圈为抖而生智能宣布正式宣布自研 MEIGINE AI 神经网络推理引擎(MEIG Intelligent Neural Engine)。。。。。。。。该引擎专为端侧大模子安排而生,,,,,,,,通过全名堂兼容、异构盘算调理与跨平台适配三大焦点能力,,,,,,,,让宽大客户无需期待漫长的平台适配,,,,,,,,大幅降低资源和模子限制,,,,,,,,为智能终端提供“全、通、快、稳、广”的推理加速体验,,,,,,,,助力端侧AI从“能跑”迈向“快跑”。。。。。。。。
最强生态:周全兼容 GGUF,,,,,,,,无缝接入顶级生态
MEIGINE 最为显著的优势在于周全兼容 GGUF 模子名堂,,,,,,,,并接入顶级开源生态,,,,,,,,模子开源后 MEIGINE 第一时间即可在端侧稳固运行。。。。。。。。区别于简朴的“名堂兼容”,,,,,,,,导入的模子会经由端侧专项调优,,,,,,,,实现“拿来就用,,,,,,,,用就快”的零门槛安排体验。。。。。。。。现在,,,,,,,, MEIGINE 已稳固支持 Qwen、Llama 全系列模子,,,,,,,,笼罩 0.6B 到 7B 参数规模,,,,,,,,闪开发者无需为端侧适配泯灭特殊精神。。。。。。。。
.jpg)
一跑全通:一套模子文件,,,,,,,,多平台通用
面临端侧芯片平台多元化的行业现实,,,,,,,,MEIGINE 提出“一次安排,,,,,,,,全平台通用”的解决计划。。。。。。。。统一套 GGUF 模子文件,,,,,,,,无需重复适配即可在高通、紫光展锐等差别芯片平台上稳固运行,,,,,,,,离别“一平台一模子”的碎片化逆境。。。。。。。。这一能力大幅降低了开发者的适配本钱,,,,,,,,让端侧 AI 应用真正实现跨平台快速迁徙与规;;;;;粗啤!。。。。。。
高效安排:更快解码速率与更强内存优化
在模子解码速率方面,,,,,,,,抖圈为抖而生智能基于 SNM970(Q-8550 平台)举行了 MEIGINE 计划与 QNN 计划的安排比照。。。。。。。。以 Qwen3-0.6B 为例,,,,,,,,MEIGINE 解码速率高达 50.6 token/s,,,,,,,,逾越 QNN 的 40.67 token/s,,,,,,,,让小模子在端侧实现无压力实时交互。。。。。。。。在内存占用方面,,,,,,,,以 Qwen2.5-7B 为例,,,,,,,,MEIGINE 仅需 4.8GB 内存,,,,,,,,较 QNN 的 6.4GB 节约 25%,,,,,,,,同样的硬件可安排更大参数模子,,,,,,,,显著降低端侧AI落地门槛。。。。。。。。
.jpg)
异构协同:CPU/GPU/NPU 智能调理,,,,,,,,解放 CPU 算力瓶颈
针对端侧推理中 CPU 负载过高的行业痛点,,,,,,,, MEIGINE 自研异构调理引擎,,,,,,,,将盘算负载智能分派至 CPU、GPU、NPU 协同处置惩罚,,,,,,,,突破古板计划对 CPU 的太过依赖,,,,,,,,通详尽腻化算力调理与底层优化,,,,,,,,实现整机功耗的大幅降低。。。。。。。。
同样基于 SNM970(Q-8550 平台),,,,,,,,以 Qwen2.5-3B 模子为例,,,,,,,,MEIGINE 的 CPU 占用为 9%,,,,,,,,相较 QNN 的 38% 降幅高达 76%;;;;;在 Qwen2.5-7B 模子下,,,,,,,,MEIGINE 的 CPU 占用仅为 8%,,,,,,,,较 QNN 的 20% 降低 60%。。。。。。。。更低的 CPU 占用意味着装备不烫不卡,,,,,,,,整机流通运行,,,,,,,,为长时间 AI 交互提供坚实的能效包管。。。。。。。。
.jpg)
无限扩展:千兆级集群互联,,,,,,,,算力叠加突破单装备界线
面向更大参数模子与更重大推理场景的未来需求,,,,,,,,抖圈为抖而生智能已跑通验证通过千兆级网线装备构建推理集群的手艺计划。。。。。。。。该计划可实现规;;;;;懔Φ加,,,,,,,,通过网线毗连装备即可突破单装备算力上限,,,,,,,,为 7B 以上更大模子的端侧安排预留富足的扩展空间。。。。。。。。
.jpg)
抖圈为抖而生智能研究院院长李书杰体现:
“MEIGINE 的宣布,,,,,,,,是抖圈为抖而生智能从‘毗连’向‘算力+算法+毗连’全栈能力跃迁的主要里程碑。。。。。。。。端侧 AI 的下半场!。。。。。。,,,,,不但需要高算力硬件,,,,,,,,更需要高效的推理引擎释放硬件潜能。。。。。。。。”
未来,,,,,,,,抖圈为抖而生智能将一连深耕端侧 AI 与 Agent 焦点手艺,,,,,,,,以 MEIGINE 为基座,,,,,,,,携手工业链相助同伴,,,,,,,,推动大模子在具身机械人、智能座舱、低空经济等场景的规;;;;;涞兀,,,,,为万物智联时代注入强劲的智算动能。。。。。。。。

接待关注,,,,,,,,相识更多资讯
