立刻体验:https://developer.sourcefind.cn/modelzoo/list/hy-mt2/detail?post_id=7b941311-557c-11f1-8266-0242ac150003&sessionid=
近日,深算系列DCU(Deep Computing Unit)已完成与腾讯混元最新开源多语言翻译模型——Hy-MT2的全面深度适配与性能优化。这是继成功支持混元hy3 preview等大模型后,DCU在拥抱前沿AI模型、共建开放AI生态领域的又一重要进展,标志着国产算力与以“高效轻量化”为核心的先进翻译模型协同创新步入新阶段。

腾讯混元Hy-MT2是一款支持33种语言互译的多语言翻译模型,其7B和30B-A3B模型在各类翻译任务上达到了开源模型最佳效果,轻量级的1.8B模型也超越了主流商业API。得益于AngelSlim 1.25-bit极端量化技术,模型仅需约440MB存储空间,可轻松部署在主流手机芯片上支持本地推理,相比前代推理速度提升1.5倍。
面对Hy-MT2在轻量化、多语言及端侧部署上的突出优势,本次适配基于DCU成熟的DAS/DTK软件栈,致力于为开发者提供“开箱即用”的体验。依托DAS(DCU AI Software Stack)中针对大模型推理优化的vLLM、SGLang等组件,结合DTK(Deep Computing Toolkit)中对各类算子的高效实现与优化,开发者无需进行复杂的底层修改,即可在DCU算力平台上快速部署并高效运行Hy-MT2模型,充分发挥其轻量化、低延迟的特性,为手机、边缘设备等场景提供强大的多语言翻译能力。