联发科发布天玑AI开发套件:打造终端AI应用一站式解决方案

科技 2024-05-07 11:32 阅读:22

今天,联发科举办了天玑开发者大会2024(MDDC 2024),正式发布了天玑AI开发套件,旨在为合作伙伴提供终端生成式AI应用开发的一站式解决方案。这个开发套件包含了四大模块:快速高效的GenAI最佳实践、覆盖全球主流大模型的GenAI Model Hub、高效提升性能的GenAI优化技术和Neuron Studio一站式视觉化开发环境。这些模块为开发者提供了专业的开发体验,赋能终端生成式AI应用开发全流程。

其中,GenAI最佳实践通过模型量化、模型编译和模型推理技术加速了大模型的终端部署,将数周的时间缩短到一天;GenAI Model Hub适配了行业前沿主流的大模型,为开发者提供丰富的大模型资源。天玑AI开发套件还支持推测解码加速、LoRA Fusion等先进的GenAI优化技术;Neuron Studio集成开发环境提供了一站式可视化的开发环境,让开发体验更加易用。

目前,天玑AI开发者套件已经覆盖了智能手机、智能汽车、物联网、个人电脑等智能终端设备,为全场景生成式AI应用开发赋能。联发科陈冠州表示,MediaTek将整合产业生态伙伴的力量,高效地赋能开发者,加速建构从云端到终端的AI新生态,推动生成式AI技术在智能终端上的应用普及,让更多用户享受到全新的高端生成式AI体验,加速万物AI时代的到来。