联发科端侧AI新突破:天玑全面优化微软小语言模型Phi
12月27日消息,科端联发科官方宣布,新小语型联发科天玑系列移动平台现已针对微软最新推出的突破天玑Phi-3.5小语言模型(SLM)进行了专门适配与优化。
该优化目前已经落地天玑9400、全面天玑9300两款旗舰芯片,优化言模以及天玑8300次旗舰芯片,微软而包括天玑8400在内的科端未来的生成式AI技术芯片也都会支持。
开发人员可以通过微软Azure AI模型目录,新小语型以及联发科的突破天玑NeuroPilot SDK开发工具包,使用微软Phi-3.5进行相关开发,全面尤其是优化言模在内置NPU AI引擎的联发科平台上进行和优化生成式AI推理。
所谓小语言模型,微软就是科端相对于大语言模型(LLM)而言,最大区别就是新小语型参数量更少,从数千亿甚至数万亿参数,突破天玑通常会减少到几百万至几十亿,从而大幅降低了模型体积与复杂度,运行效率更高,获取更容易,还可以优化定制。
因此,小语言模型非常适合智能手机这样处理器、内存等硬件资源相对有限的设备。
随着生成式AI尤其是端侧AI的快速发展和广泛应用,AI正在全面革新现代人的生活、娱乐、工作方式。
事实上,在生成式AI浪潮来临之前,联发科就已经深耕端侧AI生态的推进,天玑移动平台每一代都在演进NPU AI硬件引擎,始终保持旗舰级性能,苏黎世AI Benchmark测试中几乎一直都是AI性能冠军。
强大的端侧AI性能,叠加联发科在生态开发方面的持续投入,为天玑平台智能手机的AI智能化体验打下了强大软硬件基础。
为了加速端侧AI应用落地、普及,联发科还打造了全新的“天玑AI智能体化引擎”,通过强大的端侧AI性能,将传统应用转化为更加智能化的AI应用,已经与多款知名应用达成深度合作,让年轻人的各方面生活都更智慧、更好玩。
未来,联发科也会持续推动端侧AI的深入发展,带来更加丰富的端侧AI应用。
相关文章
- 北京时间明天凌晨00:30,曼城将迎来英超第16轮主场对阵曼联的比赛,在赛前新闻发布会的第二部分,瓜迪奥拉谈到了自己对密集赛程问题的看法,当被问到是否后悔与俱乐部续约时,他表示,自己在这些困难时候更希2025-01-05
阿森纳上半场错失4次良机:热苏斯2次、厄德高1次、马丁内利1次
直播吧12月12日讯 欧冠联赛阶段第6轮,阿森纳半场1-0摩纳哥。阿森纳上半场错失4次良机,热苏斯2次、厄德高1次、马丁内利1次。热苏斯↓厄德高↓马丁内利↓2025-01-05- 郑钦文的2024年,关键词有诸多选项,比如突破、冠军、创历史……这一年,郑钦文一直在追梦,个人成就也达到了前所未有的高度。年初,她在澳网夺得大满贯女单亚军;夏天,她代表祖国勇夺奥运金牌,成为全民偶像,2025-01-05
- 昨日,国际乒联公布了2024年第52周世界排名,国乒继续领跑四个单项。中国球员王楚钦、孙颖莎分别领跑男单、女单排名榜。男单方面,中国球员王楚钦以8825分继续霸榜第1,林诗栋以6445分排名第2。第32025-01-05
- 12月31日消息,据报道,瑞士国际航空公司表示,瑞航一架客机因发动机故障、机舱和驾驶舱内出现烟雾而紧急迫降一周后,这趟航班的一名机组成员去世。航空运营商在声明中宣布,一名年轻同事30日在奥地利东南部城2025-01-05
女娲是不是王者荣耀历史上路人局,强度最高的英雄,88%禁用率,55%胜率,简直让人叹为观止!!!恶心程度空前绝后!!
女娲是不是王者荣耀历史上路人局,强度最高的英雄,88%禁用率,55%胜率,简直让人叹为观止!!!恶心程度空前绝后!!由人类高质量败犬发表在王者荣耀 kog/quality/30/ignore-erro2025-01-05
最新评论