联发科推出最新AI技术:天玑芯片全面优化微软小语言模型Phi-3.5-大浪资讯

admin82024-12-27 17:33:30

联发科推出最新AI技术:天玑芯片全面优化微软小语言模型Phi-3.5

联发科携手微软,天玑芯片再度升级,引领AI技术新浪潮

数界探索

   12月27日消息,联发科官方宣布,联发科天玑系列移动平台已针对微软最新发布的Phi-3.5小型语言模型(SLM)进行了专门的适配与优化。

联发科推出最新AI技术:天玑芯片全面优化微软小语言模型Phi-3.5

   该优化目前已应用于天玑9400、天玑9300两款高端芯片,以及天玑8300中端芯片。未来,包括天玑8400在内的其他生成式AI技术芯片也将支持这一优化。

联发科推出最新AI技术:天玑芯片全面优化微软小语言模型Phi-3.5

   开发人员可以通过微软Azure AI模型目录,以及联发科的NeuroPilot SDK开发工具包,使用微软Phi-3.5进行相关开发,尤其是在内置NPU AI引擎的联发科平台上进行和优化生成式AI推理。

   所谓小语言模型,就是相对于大语言模型(LLM)而言,最大区别就是参数量更少,从数千亿甚至数万亿参数,通常会减少到几百万至几十亿,从而大幅降低了模型体积与复杂度,运行效率更高,获取更容易,还可以优化定制。

   因此,小规模的语言模型特别适合在智能手机这样的设备上运行,因为这类设备的处理器和内存等硬件资源较为有限。

   随着生成式AI特别是端侧AI的快速发展和广泛应用,AI正在深刻地改变现代人的生活方式、娱乐习惯以及工作模式。 AI技术的进步不仅极大地提升了工作效率,还为人们提供了更加丰富多样的娱乐体验。比如,在智能手机上,AI已经能够实时分析用户的喜好,并提供个性化的推荐服务。在工作领域,AI的应用也日益广泛,从智能文档处理到自动化数据分析,大大减少了重复性劳动,让员工可以更专注于创造性的工作任务。 然而,随着AI技术的普及,我们也必须正视由此带来的挑战。例如,如何保护个人隐私、确保算法的公平性和透明度,以及防止AI技术被滥用等问题,都需要社会各界共同思考和解决。 总体而言,AI的发展为我们的生活带来了巨大的便利和机遇,但同时也需要我们在享受这些成果的同时,谨慎应对可能出现的问题。

   事实上,在生成式AI浪潮来临之前,联发科就已经深耕端侧AI生态的推进,天玑移动平台每一代都在演进NPU AI硬件引擎,始终保持旗舰级性能,苏黎世AI Benchmark测试中几乎一直都是AI性能冠军。

   强大的终端侧AI能力,加上联发科在生态系统开发上的不断努力,为天玑平台的智能手机提供了坚实的基础,极大地提升了其AI智能体验的软硬件水平。

   为加快端侧AI应用的普及和落地,联发科推出了全新的“天玑AI智能优化引擎”。该引擎凭借卓越的端侧AI处理能力,能够将常规应用升级为更智能的AI应用,并已与多个知名品牌应用展开深度合作,使年轻用户的日常生活更加便捷、有趣。 这样修改后,虽然表达方式有所变化,但核心信息保持一致。

   未来,联发科也将继续推进端侧AI技术的发展,推出更多样化的端侧AI应用。