深度搜索技术掀起热潮,端侧 AI 迎来飞速发展-大浪资讯

admin72025-02-05 10:49:14

深度搜索技术掀起热潮,端侧 AI 迎来飞速发展

AI技术的新时代:深度搜索引领科技革命

   2月5日消息,天风国际分析师郭明錤在5日发布文章指出,随着DeepSeek的走红,端侧AI技术的发展进程加速。DeepSeek的流行不仅带动了英伟达H100训练需求的增长,还显示出了优化的训练方法(有助于降低费用)对市场的刺激作用。这一现象也再次验证了CUDA生态系统的竞争优势(用户为何青睐H100)。

   附郭明錤分析大意如下:

   台积电和英伟达预计,到2026年,端侧AI将迎来显著增长。台积电在财报电话会议上指出,从现在起到2026年,端侧AI的发展将日益凸显。与此同时,英伟达计划在2025年第四季度至2026年上半年开始量产其AIPC芯片N1X/N1。这一趋势表明,随着技术的进步,人工智能的应用将更加广泛地渗透到设备端,从而推动相关产业的快速发展。预计未来几年内,端侧AI将在智能设备领域扮演越来越重要的角色,这不仅会带来技术上的革新,也将对市场格局产生深远影响。

   DeepSeek 爆红后,端侧 AI 的发展速度加快。

   DeepSeek 的流行直接推动了英伟达 H100 训练需求的增长,表明优化的训练方法(可有效降低成本)能够刺激市场,同时也再次证明了 CUDA 生态的竞争力(用户为何选择 H100)。

   更值得关注的是,DeepSeek掀起了一股本地大模型(LLM)部署的热潮。DeepSeek R1通过优化训练方法,显著提升了在本地设备上运行中小规模LLM的性能。同时,用户对云端DeepSeek服务的数据安全担忧也在一定程度上加速了这一趋势。预计未来将有更多类似的开源模型问世,这将进一步推动本地LLM生态系统的蓬勃发展。 这种趋势表明,随着技术的进步和用户需求的变化,本地部署的大模型正逐渐成为新的热点。尤其是在数据安全日益受到重视的今天,本地部署不仅可以更好地保护用户数据,还能提供更高的灵活性和可控性。此外,开源模型的不断涌现也为开发者和企业提供了更多的选择,促进了整个行业的创新和发展。

   目前,常见的本地DeepSeek部署方法包括:利用LMStudio实现快速部署,通过Ollama运行模型,采用4位/8位量化技术以减少显存占用并保持性能,支持的模型规模从15亿到700亿参数不等,适用的硬件范围则从低端笔记本扩展到配备英伟达独立GPU的高性能台式机。

   目前,本地的DeepSeek部署目前仍然局限于较小的市场范围,这并未对英伟达的云端AI芯片需求产生显著影响。然而,长远来看,即使终端计算逐渐开始部分取代云计算,它也可能催生出新的云端需求,类似于H100系列芯片的市场需求。预计边缘AI和云端计算将会同步发展,并最终共同构建一个融合的AI生态系统。 从技术演进的角度看,这一趋势不仅反映了计算需求的多样化,也表明了AI技术在不同场景下的广泛应用。随着技术的进步和市场的成熟,边缘计算和云计算之间的界限将变得越来越模糊,形成一种互补关系。这种融合不仅能够提高整体系统的效率,还能够为用户带来更加个性化和即时的服务体验。因此,无论是对于技术开发者还是用户而言,这都是一个值得关注的重要发展方向。

   尽管长期来看云计算的增长潜力依然巨大,但边缘AI的发展速度已经超出了许多人的预期,这可能导致云计算的短期增长不及市场的预期,并对投资者的情绪产生一定的影响。未来,减少云计算增长不确定性的关键因素可能包括GB200NVL72的成功量产所带来的计算能力扩展,以及AI在机器人技术、自动驾驶和多模态应用方面的商业化进程逐渐清晰。 在我看来,虽然边缘AI的迅速崛起对云计算构成了挑战,但同时也为整个科技行业带来了新的机遇。随着技术的进步和应用场景的拓展,云计算与边缘计算将有可能实现更紧密的协同工作,共同推动科技行业的创新发展。因此,对于投资者而言,关注这些新兴技术的发展趋势,及时调整投资策略,或许能更好地应对市场变化。

   对于台积电和英伟达来说,台积电依然是边缘AI发展的主要获益者(得益于芯片的升级),而英伟达在边缘AI市场的竞争压力远大于云端AI市场,这可能会影响到短期的投资信心。