人工智能启用的个人电脑(AIPC)是微软提出的新概念。作为一个平台,个人电脑看似已经成熟且市场潜力有限,但一旦加入AI技术,就能发生一些令人惊叹的变化。例如,快速总结PowerPoint演示文稿或30页的Word文档。自动为Excel表格创建一个复杂的过滤器,然后创建同样复杂的趋势图。所有这些都很轻松,不需要花费数小时去研究方法或观看冗长的YouTube视频。这就是微软的建议:开发一个助手来为我们完成所有的研究工作,并生成我们需要的简洁总结、幻灯片、宏或图表。这将是个人生产力的一次真正飞跃。但这种功能必须比普通的聊天机器人更懂应用场景,并且在保证隐私和安全的同时,还要能在非常低的功耗下运行。基于云的AI并不是一个可行的选择;AI硬件和软件必须直接安装在个人电脑上。这也解释了为什么基于个人电脑的AI硬件正在快速增长。
机遇
全球还在等待AI在各类商业应用中的实际生产力提升,但人工智能启用的个人电脑(AIPC)的发展却在快速推进。微软对这一方向的热情支持,特别是他们最新发布的Surface Pro中基于CoPilot AI平台的应用,显示了他们对这一领域的坚定承诺。戴尔、惠普、宏碁和华硕已经推出了相关产品,富士康也提供了制造支持。高通、英特尔、AMD都发布或宣布了AIPC的处理芯片(SoC)。这些大公司都不想在这场竞争中落后。
这并不意外。尼德汉(Needham)公司预测,AIPC的出货量预计将从2024年的5000万件增长到2027年的超过1.67亿件。对于大多数人而言,直到今年才知道有这样一个产品类别!一位分析师预测,初期增长将由高端商务用户和内容创作者驱动,他们会因为智能助手和生成型AI图像的优势而对这些技术产生兴趣和需求。随着这些平台的普及,更多用户也会希望使用类似的AI增强功能,这并不难想象。
AIPC平台的技术要求
显然,AIPC必须配备专门的AI加速器。早期的这些系统使用的神经处理单元(NPU)性能约为40 TOPs(万亿次运算每秒)。尼德汉(Needham)公司认为,较先进的AIPC应达到60 TOPs以上,虽然目前还没有这样的产品出现。为了提供所需的生成型AI服务,这些加速器需要运行具有数十亿参数的模型,例如Llama2/3级别的大型语言模型(LLM)。 性能必须能够实时响应。在本地处理数据而无需依赖云端是一个优势,但目前通用的NPU性能还不足以在高端变换网络中提供实时响应,而如今自动驾驶系统的运行速度已经达到 300 TOPs 或更高。当然,自动驾驶系统的应用场景与AIPC的应用场景不同,但AIPC加速器可能处理的网络,包括语音识别、提示处理和推理/生成,其复杂程度不会低。
内存要求必须符合当前PC的预期,例如高端系统需要数十GB的内存,但绝对不能达到数百GB。请记住,大部分内存已经用于传统存储需求(如图像、视频和其他大数据文件)。要承载需要数十亿个参数的模型,加速器必须支持非常积极的参数压缩、实时解压缩和稀疏性处理,并且需要在DDR内存之后配置额外的闪存存储作为支持。
在数据中心中AI是出了名的耗电大户;而在笔记本电脑应用中,它必须更加节省电能。模型量化、参数压缩和稳健的稀疏处理对于实现这一目标至关重要,同时还需要标准的SoC电源管理技术,即精细的时钟门控、动态电压频率调整(DVFS)和电源岛。尽量减少对耗电量大的互联网(云端)通信的需求是关键,除非绝对必要(例如在RAG检索中),这是降低电力需求的一个重要因素。
差异化
一个重要的考虑因素是对AI模型更新的支持,这立即突出了AIPC与云端通用生成型AI(GenAI)系统的不同之处。AIPC不会也无法提供对任意范围模型的访问;因为按需下载新模型的开销实在太高。相反,它们很可能只支持自己预选的一组数量有限的模型。这些模型可以像更新操作系统一样进行更新。这种策略也意味着加速器不需要像通用加速器那样对用户开放,这也消除了对所有相应支持基础设施(SDK等)的需求。
在一个可能快速变化的市场中,硬件差异化对PC制造商来说非常重要。使用现成的平台,无论它多么先进,都无法提供制造商在专有平台上能够利用的独特优势。然而,构建和维护所需的AI硬件技术和基础设施是一个巨大的投资。因此,这些制造商很可能会与成熟的嵌入式AI NPU核心供应商合作,以帮助他们快速将产品推向市场。制造商可以专注于选择和支持他们希望的AI模型,并优化这些模型如何与他们的软件和更新系统配合。
另一个有趣的差异化机会是个性化。助手可以随着时间的推移,学习并调整服务以满足个人用户的具体需求,这些需求在不同用户之间会有所不同。有效管理这种个性化体验可以提升客户满意度,增加推荐率和重复购买率。
关键要点
AIPC(AI启用的个人电脑)有潜力成为一种颠覆性的应用,重新定义我们对个人电脑的使用和想象。要实现这一目标,需要在个人电脑内部集成强大且有差异化的AI加速器解决方案,这些解决方案必须经过优化,以提供优秀的客户体验,能够满足大多数屏幕使用需求,而不需要依赖通用生成型AI(GenAI)解决方案,也不需要为大多数目的使用云计算。Ceva公司已经在与一家大型的PC供应商合作,帮助他们开发下一代产品。请致电我们或点击本页面。