将大模型部署在芯片上阿里云如何重塑AI手机新体验

在这个智能手机几乎成为延伸的时代，一场静悄悄的正在悄然发生——AI(人工智能)技术的飞速进步开始重新定义我们与手机的互动方式。

IDC(国际数据公司)预测，未来几年将会有一个显著的转折点：2024年，全球AI智能手机的出货量将达到1.7亿部，而到了2027年，仅中国市场的AI手机出货量就将达到1.5亿部。显而易见，AI不再是遥不可及的未来技术，而是已融入我们生活的现实力量。

面对繁荣的市场，全球的手机制造商都已经开始行动了起来，摁下了AI大模型研发竞赛的快进键，手机成为了AI落地的第一战场。

挑战也随之接踵而来。

如何构建AI手机?过去的做法是将大模型部署在云端，完全依靠云端算力运行，但这样的方式往往难以满足用户即时响应和高度个性化的需求。

事实上，这一技术演进背后所隐藏的挑战还包括如何在资源有限的手机上运行越发复杂的AI模型，以及如何解决网络延迟和数据同步等问题。

寻找一份完备的解决方案成为了通信行业的当下共识。

在这一关键时刻。阿里云与联发科近日联合宣布了端云协同技术，成功将“通义千问”大模型在部署在SoC上，首次实现了在手机芯片端对大模型的深度适配。

这一创新不仅保证了即便在断网的情况下，用户依然能享受到顺畅的AI服务，更预示着在端云协同技术的推动下，AI智能手机的用户体验跃进到“自由王国”，即AI随时随地皆可使用，满足用户在复杂场景下对AI功能的需求。

创新的背后，凝结了阿里云与联发科在模型瘦身、工具链优化、推理加速等多个方面的深度合作成果，跨越了从底层芯片到上层操作系统及应用开发的多重挑战，展现了软硬件一体化深度适配的巨大潜力。

这场端侧AI技术的探索，不仅开辟了Model on Chip(芯片上模型)商业化落地的新航道，更为全球手机厂商提供了新的解决方案，预示着智能手机行业即将迈入一个全新的AI时代。

新趋势——Model on Chip

将庞大的人工智能大模型优化并部署到手机处理器上，克服传统上手机对云端算力的依赖，这项创新不仅使得如自然语言处理、图像识别等高级AI功能能在手机上得以直接运行，还显著提升了执行效率，同时在用户体验和数据隐私保护方面实现了质的飞跃。

通义实验室业务负责人徐栋对此指出：“端侧AI作为大模型应用落地的关键，面临软硬件适配和开发环境不足等挑战。阿里云与联发科的合作成功克服了这些难题，通过底层硬件到上层应用的全面技术攻关，将大模型有效部署至手机芯片，引领了端侧AI在Model on Chip部署的新趋势。”

据了解，“通义千问”18亿参数的开源大模型超越了以往模型，在性能和资源使用效率上取得了显著进步，仅使用1.8G内存就能处理高达2048个token的推理，展现了其低成本、易部署及对商业化极为友好的特性。

观察人士认为，这项技术的创新打破了以往的局限，让大模型深度适配手机芯片成为了可能。究其背后的技术原理，阿里云的将其落地的产品化思维功不可没。

首先，在进入小小的手机之前，大模型需要“瘦身”。通过量化、参数剪枝和知识蒸馏等多种技术手段减小模型体积。

量化是将模型的浮点数参数转化为更高效的低位宽整数形式，减少存储和计算资源的需求;参数剪枝则是通过移除非核心参数来缩减模型规模;知识蒸馏是利用一个小型但高效的模型模仿复杂大模型的行为，既能实现模型的轻量化，又能保持其性能。

其次，量化后的模型虽然体积缩小，但可能会出现性能损失。所以还需要各种优化精心调整，进一步提升模型性能，确保其在手机上的高效运行。

最后，经过优化后的大模型，还需要进一步提升其潜能，逐步增强模型能力，更好地适应终端应用的具体需求。

阿里云的这项端云协同技术，因为融合了云计算与边缘计算的优势，相较于传统方法，带来了低延迟、 隐私保护、离线能力、节省带宽和实时处理这五大优势。对于自动驾驶、智能制造等未来应用场景来说，这一技术显得至关重要。

端云协同重塑手机AI

可以预见的是，端云协同技术已经彻底改变了AI手机的计算效率。例如，智能语音助手能够快速处理简单请求，如天气查询，而复杂任务则依托云端的强大算力完成，从而提供高效、灵活的用户体验。

在隐私保护方面，端云协同技术通过在设备端处理敏感数据，大幅提升了数据安全性和隐私性。比如，在健康监测应用中，个人健康数据会首先在本地被加密处理，只有必要的信息才会被安全传输至云端，有效降低了泄露风险。

根据最新数据预测，伴随着端侧AI模型和硬件技术的不断进步，预计到2024年，AI智能手机的市场种类和数量将迎来显著增长。市场渗透率预计将达到6.4%，并有望在2025年实现翻倍，增至19%。

这一趋势在2024年的移动世界大会上得到了明显体现，荣耀、OPPO、vivo等手机品牌纷纷展示了他们的最新AI手机，突出了AI技术在提升用户体验上的诸多应用。而随着阿里云端云协同技术的下放，智能手机市场的竞争格局必然会因此产生重大变革——谁能拒绝一款能在本地运行AI大模型的手机呢?

与此同时，端云协同技术也为手机应用的创新提供了强大的动力和广阔的平台。开发者能够借助这一技术开发出更多创新型应用，满足用户的个性化需求，从而加速推动手机应用市场的活力和生态繁荣。

结语

这场由端云协同技术驱动的变革，不仅预示着手机性能和应用将迈入一个前所未有的新，也象征着人类与AI深度的融合又进了一步。由此，我们也站在了全新的技术发展高速路上，目睹着手机从传统的通讯、娱乐工具，逐步演变为集AI智慧于一身的全能伙伴，可以预见的是，随着与AI技术的进一步融合，手机的未来，也将变革出无限的可能。