端侧模型未来的发展前景如何？

Jojo：还有一个话题，就是随着IPA的使用范围越来越广，我发现社区目前的共识是，直接从文本到视频的转换其实能做的不多，这种组件式的、可控的工作流现在应用范围更广。我认为像ControlNet这样的东西会越来越受欢迎，IPA也会水涨船高。不知道你们同不同意，或者觉得会有更多端到端的工具出现？叶虎：我来说说我的看法。作为一个AI工程师，我认为这种组件式的方案只是临时的解决方案。像ControlNet和IPA提高了模型的可控性，但本质上是因为原始的生成模型不够可控。未来的模型能力会更强，能够更好地理解和区分布局，甚至处理不同类型的输入。我已经听说2024年可能会有一些令人惊艳的工作，它们能够将图像和文本同时作为输入，融合得很好，实现风格转换和场景一致性。未来的模型不仅生成能力更强，而且支持的输入类型更多。Jojo：所以你更支持端到端的模型。

对于端侧功耗和计算能力的影响非常大，我们认为小于手机形态的产品上，不太可能通过将模型部署在端侧，创造非常好的、在续航一一智能体验一一使用体验上的平衡。当然，手机和电脑终端的端侧小模型还是有很大的前景，对端侧模型的低功耗、低算力和高智能体验有很高的要求。最终端侧模型要PK的是云端模型+互联网能带来的体验，其劣势在于端侧模型的智能体验比云端模型差。优势在于个性化、数据隐私安全和对联网稳定性和延时的要求低。会存在新的形态是用户通过购买自有消费级服务器，将中小规模的模型部署在用户的家里以平衡数据安全和优秀的智能体验，但这在一段时间只适用于消费能力比较强的高端用户。综上，我们认为AI Native硬件所需的AI模型是小模型，端侧或云端都有可能。只有每个用户对应独立的小模型，才能解决隐私问题，将不同用户间的数据从物理上隔绝；

[title]中文大模型基准测评2023年度报告[heading1]专项基准[heading1]行业基准：SuperCLUE-Auto汽车行业测评基准部分大模型在技术和应用不同维度表现稍显不一致。车辆使用指南这一维度上，多个模型达到了80分以上的优异表现，说明在一些对用户有用的任务上（如操作指南、车辆故障诊断、维修保养）已经具备较高的交互成熟度。在智能座舱与交互这一维度上，仅有一个中文模型达到了良好表现，说明中文大模型在智能座舱与交互还有不少的进步空间。在汽车场景中，有一些13-14B中小模型也超过了云端的闭源模型，说明可满足用户需求具备良好能力的端侧模型有非常大的潜力。