百度大模型插件：打工人的福音？

百度在2023年8月16日举办的2023WAVE SUMMIT上，强调了构建大模型开发生态的重要性。与过去相比，现在的重点是发展基于文心大模型的应用落地，而不是仅仅关注模型本身。

总体而言，百度通过发布配套插件和Copilot来推动基于文心大模型的应用落地，并建设基于云的开发者生态。例如，新发布的5款插件对应了Bing和ChatGPT接入的近70款插件；推出的插件开发工具集和AI应用开发套件Comate Stack则对应了Copilot Stack；而超级助理等插件则在百度智能办公平台“如流”中上线，该平台接入了Copilot。

市场需求旺盛和大模型技术处于高速迭代期，构成了大模型落地应用的主要矛盾。客户们希望利用大模型提高生产效率，但模型技术的快速迭代导致高昂的迭代成本。为了解决这个问题，许多厂商选择了插件化解决方案。

插件化相较于传统的应用开发流程，无需开发一整套完整系统，只需通过接口提供服务，并且易于修改和更新。因此，插件是AI应用创新的最佳载体。

基于这一思路，百度在2023WAVE SUMMIT上展示了从自研、开发者社区建设到落地工作场景的一系列尝试，重点放在了“插件”上。

生态建设也是百度强调的另一个重点。随着大模型的发展进展迅速，开发者面临着更加复杂的产业链条和对上下游、软硬件协同的高要求。作为基础设施提供者，百度对飞桨开源框架在大模型训练、推理、硬件适配等方面进行了迭代升级，将文心大模型3.5的训练速度提升至3倍，推理速度提升了30多倍。其目的是聚集产业链各环节的开发者，在基于大模型基座和云平台的基础上进行开发生态的建设。

百度集团副总裁、深度学习技术及应用国家工程研究中心副主任吴甜认为，经过半年的时间，整个行业的角色分工会逐渐明朗。

除了在8月2日的文心千帆大模型平台媒体圆桌会议上发布的“百度搜索”和“览卷文档”（原ChatFile），此次百度还在文心一言上推出了“E言易图”“说图解画”“一镜流影”三款AIGC插件，分别应用于图表生成、图片生成理解、视频生成场景。

文心一言使用“览卷文档”插件解读文档。图源：百度

然而，由于高能耗的原因，视频生成插件“一镜流影”的内测尚未全面展开。未来，文心一言将向更多第三方插件开放。

飞桨推出大模型插件开发平台
百度以5个自研插件作为起点，更希望建立起与上下游开发者的完整合作关系。

吴甜认为，现在是建设开发者生态的最佳时机：“一方面，只有当核心技术系统本身足够成熟时，才能支持生态的建设，而文心一言已经达到了这个阶段；另一方面，生态的最大作用是促进应用的繁荣发展。”

百度凭借“文心一言”的模型能力，面向开发者推出了大模型插件开发平台。该平台提供插件开发工具集（ERINE Bot SDK），支持信息服务类、工具类以及基于LLM的创新类插件的研发。

ERINE Bot SDK。图源：百度

与此同时，飞桨AI Studio此次推出了星河大模型社区。这就好比国产版的微软Azure AI Studio，百度作为大模型应用的“卖水人”，为开发者提供开发、部署、市场推广等流程服务。

星河大模型社区。图源：百度

在百度智能工作平台“如流”上，百度专注于提高生产力的文章。目前业界对于AI时代的“杀手级”应用尚无定论，但发展AI原生应用被认为是成为“杀手级”应用的基础，这已成为业界的共识。

AI原生应用指的是那些在没有AI支持下无法提供核心能力的应用，这对开发者提出了更高的要求：仅仅对原有应用进行简单迭代是不够的。

在2023WAVE SUMMIT上，百度展示了其原生AI答卷，重点放在重塑生产力上。他们推出了“超级助理”和“Comate X智能编程助手”两款应用。

“超级助理”的功能类似于阿里巴巴发布的钉钉魔法棒和飞书发布的AI助手“My AI”。它能够根据用户用自然语言输入的需求完成文档处理、聊天内容查找和信息发送等任务。

“超级助理”完成差旅安排。图源：百度

“超级助理”可对文档进行分析。图源：百度

同理，辅助编程的Comate X也是基于自然语言描述，生成能实现相应功能的代码片段。目前，Comate X支持30多种语言和10多种IDE（集成开发环境）。

针对AI原生应用的开发，百度也建立了开发者生态。此次推出的AI原生应用开发套件Comate Stack，为开发者提供了评测平台iEValue、AI应用开发平台IPlayground和数据集托管平台iDateSet。

值得一提的是，在Comate Stack上进行AI应用开发，自然语言依然是人机交互的界面。比如开发可以执行休假政策的插件，只需要设置Prompt、编排流程两步。

AI应用开发平台IPlayground支持2步生成AI插件。图源：百度

AI应用如流水般上线，意味着目前只有百度员工和少数大B客户能够使用两款生产力工具。但这也标志着如流积极迈向商业化。

百度集团副总裁兼首席信息官李莹表示，将以超级助理和编程工具链为切入点，进一步加大如流的商业推广力度。