大模型应用要扬长避短 Agent会提升大模型的能力上限

12月7日—9日，“2023第五届中国（马鞍山）互联网大会”正式举行。本届大会以“数字赋能 创享未来”为主题，数百位行业精英、相关领域专家齐聚一堂，共探大模型、AIGC、数实融合、深度学习等前沿话题。360集团副总裁、360大模型应用负责人梁志辉受邀出席本届大会并进行《360大模型应用落地实践》主题演讲。

360集团副总裁、360大模型应用负责人 梁志辉

AI技术的发展使大模型成为行业的“香饽饽”。《北京市人工智能行业大模型创新应用白皮书（2023年）》指出，大模型技术打破了原有AI技术发展的上限，呈现出数据巨量化、模型通用化、应用模式中心化等特点，以“无限生产”的能力重塑企业生产引擎，推动生产效率颠覆式提升。但生成式大模型并非无所不能。梁志辉表示，大模型缺乏行业知识、易出现幻觉，而且提示词工程学习门槛高，会难住99%的人。显然，大模型在企业级场景中没法直接使用，这让不少企业“左右为难”。

在产业数字化的背景下，360希望把大模型拉下“神坛”。大模型的应用要扬长避短，将最通用、最成熟的内容生成、知识问答等能力发挥好，遵循“小切口大纵深”原则，从企业最刚需的场景切入。梁志辉说，从聊天式机器人（Chatbot）到掌握特定知识的助手（Copilot）再到可以执行复杂任务的自主智能体（Agent）, AI Agent将会推动大模型的落地应用。AI Agent是以大语言模型为大脑驱动，具有自主理解感知、规划、记忆和使用工具的能力，能自动化执行完成复杂任务的系统。目前，360智能营销云已经率先采用Agent模式，通过多步执行的Agent提升大型语言模型(LLM)的能力上限，实现自动化地使用工具、执行任务、解决复杂问题。现场，梁志辉向观众展示了AI数字员工是如何生成旅行计划的。基于LLM+Agent解决方案，AI数字员工将任务拆解成工作流，通过搜索增强技术（调用搜索）获取最新信息，使生成的内容更加精准，规避了大模型幻觉问题。

对于大模型的应用场景，梁志辉向现场嘉宾介绍了360智能营销云在智能营销、智能办公、智能客服场景的实践经验。

在智能营销场景下，基于360智脑大模型文生文、文生图等能力，帮助企业释放内容生产力。比如360AI数字员工提供了小红书、公众号、抖音脚本等43个细分写作功能。360AI数字人可以帮助企事业单位生成新闻播报、培训宣讲等短视频。在智能办公场景下，企业员工可以用360AI数字员工写工作总结、投标文件、机关单位公文，30秒快速生成一份逻辑清晰的PPT大纲；也可以用360智绘生成高质量的图片素材，无需租借专业影棚，一键为产品图换背景，省时又高效。

而在智能客服场景下，大模型加持下的数字人拥有最强大脑与最佳外表并创新交互体验。通过智能一体机、智慧大屏，360AI数字人化身为虚拟导游、产品推荐官、会议主持人等角色，为消费者带来全新的体验。在某网络安全博览会上，数字人“可心”成为展厅接待员，对如何预防钓鱼软件的提问给出了准确答案。

随着各大厂商对通用大模型的迭代升级，以及各类垂域大模型涌现，大模型将加速落地，进一步释放人工智能的产业动能。