高效落地大语言模型能力 沪上科创新星澜码科技发布企业级AI Agent平台

图说:澜码科技发布自主研发的AI Agent平台“AskXBOT” 采访对象供图(下同)

 

AI大模型横空出世引发关注,但企业怎样利用大模型做好场景落地?能否赋能更多企业构建AI的能力?

 

20日,沪上科创新星澜码科技正式对外发布澜码AI Agent平台AskXBOT,多个通过AI Agent实现大模型应用落地的先锋企业和业内知名专家分享了他们的实践与行业洞察。

 

可快速定制企业级AI Agent

 

大语言模型的热度,几乎贯穿了整个2023年。随着ChatGPT的走红,大模型技术逐渐开始被各行各业视作数字化转型的关键力量。

 

“2023年是大语言模型的元年,2024年将是AI Agent的爆发年,AI Agent是大语言模型优先落地的最佳形态。”澜码科技创始人兼CEO周健表示。

 

在发布会现场,澜码科技正式发布了自主研发的AI Agent平台“AskXBOT”。

 

图说:AI Agent平台AskXBOT

 

周健介绍,澜码AskXBOT平台由设计器、知识中心、使用端、管理平台四大核心模块构成,将大语言模型能力抽象为文档检索、AI调用、数据查询、智能编程等能力,是基于LLM的Agent与工作流设计、开发、使用、管理、知识沉淀的一站式平台,让专家知识赋能基层业务单元。

 

其中,设计器具有预置多种Agent模版、2分钟高效创建Agent、灵活配置满足企业个性需求、所见即所得的预览调试,以及轻松对接澜码仿真平台五大特色。此外,工作流设计器通过多种多模态模型集成、常用能力封装、灵活丰富的组件提供,帮助企业快速定制个性化AI工作流。

 

知识库可实现Agent辅助知识治理,配合专家知识数字化沉淀;专家知识赋能Agent与工作流,形成良性闭环。

 

使用端通过Agent与企业系统的集成,业务人员可以随时随地通过自然语言使用智能体,结合界面交互更直观查看过程与结果。Agent CUI界面支持实时对话获取并即时回复,提供知识推理问答、数据查询分析、任务理解执行等多种技能。工作流GUI界面支持AI工作流批量完成重复任务,智能动态决策进一步降低人工参与成本,过程透明随时随地审查运行结果。

 

管理平台可以查看和管理所有企业内的Agent与工作流,包括状态管理、权限管理、使用情况查看;允许将Agent和工作流发布作为服务调用,对外开放API,提供API key管理能力,所有调用记录可在管理平台统一查看、统一管理。

 

周健认为,在高度不确定性的今天,以大模型能力为底座的AI Agent将极大满足企业自动化数字化升级需求,彻底改变企业形态。“澜码AskXBOT平台作为一个软件自动化超级平台,期望能够重构AI时代软件生态。”周健说。

 

高效构建AI Agent的三步走法则

 

当前,新质生产力被认为是推动经济高质量发展的新引擎。新质生产力以劳动者、劳动资料、劳动对象及其优化组合的质变为基本内涵,以全要素生产率提升为核心标志。

 

在澜码科技的视角下,新质生产力很重要的一个载体其实就是AI Agent。

 

图说:AI Agent构建法则

 

周健在发布会中谈到,今天因为有了大语言模型,AI可以增强劳动力,甚至成为新的劳动资料。但是通用大模型在实际执行过程中,会遇到各种各样的环境问题,这时候就需要一个行动系统或具身智能来解决这些问题。

 

“我们希望AI Agent成为人与真实世界环境的交互媒介,成为人与系统之间的连接器,甚至作为管理者与基础员工、专家与基础员工,基础员工之间的连接器。”周健说。

 

在过去近一年的实践探索中,澜码总结了AI Agent落地时面临的各种挑战,比如现有系统改造和集成投入高、模型训练成本高、难以保持准确性和相关性、大模型幻觉等。

 

“信息化是数字化的前提,数字化是智能化的前提。如果没有把专家知识数字化下来,那么AI Agent的落地会有很大困难。”周健说。

 

为了更好地让AI Agent赋能各行各业,澜码科技提出了三步走的AI Agent 构建法则:第一步,专家知识的数字化;第二步,基于CUI的柔性交互;第三步,领域知识的循环沉淀。

 

作为澜码AskXBOT平台的早期用户,美服数字CTO韩亚伟现身说法,在现场分享了美服数字如何借助澜码AI Agent平台调用大语言模型能力解决业务挑战。

 

美服数字聚焦泛美行业,提供现代化经营、管理、组织、教育、集合平台五大产线及解决方案服务。在采用AskXBOT平台之前,美服数字的咨询顾问每天只能提供有限的咨询服务。现在,美服数字在直播时,可以由AI Agent回答粉丝提问,专家可以在后台判断问题回答的好坏并进行答案优化,从而实现高效答疑和获客。

 

“借助澜码AskXBOT平台,我们通过AI Agent解决业务挑战,实现营销分析,促进直播获客,大大提升了整体效能。”韩亚伟说。

 

据悉,作为国内最早探索和实践大模型落地应用的公司之一,澜码科技在成立半年内就与多家上市公司和独角兽企业达成战略合作,其出色的创始团队、技术和市场表现,也吸引了众多投资机构的青睐。

 

新民晚报记者 郜阳