澜码CEO周健龙年展望:拥抱大模型,AI赋能企业提效增质与业务模式变革

 

龙年开工大吉!

刚过去的春节假期,Sora的突然出现刷屏朋友圈,人们热烈地讨论着这项新技术对内容生成行业的影响。周鸿祎认为AGI的实现可能从10年缩短到1年。

而这仅仅只是一个开始,生成式AI技术会在龙年继续发生日新月异的进步,给全球科技产业带来活力和竞争。我们也正在进入一个全新的“寒武纪时代”——基于大语言模型的新应用和新公司层出不穷,如同一场新物种的大爆发,打开了通向未来世界的大门,提供更多创新的机会和可能性。
通过业务流程自动化从而赋能企业数字化转型,是我过去几年一直在探索的命题,当ChatGPT在2022年横空出世的时候,我发现老的命题在新的技术下终于有了路径,于是也第一时间创办了澜码科技,希望能够在这个全新的时代背景下,用大语言模型构建数字员工,从而赋能员工,让其关注的重点从“怎么做”变成“做什么”,或者说关键就要做好两件事情:学习和创新。
过去的一年,澜码快速完成了来自联新资本、AtomCapital、IDG等机构的天使轮、A轮融资,服务了包括金山办公、中银消金等在内的数十个标杆客户。在龙年开工的第一天,做一个总结和展望。

大语言模型带来生产力革命

和生产关系重塑 

智能摩尔定律的时代。ChatGPT的横空出世让所有人都看到智力作为新型基础设施的可能性,随着大语言模型进一步演进,每个主体(组织或者个人)能够通过云计算的方式获取不同专业、不同水平的智力能力,将会在不远的将来成为现实。
与此同时,它的获取成本也会指数级的下降:每1~2年大语言模型的模型水平就会提升一到两代,模型训练成本每18个月降低至原来的四分之一,推理成本每18个月降低至原来的十分之一。
这对所有人意味着什么?
我认为本质是生产力的革命。历史上每一次生产力革命都会带来生产关系的重塑,从而带来更多新的业务模式。这一次也不例外。
举个澜码客户的例子,桃李中文是一家做中文教育出海的公司,为全球2亿中文学习和兴趣者提供中文课程教学、HSK汉语水平考试等服务,用户遍及160多个国家和地区。以前,桃李中文的课程内容和题目质量把控,只能采用传统的“堆人”方法来完成——由5名全职教研员带领150名外聘实习教师完成教学内容制作和考试出题,工作量相当巨大。
比如,HSK汉语水平考试的最新大纲(3级9等)涉及3000个汉字、11092个词汇、572个语法,基础题型13类、5万道题目,需要5名全职教研员加150名外聘实习教师花费一年的时间完成。2023年,桃李中文与澜码合作,在澜码「组卷判卷Agent」的基础上,仅仅用5周时间就从无到有完成了13种基础题型的全部POC验证。
这意味着,有了大语言模型,智能化出题、个性化辅导等以前因为投入成本太大或技术能力不足而无法实现的业务模式,今天都有可能实现了。
人机协作的变革时代。大语言模型带来的另外一个颠覆式变化则在人机协作的界面上。在有了可以理解自然语言的能力之后,机器终于可以主动适应人,而不需要人来适应机器。
举例来说,传统软件产品交互由于受到用户心智模型的限制,只能用菜单、工具栏等低效的方式对功能进行组织,从而使得任何一个软件常用功能不会超过百这个量级,而有了大语言模型,机器可以配合人找到合适的功能,从而打开了能被频繁使用的软件功能数目上限。
更让人兴奋的是,过去不同软件之间的协作,必须通过程序员的工作才能够成为可能,而未来当有了行业的软件协作语义规范之后,不同软件之间也能够协同起来,让自动化全面成为可能。

 

大语言模型应用落地的

四大关键成功要素 

2023年,伴随着大语言模型厂商“百模大战”激烈竞赛,社会也普遍认为,未来商业竞争离不开AI的赋能,如何尽早将基于大语言模型的AI能力与业务相结合,是很多经营者最关切的问题之一。
在过去一年,澜码先后服务了包括金山办公、中银消金、湖北市场监管局等在内的数十家标杆客户,在帮助他们落地大模型应用的过程中,澜码总结出了大模型落地的四大关键成功要素:

1

大模型提供的是通用的语言理解能力和特定领域有限的推理能力,因此从过去无法利用的非结构化、半结构化文档中抽取出事实并能够有效的被检索到是最容易落地的场景。当然,解决大模型的幻觉问题,还是需要依靠专家知识赋能之后的RAG技术来大大提高准确率。

 

2

GPT-4的表现确实十分惊艳,但在企业业务场景下,算力成本和数据安全问题也十分关键,所以通过极大模型来微调小模型用来解决专业场景是解决上述问题的不二法则。

 

3

企业私域的知识和数据是通用大模型所不具备的,落地大模型应用的关键是怎样有效的集成这些知识和数据,从而解决大模型的学习问题。

4

对话式UI不仅仅只是我们看到的对话框,还需要整合低代码、BI、RPA等手段来达到降低使用门槛的目的,这样才能端到端地将专家技能赋能数字员工,实现业务价值的提高。

2023年12月20日,澜码正式发布了企业级AI Agent平台——AskXBOT,这个版本主要的设计思路就是从多个维度将我们在多个项目中的核心经验沉淀到平台之上。

 

2024年是大语言模型

应用落地的关键年 

大语言模型就像智能时代的火种,“点燃”了全新的生产力革命。如果说2023年是大语言模型的元年,2024年将是大语言模型的应用落地年和AI Agent爆发年。全球AI界将会发生什么?对企业级用户将产生哪些影响?
我认为,2024年大语言模型在海外会有三大进展:

 

1

闭源模型将在多模态和推理能力上展开激烈的竞争,而且竞争会扩散到类似GPTs 的生态。

OpenAI在春节期间发布Sora的预览,让大家进一步看到了创意执行的业务员工被替代的可能性,但是Sora的不足也让我们看到了人类努力的方向。其他的顶尖玩家例如谷歌,Anthroptic等肯定也不会轻易放弃,我们可以期待龙年仍然会有很多惊喜和惊吓。

 

2

开源模型也将进一步推进。

扎克伯格近期透露,Meta 正在训练的 Llama 3 将具有更强代码生成能力。

企业应用大语言模型的成本大致分为三部分:算力、大语言模型本身以及应用落地的成本。开源模型的进一步推进意味着企业用户应用大语言模型的成本将有机会大幅下降,同时对算力的要求和成本也将大大降低,如果预训练了很多开源模型,整个生态也会获得进一步的扩充。

 

3

Apple将发布端侧模型,以解决大模型在个人消费端被应用的问题。

Apple公司近期发表了一篇在手机内存上运行大模型的硬核论文《LLM在闪存中:内存有限的高效大型语言模型推理》,也拉满了业界对端侧大模型的期待。

端侧大模型的实现,意味着个人信息无需上传云端,大大降低隐私泄露和数据安全的风险。当大语言模型接入本地数据库和个人信息,有望实现更加个性化定制小模型,提供更个性的用户服务。

 

国内AI届也会继续2023年的热度,并且发生:

 

4

国内大语言模型厂商追平GPT-4;

 

5

大语言模型应用在企业服务领域百花齐放。

NVIDIA 开发者关系副总裁Richard Kerris 也预测,不久之后几乎所有人都能够成为开发者。以前的开发者必须掌握并熟练使用特定的开发语言才能开发应用或服务,随着计算基础设施越来越多地在软件开发语言上训练,任何人都将能够提示机器创建应用、服务、设备支持等,在文本输入或语音提示的帮助下,人们与计算机的交互将变得像口述指令一样简单。

 

在我看来,在全新的智能时代,AI 赋能企业经营模式和业务创新的过程,是通过 Agent (数字员工)逐步走进人类组织,获得业务知识、参与决策和自主学习,从而掌握具体业务技能来实现的。
基于此,2024年上半年澜码AI Agent平台“AskXBOT”会聚焦以下几个重点:

 

1

增强型人类员工:

(1) 基于业务数据的辅助决策

① 通过对业务场景的深度理解,普及用数据来辅助一线员工决策:例如我们正在和超级导购协作赋能一线导购更好地卖货。

② 更多非结构化、半结构化数据的涌入,也给予管理者新的视角去理解过去无法高效处理的信息,例如周报、会议纪要等等。

(2) 对流程知识和经验的积累与利用

① 大模型应用上线之后,新的交互方式使得更多员工可以通过它来完成任务,那么这些过去无法被数字化的员工行为,可以进一步被利用起来、帮助管理者/专家监控并优化流程的运转情况。

 

2

重塑企业自动化:

澜码一直推崇“数字员工”的概念,这是一种革新的方式。从流程的视角来连接员工与员工、系统与系统、以及员工与系统。这种方法的核心在于AI在增强和连接上的潜在能力和场景。

 

我们的数字员工是由AI驱动的实体,可以无缝地融入现有的工作流程,打破信息孤岛,促进有效的协作。他们作为桥梁,实现了不同系统之间,以及人类与系统之间的顺畅交互。这不仅简化了流程,也为操作效率揭示了新的可能性。

 

AI的真正潜力在于其增强人类能力的能力。我们的数字员工旨在补充人类的智能,提供数据驱动的洞察,自动化日常任务,让人类员工有更多的时间专注于他们工作的更具战略性、创新性的方面。

 

最终的结果是一个和谐的工作环境,人类员工和众多的数字员工一起协作。这种共生关系提高了整体的生产力,能帮助我们的企业客户实现前所未有的增长和创新。

 

3

解决企业级平台的构建挑战:

企业在落地大语言模型应用的过程中,会遇到各类企业级的问题,例如显卡、连接和权限等等。澜码自主研发的AskXBOT平台符合企业级的要求,同时也具备很强的易用性。而基于过去一年的实践,澜码已经积累了大量处理和解决这些企业级问题的经验、方法与工具。

 

我们希望能够用最经济和高效的方式,助力企业实现大语言模型应用落地,赋能企业提效增质甚至实现业务模式变革。

 

Gartner预测,到2026年,全球超过80%的企业将使用生成式AI的API或生成式AI模型,或者在生产环境中部署支持生成式AI的应用,目前这一比例不足5%。

而2024年将成为大语言模型应用落地的关键年份,同时也是AI Agent飞速发展的爆发年。人工智能技术将更深入地融入到各类场景下的生产力提效中,为各行各业带来前所未有的变革。

作为国内探索大语言模型应用落地和AI Agent的先行者,澜码科技将继续致力于构建整个大语言模型落地的生态,推动数字员工概念的落地,助力企业实现数字化转型和数智化跃进。