Connect with us

GPLP

百融云创张韶峰:AI Agent让大模型从有趣到有用

快报道

百融云创张韶峰:AI Agent让大模型从有趣到有用

如果说大模型打开了AIGC的殿堂之门,那么AI Agent则更像是引宾客入室。Agent也被认为是打通了大模型在B端应用场景落地的最后一公里。

“AI Agent让大模型从有趣到有用。”近日,百融云创CEO张韶峰在一场行业闭门研讨会上表示,“大模型的强大之处在于能够模仿人类大脑的慢思维,而AI Agent除了拥有大脑,能够像人类一样思考,还具备手与脚,可以通过Function Call操作外部工具,执行复杂场景任务。”

在过去的一段时间,张韶峰曾多次在不同场合呼吁正视大模型的能力与边界,强调应该把产业发展重心从卷模型转向Agent等AI应用研发上来。

Agent拔高了大模型能力上限

今年的Snowflake峰会让Agent狠狠火了一把,因为Landing AI创始人兼CEO吴恩达在Luminary演讲中,做了一个AI智能体工作流 (agentic workflow)的能力分享,他用GPT-3.5作为基座模型搭建的Agent整体表现远超使用GPT-4本身。

张韶峰也认为,智能体可以拔高大模型的能力上限。他表示,AI令人着迷之处在于它能够帮助人类进行归纳和演绎,也就是从特定的事实或观察中进行推理,并概括出一个结论。

与基础大模型相比,AI Agent智能体工作流的自主修正和优化决策性能更强,能够让模型反复思考,不断自我完善。“Agent就像是某个专业领域的博士,能够独立思考、自主执行、持续迭代”张韶峰如此总结智能体的特性。

他进一步解释称,AI Agent的上述特性使得智能体在很多场景中有能力替代大量的人工操作,帮助商业机构实现降本增效。

以财富管理为例,这一领域面临着居民理财高需求与数智服务低覆盖之间的供需失衡,于是AI技术被寄予为解决行业痛点的一条重要途经。

张韶峰介绍称,在百融云创为商业机构搭建的数智财富管理解决方案中,结合了RAG技术的AI Agent有效解决了传统财富管理行业的人力资源稀缺问题,轻松实现对于上万名优秀理财经理的批量复制。

据了解,百融云创的财富管理智能体是以大模型为核心组件构建的工作流程,即以大模型为基座,其上搭建由基础数据库、基金场景库、ETF数据、市场环境数据等驱动的平台层,进而直接触达智能投研、智能投顾、智能交互三大场景,帮助实现市场动态和金融产品在线分析;向用户提供个性化投资组合建议;以及为用户提供7*24小时全天候咨询服务。

值得注意的是,财富管理这一创新业务也是百融云创2024年中期业绩报告中表现非常吸睛的一个板块,报告期内,百融云创的BaaS财富云业务收入实现了三位数的高增长。

而在新锐业务飙升叠加传统业务线稳定支撑下,上半年百融云创的核心财务指标稳健上扬。根据中报,上半年公司实现总收入13.21亿元,同比增幅6%,以生成式AI驱动的第二增长曲线BaaS业务收入增至9亿元;调整后净利润达1.97亿元,调整后净利润率为15%,扣除掉期权费用和其他收入之后的净利润同比实现增长。

借助Agent,大模型得以与场景深度耦合

百融云创自成立以来,一直坚持做最懂场景的AI。厚植垂直行业的坚实土壤,叠加在业务场景中积累的丰厚经验,百融云创以极度敏锐的嗅觉率先卡位AI产业发展的每一个关键节点,该公司是业内最早一批布局Agent、多模态等领域的AI科技公司。

张韶峰此前在中期业绩发布会上介绍,截至目前,百融云创已经拥有生成式AI的全栈产品组合,形成了规模化、产业化的服务生态。技术版图覆盖从模型预训练、微调、对齐到部署工程优化等环节,形成了产业大模型BR-LLMs,智能代理AI Agent一站式开发平台Cybotstar(赛博坦),数字人产品Avatar-GPT等矩阵。

张韶峰表示,报告期内百融云创不断迭代优化大模型技术,实现了里程碑式的技术升级,并将大模型通过模型量化、蒸馏和分离式推理架构等技术完美融入到智能语音交互的业务链条中。“全新升级的VoiceGPT是AI Agent深度场景化的领先实践。”张韶峰说道。

据了解,作为一种结合了自然语言处理(NLP)和语音识别等技术的语音交互大模型,VoiceGPT的智能语音交互时延稳定控制在500毫秒之内,相比同业大模型平均在1秒以上的区间水平更为敏捷,不仅如此,VoiceGPT已经迭代出支持情感识别和情感语音输出的功能,对于语义理解准确率提升至97%。

强大的交互性能使得在VoiceGPT之上构建的智能体能够更好适应跨语言支持、多行业、多场景的交互需求,无论在客户服务、智能运营、智能营销、财富管理等场景,还是在金融、出行、零售等行业,都能为商业机构提供高效的数智解决方案。

以融合智能语音交互的3D数字人为例,根据张韶峰介绍,该端云协同的多模态智能体已经开发出第一个商业化版本,并已经与客户进行意向沟通,将广泛适配于银行大厅接待、零售百货导购等多元应用场景。

“与纯粹的技术公司或者狭义的AI服务商不同的是,百融云创始终秉持一个信念,就是要让技术、产品与市场三者形成合力。”张韶峰说,这是百融云创成为市面上为数不多的持续盈利的AI公司的一个核心原因,也是百融云创得以服务超7000家商业机构客户的核心优势。

基于这样的商业理念,百融云创的AI Agent可以实现更高维度赋能,即不仅能帮助商业机构降本增效,更重要的是能够直达资产运营结果转化,其中在2023年,由百融云创BaaS金融行业云促成的资产交易规模超530亿元。

更多关于 快报道的文章

To Top