专访中关村科金CTO李智伟：我们还处于+AI的时代

作者：普森

企业被AI赋能的同时，人们会担心被AI替代人工。那么AI到底是打工人的好助手还是竞争对手？

为此，我们专访了中关村科金CTO李智伟博士，为我们深度剖析大模型在To B赛道的最新应用与未来趋势。

Q：首先想问问李智伟博士，大模型在 To B 赛道目前的应用效果已经达到什么样的程度了？

李智伟：

根据早前的实践经验，我们认为大模型最先被应用的可能是一些通用的模型能力，并在细分场景中取得一些成果。但随着实践的深入，我们发现其实细分场景的模型训练变得极为重要，尤其是在 To B 赛道。在非常专业的细分场景中，如果使用通用模型，其效果通常只能达到60-70分，然而实际业务需求往往需要80-90分的效果，所以针对每个细分的领域场景都需要进行一定的模型训练和知识注入。

从技术角度而言，场景划分得越细分，业务效果自然会越好。但实际上还需要兼顾实施难度和成本。倘若每个细分场景都进行 SFT（监督微调），成本是相当高的。

当一项新技术出现时，大企业由于具备较强的资金实力，也拥有强大的研发力量，所以能够很容易地采纳这些新技术。但对于中小企业来说，在技术发展的初期，落地的成本过高，则性价比未必理想。

随着对大模型应用的迭代认知，我们发现通过结合知识外挂库进行搜索和检索的增强，以及对细分场景进行适量的优化训练，可以在控制成本的同时实现出色的业务效果。

中关村科金的实践进一步证实了大模型技术的有效性。公司开发的大模型工具链平台，通过无代码、可视化的方式，简化了大模型从训练到上线到优化的全过程，大大降低了实施难度和成本，使得企业能够更加高效、低成本地利用大模型技术，实现业务的优化和提升。这些进展表明，通过合理的策略和技术应用，即使是中小企业也能够克服成本和性价比的挑战，充分利用大模型技术带来的机遇。

Q：在新升级的智能交互平台体系方面，中关村科金的核心竞争力和创新点分别是什么？

李智伟：

中关村科金近期推出了多模数据增强的新一代智能交互平台体系，这是一套大模型时代下人机智能交互全新范式。通过全自研的多模态数据增强基座、全渠道联络中心基座，以及为智能交互定制打造的智能体工具链平台，为企业打造覆盖用户全生命旅程的智能交互解决方案。

中关村科金产品体系

这套智能交互平台体系的核心竞争力源自于中关村科金深厚的行业积累、对客户需求的深刻理解，以及在大模型技术应用方面的持续投入和创新实践。这些优势使中关村科金能够在智能交互产品领域提供更加高效、智能的解决方案，满足不同客户的需求。

首先，中关村科金在智能客服、智能外呼、音视频等产品服务领域拥有超过10年的深厚积累，服务了1600多家企业客户，其中金融客户数量超过500家。这些丰富的客户服务经验为中关村科金提供了宝贵的行业认知、产品交付和服务经验，使我们能够深刻理解不同行业的需求和挑战。

其次，中关村科金得助智能客服产品恰好处于大模型技术非常适合的应用场景——人机对话。大模型技术的引入，极大地提升了中关村科金产品的智能化水平，使得对话更加自然流畅，问题解决更加精准高效。早在2023年甚至更早的时候，中关村科金就开始关注并研究大模型技术，特别是在智能语音交互方面的应用。通过长期的研发投入，公司不仅积累了大量的人才，还拥有100多份与大模型相关的专利，这使得中关村科金成为有能力接连推出电销大模型、企业知识大模型、公安反诈大模型、医保大模型等多款领域大模型的科技公司。

此外，公司还将大模型技术与自身的产品和服务深度融合。通过不断的技术迭代和优化，将大模型的能力与全系产品紧密结合，为客户提供更加智能化、个性化的服务体验。例如，中关村科金推出的电销大模型，通过精选亿级的绩优话术，结合持续的反馈优化，显著提升了外呼业务效率和客户满意度。

Q：结合具体的案例，谈一谈公司的大模型解决了实际工作中的哪些问题？

李智伟：

中关村科金的大模型技术在实际应用中解决了多项问题。以某金融机构营销外呼场景应用电销大模型的项目为例，传统的营销外呼需要依赖大量的人工坐席，耗费巨大的人力资源。随着智能外呼技术的发展，许多金融机构开始尝试用智能机器人替代人工进行电话外呼和客户回访。然而，这些早期的智能机器人大多基于小模型，它们在处理简单询问时表现尚可，但在进行持续性对话和复杂问题解答时能力有限，导致与客户的沟通效果瓶颈明显。

引入大模型技术后，情况有了明显改观。大模型在营销外呼中展现出更高的智能水平，特别是在问答准确率和多轮对话能力上。在实际应用中，相较于传统的机器人外呼，大模型与客户的沟通轮次提升了83%，平均通话时长增加了50%，显著提升了客户体验。客户更愿意与能够提供流畅对话和有效解决问题的大模型进行互动。该金融机构单日最大外呼量1200万通，其中80%以上是由大模型完成的，剩余部分由人工坐席承担。这不仅极大提升了工作效率，也优化了资源配置。

然而，我们也意识到智能外呼并不能完全取代人工服务，特别是对于那些有更广泛诉求的高净值客户，人工介入和个性化服务仍然是必需的。在这个过程中，大模型起到了智能筛选的作用，识别出需要深度服务的高净值客户，而这部分客户的服务则由人工完成。这种人机协同的模式不仅提升了服务效率，也促进了人工坐席的专业能力提升。面对大模型的挑战，人工坐席开始加强学习，提升服务质量，以防被智能化替代，形成了一种技术与人工相互促进提升的良性循环。

尽管长尾和重复性的需求正逐渐被智能化技术所替代，但我认为人工服务在未来仍将有其不可替代的价值。人的存在和个性化服务为商业交易增添了不可量化的价值，如果所有服务场景都被机器人取代，那种独特的购物和交流体验可能会消失。因此，人工智能和人工服务的结合，将是未来发展的最佳路径。

Q：那你是如何看待大模型不能替代掉人的什么部分？

李智伟：

我认为在智慧决策方面难以取代人类。智慧决策是人类自主意识的核心，大模型若取代了这一部分，可能会影响人类的根本特质。

此外，尽管大模型在情感理解方面，精细化和拟人化处理能力有所进步，能够模拟更加细腻的情感反应，但人类情感的深度和复杂性是机器难以完全捕捉的。因此，大模型技术在情感赛道上虽有潜力，但不能完全替代人类的同理心和情感共鸣。

Q：关于AI幻觉您是如何看待？大模型幻觉问题现在还是常见，大模型还是会出现答非所问的情况。中关村科金研发的大模型应用是服务企业客户的，如何处理幻觉问题？

李智伟：

大模型在不同应用场景中对幻觉的容忍度是有差异的。在金融服务领域，模型输出的内容必须严格遵守监管规定，避免过度承诺或提供错误信息。因此，中关村科金在大模型应用中设置了严格的”围栏”，以确保其在规定的边界内运行。

首先是知识增强训练。在大模型的初始训练阶段，中关村科金通过知识增强训练注入金融行业的正确知识体系，确保模型从一开始就建立在正确的行业知识基础之上。

其次是引入防幻觉技术。在训练过程中引入防幻觉技术，明确告知模型哪些内容是禁忌的，哪些是违反规定的，从而将规则性知识嵌入模型中。

最后是建立敏感词库。我们的团队对行业性知识体系进行梳理，建立敏感词库，对经常出现的幻觉错误和违规问题进行外挂式屏蔽。一旦模型生成的内容触发了敏感词库，相关内容就会被自动筛选掉，从而最大程度地减少幻觉现象的发生。

Q：涉及到交付，大模型和企业客户之间还是需要磨合的，您是如何看待服务企业客户大模型的最后一公里？

李智伟：

“最后一公里”是软件行业始终热议的问题，这本质上是一个服务问题。尤其是对于To B产品来说，很难有一个放之四海皆准的标准流程。

其实，从小模型时代就有“最后一公里”的问题。模型产品总有一个冷启动到正式运行的过程，相当于是热车的过程。在小模型时代拿到一个模型做推荐系统，到客户环境也是要跟客户的数据和埋点系统打通，结合客户数据要不停调优，才能够正常被使用。这段时间在小模型时代叫模型冷启动。

进入大模型时代，大模型跟企业客户业务系统要整合，数据流对接，客户环境数据样本校准、调优，安全保护，统一认证等方面都需要细致的磨合。因此，类似冷启动的过程仍然存在。在C端或非常通用的场景中，由于数据集在市场上或者网络间很容易获得的，可能不存在“最后一公里”的问题。但是B端，尤其在国内市场，行业数据相对封闭，有些甚至是保密的，这就要求大模型必须结合客户的实际环境进行深度优化。

根据中关村科金的实践经验，向企业客户交付一个有价值的产品，必须将“最后一公里”的服务视为至关重要的环节。这不仅涉及到产品的交付，还包括提供一定的服务能力，确保客户能够顺利安装、运行并使用产品，甚至需要在产品运行初期提供持续的支持和试运行服务。为此，中关村科金不仅提供成熟的大模型工具链平台，帮助企业实现从训练到上线到优化的全过程无代码、可视化作业，降低实施难度和成本，还通过沉淀标杆案例、经验积累、模板化SOP流程和行业知识，为客户提供端到端的交付服务。通过这种方式，中关村科金致力于帮助企业客户充分利用大模型技术，实现业务的转型和升级。

Q：随着大模型推动人工智能技术的快速发展，我们是否已经迈入了AI+时代，还是说我们仍然处于+AI的阶段？

李智伟：

目前，尽管大模型技术为中关村科金的产品基础架构带来了显著的升级和革新，我依然认为我们当然处在+AI的时代。大模型被视为一种技术性的增强，它为企业的服务提供了额外的智能化优势，但并非彻底改变服务方式和服务本质。

在To B领域，我们的客户拥有非常成熟且丰富的IT资产。在向他们推荐新技术时，不能期望他们为了新技术而彻底更换现有的基础设施，这样做的成本和代价是巨大的。相反，科技公司应该更好地利用客户原先积累的数据、数据治理成果以及IT系统的原子化能力。中关村科金的目标是将大模型的能力嵌入到客户的IT核心中，与现有系统协同工作，共同发挥最大的价值。

AI+时代则代表着一个全新时代的跃迁，对企业而言，这意味着需要进行根本性的重构。这不仅是一项挑战，也对现有资产的再利用提出了难题。当前，大模型的到来并不意味着所有企业都需要因此而重新开始，而是应该在现有基础上，逐步融合和利用大模型技术，以实现平稳过渡和持续创新。

中关村科金正是基于这样的理解，在推动大模型技术与企业现有IT系统的融合中，注重渐进式的改进和优化，而非彻底的重构。公司将帮助企业客户在保持业务连续性的同时，充分利用大模型带来的智能化优势，实现业务的持续增长和创新。