解析CIFS| 中信建投证券陶剑峰：大模型在智能投顾中应用展望
2024-09-04
各位业界同仁大家好！今天我讲的题目是大模型，大模型现在非常流行，在各个领域都有尝试都有做，我今天讲的叫智能投顾，这个领域挺难做的，我们也是在尝试看看大模型怎么在智能投顾方面有所作为，今天我把我们公司做的一些尝试给大家分享一下。
01
金融大模型应用情况
我们做一件事肯定做市场调研，看看大家都怎么做的，现在从几大公司来看，从百度还有行业的恒生、金证都在尝试用大模型在金融领域做一些工作，我们看其实从很多的大模型都是基于一些开源底座在做，也有很多说是自研其实很多底层都是开源的基础上进行了加工。
金融领域来看应用大多数还是围绕着ChatGPT，初衷就是多轮对话往下，然后就是多模型理解能力做文本挖掘和理解、提炼，我们看在问答环节的工作特别多，但是在金融最主要的投顾服务尝试还是很少。
我们再看一下证券行业，证券公司他们都做点什么，我们的兄弟公司也做了很多，但是我们看它也是基于文本理解做得比较多、投顾比较少。其实我们公司也是基于一些开源模型和金融领域的模型基础做一些尝试，我们也做了很多从员工端开始先做一些助手，帮助员工完成自动化任务。
对客来讲在经济业务的投顾服务中我们也在尽量做尝试，今天我可能围绕智能投顾怎么用大模型服务做一些分享。
02
大模型落地投顾场景可行性分析
智能投顾替代人工进展情况
我们说到智能投顾其实发展也挺久了，从有大模型、大数据还有科技，以前的叫ABCD这些智能投顾在替代或者传统的投顾服务中起到了一定作用，从传统投顾到智能投顾就在各个领域用机器人替代人工的一些工作。其实这个也很好理解，投顾人员人力远远不够服务所有客户的，大家非常理解，投顾人员的短缺还有就是需要客户服务对象众多，使得人工投顾难以满足需求，就产生了智能投顾。
从智能投顾发展来看，智能投顾在择股、择时还有全场景替代做了很多工作，从我们公司来说，人工投顾其实我们能服务高端客户大概只有11%左右，人工+智能投顾大概是11%，还有就是全智能投顾的比如说长尾客户为主的我们可能服务到了11%，这11%也是付费客户在使用的，那还有61%是没有覆盖到的客户，说明这个智能投顾的路也很长，其实能做的空间也很大。
在大模型出现以前，其实智能投顾在多轮问答、合规控制方面还是有非常多的难点需要去克服，我们大模型技术出现以后，我们看新技术在智能投顾服务上有什么可以做更多改进的。
大模型出现前后，制约智能投顾发展的4因素对比
我们看一下其实制约着智能投顾发展的因素大概有四大因素：
第一，心理因素。无论大模型出现前还是出现后，对于技术比如说机器人对客户进行服务，从心理上大家并不是非常接受的，一旦回答不达到预期或者答非所问的话，冰冷程度和反感程度是更加提升的，所以这是阻碍智能投顾发生的一大因素。
第二，技术限制。机器理解远低于人的理解，只能在规范输入出现规范输出，对自然交互还是非常欠缺，技术上在大模型出现之前其实在没有多轮对话、语义理解上还是非常欠缺的，大模型出现以后在这方面是有所提升的，尤其是多轮对话、情感感知和推理决策方面，通过大模型这种技术是可以比以前标准的回答有进一步提升。但是，同时大模型它还是具有风控合规方面的问题，因为大家都知道大模型有时候在一本正经的胡说八道，对于智能投顾就比较专业性的或者具有权威性的回答是不够的，所以我们要在它的理解能力上要规避一些风险，比如说舆论风险、道德风险，把控。另外大模型需要大量语料和计算能力，投入上也是非常大的。
第三，政策和法规限制。在大模型出现之前我们还可以通过一些规则规避一些政策，大模型以后大家知道它的不可预测性就更加地提升了，所以我们还是要在可解释性、数据安全和隐私合规方面要增加更大的力度。
第四，投顾产品的限制（种类不够丰富）。大家能够生产出的工具非常少，不足以覆盖所有的客户，这个东西在大模型出现前后没有变化，大模型也是不能直接生产投顾产品的，它也解决不了这个问题。
通过分析之后，我们就知道我们大概应该在哪个方向去发力提升大模型在智能投顾中的应用点。
大模型能力分层&投顾场景分层
大模型的强项就是理解能力，它的意图识别、数据分析能力非常强，我们可以通过这个做多轮对话的客服、投教、产品的解读尤其研报的解读可以用大模型做，研报解读也用到了大模型推理能力。
风控、多模态，尤其是风控在大模型尤其是金融大模型里是需要我们去探索的点，我后续会讲我们的方案，我们在风控方面做一些工作让它能用，达到不至于胡说八道。
投顾大模型可行性评估表
我们做任何事情也要做一些可行性的分析，我们列出了所有大模型优点和缺点以及这些缺点我们是否能够接受，我们看到它的优点就是在刚刚说的连续对话、理解力、逻辑推理、快速的获得外部知识这方面是它的强项。它的难度其实我刚刚说成本非常高，它的计算量非常大，训练的成本也非常高昂，响应速度是慢的，其实比规则的反应是慢的。另外风险控制、道德风险、安全性，这些风险在金融领域尤其智能投顾如果直接面客的时候是不能接受的，所以这方面我们总结要非常谨慎推动大模型在智能投顾中的应用。
03
大模型在智能投顾中应用展望
建设目标：一员一助手、一客一投顾
我们公司是怎么做的呢？其实我们还是非常看好大模型的前景，我们也是在逐步地尝试，我们还是希望未来可能是“一员一助手，一客一投顾”方向推动智能投顾的服务用大模型加速工作。
我们分三步骤：
1.运营助手对客户提供服务。运营助手主要还是问答、知识解答为主。
2.投顾专家助手（2B在内部先给员工使用，员工经过人工审核以后把数据再给到客户）。最终目的大家希望用智能投顾直接面客能够100%更高覆盖需要服务的广大股民。
战略规划：从B端到C端，从助手到专家
我们在智能运营方面其实在做尝试，我刚刚说了我们其实大模型大家在用，多轮问答什么都在用，区别我们首先要用金融模型去做训练，另外我们再用自己的语料库，智能投顾也积累了好多语料库进行训练，这样输入我们自己测试，准确度能够达到90%以上，如果对客户回答能够准确度低于80%我认为基本上是不可用的，否则客户信任度会下降的，所以我们务必要把准确度提高。
准确度提高有很多方式，我待会儿也会说，除了有些问题你不要回答，这也是提高准确度的方式，就是我们训练模型或者去研究这样的工具是需要我们领域，证券领域需要考虑的问题，而不是大模型的技术本身需要考虑的问题，而是我们应用方需要考虑的问题。
另外要消除大模型的一些幻觉问题，各方面去提升，我们做的微调、训练是往这方面努力的。
我们现在基本上给员工做的我们现在研究出来的内部使用模型其实可以达到90%以上的准确率，我们再通过助手再给客户去回答，可以提升投顾人员的效率。
这其实也是说明通过自然语言什么的我们还是做了一点工作，使可解释性达到100%，我们有很多底层数据，如果不可解释的也尽量不让它回答，我们需要一定的追溯和验证。
第二个阶段、第三个阶段我们正在实施，我们通过2B也可以在研报提取以后做一些适当的分析，生成投顾的文章、生成回答客户的话术。另外我们也可以做大盘的分析、解读、整股工作也是智能投顾非常重要的一部分内容，我们也在尝试做。
服务模式：变被动服务为主动服务
我们说大模型在智能投顾方面的服务模式从原来的主动服务会逐步地要变成被动服务，因为很多东西都可以经过规则或者是机器人盯盘产生主动服务的要素给客户进行服务。
04
智能投顾大模型建设规划
从大模型的核心规划能力来看还是几方面做努力：
1.金融能力。因为我们在行业，我们能够拿到行业知识非常多，把这些知识放到模型里训练。
2.理解。我们不但要理解专业知识还要理解法律法规，各种从业规范、各种业务指导的能力。
3.可控。我们不但要专业能力识别正确、对外规理解要正确、风险识别要正确。
4.推理决策。最终分析、分拆整合方式是复杂的问题，希望推理决策能够符合逻辑。
5.专家投顾。我们希望基于投顾老师的专业行为还有历史上客户的交易记录强化一些学习。
6.性能要求。一旦对客以后每个人使用资源是非常高的，这方面我们也需要考虑怎么提高性能，低延时和低投入。
他们初步设计如果服务所有的客户资源基本是不可接受的，两亿以上的投入都不够。
智能投顾大模型架构图
我们大模型的架构图，基本上底层算力、大模型还是用了大多数是开源，一芯多模态方式做，我们做的主要还是能力和应用层面的工作比较多一点，底层其实不是我们应用机构需要考虑的问题。
大模型工作模式：1+N
我刚刚说大模型的工作模式是“1+N”，我们还是一个投顾主题模型与若干个辅助模型进行协作充分发挥大模型的作用，其实投顾比较容易做的主模型比较强，以前是问一答一，我们现在可以举一反三，也能理解不同的投顾场景。但是辅助模型可以用专用的模型使可信性提高、使时效性增强、使响应速度加快、使成本降低，这主要是辅助模型方面的研究成果。
金融模型跟传统模型来讲，金融知识的储备要更丰富，专业性要更强，这也是我们做大模型的优势。
辅助模型，解决特定问题，开源为主
我们尤其在辅助模型解决的问题方面也是以开源为主，我们也是在金融大模型基础上再细分做了投顾的大模型的底层，我们加了自己的投顾语料库做分析、提升、加速。
其实我们在各方面的调优也围绕这四个部分调优进行，我刚刚说了我们主要在风控辅助模型和工具辅助模型做了很多工作，传统问答形式来看比如说我们问问题通过大模型回答，我们这里加了一个叫风控大模型，通过所有的问题大模型输出以后，金融投顾大模型输出以后还要经过辅助大模型（风控大模型）再进行输出，如果所有问题投顾模型不能输出的话就更大的金融范围或者外部大模型再给输出的时候我们同样要经过风控模型，再给客户输出，从这样的流程把控风险的控制。
智能投顾大模型评估体系建设
最后我们对大模型要建设自己的评估体系，我们怎么说大模型好，回答正确率高我们也做了很多测试，也需要做测试案例，我们也收集了很多的评测集，自己建了很多评测集验证大模型的优劣和不断调优。
今天的分享就这些，谢谢大家！
