解析CIFS|交通银行黄颢：大模型助力金融服务转型
2024-04-17
尊敬的行业协会吴秘书长，各位领导、朋友们：
大家上午好！我是交通银行金融科技部的黄颢，很荣幸参加2024中国数智金融年会，今天我分享的主题是“大模型助力金融服务转型”。
中央金融工作会议指出“金融是国民经济的血脉，是国家核心竞争力的重要组成部分”，提出“加快建设金融强国”目标，明确要做好五篇大文章，其中对数字金融的学习和解读还在继续深入。有一点共识，就是要充分发挥数字技术与数据要素双轮驱动的作用，将数字元素注入金融服务全流程，将数字思维贯穿业运营全链条，面向客户提供智能化的金融服务。毫无疑问的，大模型将是一个强有力的助推器。
下面我将从三个方面做一个介绍，首先是大模型的发展趋势和我们所关心的问题，然后是大模型在金融领域的典型应用场景，最后谈几点关于金融行业大模型建设路径的建议。
01
大模型发展趋势
趋势一：大模型技术快速发展，持续引发全球AI热潮
人工智能最晚从50年代起就已经是一门独立的学科，经过数十年基础理论研究的积累，从最初的基于规则到机器学习，再到深度神经网络，几经沉浮，直到2017年前后，Transformer的提出进入快速发展阶段，Transformer架构是大模型的基础与核心，因为它解决的并行化处理、参数可扩展性、预训练的泛化能力等一系列关键问题。2022年11月基于Transformer的大型预训练语言模型，ChatGPT的横空出世一经发布就引起了强烈的关注，所展现出的自然语言处理能力和文本生成能力，标志着人工智能进入了新的时代，大模型一时也成为了人工智能的代名词。
直到现在我们仍处在各种模型和产品爆炸的热潮当中，相信大家也都接触过使用过类似的产品。最常见的文本大模型，可以进行文本生成、知识问答、逻辑推理，甚至是帮助我们去做一些编码。还有视觉大模型，比如可以根据古诗词的内容，创造一幅体现其意境的画面。最近最火热的是Sora可以根据你提供的文本提示信息，从而理解你的意图，生成连续的视频，真实度和完整度都非常高。
趋势二：大模型逐步融入技术路径和业务逻辑，带来全方位升级
我们对大模型的认知逐渐是从好奇、好玩向怎么好用去转变，我们发现大模型可以融入既有的技术路径和业务逻辑，从而带来全方位的提升。比如对于计划、执行、检查、调整这样一个经典的PDCA的闭环，每个环节大模型都可以插入进去，它帮助我们延伸业务的边界，覆盖原有技术能力难以支撑的范围，用擅长的并行数据处理帮助我们获得更强大的深层次的洞察能力，这些还只是升级。它还有重塑业务落实的潜能，大模型正在替代原先以人为中心的业务流程引擎，以人机交互的模式重构和创新，这是有可能在未来引起质变的因素。
趋势三：大模型安全问题受到广泛关注
我们也更多的关注大模型的安全问题，世界各国都在对人工智能提出相应的监管要求。去年8月，《生成式人工智能服务管理暂行办法》正式实施，明确对生成式人工智能服务实行包容审慎和分类、分级监管，还有三个鼓励，鼓励在各行业、各领域的创新应用，优化应用场景，构建应用生态体系，鼓励算法、框架、芯片及配套软件等平台技术、基础技术的自主创新，鼓励采用安全可用的芯片、软件、工具、算力和数据资源。今年2月29日网安标委又发布了《生成式人工智能服务安全基本要求》，包括语料安全、语料内容等，给出了安全评估内容，特别提到当服务用于关键基础信息设施、金融服务信息等重要场合时，应具备与风险程度以及场景相适应的保护措施。
02
金融领域应用场景
总览：大模型赋能金融领域智能化升级
大模型对金融服务转型升级的赋能主要体现在提升运营效率和改善服务体验两个方面，应用场景还在不断地拓展，其中比较有代表性的相对应用也是比较成熟的，包括智能投研、智能风控、智能营销和智能客服等。
智能投研
大模型有助于提升投研分析的效果，节省人力和时间成本，在收集到市场信息、行业走势、公众舆情等信息之后，大模型的信息抽取能力帮助我们提炼核心观点，自动生成总结摘要，降低信息获取成本。在收集到公司财报等数据后，大模型可以根据用户意图自动生成数据处理命令，简化数据分析的流程。报告内容生成阶段，大模型将根据用户要求调整表格样式，提供更为丰富、多样的数据展现形式，同时可通过学习历史投研报告，从而模仿输出风格一致的报告，并进行文字的润色，提升投研分析质量。大模型能够自动生成投研报告初稿，辅助我们进行投资决策。
智能风控
在信贷风控中，大模型可以赋能贷前、贷中、贷后全流程，简化文本撰写和话术的推荐工作，加快信贷调查审批速度，加强贷后管理。在贷前调查阶段，大模型可以从隐形集团挖掘、经济依存客户挖掘、企业信用评级、授信额度预测、押品价值评估等信息中提炼出客户信用评级、业务评价、担保评价，并自动生成贷前调查评价报告，将客户经理从繁复的文件工作中释放出来。在授信审核阶段，大模型可以辅助审核人员快速甄别信贷审批中的风险点，辅助额度管理，学习客户信息及历史授信情况，给出参考额度建议，提取目标文本，自动生成表格，辅助填写授信审批报告，辅助合同对比，缩减人工审核的工作量。在贷后监控催收阶段，大模型能够对融资项目的贷后智能监控，减少现场检查的时间、人力和财力投入，根据客户画像自动生成催收话术，降低放贷的不良率。
智能营销
在产品营销中，大模型能精准识别用户需求，提高用户策略的针对性和有效性，提升业务转化率，以可售产品文档库和历史对话记录为输入，经训练得到产品介绍、营销要点等话术，根据客户在线对话中的问题，结合已有对客户画像，从而匹配出最适合的千人千面的推荐话术，从而提高客户满意度。
智能客服
在客户服务中，大模型能精准识别客户意图，提高快速准确的解答，提高服务效率，改善用户体验。一个大模型基座可以渗透到专家知识、客服对话、政策法规、业务产品等数据的采编、分析、分类环节，意图分析、搜索问答、话术推荐、服务总结、工单记录、客户洞察等环节，从而实现对客户服务全链条的贯穿覆盖，提升客户的粘性。
03
金融行业大模型建设路径
大模型在金融行业落地也面临诸多的挑战：
第一，需要有建设大规模高速算力网络新型基础设施的支撑和海量高质量金融预训练数据；第二，要有通用大模型的行业泛化能力，同时维护多种功能的大模型，降低算力的消耗；第三，聚焦关键场景，建立应用开发工程化的能力；第四，是要解决好金融行业的严谨性与大模型某些情况下存在幻觉的矛盾，防范算法歧视、模型滥用、隐私泄露等问题，从而提高大模型对抗恶意攻击的健壮性。
建立企业级大模型平台，统筹算力、算法、数据建设
我们建议在建立企业级的大模型平台，统筹算力、算法和数据的建设，以一套训推平台为核心，向下由多个智能底座提供支撑，智能底座包括算力基础设施、多种参数规模的模型、行内自有、外购或者开源的数据，尤其要注意到液冷机柜、高性能网络、模型适配等技术的应用，从而实现绿色、低碳的算力供给。向上则依次构建多个模型集市，一个应用开发平台，支持好多个场景的应用，采用训推平台，有利于资源的集中使用和成果的高效管理。
建议也可以根据业务价值和技术难度为维度，划分四个象限，综合评估14个优先级，优先建设业务价值高，且技术难度较小的场景，比如产品知识问答、授信报告生成、工单质检、营销推荐等等。对于业务价值中等且技术难度也较低的场景，可以延后建设，比如说内部制度问答、工单摘要总结、报告生成等等。对于业务价值高，但短时间内技术实现有难度的场景可以进行持续的跟踪和探索优化，比如代码生成、行业研究等等。
从训练及推理多方面加强安全防护
最后，从训练及推理多方面加强安全防护，训练侧主要是基于人类反馈的强化学习，采用隐私保护技术和对抗训练技术，加强语料的安全性和公正性。推理侧主要是保证模型部署安全和数据传输安全，加强数据身份验证和访问权限的控制，通过三层安全防护，保障模型可靠、可信和可用。
作为百年交行目前也正在打造人工智能的新名片，持续在降成本、控风险、优体验、创价值等方面发力，我们的团队在大模型助力金融服务转型方面也取得了一些成绩，也欢迎与会的各位专家和来宾和我们一起探讨交流。谢谢！
