大模型在金融业:从热情高涨到理性应用

robot
摘要生成中

大模型正深入金融业,从热情高涨到理性回归

ChatGPT问世以来,在金融业引发了不小的焦虑感。这个对技术有信仰的行业担心被快速发展的时代潮流抛在后面。这种紧张氛围一度蔓延到意想不到的地方。有业内人士透露,她5月在大理出差时,甚至在寺庙里都能碰到讨论大模型的金融从业者。

不过,这种焦虑情绪正逐渐平复,人们的思路也变得更加清晰和理性。一位银行业务专家描述了今年金融业对大模型态度的几个阶段:2-3月,普遍感到焦虑,害怕落后;4-5月,纷纷组建团队开展相关工作;之后几个月,在寻找方向和落地过程中遇到困难,变得更加理性;现在,他们开始关注标杆企业,尝试验证过的应用场景。

一个新的趋势是,许多金融机构已经开始从战略层面重视大模型。据不完全统计,A股上市公司中,至少有11家银行在最新半年报中明确提出正在探索大模型的应用。从近期动作来看,他们也正在从战略和顶层设计层面进行更清晰的思考和路径规划。

从热情高涨到理性回归

年初ChatGPT刚出现时,金融行业对大模型的热情虽高,但对其本质和应用方式的了解其实非常有限。一些大型银行率先行动,开始做各种"蹭热度"的宣传。同时,一些头部金融机构的科技部门积极与大厂讨论大模型建设事宜。他们普遍希望自己建设大模型,询问数据集制作、服务器采购和训练方法等问题。

5月以后,情况逐渐发生变化。受制于算力资源紧缺、成本高昂等因素,很多金融机构开始从单纯希望自建转变为更关注应用价值。现在每家金融机构都在关注其他机构使用大模型的情况及效果。

具体来看,不同规模的企业采取了不同的路径。拥有海量金融数据和应用场景的大型金融机构,可引入领先的基础大模型,自建企业大模型,同时采用微调方式,形成专业领域的任务大模型,快速赋能业务。中小金融机构则可综合考虑投资回报,按需引入各类大模型的公有云API或私有化部署服务,直接满足业务需求。

然而,由于金融行业对数据合规性、安全性、可信性等要求较高,一些人士认为,这一行业的大模型落地进展实际略低于年初预期。一位专家表示,他们最初预测金融行业可能会最先大规模使用大模型,但实际情况是金融行业的应用速度不如法律、招聘等行业快。

为解决大模型落地过程中的各种限制,一些金融机构已经开始采取措施。在算力方面,业内出现了几种解决思路:

  1. 直接自建算力,成本较高但安全性好,适用于实力雄厚、希望自建行业或企业大模型的大型金融机构。

  2. 算力混合部署,在敏感数据不出域的情况下,接受从公有云调用大模型服务接口,同时通过私有化部署处理本地数据服务。这种方式成本较低,适用于资金相对有限、只按需进行应用的中小型金融机构。

针对中小机构面临的GPU卡稀缺和高价问题,有关部门正在探索建立面向证券行业的大模型基础设施,集中算力和通用大模型等资源,让中小金融机构也能使用大模型服务,防止技术落后。

除了算力,随着对大模型落地的探索,不少金融机构也加强了数据治理。越来越多的中等规模金融机构开始构建数据中台和数据治理体系。有专家认为,构建完善的数据治理体系和数据湖技术平台,将是未来金融机构IT建设的重要方向。

一些银行正通过大模型结合MLOps的方式解决数据问题。例如,某大型银行采用MLOps模式建立大模型数据闭环体系,实现了整个流程的自动化,以及多源异构数据的统一管理和高效处理,据悉目前已构建和积累了2.6TB的高质量训练数据集。

从外围场景切入

过去半年多,大模型服务商和金融机构都在积极寻找应用场景,智慧办公、智能开发、智慧营销、智能客服、智慧投研、智能风控、需求分析等领域都被探索。

每家金融机构对大模型都有丰富的构想。有银行称内部已有20多个场景投放应用,另一家银行表示在30多个场景中进行了试点,还有证券公司正在探索将大模型与此前推出的虚拟数字人平台打通。

但在实际落地过程中,业内共识是先内部后外部。毕竟当前阶段大模型技术并不成熟,存在幻觉等问题,而金融行业是一个强监管、高安全、高可信的领域。

有专家建议,金融机构应优先将大模型应用于金融文本和金融图像分析理解创作的智力密集型场景,以助手形式,人机协同来提升业务人员工作效率。

目前,代码助手已在不少金融机构落地。例如,某银行构建了基于大模型的智能研发体系,编码助手生成代码量占总代码量的比值达到40%。在保险领域,有公司研发了基于大模型的辅助编程插件,直接嵌入内部开发工具。

智慧办公领域也有不少落地案例。某金融大模型产品在一家大型银行上线后,已经推广到几百个网点,答案采纳率超过85%。相关解决方案也快速复制到其他银行和金融机构。

不过,业内人士判断,这些已经广泛落地的场景,实际都还不是金融机构的核心应用,大模型距离深入金融行业的业务层面还有一定距离。营销、风控、合规等场景是大模型可能带来变革,同时也是金融客户需求所在的部分,但目前这些工作还要取决于底层大模型厂商能力的提升。

有专家预测,到今年底之前,会有一批真正在金融机构核心业务场景中使用大模型的项目建设或招标信息出现。

与此同时,一些顶层设计层面的改变正在进行。未来的整个智能化、数字化系统,都将重新建立在大模型的基础之上。这要求金融行业在推动大模型落地过程中,重新架构系统。同时,也不能忽视传统小模型的价值,而应该让大模型、小模型协同起来。

目前已经有多家头部金融机构基于大模型,搭建了包含基础设施层、模型层、大模型服务层、应用层等多个层级的分层系统框架。这些框架体系普遍有两大特点:一是大模型发挥中枢能力,将传统模型作为技能进行调用;二是大模型层采用多模型策略,内部比较,选出最优效果。

人才缺口依然庞大

大模型的应用,已经开始对金融行业的人员结构带来一些挑战和变革。有金融科技公司从今年初到5月底裁掉了300多位大数据分析师。一些原本由实习生完成的信息归纳汇总工作,现在可以通过大模型完成。

不过,一些银行并不希望大模型带来减员。他们希望大模型能带来新的机会,提升员工的服务质量和工作效率,同时释放部分员工去做更多高价值的工作。

这种考虑一方面是出于人员和结构稳定的考量,另一方面也是因为行内很多岗位还有人才缺口。大型银行有大量工作需要完成,部分IT需求的工期甚至排到了明年年底。他们希望大模型能帮助员工提高效率和速度,而不是导致人员减少。

更重要的是,大模型的需求激增,但短时间内稀缺的人才供给难以匹配。一位银行高管表示,他们最近招聘的新员工中,学习AI领域的比例很高,但了解大模型的人才却很少。

有专家认为,直接应用大模型的人才需求相对简单,主要需要会提问题的人。但如果要自建行业或企业大模型,则需要金融机构拥有一支精干的垂直大模型技术队伍。

为应对人才缺口,一些机构已经采取行动。有公司联合银行实验室的人力资源团队,设计了一系列培训课程,如Prompt调优、微调、大模型运营等,并与多个部门合作,建立联合项目组,推动企业人员能力提升。

在这个过程中,金融机构的人员结构也会迎来一些调整和变革。会使用大模型的开发人员,可能比不会使用的人更容易在这个环境中立足。

总的来说,大模型技术虽然给金融行业带来了机遇和挑战,但要真正实现范式的改变,还需要金融体系内部有一支队伍深入融合内部需求,做出重大创新。

PROMPT3.42%
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 4
  • 分享
评论
0/400
RektRecoveryvip
· 16小时前
叫它吧......金融科技安全表演中又一个可预测的炒作周期。风险表面在3..2..1...扩展中...
查看原文回复0
Gas_FeeSobbervip
· 16小时前
这韭菜从焦虑到躺平了
回复0
Alpha不开口vip
· 16小时前
模型也救不了韭菜
回复0
Token新手指南vip
· 16小时前
温馨提示:过热投资AI项目需谨慎,根据CCID数据,87%标榜AI应用的资产存在高风险
回复0
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)