金融科技平台积极拥抱大模型技术 维信金科构建四大应用场景初见成效

艾媒咨询|2023年中国AIGC行业发展研究报告

随着人工智能技术的不断发展,AIGC技术也日益成熟,广泛应用于更多领域,其广阔的应用前景将推动AIGC市场规模快速增长。艾媒咨询预测,预计2023年中国AIGC核心市场规模将达79.3亿元,2028年将达2767.4亿元。

艾媒咨询|2023年中国AIGC行业发展研究报告 精品决策
中国ChatGPT及AIGC消费者行为洞察数据 中国ChatGPT及AIGC消费者行为洞察数据 科技消费 用数据说话

  每一次科技创新,都对金融行业智能化产生巨大的影响。这次轮到了AI大模型。

  今年以来,众多金融机构纷纷拥抱AI大模型。

  越来越多银行正将AI大模型广泛应用在智能客服、智能催收、信贷风控、智能投顾、辅助代码开发、智能办公等场景。

  与此同时,金融科技平台也在积极“试水”大模型技术。

  比如维信金科已上线了智能办公助手、智能客服助手等基于大模型的AI应用工具,大幅提高员工办公效率。

  据悉,维信金科在目前为合作伙伴提供科技输出的基础上,还将考虑与各方在智能营销、智能贷后管理、智能风控等场景逐步开展探索。

  值得注意的是,大模型在金融场景的应用,也面临诸多挑战,其中包括如何做好数据保护,如何妥善解决AI科技伦理问题、如何解决大模型的“幻觉问题”,如何让大模型更好地与各个金融场景实现融合,如何解决底层算力瓶颈等。

  维信金科首席科技官史红哲对此表示,大模型技术能否在金融场景获得良好的应用成效,某种程度与企业的顶层设计有着密切关系。毕竟大模型技术应用是一项高投入、且颇具技术挑战的工作,需要企业做好全面细致的资源统筹与布局规划。

  对此,维信金科一面在组织架构层面专门设立一个跨部门AI工作组,负责大模型相关的战略制定与决策,一面在平台研发部设立AI应用研发团队,专门负责大模型技术在各个金融场景的拓展和落地。

  “与此同时,我们还在公司层面不断宣传和培训,确保公司全员都能理解大模型,更好地使用大模型产品。”史红哲指出。

  金融科技平台试水大模型“百花齐放”

  围绕大模型技术的应用,金融科技平台可谓是“百花齐放”。

  三季度,乐信通过金融专属数据的预训练与业务数据精调,加快AI大模型在企业业务场景的落地应用。

  一位奇富科技人士表示,借助AIGC大模型技术的赋能,企业电销系统能为每段通话进行语义分析和线索挖掘,令电销线索识别准确率达到98%同时,还助推电销提升转化率超过5%。

  与此同时,不少数字原生的中小银行也在大模型技术应用方面成效显著。

  微众银行将大模型技术主要应用在四大场景,分别是辅助AI绘画(令营销设计的操作效率大幅提升),辅助代码开发(明显提升开发效率)、辅助大模型办公(在文案写作、内容总结等办公场景提升工作效率)、研发小微企业AI大模型(提升新客营销效率与存量客户活跃度)等。

  苏宁银行则将AI大模型技术应用在智能客服场景,明显提升银行智能客服在线问答环节的智能化程度。

  面对大模型技术在越来越多金融机构与金融业务场景获得广泛应用,维信金科也深刻意识到,大模型技术对金融科技业态的新一轮“改造”将是大势所趋,今年以来,维信金科将大模型技术先后应用在智能信贷、智能办公、智能IT、辅助风控四大场景。

  在智能信贷方面,维信金科基于大模型技术的智能客服助手改变传统的人工撰写客服小结模式,智能客服助手会在每通客服电话结束后自动生成标准化小结,帮助每位坐席客服每天节省若干小时的客服小结撰写时间。

  在智能办公方面,维信金科上线的智能办公助手“维小智”,充分融合开源系统的公有域知识与公司的私有域知识库,拥有足够的场景理解和上下文对话能力,能以聊天交互的形式,为公司不同岗位员工提供快速、精准、高质量的AI自动解答,包括写文章、改代码、解答财务及IT问题等复杂任务都能得到快速高效“回应”。

  在史红哲看来,短期而言,大模型技术可提升某些特定金融业务场景的运作效率。但就长期而言,随着大模型能力不断进化,应用的金融场景逐渐深入与广泛,未来大模型技术很有可能对用户端产品、风控系统,内部办公系统等众多场景产生颠覆式的变化。

  “我们正与业务部门开展紧密沟通,不断地挖掘大模型技术的新应用场景。因为业务部门了解具体业务痛点与迭代需求,IT部门则精通大模型技术最新发展趋势与底层技术变革趋势,若能将业务与技术很好地结合,逐步落地一个个场景,最终将给企业持续提升业务效率带来量变到质变的效果。”他强调说。

  妥善解决大模型技术应用诸多挑战

  随着应用大模型技术的场景日益广泛,越来越多机构注意到大模型技术应用带来的诸多挑战。

  农业银行研发中心副总经理赵焕芳指出,大模型在金融领域的应用,目前仍处于探索试点的初级阶段,面临着多方面挑战,其中包括数据隐私挑战、模型定制挑战、安全应用挑战、场景扩展挑战等。

  “由于金融业对安全合规的要求极高。如何解决大模型的幻觉问题、隐私保护等问题,提升可信可控可解释性,需要金融业界持续关注。”他强调说。

  也有业内人士指出,大模型所擅长的,是知识库压缩、推理、问题拆解、问题解答等底层能力。若要真正体现大模型的价值,一定是与金融场景深度结合,但这个进程不会很快,因为金融属于强监管与高合规要求的行业,金融场景的新技术应用都需经历反复验证,先确保业务合规才能上线。

  面对大模型应用所面临的多重挑战,多位专家建议金融机构不妨“先内部后外部”——短期内不直接面向客群开放,而是聚焦提升内部办公效率与业务操作能力;此外,金融机构需注重大模型与小模型的协同——通过研发比深度学习算法具备更高创造性的小模型,再结合大模型,进一步提升特定金融场景的服务效率与服务体验。

  在大模型技术整合应用方面,金融机构还可以通过将知识图谱与LL M大语言模型深度结合,进一步解决后者缺乏事实知识、幻觉和可解释性低等问题。

  史红哲对此指出,金融领域若要很好地“落地”大模型应用,的确充满各种各样的挑战。首当其冲的,是大模型的准确性——严格而言大模型本身是不知道准确答案的,它实质是一个根据海量文本训练出来的、高度复杂化的深度人工神经网络,这个网络拥有几千亿参数,能根据文本之间的关联概率尝试回答问题,但它经常也会给出一些似是而非的“答案”。

  其次,大模型技术在金融场景的应用面临较高的数据隐私保护与业务合规操作挑战。目前某些金融场景的大模型技术应用,是通过封装外部机构的大模型能力实现。但企业内部的数据可能存在泄密风险,令部分员工比较担忧,所以不太敢放心使用大模型技术,所以就信息安全合规而言,金融机构都需要研究一个合适的方案规避上述风险。

  第三是算力瓶颈挑战。由于众所周知的原因,当前不少金融机构感到大模型技术预训练的算力紧张,且公有云的相关产品已逐渐受到影响。

  面对上述挑战,维信金科决定先对大模型技术应用放在提高办公效率方面,严格遵守不直接面向客户的原则。

  “在战略规划层面,中小金融机构要侧重能力封装与应用探索,坚持谁好用就用谁的产品的原则,并引入更多技术相对成熟的大模型产品提升自身业务竞争力与金融服务体验。”史红哲直言。考虑到大模型的算力与人力成本均比较昂贵,维信金科不打算开展底层的大模型训练,但企业已对大模型应用做了全景图规划,计划更好地借助内外部能力,提升大模型在各个金融业务环节的使用成效。

  在业内人士看来,随着大模型技术日益完善,加之各方正协力解决算力与数据隐私保护等问题,未来金融大模型在金融场景应用的很多挑战都将随之迎刃而解,但它能否在众多金融场景发挥更大的降本增效作用,关键在于大模型技术应用能否聚焦客户需求,进一步挖掘客户需求并提供高效安全合规专业的解决方案。

  “大模型能否在金融场景得到良好应用,另一个关键是金融机构能否用好手里的数据。”史红哲指出。为此维信金科正双管齐下,一是针对通用领域的数据整合使用,由大型互联网公司协助解决,二是针对公司自有的各类文本、语音等结构化数据,维信金科将创建一个数据管理平台,更好地使用好这些数据,助力大模型在越来越多金融场景应用过程发挥更好的效果。

艾媒咨询|2023年中国AIGC行业发展研究报告

随着人工智能技术的不断发展,AIGC技术也日益成熟,广泛应用于更多领域,其广阔的应用前景将推动AIGC市场规模快速增长。艾媒咨询预测,预计2023年中国AIGC核心市场规模将达79.3亿元,2028年将达2767.4亿元。

艾媒咨询|2023年中国AIGC行业发展研究报告 精品决策
中国ChatGPT及AIGC消费者行为洞察数据 中国ChatGPT及AIGC消费者行为洞察数据 科技消费 用数据说话