本站点使用Cookies,继续浏览表示您同意我们使用Cookies。Cookies和隐私政策>

搜索

拥抱大模型,构建无所不及的金融智能

2023-09-20
4318
5

大模型已经成为全国科技领域最大的热点。今天和大家分享下,大模型可以给金融行业带来哪些机遇和挑战?如何迎接和拥抱大模型?华为的金融大模型解决方案,以及华为和客户、伙伴已经开展了哪些探索和实践。

华为在全球已经服务了3300家金融客户,在Top100银行中,有53家选择与华为合作。我们这些年一直在持续深耕金融行业,持续加大在客户服务、研发、解决方案等各个方面的投入。

在今年6月份第十一届金融峰会上,华为发布四大战略,面向金融持续聚焦“筑牢基础设施韧性、加速应用现代化、跃升决策数智化、助力业务场景创新”四大方向,携手客户和伙伴,加速金融向数字化与智能化迈进。

应用大模型的能力,将成为金融机构的关键生产力

Transformer的成熟应用,让我们迎来了基础大模型时代,也让AI来到了新拐点。业界到现在,基本上在两方面达成了一些基础认知:

大模型让AI生产力将会无处不在,对各行各业都会产生巨大的影响。

未来人人都可以有AI助手,帮助我们生成报告、生成内容、给出各种行动建议,将大大提升每一个人创造力、生产效率、和决策准确度;AI快速训练成为可能,从传统模型的月级训练到大模型业务场景的天级落地;大模型全流程适应,可以打通金融的前中后台,对业务进行全面的重塑。

拥抱大模型,构建无所不及的金融智能

应用大模型的能力,将成为金融机构的关键生产力

长期来看,大模型降低了技术应用的门槛,即使不懂编码,只要懂业务逻辑、流程分解,也有可能做出好的产品,大模型的普及应用会快于历史上其他的技术使用;但短期而言,还是有很多挑战的,面向未来,金融机构应用大模型的能力将成为关键生产力。其中知识与专业、高质量的数据集、安全合规、算力等几个方面的能力至关重要。这些都是我们要和行业一起解决的关键难点问题。

拥抱大模型,华为全面升级数字金融解决方案

无论我们面对的是什么问题,大模型对行业的深远影响是一定的。无论是在市场与销售、渠道、产品开发,还是客户服务等所有的领域,一定会重塑整个数字金融行业。大模型有三个方面的价值:

第一、降本增效,这是最直接的价值,很多的场景也能够看到,在开发、客服、办公等等领域,这对今天的金融行业有很大的意义,尤其是很多的银行从传统的经营模式走向精耕细作,一定要重视大模型;

第二、提升体验,产生新机会和新的收入增长,比如在金融市场、资产管理等等领域,通过专业化的模型可能看到的比以前通过人力看到的更多,可以为金融机构打开新的领域和服务的机会;

第三、创新的模式,甚至颠覆性创新。我们看到在很多地方大模型让金融机构的运营边际成本趋近为零,就像移动手机银行的发展一样,反正都不依赖网点了,一个手机APP服务1万个客户和服务100万的成本是接近的,这就能产生新的模式,能力强、做的快的机构,就能产生新的优势。所以有人提出大模型对金融机构可能是一个新的分水岭。

从GPT-3.5的推出到现在不到一年的时间里,我们看到大模型在行业的发展非常地迅猛,第一波规模化场景应用已经落地。在国内,我们看到头部的金融机构也已经在大模型的应用上有了很多落地的场景,特别是数字化转型走得比较快的银行,数据治理做的比较好的银行,已经在大模型的场景应用上占据了先机。

在今年6月份全球金融峰会上,我们发布了金融“小蛮腰“解决方案4层架构。拥抱基础大模型时代,大模型对银行的业务与技术体系,会带来很大的变化,包括软开、架构、工程、数据等,因此我们围绕客户的业务场景,系统性地升级了数字金融四层架构的方案能力:

以澎湃算力高效互联,构建大模型智能底座,并用大模型全面升级智简韧性的基础设施;大模型融入经营决策与应用现代化,增强智慧业务引擎;通过大模型全面升级客户联接,打造智能交互;在产业金融等场景侧,以大模型配合端云协同,构建无处不智的金融服务。

接下来,我们就大模型重塑决策与交互、加速应用现代化,和大家分享一下我们的思考。

重塑决策与交互,构建无所不及的金融智能

用好大模型首先需要高质量的数据。金融行业本身就有大量的数据,尤其是还有PB级的沉默非结构化数据等待被激活。如何让这些数据在大模型时代发挥更大的价值,既是挑战,也带来了巨大的机遇。

我们看到大模型应用走得较快的银行,都在数字化转型方面做得比较扎实。他们在数据治理能力、数据资产管理和数据服务能力、数据安全管控能力、数智融合架构能力等方面已经打下了坚实的基础。

以数智融合架构为例,大模型训练80%的时间都花在数据准备上。如果能打通数据和AI孤岛,让大模型直接在数据所在的集群上运行,无需搬运数据,就可以节省大量的时间和资源。

在数据为核心的基础之上,我们认为大模型需要“三力”协同,才能形成有效的价值闭环。

拥抱大模型,构建无所不及的金融智能

第一是创新生产力,就是围绕场景的价值释放。我们看到大模型可以有三方面的价值:全面提升效率,降本增效;重塑体验,产生新机会和新收入;并创造新的业务模式。如围绕网点这个场景,工行已经开展了卓有成效的实践。某大行在全国有近两万多个网点,20万多个网点员工,很多新员工对业务办理熟悉程度不够。通过盘古大模型已经实现了根据客户问题生成操作指引,将以前5次操作缩短为1次,单次办结时间缩短5分钟。员工的效率和客户的体验都得到了极大的提升。

第二是跃升智力,首先要有一个强大的基础模型,同时还要充分沉淀金融知识与业务逻辑,让金融大模型走向全面专业。

第三是澎湃算力,要有一个能够支撑千亿甚至万亿的高参数大模型训练的算力底座,提供不间断训练与模型安全保障。

我们相信,通过坚实的数据基础和“三力”协同,选择好合适的场景,快速行动,循序渐进地找到自己的方向,驱动大模型飞轮转动起来,逐步实现场景的价值落地、体系构建、能力的全面固化。我们正式推出了华为金融大模型方案,通过三层方案帮助客户打造创新生产力、跃升智力、澎湃算力。

拥抱大模型,构建无所不及的金融智能

首先,在场景层,我们要联合客户和伙伴,深入到金融的生产场景,打造大模型场景助手,让大模型融入业务流程,提高效率和质量。比如,我们刚才视频中展示的大模型信贷助手,帮助银行员工快速完成小微贷的风险评估、信贷审批、合规检查等工作,信贷审批时间大幅缩短。

其次,在模型层,我们要淬炼出最懂金融行业的大模型。它不仅有强大的基础模型能力,还能够根据不同的金融领域,如银行、证券、保险等,定制化训练和优化,提供更精准和专业的智能服务。

在底座层,我们整合华为公司ICT产品的组合优势,构筑高效和安全的底座,提供分布式集群计算能力和大模型训推加速能力,支持千亿级参数大模型高效训练,为大模型提供强大的支撑。

在模型层,围绕创新生产力,首发三大类10大场景

在场景层,华为首次推出AI for Data、AI for Business、AI for IT三大类10个应用场景,包括智能客服、信贷报告生成、智能数据分析、智能编程助手等。目前,这十大场景都已经和金融机构合作落地。比如,在网点场景,某大行通过盘古大模型将以前5次操作缩短为1次,单次办结时间缩短5分钟;在软件开发领域,利用大模型代码生成等能力,逐步构建智能软开体系,编码助手的代码生成占比提升至40%。

拥抱大模型,构建无所不及的金融智能

大家看到很多的场景都正在落地,这个过程中,除了模型本身的能力之外,我们看到工程化能力和丰富的生态体系非常重要,这也是我们发力的重点方向。

我们从多年的开发实践中,沉淀出了完整的、模型落地的工程化工具链,覆盖了从模型微调、数据工程、应用开发、安全工程等一系列工具,让客户和伙伴更便捷地调用大模型;同时,我们汇聚了大模型产业链中的各类伙伴,包括标注、调优、开发等,一起推进场景的落地,也欢迎更多的伙伴加入我们的大模型生态体系。

在模型层,发布盘古金融大模型,跃升智力

围绕大模型智力跃升,华为在7月7日发布了盘古系列大模型。基础大模型的核心在于持续的思维涌现能力,华为坚持从L0自主构建基础大模型,已经具备了100多种模型能力。以NLP为例,华为千亿NLP重点投入在思维链、长序列等基础能力上,在同样的数据浇灌下,能训练出更“聪明”的模型。

拥抱大模型,构建无所不及的金融智能

大模型的智力还需要专业知识和行业规则的浇灌。我们在盘古大模型基础上,加强了金融知识、技能、工具和全流程模型安全保障,打造盘古金融大模型。

在金融知识方面,我们沉淀了五大类金融数据,注入了千亿级的金融Tokens;在金融技能方面,我们与金融机构和伙伴共创,目前已经构建200多个细分应用场景,沉淀了数千个细分场景模板;同时,我们融合了100多个行业标准、规范的知识库,让大模型更专业;在安全方面,我们构建了数据安全、模型安全、内容安全等全流程的合规能力,支撑模型的可信。

在底座层,打造大模型智能底座,提供澎湃算力

算力底座是大模型工作的基础,它决定了模型训练的效率和质量。区别于传统模型,大模型需要更高效、更稳定的底座支撑。我们常常说“你有几张卡”,实际情况比这复杂得多。底座需要从算力、组网连接、数据存储等环节全面考虑,这正是华为独特的优势。

我们通过ICT软硬件多产品组合,构建了“算-网-存-云”协同的大模型智能底座方案,从高性能集群训练、高可靠模型保护、高效率绿色节能三个方面,为大模型提供澎湃算力。

首先,在高性能集群训练上,华为通过高速集群互联架构,提升节点互联效率,将token处理时延降低至100ms以内。

在高可靠模型保护上,华为将计算与存储进行了协同,通过“无感断点续训“技术,将训练中断时间从天缩短到分钟级,实现了月级稳定训练。

在高效绿色节能方面,通过全液冷集群和多租户资源共享,将网络能效比从0.1提升到0.5 PFLOPS/KW(每瓦特浮点运算次数)

大模型的基础设施是一个复杂的系统性工程,我们希望通过全面的协同来降低工程的复杂度,加速大模型的落地和创新。

我们正处在智能化升级的关键时刻,大量的金融机构正在积极探索大模型的应用。大模型的使用对很多金融机构还有一定的门槛,华为希望通过上述三层方案去解决一个个问题,让金融机构面对大模型实现会用、好用、有用。在中国,Top20的银行中,已有1/2选择了华为的AI软硬件平台。

全面升级分布式新核心3.0,发布金融级PaaS能力

应用现代化的大趋势是以平台+服务构建业务敏捷。随着大模型能力逐步落地,“平台+服务”将演变为“平台+服务+AI”模式,这里我们看到3个变化:围绕应用现代化基础设施领域,大模型全面提升基础设施的能力,比如AI赋能自动驾驶网络走向NetGPT,进一步提升运维效率;同时在大模型重塑决策与交互过程中,将构建出,如智能审核、客服助手等更丰富的AI原子能力;大模型作为中枢将实现业务原子能力与AI原子能力的自动组装,实现更加敏捷的业务创新。

拥抱大模型,构建无所不及的金融智能

华为围绕金融机构核心应用现代化转型“设计+开发+部署+运行+运维”的五维全时态,发布金融级PaaS以全面升级分布式新核心3.0解决方案

本次发布的金融级PaaS,聚焦开发运维、金融级中间件及高可用管理3大领域,通过单元化架构、混沌工程、容灾演练平台等保障金融业务5个9可靠性;引入“AIGC+低代码平台”实现10倍开发效率提升;彻底打通架构研发、运行运维、演练治理全流程实现“一张蓝图绘到底”的管理和治理体验。

在金融应用现代化的路上,我们与很多客户同行。在华夏银行,我们深度合作,基于华为金融级PaaS平台和GaussDB,助力华夏实现首个账务类核心业务系统上线,迄今已完成40多个核心应用现代化改造,支撑华夏银行打造一流智慧生态银行战略目标。

华为持续加大金融PaaS的研发投入,引领金融核心应用现代化升级,目前已支持150多家金融客户走向应用现代化,从大型银行到城商农信,从国内到海外金融机构,全面助力金融行业数字化转型。

数字人民币智能合约,支撑数字人民币场景敏捷创新

在国家“十四五”规划中,数字人民币被纳入“国家发展战略”。华为基于深厚的ICT产业技术优势,与数研所构建多地多活的数字人民币基础设施,同时积极探索智能合约场景应用。

依托华为2012实验室在xmart合约语言、TEE可信执行环境,构建可信的智能合约底座和智能合约服务平台。我们联合农业银行、北京银行、东吴证券,一起发布华为数字人民币创新方案,包括智能合约底座和智能合约服务,以及共同打造的场景化应用成果。

在北京银行,围绕智能车联网场景,以智能合约推动数字人民币与智能网联平台对接,实现多方智能分账;在农业银行,围绕预付资金监管,打造农行“智付安心”数币智能合约预付费平台,已经服务了教育等10大类预付费场景;在东吴证券,通过智能合约探索证券行业资金流向监控应用,保障资金安全、进一步提升风控能力。这是证券行业首个数字人民币应用场景落地。

我们坚信,大模型必将重塑金融行业。让我们一起行动起来,智领睿变,跃升数字生产力;行稳致远,共赢金融新未来!

免责声明:文章内容和观点仅代表作者本人观点,供读者思想碰撞与技术交流参考,不作为华为公司产品与技术的官方依据。如需了解华为公司产品与技术详情,请访问产品与技术介绍页面或咨询华为公司人员。

TOP