本站点使用Cookies,继续浏览表示您同意我们使用Cookies。Cookies和隐私政策>
7月,一年一度的世界人工智能大会(WAIC 2024)在上海盛大举办,大模型的发展已从如火如荼的“百模大战上半场”走向“大模型的AI原生智能应用下半场”,各厂家更聚焦大模型如何应用落地。在WAIC舞台上亮相的众多AI创新中,金融大模型尤其引人瞩目,也被认为是AI大模型产业化落地的第一站。
华为持续推进AI大模型在金融的价值创造,近一年,华为联合客户和伙伴,将大模型应用从运营辅助推向生产,在多家金融机构落地了超50个场景。大模型正在从AI4Data、AI4Business、AI4IT三个领域,提升金融智能化,从智力涌现走向价值涌现。
发展AI的基础是高质量数据,尤其是在大模型时代,PB级非结构化数据将被激活,数据和AI之间的联系也将更加紧密,构建“云-数-智-算”全面融合架构,助力银行数智能力全面升级,势在必行。
为此,华为提出构建 “1-2-3-4”银行数智能力体系蓝图,其中包括一体化数智软件底座和计算底座,数据和AI两条产线,以及三类数字化场景和大模型应用,四类数据工程化服务包含数据能力体系规划、架构规划、场景与应用集成设计及性能调优。通过数据与AI的深度融合渗透,构建可复用、可演进的数智能力,实现体验最优、价值效益提升,帮助银行通过数据赋能走向智能化升级。
只有构建全面的数据能力体系底座,才能应对大模型时代的海量数据需求。未来的数据平台,需要具备全域融合、多维分析、实时反馈、智能驱动和安全共享等基础能力。因此,我们围绕三大体验来定义银行数据中台三大能力。
•技术供给:围绕业务体验,构建实时、多维、智能的供给能力
场景上,我们围绕业务体验,深耕数字化营销、风控和运营场景,构建实时、多维、智能的技术供给能力,携手伙伴丰富数据应用,实现从被动用数到主动用数。
首先,实时保证了数据的及时采集、传输、处理和应用,实现了数据的动态更新和实时反馈。助力银行快速响应市场变化,及时调整业务策略,提高风险防控能力,增强服务创新能力。
例如,某银行利用“实时营销”策略,通过大数据分析客户偏好和行为,定制圈客算法,实现精准营销。这种千人千面的营销方式,不仅提升了客户体验,还通过实时反馈和权益发放,显著提高了客户活跃度和资产留存率,相比传统营销方法提升了164%。
又如某银行通过“实时分析”,赋予分支网点即时查看T+0指标的能力,实现晨会(第二天)变夕会(当天),能够及时进行业绩总结和改进,有效提高了运营效率。
支撑这些实时营销和实时分析的背后,是华为的全链路实时方案,它实现了数据从采集到计算再到应用的全面贯通,支撑了敏捷决策,确保了数据的实时同步、入湖、加工和展示。
其次,多维代表了数据的跨界融合,它从一种业务视角释放了数据的价值。
例如,一家大型银行通过构建手机CRM系统,实现了从传统陌拜到精准获客和持续经营的转变。客户经理利用该系统进行智慧移动营销,包括地图查新企业、营销策略推荐、产品展示和业务指导等,同时在移动端完成谈判决策支持、客户信息采集、流程跟踪和风险分析等全流程管理。
又如某城商行通过融合多方数据形成知识图谱,支持对公营销数字化,服务于智慧园区信贷和结算用户拓客,助力战略性新兴产业和科创实体经济。利用图技术挖掘潜在客户,推送至CRM系统,实现数字化营销,并结合产业知识进行企业经营关系预测,探索小微金融服务新模式。
支撑这些多维营销和运营的背后,是华为的多维分析方案,它支持亿级数据的毫秒级响应和百亿级数据的多区域部署,实现点查秒级响应和多表聚合的实时检索,提高了运营分析的精细度、透视性和效率。
最后,智能是通过整合人工智能、大数据和云计算,深化了数据的挖掘、分析和应用,全面融入AI引擎。在数据底座层,AI技术构建了多模态智慧搜索平台,结合大模型和知识库,支持办公和网点助手等业务,同时升级传统搜索为向量数据库,以支持高维数据检索。在产线层,AI技术赋能数据治理,通过嵌入各流程,提高数据开发效率,实现数据使用的便捷性。在应用层,AI辅助进行智能数据分析,进行根因分析和数据资产沉淀,实现数据分析的可视化和自动化。
•融合架构:围绕系统体验,构建云数智算全面融合架构,化繁为简
保证数据的高效流动,快速支撑各类应用系统,对银行数字化转型意义重大。通过数据的高效流转,银行可以加速贷款审批、账户管理、风险评估等流程,缩短业务处理时间,提升客户满意度,并降低运营成本;可以深入理解客户需求和行为,提供个性化服务;并加强银行的风险监控能力,通过大数据分析,银行能更准确地评估信贷风险,及时发现异常交易和欺诈行为,保护客户资金安全。
那么,如何做到数据高效流转成为亟待解决的问题。
在架构上,我们围绕系统体验,构建企业级数据平台,打破数据孤岛,高效数据供给。通过云-数-智-算全面融合架构,将数智一体化底座、数智研运一体产线和数字化应用南北向贯通,让应用开发的效率更高;另一方面,我们通过推动智算融合、数算融合、数智融合和云数融合,大幅提升从训练到模型上线的速度,做到化繁为简,全面推进智能化升级。
云数智算融合架构不仅为银行构建了坚如磐石的数据基础,更确保了与AI的高效融合,为银行将来进一步运用AI打下了坚实基础。在此基础上, 银行可以构建连贯的数据与智能生产流程,实现业务的全面数字化,为客户提供更加个性化、智能化的服务。
•服务共享:围绕用户体验,实现数据资产服务化,使能人人用数
在数据治理方面,华为围绕用户体验,重塑数据产线,从数据管理走向数据运营,实现数据资产服务化。
我们认为未来数据服务肯定是共享化的,数据应用要求跨租户、跨组织、跨部门、跨业务条线进行数据共享。因此,既要实现基于平台资源、存储资源和算力资源的资源共享,又要实现包括数据模型、数据指标、数据资产、应用服务、分析服务、AI服务在内的服务共享,打造安全、实时、高效的数据服务,以支撑银行可以通过数据驱动来创造价值。
比如某股份制银行率先构建了统一的数据服务平台和数据服务门户,成立数据资产运营中心部门进行长期数据运营,行内月活用户数超过6万,员工用数渗透率超过55%,其中业务部门用户数占比97%,全面支撑各类业务,实现人人用数。
金融大模型的建设是一个系统化的工程,我们在坚实的数据能力体系基础上,定义了金融大模型的整体方案架构,包括底座层、平台层、模型层和场景层,重塑决策与交互,助力大模型成为金融机构的关键生产力,加速金融行业智能化。
•金融大模型业务原生驱动,是金融智能化的关键一步
大模型场景的应用,模型能力是第一性。华为最新发布的盘古大模型5.0在全系列、多模态、强思维三个方面带来全新升级,包括2300亿的稠密模型和2.6万亿的MOE大模型(混合专家模型),能够更好地处理复杂场景和跨领域多任务场景。
金融行业的应用需要打造“多样智能”模型能力,华为将盘古大模型中的预测大模型应用于财务智能预警场景,提供企业财务异常识别和手段分析,准确率从65%提升到90%以上。并升级应用于银行资产负债调度,智能辅助日间上千亿资金头寸的运营决策。
华为主张百模千态,联合数据、大模型、应用、服务等伙伴,促进金融大模型应用场景繁荣与落地。软硬件和模型开发管理平台集成多家伙伴,全面适配和纳管。并提供大模型一站式开发工具链,包括数据工程、模型微调与训练、应用开发、安全工程等系列工程化套件,让客户和伙伴更便捷地应用大模型。
在安全防范与风险管控方面,华为强调数据保护、抗攻击以及伦理对齐能力,助力银行建立全面的安全体系,确保大模型的决策过程和输出结果符合伦理标准,保障数据、技术和业务的安全。
•筑牢基础设施,为金融大模型提供坚实底座
对于金融大模型来说,不仅需要面对其他通用类、专用类大模型普遍需面对的存、算、网基础设施需求,还需要考虑到金融行业的一系列特点。华为金融大模型提供的AI基础设施,具备三重独特的价值:
自主创新:华为可以实现包括计算、网络、存储等基础设施的全面自主创新。从硬件板卡和整机,到操作系统、模型开发框架等构建全栈AI基础设施环境。
存算网协同:对于金融大模型来说,基础设施底座并不仅仅在于AI算力,同时还包括网络与存储的协同。华为通过建设大规模集群和云存算网高效协同,实现30天长稳训练;打造算网协同NLSB负载均衡方案,相比传统方案,实现算力集群内网络链路利用率从50%提升到95%以上。
推理场景的深度优化:这是是决定大模型大规模应用的关键。不同的大模型服务如办公知识问答对话、智能信贷报告长文本写作、市场摘要分析、营销图片生等推理并发的机制是不一样的。有的服务要求响应快,如智能客服(推理效率高);有的服务用户人数多,如知识问答;有的服务只在月末使用,如收入预测;有的服务类型复杂,如金融市场智能体。推理系统需要根据不同服务的需求,华为深度优化推理场景,合理安排推理资源的调度机制与响应速度,既能保障每个业务的并发峰值得到满足,又能最大限度利用资源,实现算力和成本效益的平衡。
立足技术供给、融合架构和服务共享三大能力,叠加金融大模型的智能化升级,华为构建了系统化、工程化的数据和AI能力体系,助力银行提升三大体验,驱动金融生产力跃升。
免责声明:文章内容和观点仅代表作者本人观点,供读者思想碰撞与技术交流参考,不作为华为公司产品与技术的官方依据。如需了解华为公司产品与技术详情,请访问产品与技术介绍页面或咨询华为公司人员。