消费日报网 > 品牌战略

探索金融AI新边界:技术创新与安全治理的平衡之道

时间:2025-05-28 10:07:08 来源:消费日报网

 

  在人工智能浪潮席卷全球的2025年,大模型正以迅猛之势渗透各行各业。金融,为何会成为大模型行业落地的“天然试验田”?如何在创新与安全之间找到平衡?技术与风控,谁在踩油门,谁在掌方向盘?

  近日,网易易盾倾力打造的直播栏目《安全圆桌派》特别邀请了百融云创商务发展部总经理冯波与网易易盾国央企行业负责人朱文涛,围绕金融大模型落地的关键技术、安全风险与合规趋势展开深度探讨,共同剖析技术创新与安全治理的平衡之道。

1.jpg

  两位同为深耕金融一线的行业知名专家,在本次直播现场贡献了众多精彩观点:

  大模型重构的不仅是技术,更是金融价值链。

  合规已从成本项变为竞争力,金融企业需构建“内生安全”机制。

  金融大模型的终局绝非“技术至上”,而是多方博弈的动态平衡。

  下文为直播内容实录整理

  话题一:  

  围观科技部“突出科技前沿”的年度重点

  为何金融行业成为大模型应用热土?

  冯波率先分享了金融行业成为大模型应用核心方向的三大原因:首先,金融行业的数据与知识密集型特性天然适配大模型。金融机构每天处理海量交易数据、客户行为信息,高度依赖数据分析与知识管理,大模型的推理与生成能力为此提供了强有力支持。

  其次,政策支持与监管完善为技术落地铺平道路。国家层面通过《生成式人工智能服务管理暂行办法》等政策,鼓励金融行业智能化升级,同时提供规范指引。

  最后,技术突破与垂类模型发展推动应用深化。大模型正从客服、办公等辅助场景向投研、风控等核心业务渗透,垂类模型的快速发展进一步加速了落地进程。

  据冯波介绍,在政策方面,国家及地方政府出台多项政策支持大模型开发与应用。截至2024年年末,全国至少13个省份出台专项政策,通过补贴激励、标准引导、场景牵引、生态共建四重机制,助力大模型从实验走向规模化应用。例如,杭州市余杭区对垂类模型研发提供的补贴政策。

  冯波总结道:“金融行业成为大模型应用的核心,既是技术发展的必然,也是行业数字化转型的关键路径。未来,随着垂类模型在决策场景的突破、数据治理能力的提升以及监管框架的完善,大模型将重构金融价值链。”

  话题二:

  大模型渗透金融核心业务:拐点与风险并存

  落地金融业的六大挑战

  机遇与挑战并存,朱文涛从安全视角,剖析了金融行业大模型应用如今面临的六大挑战。朱文涛指出:

  算力瓶颈是首要难题。千亿参数模型的训练与推理对硬件资源需求极高,单次训练成本高昂,实时推理对算力要求更高,GPU资源协调管理也成为金融机构的难点。

  高质量语料匮乏制约模型能力。当前大模型训练语料规模有限(约14T-30T),数据标注成本高,难以满足大规模需求。

  安全与隐私风险不容忽视,包括数据泄露、供应链风险及模型输出“幻觉”导致的内容不可控。

  科技伦理与社会影响问题凸显,如算法歧视、金融决策偏见等。

  虚假信息传播效率因大模型而百倍提升,传统内容审核体系难以应对。

  复合型人才短缺成为瓶颈,大模型落地需要兼具算法、行业知识与工程化能力的人才,当前供给严重不足。

      通过生动的案例,朱文涛揭示了大模型应用的现实风险:

  海外案例:

  谷歌因未经许可使用法国出版社内容训练模型,违反GDPR被罚2.5亿欧元;

  英国一案例涉及AI生成儿童不当图像,导致18年监禁;

  美国歌手泰勒·斯威夫特被AI生成虚假照片,引发白宫关注并推动内容监管。

  国内案例:

  北京互联网法院审理全国首例AI生成声音侵权案,赔偿25万元;

  四川网警破获多起AI造谣与诈骗案件,涉案金额超百万;

  重庆网信办对未备案大模型服务进行处罚,责令停服整改;

  广州互联网法院判处全球首例AI生成奥特曼作品侵权案。

  朱文涛强调:“这些案例表明,国内外对AI的合理应用高度关注。政策约束与监管处罚旨在促进行业健康发展。”

  话题三:

  金融企业如何用好大模型?

  AI中台:打通技术与业务的“最后一公里”

  关于金融企业如何实现AI应用,冯波从百融云创的实践出发,分享了金融企业应用大模型的经验。他总结国内应用呈现“由内及外、由点及面、由辅助到核心”的分阶段特点:先从内部办公助手切入,逐步延伸至销售、客服等对外场景;从单一业务点入手,扩展至全流程解决方案;从辅助场景向风控、投研等核心领域渗透。相比之下,国外银行多采用外采通用大模型策略,直接应用于产品定价、资金管理、反欺诈等核心场景。

  为解决“最后一公里”难题,冯波提出AI中台与智能体工厂的概念。AI中台作为底层技术与业务场景的枢纽,分为数据中台与智能体中台,前者整合内外数据、构建风险标签体系,后者通过智能体工厂生产适配业务场景的智能体。

  他以类比解释:“大模型像大脑,具备推理能力;智能体像四肢,具备行动能力。但要产生业务价值,还需结合行业知识进行‘岗位培训’”。

  百融云创的智能体应用覆盖客户交互(CX)与内部效率(EX)两大场景,包括客服智能问答、营销质检、投顾合规、风控征信等50余类场景,衍生出众多细分应用。

  话题四:

  监管响应-从被动合规到主动风控

  数字内容风控中台:安全围栏构建与实践

  对于AI应用所衍生出来的风险问题,朱文涛从网易易盾的角度,介绍了数字内容风控中台的构建理念与实践。他指出,AIGC技术催生了智能客服、智能投顾等新场景,对内容安全提出更高要求。

  传统内容审核仅能应对低俗暴力问题,而数字内容风控中台可解决虚假宣传、消极服务态度等复杂场景,同时支持短信、通信内容等内控需求,应对信创与数据管控的严格要求。网易易盾的解决方案分为两类:一是针对AIGC场景的综合防御体系,二是以中台形式整合UGC、PGC等多模态内容审核。

  朱文涛详细阐述了AIGC场景的“内外兼修”理念:内生安全通过数据体检与安全语料对齐模型;外生安全构建内容安全围栏,应对外部对抗攻击与生成内容风险。易盾的风险分级体系(L1-L5)精准应对不同敏感度问题,例如对高政治敏感问题建立底线知识库代答,对违法违规内容直接拦截。

  在技术架构上,易盾支持端云协同的一体机方案,适配信创要求,提供一键部署与热更新能力。对于本地化部署,易盾通过单向数据流或邮件服务器方式,确保策略与样本实时更新。此外,易盾拥有数千人的审核团队与合规咨询服务,结合大模型与小模型协同审核,提升内容安全能力。

  话题五:

  大模型时代,中小金融机构如何快速上车?

  针对中小金融企业的需求,冯波提出“拿来即用、灵活部署、按结果计费”的全栈式AI解决方案。百融云创的“赛博坦平台”通过通用模型、垂类模型与场景小模型的组合,结合智能体工厂,快速适配业务场景。

  例如,在信贷审核场景中,智能体可自动拨打核查电话、生成风险画像、辅助人工审核,显著提升效率与准确率。部署方式支持公有云、混合云、私有云及一体机,计费模式按结果收费,降低中小企业的前期投入风险。

  朱文涛补充:“大模型一体机在2025年成为热潮,尤其是对于中小型金融机构而言,通过一体机的方式能够缩短大模型部署周期,深度结合业务场景,降低中小企业对于大模型的使用门槛。”

  但即便是通过一体机的方式解决了算力限制、信息安全、隐私保护等问题,机构在使用过程中依然要面对大模型内容安全的挑战。

  为此,朱文涛表示:"网易易盾基于与领先硬件厂商的深度合作,以及服务超过百家AIGC客户积累的丰富软硬件融合经验推出的内容安全一体机——'内容安全卫士'。依托端云协同架构、国产GPU部署、灵活配置与动态调整安全策略,以满足金融行业高合规性场景下的实时风控与内容治理需求。"

       话题六:

  数字内容风控中台≠一劳永逸

  金融AI未来:安全与创新的动态平衡

  金融大模型的终局绝非“技术至上”,而是多方博弈的动态平衡。朱文涛总结了AI在金融行业平稳落地和运行的六大关键:

  精细化策略,摒弃普适性算法,针对不同场景与agent定制策略;

  真实场景测试,避免“为测而测”,通过灰度发布磨合审核尺度;

  实时策略更新,通过接口推送或驻场服务确保本地化产品及时升级;

  策略知识转移,通过1-3年的技术与流程磨合,赋能客户自主可控;

  以攻促防,通过蓝军团队与评测工具持续优化防护能力;

  大小模型协同,大模型反哺小模型策略优化,支持零容忍场景的并行检测。

  大模型正在重写金融行业的游戏规则,但这场变革的胜负手不在于技术本身,而在于能否构建“创新不越界、安全不缺位”的治理生态。

  正如朱文涛所言:“科技稳步发展的前提,是正视每一处暗礁。”对于金融从业者而言,唯有拥抱技术迭代与风险治理的双重逻辑,方能在AI浪潮中行稳致远。


消费日报网版权及免责声明:
1. 凡本网注明“来源:消费日报网” 的所有作品,版权均属于消费日报网。如转载,须注明“来源:消费日报网”。违反上述声明者,本网将追究其相关法律责任。
2. 凡本网注明 “来源:XXX(非消费日报网)” 的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。
3. 任何单位或个人认为消费日报网的内容可能涉嫌侵犯其合法权益,应及时向消费日报网书面反馈,并提供相关证明材料和理由,本网站在收到上述文件并审核后,会采取相应措施。
4. 消费日报网对于任何包含、经由链接、下载或其它途径所获得的有关本网站的任何内容、信息或广告,不声明或保证其正确性或可靠性。用户自行承担使用本网站的风险。
5. 基于技术和不可预见的原因而导致的服务中断,或者因用户的非法操作而造成的损失,消费日报网不负责任。
6. 如因版权和其它问题需要同本网联系的,请在文章刊发后30日内进行。
7. 联系邮箱:xfrbw218@163.com  电话:010-67637706

标签:
编辑: 孙亮
相关新闻