跳到正文

#模型安全

更多筛选收起筛选1
星期一今天1 条
  1. 金融界银行频道

    中信百信银行斩获2026金融街论坛金融科技应用“探索实践奖”

    据金融界报道,中信百信银行以自研Orange企业级AI中台支撑业务、办公和安全治理,构建客户端、能力层、服务集成层三层架构。平台采用分级授权和最小权限原则,并以WASM与Docker双沙箱隔离执行环境,对工具调用实施身份验证、权限检查、参数校验及脱敏等控制。办公应用连接AI Work、内网通信入口、Skill广场与知识中台,支持员工技能统一管理和共享复用。

星期四
  1. 零壹财经(零壹智库)

    智能体安全,正成为金融AI的新门槛

    零壹财经的研究文章区分两类智能体安全需求:一类治理智能体自身的风险,另一类利用智能体开展安全运营,文章聚焦前者。据其公开招标梳理,浦发银行的AI红蓝攻防服务项目针对AI系统开展攻防测试,恒丰银行公示为智能体服务平台新增观测功能模块,由火山引擎承接,目标是使运行状态可监测、可追溯。

星期二
  1. 移动支付网

    浙江农商联合银行申请创新应用:基于AI的商户助手

    浙江省金融科技创新监管工具第7批公示包含浙江农商联合银行及其数字科技公司申请的AI商户智能助手,面向商户提供全天候咨询、经营分析决策和营销内容生成。该应用以Qwen3系列为底座微调丰收萝卜大模型,并结合智能体自主执行,配套权限边界管控、全量操作留痕和输出合规校验。

    同稿资料 · 2 条记录
星期一
  1. 零壹财经(零壹智库)

    金融智能体采购:大单缺席,治理要求前置

    零壹智库月度研究整理的9月金融智能体采购样本包括33条招标,以及14条中标及成交公示;其中10条公示披露金额,合计约2109万元。文章认为,智能体正从独立采购标的转为系统建设中的模块。例如,北京农商银行将智能体评测、观测与可观测性、记忆管理列入企业级智能体平台采购需求。

星期六
  1. 移动支付网

    交行副行长钱斌:AI赋能金融业发展的新趋势、新探索与新思考

    文章介绍,交通银行发布《交通银行“人工智能+”行动方案(2025—2027年)》,围绕基础能力、治理框架及场景落地推进AI建设,已落地420余个AI应用场景。该行智能研发助手BocomCode服务7000余名研发人员,累计使用超4000万次,试点代码采纳率超60%。文章建议金融机构将AI治理贯穿应用全生命周期,落实风险分级和模型准入,保持人的掌控与责任。

星期一
  1. 移动支付网69

    北京农商银行启动建设企业级智能体平台,要求内置通用Skill和工具不少于50个

    北京农商行9月下旬发布智能体平台建设项目供应商征集公告,拟建设覆盖开发、纳管、调用、评测、观测和运营全生命周期的企业级智能体平台,并满足信创与安全合规相关要求。平台需内置不少于50个办公文档、图像处理、音视频、智能搜索、数据处理、系统操作等通用Skill和工具,并支持按需扩展、自然语言自动生成Skill及本地Skill导入。北京农商银行8月启动测试管理AI测试案例生成工具采购,旨在采购测试案例生成智能体并融入现有测试管理体系。

  2. 移动支付网

    广西北部湾银行投产32个智能体、大模型智算平台二阶段,“金融支持AI”成头号工程

    广西北部湾银行作为西南地区城商行,坚持“AI First”战略推进数字化智能化转型,在“金融支持AI”与“AI支持金融”两方面发力。该行成立由董事长、行长担任双组长的金融支持人工智能发展领导小组,打造全行首家科技特色支行,与南一智能共建“人工智能金融创新联合实验室”。在AI应用方面,启用400G高速算力网络,完成大模型智算平台二阶段投产,优化大模型智能体开发平台、打造“N+N”大模型底座,完成授信调查报告智能体、授信审查意见智能体等32个智能体投产。同时参与自治区重点项目“中国—东盟金融AI服务共享网络”建设,推进AI安全防护平台建设,并启动手机银行大模型革新项目招标。

星期日
  1. 移动支付网72

    上海:允许金融机构在可控环境下逐步开展直接面客的大模型应用

    据移动支付网报道,国家金融监督管理总局上海监管局发布《推动上海银行业保险业人工智能应用的若干措施》。报道转述其中提出探索金融领域生成式AI试点机制,争取上海纳入地区试点,并允许金融机构在可控环境下逐步开展直接面客的大模型应用;同时研究分类分级、包容审慎的弹性监管及应用容错机制。

星期四
  1. 移动支付网82

    民生银行建成支持Skill、MCP的企业级Agent平台,将为零售经营团队全面配置AI助手

    据移动支付网报道,民生银行2026年半年报披露推理速度提升40%,建成支持Skill、MCP协议的企业级Agent平台,并以网关实现智能体身份认证与越权防控;报道还称该行将AI用于研发、信贷风控、客服和运营等场景。零售方面,报道转述银行规划构建统一客户经营视角并为经营团队配置AI助手,同时披露相关策略覆盖客户数及触达客户户均AUM比较数据。

  2. 移动支付网72

    上海金融监管局:加强AI技术或服务外包风险管理

    据移动支付网报道,国家金融监督管理总局上海监管局发布《推动上海银行业保险业人工智能应用的若干措施》,提出金融机构使用外部智能算力、模型服务或数据处理等AI服务时,应纳入信息科技外包风险管理体系,建立管理机制和风险隔离,并对合作机构实行名单制管理、评估外部模型的优缺点与适配性。

  3. 金融界银行频道80

    上海金融监管局出台专项措施,推动银行保险业加快“人工智能+”应用

    金融界银行频道刊载该报道,页面标注来源为金融界;报道转述上海金融监管局近日印发相关措施,共提出十六项举措。 措施鼓励金融机构在智能营销、信贷、核赔、风控等核心场景应用人工智能,并支持算力配置、垂域模型、数据治理及企业级平台建设。 措施提出完善数据合规和模型风险管理,并探索建立生成式人工智能大模型在金融领域应用的试点机制。

星期三
  1. 移动支付网75

    央行副行长陆磊谈金融AI应用

    据移动支付网转载的陆磊论坛讲话,人民银行以规划引领、试点带动和标准规范引导金融机构分阶段应用AI,并讨论算法风险治理、资源共建共享及面向东盟的合作。讲话还以“数币达·励付服务”为例,介绍其以跨境支付系统为底座,连接贸易服务平台并探索智能体和数字人民币智能合约应用;具体成效在材料中未量化。

星期二
  1. 金融界银行频道60

    亮相东博会|中信百信银行携金融多智能体协同体系,打造数字普惠金融服务新范式

    据金融界报道,中信百信银行在东博会展示多智能体协同体系,包含AI中台、AI助手、数字员工和超级员工等板块,覆盖运营、客服、风控及运维场景。报道披露其客服覆盖80%日常业务场景、问题解决率超93%,产业金融信审智能体使业务流转效率提升300%,并称平台通过企业级智能体安全能力评估。

星期日
  1. 移动支付网67

    【一周观察】金融监管总局新增1位领导,3家银行App被通报,1家银行收数据安全罚单

    移动支付网刊载《一周观察》;文中称该栏目由《银行科技研究社》打造。 该文报道,交行吉林省分行整合供应商、经销商及车辆监测等数据,结合多个经营风险与效益分析模型,构建供应链金融统一平台,为上游供应商和下游经销商提供融资服务。 该文称,邮储银行已落地超370个大模型应用场景,日均大模型调用超千万次,日均输入输出词元超三百亿。

  2. 移动支付网

    民生银行总行、科技子公司招募多岗位AI人才,上半年大模型推理速度提升40%

    民生银行总行数据管理部与科技子公司民生科技近期在社招中招募多个AI相关岗位,包括AI平台方向高级工程师、大模型算法方向高级工程师,以及智能算法方向助理工程师、AI平台开发方向工程师等。该行2026半年报显示已构建AI增强型企业架构治理体系(AEA),通过权重量化及推测解码技术实现大模型推理速度提升40%,并建成支持Skill、MCP协议的企业级Agent平台,构建AI安全漏洞检测智能体。此前该行发布白皮书介绍落地“iAgent一站式智能体平台”,并提出打造“AI适配型组织”。组织架构方面,该行去年设立数字金融委员会、审议研发服务基地(郑州)项目及调整部分总行部门设置;今年6月底调整零售条线高层,财富管理部/私人银行部总经理黄晋兼任个人金融部总经理。财富管理方面,其磐石产品系列已升级至3.0,推动货架理念从“单一产品”向“产品+全周期陪伴”转型。

星期五
  1. 中国建设银行

    相约东博会,建设银行呈现六大数智创新成果

    本文报道了建设银行在第23届中国—东盟博览会(2026年9月17日广西南宁启幕)上展示的六大数智创新成果,涵盖以海洋环流为设计理念的展台、AI智能风控体系对跨境贸易资金流物流信息流的毫秒级识别与穿透式监测、面向客户经理的“帮得”AI智能助理、授信审批全流程AI应用、企业级模型风险管理平台(模型验证周期由4个月压缩至1个月)、服务科创企业的“善建科技”科创智评工具,以及全栈自主可控技术体系(核心系统完成自主可控升级,智能风控、协同办公等重点系统转型率接近70%)。展位还展示了面向东盟的“互市e汇通”边民互市贸易新平台,已累计办理业务近2.7万笔、交易金额超1.7亿元、惠及边民超4000人,并配套“边民贷”产品。

星期一
  1. 移动支付网

    网商银行申请一项发明专利:关于大模型Skill投毒检测

    浙江网商银行一项名为“一种大模型Skill投毒检测方法及相关设备”的发明专利公布,申请于2026年5月25日,涉及计算机技术领域。该方法解析目标描述文件提取意图信息并构建意图模型,在AI交互环境中执行待检测Skill并追踪其实际行为轨迹,再对实际行为轨迹与意图模型进行语义级行为比对,得到一致性评估结果,据此确定目标Skill的投毒风险等级。专利背景指出,恶意Skill可能通过与声明意图不符的实际操作实施投毒攻击,而静态代码分析、动态沙箱监控或行为模式库匹配等现有技术只能识别代码级或已知模式异常,无法理解Skill在AI交互环境中的语义行为判断实际行为是否符合声明意图,存在漏报和误报问题。该发明通过意图行为一致性验证识别未知投毒,实现投毒风险自动化评估,覆盖语义级攻击,提升检测覆盖面、准确性和效率。

  2. 移动支付网

    上海金融监管局:鼓励有条件的金融机构建设企业级人工智能平台

    上海金融监管局于9月14日发布《关于推进上海银行业保险业科技金融提质增效的意见》,提出运用数智化赋能科技金融服务。意见鼓励有条件的金融机构建设企业级人工智能平台,综合运用大数据、区块链、物联网、量子计算等数字技术赋能产品研发、经营决策、风险管理等环节;支持金融机构创新科技企业评价机制,从侧重财务指标转向侧重科创能力评价,依托科技金融领域数据库、用好'沪科积分'构建专属评价体系;同时要求提升人工智能技术安全应用能力,加强数据和网络安全防护,强化数据、模型和算法风险管理,维护金融消费者数据隐私权益。

星期六
  1. 移动支付网

    IIFAA智能体可信身份工作组成立,50余家机构参与生态共建

    2026年9月11日,在2026外滩大会AI支付论坛上,国内首个聚焦智能体可信身份的产业协作组织IIFAA智能体可信身份工作组成立,首批50余家机构加入,成员覆盖智能终端、云服务、智能体及智能助手、技术服务、科研和检测认证等领域。工作组将推动构建统一的智能体身份框架,建立覆盖身份注册、授权与意图传递、运行状态持续核验、审计追溯等环节的全链路可信体系,标志着智能体身份治理从单点探索迈向行业共建。同期,IIFAA联盟联合蚂蚁集团、清华大学网络科学与网络空间研究院、中国信通院泰尔实验室等发布白皮书《智能体身份可信化框架》,提出智能体身份治理应从静态身份管理走向持续信任管理,围绕身份属性、持续可信评估、跨域互认和持续监控四个维度构建可信身份框架。

星期五
  1. 移动支付网

    智能商业时代,比AI支付更重要的是什么?

    本文为移动支付网对2026外滩大会AI支付论坛的报道与评论。文章指出,智能体商业催生AI支付需求,但现行支付治理规则与纠纷处置机制均围绕人类用户构建,智能体自主交易带来授权范围、责任归属、追溯等新问题。文章认为支付技术本身已较成熟,真正的关键在于信任如何从人类延伸到智能体,即从“能付”到“敢付”。蚂蚁集团发布面向智能体商业的信任基础设施APASS,基于KYA(了解你的智能体)理念,通过可信身份、持续核验、意图安全和可信存证四项能力构建身份与行为两条信任链。文章披露APASS已接入超过100万个智能体,其中已激活11万个,覆盖376家智能体服务供给方。

星期四
  1. 移动支付网

    建行副行长雷鸣:初步形成“人+AI”的协同作业模式,已赋能6大核心场景

    建行副行长雷鸣在2026年中期业绩发布会上介绍该行人工智能布局与实践:强化顶层设计,制定《“人工智能+”三年规划》,搭建智能体平台、打造“AI众创工作室”、建设企业级知识库并建立模型、数据与应用安全评估机制;深化场景应用,累计推出600多个应用场景,初步形成“人+AI”协同作业模式,覆盖客户经营、普惠金融、风险管理、运营服务、科技研发、数据服务六大核心场景,并披露“帮得”智能助理月活超4万人、普惠金融全流程处理时间从2-3天缩短至3小时、授信审批智能体上线三个月完成近3万客户约9万笔业务分析等成效。下一步将严格落实监管要求,进一步建立健全人工智能制度体系,统筹规划智算布局,确保安全、可靠、可控。

星期三
  1. 零壹财经(零壹智库)39

    ​2026外滩大会探展:从“能生成”到“能行动”,AI新经济正在照进现实

    零壹财经刊载了对2026年外滩大会展区及AI应用的报道;以下展会信息均按该报道所述。 报道介绍,网商银行百灵2.0 AI CFO Agent可连接信贷、票据和财税能力,为经营者组织服务方案。 报道介绍,蚂蚁阿宝已完成万余项服务AI化适配,覆盖餐饮点餐、出行打车、文旅景区和政务民生等场景。 报道描述,蚂蚁安全展区展示的智能体协作机制包括身份验证、意图追溯、授权控制、全程加密和留痕,涉及支付时仍需用户确认。

星期六
  1. 零壹财经(零壹智库)87

    超级智能体+:从财报看六大行智能体之变

    零壹财经依据六大行财报文本梳理智能体建设变化:从2025年以平台底座和局部试点为主,转向2026年嵌入营销、信贷、风控、合规和研发等流程。文章列举各行的客户经理辅助、授信、风险研判和安全治理案例,并归纳超级智能体与垂域智能体协作、平台支撑及人机协同等建设路径。

星期二
  1. 移动支付网

    中国支付清算协会发布《智能体支付应用自律公约》

    中国支付清算协会发布《智能体支付应用自律公约》,为国内首个针对智能体支付的专项自律文件。公约明确持牌机构责任,划分智能体支付为辅助支付、预设条件下自主支付、泛条件自主支付三个阶段,后两阶段需向协会报备并评估。公约要求建立KYA机制、强化安全管理、保护用户权益,并确立五项原则。

星期一
  1. 金科创新社64

    【观点】中信建投证券信息技术部高级经理张健:证券金融领域数智员工体系建设_金科创新社

    金科创新社刊载题为《【观点】中信建投证券信息技术部高级经理张健:证券金融领域数智员工体系建设》的材料。 正文称,张健在2026金融科技创新发展论坛暨第九届金融科技管理人年会上分享数智员工建设实践,并发布分层技术架构。 文章介绍以知识中台、智能体开发管理平台和意图识别调度引擎构成技术基础设施层。 文章介绍的协同机制由上层智能体负责自然语言交互、意图判断和任务规划,底层RPA承接标准化、确定性流程执行。

星期日
  1. 金网在线(中国金融电脑)

    交通银行董事长任德奇:共同推动人工智能在金融领域的健康有序发展

    交通银行董事长任德奇在2026世界人工智能大会论坛上致辞,指出人工智能正重塑金融业,但带来伦理、安全等挑战,强调统筹创新与安全,并介绍交行在AI基础能力、智能体应用、风控及治理方面的实践,同时宣布将发布交银e监管2.0平台并与阿里云合作。

星期一
  1. 金网在线(中国金融电脑)

    从“会回答”走向“会执行”,中信百信银行Orange智能体平台构建企业级安全底座

    中信百信银行自主研发的Orange企业级智能体平台通过中国信通院首批互联网智能体治理系列评估,成为唯一通过企业级智能体安全能力评估的项目。平台构建端到端安全体系,包括双沙箱执行环境、统一Hook系统、参数校验与脱敏、安全规则拦截等机制,实现智能体全生命周期安全管控,推动金融行业智能体从“可用”走向“可信、可控、可审计”。

星期二
  1. 中国人民银行58

    2026年人工智能技术赋能网络安全应用测试公告

    中国人民银行网站刊载该公告,正文标注的原文链接为中国网信网地址。 公告列国家互联网应急中心为主办单位、中国人民银行科技司为指导单位,并列中国金融电子化集团有限公司和中国工商银行为协办单位。 公告称测试共设8个场景,涵盖AI驱动的网络安全智能防御、漏洞挖掘、网络流量威胁检测、告警日志降噪、大模型安全护栏和AIGC生成图片检测等。 公告安排6月7日至7月6日进行线上第一阶段测试,7月18日至8月15日在北京市指定场所进行第二阶段测试,并计划于9月发布结果。

星期五
  1. 国家数据局52

    教育部等五部门关于印发《“人工智能+教育”行动计划》的通知

    五部门行动计划提出推动智能技术与教育全要素融合、全过程贯通、全场景覆盖,并统筹推进人工智能人才培养和应用创新。计划提出到2030年人工智能与教育深度融合格局基本形成。计划提出建设国家教育智能算力服务平台,汇聚算力、数据、模型和工具等人工智能创新资源。

星期三
  1. 中国人民银行62

    中国人民银行征信中心博士后科研工作站2026年度招收公告

    中国人民银行网站刊载中国人民银行征信中心博士后科研工作站招收公告;公告称工作站面向社会公开招收2026年博士后研究人员。 公告列出征信或动产融资市场研究、中宏观信贷分析与系统性风险防范、金融“五篇大文章”相关研究方向。 公告将新型数据共享、智能数据治理,以及人工智能、大语言模型等技术在征信和动产融资领域的应用列为研究方向。 公告要求申请人于2026年4月30日前发送全部申请材料的电子版。