为黑盒划定边界：面向AI风险监管的统计认证框架

当前AI系统已在贷款审批、刑事调查标记、自动驾驶刹车等高风险领域做出决策，欧盟《人工智能法案》等监管框架要求系统在部署前证明安全性，但均未界定“可接受风险”的量化标准，也缺乏验证是否达标的可行方法。研究借鉴航空认证范式，提出一个两阶段统计认证框架：第一阶段由主管机构明确设定可接受失败概率δ与操作输入域ε；第二阶段通过RoMA与gRoMA统计验证工具，在不依赖模型内部结构的前提下，计算出系统真实失败率的可审计上限。该框架适用于任意架构的黑盒模型，能将监管责任前移至开发方，并与现有法律体系衔接。