OpenAI/可监控性评估

OpenAI开源了一套可监控性评估工具集，该套件源自《Monitoring Monitorability》论文。这套工具旨在系统评估大型语言模型的可监控性，帮助开发者测量与理解模型在部署过程中的行为可控性与透明度。它提供了一系列标准化测试方法，用于检测模型潜在的风险行为与输出不确定性，为AI安全研究提供了重要的基准评估框架。