内容安全检测人工智能系统鲁棒性测评规范 第3部分:文本 (T/CITIF 012-2023) 团体名称为中国电子信息行业联合会
主要起草人:朱倩倩、刘永东、李美桃、倪邦杰、王英潮、王冠麟、林冠辰、崔世文、黄奔辉、刘雨帆、乔思渊、苏进军、韩杰、马国斌、胡嵩智、韦云霞、马多贺、江俊烨、薛学琴、侯韶君、刘宇光、狄帅、陈鹏、李阳。
起草单位:国家工业信息安全发展研究中心、国家语音及图像识别产品质量检验检测中心、中移互联网有限公司、蚂蚁科技集团股份有限公司、同方知网数字出版技术股份有限公司、中科院自动化所、北京信源电子信息技术有限公司吉安分公司、北京信源电子信息技术有限公司大同分公司、大同市数字政府服务中心、北京瑞莱智慧科技有限公司、中国科学院信工所、罗克佳华科技集团股份有限公司、京东科技控股股份有限公司、北京信工博特智能科技有限公司。
范围:本文件规定了用于检测文本内容安全的人工智能系统鲁棒性分级要求和性能测评方法。本文件适用于第三方检验检测机构、技术生产方和技术应用方对内容安全检测人工智能系统鲁棒性开展测试评估。
内容简要 规定了用于检测文本内容安全的人工智能系统鲁棒性分级要求,按照测试样本生成方法和数据获取的难易度,对测试样本分级,通过不同等级的测试样本的测试结果,构建综合评价人…