科技 > 生成式AI文件确认风险31种 语料来源需建黑名单
生成式AI文件确认风险31种 语料来源需建黑名单
2023-10-14 19:15阅读(195)
北京时间的10月11日，我国对于生成是AI首次发布了相关的安全文件，在全国信息安全标准化技术委员会在官方网站上，对于生成是AI所发布的相关安全文件内显示，为了
北京时间的10月11日，我国对于生成是AI首次发布了相关的安全文件，在全国信息安全标准化技术委员会在官方网站上，对于生成是AI所发布的相关安全文件内显示，为了对生成式人工智能服务进行规范，已经公开向社会征求意见，根据向社会所征求出的意见，经过最初筛选评定，最终确认生成式AI的安全文件里面总共有5种风险种类内含31种风险。
作为我国首次对生成式AI的使用进行相关规范，因此在向外界征求意见时，为外界提供生成式AI服务的提供者都必须以安全基本要求为主，在安全基本要求内又涉及到了几大方面，分别为语料安全安全措施，安全评估，以及模型安全等等，提供者在向外界提供人工智能时，不仅需要提前去进行备案申请之外，同时还必须对于人工智能的安全性能进行综合评估，所得出的评估结果，还必须提交给相关部门进行备案。
在征求意见稿里面，对于语料安全还有着极其重要的标注，为了确保语料安全，必须要求提供人工智能的提供者去建立需要来源黑名单，在对人工智能进行训练时，所使用的语料来源必须安全可靠，禁止使用黑名单内的所有语料数据，相关部门对于语料来源是否安全，还必须去进行综合评估，一旦语料来源内的违法内容信息已经超过5%的话，就必须将这些语料来源加入到黑名单之中。
除此之外，在征求意见稿上对于语料标注安全这一方面还给出了详细的要求，作为标注人员，在对每项余料的任务进行标注时，必须留出充足的标注时间，以方便标注人员执行任务，这份文件在正式对外下发之后，对于人工智能服务在安全方面也作出了更加全面的要求，人工智能在进行使用时也受到了对应的规范。
相关问答推荐
热点关注
生成式AI文件确认风险31种 语料 减肥神药可以治疗慢性肾病 适应 X平台发布巴以冲突虚假消息 欧盟 无视欧盟野心 东盟对AI放手的做 生成式AI文件确认31种风险 语料 科技布技术产业规划责任编制重新 阿里罗汉堂也入世了 阿里罗汉堂 OpenAI拟进行重大更新 成本可削 全球首个 华为重磅发布 事关5G 再度刷新世界纪录“九章三号”光 巴以冲突威胁以色列科技业：AI峰 通用人工智能时代 企业最应抢先 如何折纸天鹅的步骤图 简单手工 高达走进现实 日本推出300万美元 未来产业的发展是一场马拉松 比 三星和SK海力士获准无限期向中国 将进化压缩到闪电般速度：数秒钟 未来产业之星大赛决赛明天在沪举 科技部等十部门印发《科技伦理审 解读2023年诺贝尔化学奖的纳米世 新型量子计算平台问世 量子计算 中国首个量子教学系统发布 戴VR 2023年诺贝尔自然科学奖：人类在 iPhone15系列对比华Mate60系列拥 OpenAI考虑自研AI芯片：想解决芯 中国科学院合成新型纳米颗粒能高 确诊肺癌基因出现突变先选择化疗 2023年诺贝尔3大奖都用于肿瘤治 2023年诺贝尔化学奖揭晓 到底什 马斯克发布人形机器人最新进展
