《生成式人工智能服务安全基本要求》公开征求意见
IT之家
2023-10-12 16:04:32
0次

原标题：《生成式人工智能服务安全基本要求》公开征求意见

IT之家 10 月 12 日消息，据全国信息安全标准化技术委员会官网，该会组织制定的技术文件《生成式人工智能服务安全基本要求》（下称《要求》）已于 10 月 11 日形成征求意见稿，现将技术文件面向社会公开征求意见，如有意见或建议，需在 10 月 25 日 24:00 前反馈。

《要求》给出了生成式人工智能服务在安全方面的基本要求，包括语料安全、模型安全、安全措施、安全评估等，适用于面向我国境内公众提供生成式人工智能服务的提供者提高服务安全水平，或是提供者自行或委托第三方开展安全评估，也可为相关主管部门评判生成式人工智能服务的安全水平提供参考。

图源 Pexels

IT之家整理部分要求如下：

  • 建立语料来源黑名单，不得使用黑名单来源的数据进行训练。
  • 应对各来源语料进行安全评估，单一来源语料内容含违法不良信息超 5% 应将其加入黑名单。
  • 应使用包含个人信息的语料时，获得对应个人信息主体的授权同意，或满足其他合法使用该个人信息的条件。
  • 应使用包含人脸等生物特征信息的语料时，获得对应个人信息主体的书面授权同意，或满足其他合法使用该生物特征信息的条件。
  • 应自行对标注人员进行考核，给予合格者标注资质，并有定期重新培训考核以及必要时暂停或取消标注资质的机制。
  • 在训练过程中，应将生成内容安全性作为评价生成结果优劣的主要考虑指标之一。
  • 以交互界面提供服务的，应在网站首页等显著位置向社会公开以下信息：

-服务适用的人群、场合、用途等信息

-第三方基础模型使用情况。

  • 应充分论证在服务范围内各领域应用生成式人工智能的必要性、适用性以及安全性。

另据IT之家此前报道，网信办、发改委、教育部、科技部、工信部、公安部、国家广播电视总局七部门于 7 月 10 日印发了《生成式人工智能服务管理暂行办法》，自 8 月 15 日起施行。

《办法》规定不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；应采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

参考

要求 技术 来源 人工智能 信息安全 服务 基本 评估 语料 内容 信息 黑名单

上一篇：银泰商业算法负责人对话中科大学生：AI大模型商用前景广阔

下一篇：中国AI服务器市场到2027年预计扩大5倍，达160亿美元

相关内容

热门资讯

原创 苹... 3月13日，据外媒wccftech报道，苹果公司在本周早些时候苹果推出了新款Mac Studio，搭...
阿里云服务器：赋能企业数字化转... 在数字化迅速发展的时代，云计算已成为企业和个人日常运作不可或缺的一部分。当人们提及云服务时，阿里云服...
我来告诉你牛牛房卡批发价格，微... F这其中，iPhone 14标准版的两款，即iPhone 14、iPhone 14Max依旧沿用刘海...
一分钟揭秘大厅房卡哪里买，怎么... 25MC和iPhone13相比少了mini版本，毕竟小屏手机在市场的销量确实并不怎么好，为了适应市场...
科技通报大厅房卡如何购买，斗牛... X1P此次苹果秋季新品发布会也确定了，距离iphone14系列发布还有一段时间，如今iphone13...
我来教你金花房卡多少钱一张，牛... 04y38hRu在血雨腥风的手机市场，一款产品要想存活下来，就一定要有差异化的产品设计。摩托罗拉手机...
实测分享牛牛可以建房间吗，怎么... nN33a并且，据悉该机内置了5560mAh电池和150W超级闪充技术，同时最高内置了18G运存。另...
带你了解牛牛科技房卡多少钱一张... buy0OChj这款OPPO Reno10新机内置了一块5500mAh大容量电池，支持150w超级快...
一分钟揭秘金花房卡怎么买游戏，... lx0XQt苹果的秋季新品发布会已经定档于北京时间的9月13日。这次发布会上“官宣"的产品中，不仅有...
推荐一款大厅房卡哪里有卖，微信... S9Rv对于库克引以为傲的第二个设计，就是相机镜头数量的增加，虽然当前主流的手机，后置相机镜头的数量...
一分钟揭秘金花房卡价格表，微信... 3jzQxOZd因此在高通骁龙7+ Gen2的加持下，该机的核心性能将会非常的极致。并且该机配备了4...
重大来袭斗牛房卡批发价，金花房... l2ufre4富有且慷慨！上述曝光的这款摩托罗拉X50mini，零下巴直面屏的全面屏的设计带来了令人...
科技通报斗牛房卡出售，房卡怎么... BMJ3C6h作为一名iPhone 13用户，我非常期待接下来要发布的iPhone 14 Max。说...
我来告诉你牛牛房卡批发价，牛牛... glNXqf现在离iPhone14发布还有一段时间，对于迫切想要入手iphone手机的用户，iPho...
重大来袭大厅房卡哪里有卖，房卡... 8QWk8苹果手机目前发展的情况并不是特别好，一方面是有消息称iOS16可能不会带来特别多的改变，另...
科技通报微信金花房卡链接，如何... b2p3yx此次苹果秋季新品发布会也确定了，距离iphone14系列发布还有一段时间，如今iphon...
重大来袭牛牛房卡制作链接，斗牛... ARcH其实，苹果之所以能走到今天，就是因为它的技术和创新能力，除了系统和芯片之外，细节方面也在逐渐...
玩家实测牛牛房卡在哪里买便宜，... Kqozg在血雨腥风的手机市场，一款产品要想存活下来，就一定要有差异化的产品设计。摩托罗拉手机是一个...
重大来袭微信金花房卡购买，牛牛... HKjvw从核心配置来看，这款OPPO Reno10新机将搭载高通骁龙7+gen2旗舰级处理器，采用...
重大通报金花房卡哪里购买，金花... EN0281V苹果手机虽然备受消费者的欢迎，同时也搭载的是自研的iOS系统，但是在很多方面，苹果也借...