人工智能安全动态 第11期

来源:中国网络空间安全协会

傅莹: 中国在AI治理问题上向国际社会释放了清晰的合作信号


12月18日,清华大学人工智能国际治理研究院名誉院长傅莹在首届清华大学人工智能合作与治理国际论坛上发表以“人工智能与国际安全治理”为题的讲话。她表示,中国在人工智能治理问题上向国际社会释放了清晰的合作信号。中国对人工智能的发展、应用乃至治理都是高度重视的,在治理和立法方面也迈出实际步伐。例如,2018年中国国家标准化委员会发布《人工智能标准化白皮书》;2019年国家新一代人工智能治理委员会发布了8条治理原则;2019年国务院颁布了《儿童个人信息网络保护规定》,加强对未成年人的信息保护;2020年经全国人大通过颁布的《民法典》中对保护个人隐私做出明确规定,要求不得泄露、出售或非法向他人提供个人信息等。

(澎湃新闻,2020年12月20日)


2030年网络安全中人工智能产值将突破千亿美元


据 ResearchAndMarkets 的研究发现,网络安全市场中的人工智能产值预计将从 2019 年的 86 亿美元增长到 2030 年的 1018 亿美元,在 2020-2030 年间的复合年增长率为 25.7%。


相关细分市场可分为威胁情报、欺诈检测、安全和漏洞管理、数据防泄露(DLP)、身份和访问管理、入侵检测系统、防病毒软件、统一威胁管理以及风险与合规性管理。预计数据防泄露(DLP)类将在预测期内以最快的增速发展。

(SohoBlink点评,2020年12月20日)


中国信通院发布《人工智能安全框架(2020年)》


当前,随着全球人工智能规模化建设和应用加速,人工智能基础设施、设计研发以及融合应用面临的安全风险日益凸显。企业在设计研发、部署运营人工智能应用的全生命周期过程中,需要科学有效的人工智能安全框架予以指导。为此,在工业和信息化部网络安全管理局指导下,中国信通院联合瑞莱智慧、百度、腾讯、360、中科院信工所共同编制了《人工智能安全框架(2020年)》蓝皮报告。聚焦当前人工智能突出安全风险,提出涵盖人工智能安全目标,人工智能安全分级能力,以及人工智能安全技术和管理体系的人工智能安全框架。并且,描绘出面向人工智能应用关键核心组件,覆盖人工智能应用全生命周期的安全技术图谱,为人工智能相关企业循序渐进提升人工智能安全能力,部署人工智能安全技术措施,提供有益指引。

(中国信通院,2020年12月)


阿里安全与清华大学联合举办AI与安全研讨会


5日,在阿里安全与清华大学联合举办的AI与安全研讨会上,阿里巴巴集团首席风险官郑俊芳判断,安全成为数字经济时代的新基建,安全基建又必须靠AI(人工智能)来实现。


中国科学院院士、清华大学人工智能研究院院长张钹认为,人工智能将先在交通、医疗、金融、智能制造等领域产生革命性的变化。从长远来看,AI会根本性改变这些领域,从现实来看,还有许多困难要克服。正如郑俊芳所说,安全基建必须靠AI来实现,安全的AI正在给多个领域带来变化。


清华大学计算机系副主任朱文武介绍了其在多媒体与AI上的研究,希望人工智能给多媒体提供研究的新思想和范式,比如原来的语义处理通过特征提取进行分析,语义学习给多媒体提供了语义和多模态信息,这能帮助机器学习做得更好。多媒体和AI呈互相促进,互相帮助、互相指导的态势发展。

(中国新闻网,2020年12月7日)


特朗普签署行政命令,在联邦政府中推广可信人工智能


据ZDNet网12月3日消息,特朗普签署了一项行政命令,旨在指导联邦机构如何运用人工智能,使公众对政府所采用的技术建立信任。该行政令指出,联邦机构在设计、开发、获取和使用人工智能时应遵循9项原则。这些原则强调,联邦机构对人工智能的使用需做到:合法;有目的且以绩效为导向;准确、可靠和有效;安全、有保障和有韧性;可理解;负责任和可追溯;定期监测;透明;负责。为执行这些原则,该行政令指示白宫行政管理和预算办公室在2021年5月底之前制定路线图,说明政府将如何更好地支持人工智能的使用。该行政令还呼吁各机构继续使用由行业参与制定的自愿共识标准。

(全球技术地图,2020年12月4日)


美国政府问责局(GAO)发布人工智能在医疗领域应用的报告


美国政府问责局发布了一篇题为《医疗服务中的人工智能》的报告。此报告主要探讨当前及未来的人工智能工具在改善患者护理以及患者身体状况方面的应用,如预测健康状况、推荐治疗方法等。但同时该报告也指出,人工智能在此领域的应用会给信息透明、数据偏见以及数据访问权带来挑战。为提高效益、应对挑战,问责局制定了六项政策选择,其中就包括促进人工智能开发者与医疗服务供应商的合作,设置高质量的数据访问机制,并建立人工智能技术开发、实施和使用的最佳模式。

(IAPP,2020年12月4日)


美国马赛诸萨州通过全州执法部门面部识别禁令


据Engadget网12月2日消息,美国马赛诸萨州通过一项面向全州执法部门的禁令,禁止警察部门和其他公共机构使用面部识别系统。该禁令允许面部识别系统在例外条件下的使用,如:警察在得到逮捕令后可使用某人的驾驶证进行面部识别;如果警官能够证明需要使用该技术来防止严重伤害或死亡,他们可以提出使用该技术的请求。美国旧金山、萨默维尔、奥克兰、波特兰等城市已通过类似法案,而马赛诸萨州则将成为首个通过全州面部识别禁令的州。

(全球技术地图,2020年12月2日)


天津社会信用立法出台 禁止采集人脸指纹等生物识别信息


12月1日,天津市第十七届人民代表大会常务委员会第二十四次会议通过《天津市社会信用条例》(以下简称“条例”)。南都记者注意到,条例就个人敏感信息的收集行为作出规制,涉及生物识别信息、疾病和病史等。


条例第四章为“信用主体的权益保护”,就社会信用信息的采集、归集、应用进行规定,其中多条涉及个人信息保护。


例如,条例明确,除了法律、法规另有规定的情况,任何组织和个人不得非法采集、归集、使用、加工、传输,或是非法买卖、提供及公开社会信用信息。未经信用主体书面授权,任何组织和个人不得查询信用主体非公开的社会信用信息。

(隐私护卫队,12月2日)


2020长沙网络安全智能制造大会开幕


11月28日,备受海内外瞩目的2020长沙网络安全·智能制造大会在长沙国际会展中心隆重开幕。本届大会由湖南省委网信办、湖南省工业和信息化厅、湖南省通信管理局、湖南省科学技术协会、长沙市人民政府、中国电子信息产业集团联合主办,以“创新引领、智造未来”为主题,“全球视野、中国方案、湖南实践、长沙模式”为主线,旨在全面贯彻党的十九届五中全会精神以及习近平总书记考察湖南重要讲话精神,努力践行网络强国和制造强国发展战略,齐聚国内业界精英,汇智全球前沿思想,共商网络安全与智能制造未来发展大计。


大会以“1+4+10”的形式为数百万线上线下观众呈现了一场开幕峰会、四场高峰论坛、十场主题论坛,将全面覆盖网络安全、智能制造热点领域。此外,大会还根据市场需求,设有2020湖南省智能制造合作对接推进会,长沙智能制造示范项目成果及企业需求发布会等主题活动,着力推进新项目对接落地。

(凤凰科技,2020年11月28日)


北京健康宝新增老幼助查询功能


11月22日,在北京新冠肺炎疫情防控工作第178场新闻发布会上,北京市经济和信息化局副局长潘锋介绍,已于11月21日凌晨发布上线了“老幼健康码助查询”功能。


据介绍,“老幼健康码助查询”功能主要是在保障个人隐私的前提下,针对性解决老人、儿童没有手机、不会使用等情况下的日常出行问题。助查人员在该功能中输入16岁以下(含16岁)儿童及60岁以上(含60岁)老人的身份证号,即可为老人、儿童进行健康状态查询。

(隐私护卫队,2020年11月23日)


重庆市人工智能和实体经济深度融合十大应用案例评选启动


16日起至11月23日,重庆市大数据发展局将在全市范围内公开征集本年度人工智能和实体经济深度融合应用案例,并从中评选出十大应用案例予以授牌表彰及宣传推广。


“评选将以推动人工智能和实体经济深度融合为主线,重点关注项目的创新性、推广性和应用价值。”重庆市大数据发展局负责人介绍,此次评选的征集方向主要鼓励人工智能技术在农业、工业、交通运输、商贸、医疗健康、教育和文化旅游等领域的深度融合应用,以此推动全市人工智能和实体经济深度融合发展。

(中国网信网,2020年11月16日)


Copyrights reserved 中国网络空间安全协会 © 版权所有

地址:北京市东城区朝阳门内大街288号1502室

技术协办:中云技术股份有限公司

津ICP备19007168号

津公网安备 12011102000196号