人工智能

“刷脸”虽然Cool,滥用有风险

作者:何明智来源:中国电子报、电子信息产业网发布时间:2018-07-27 10:17我要评论

我国人脸识别技术尚处于发展初期。从应用领域上看,其适用领域主要集中在公共安防和商业领域,在社会生活领域方面的应用尚处于探索阶段;从功能上看,我国对人脸识别这种人工智能技术的应用也仅处于最初级的应用阶段。当人脸识别技术进入社会生活领域时,需要警惕因滥用而引发的法律、伦理道德及信息安全问题。

360截图20180727101651220.jpg

近来出现的利用人脸识别取厕纸、曝光行人闯红灯、监控学生表情等做法,在法律及道德层面引发了诸多争议。从根本上看,这种关乎个人隐私权与社会秩序、未成年人教育等公共利益之间的冲突并不是新问题,而是由来已久的问题,这涉及到权利冲突、利益冲突等深层次理论问题,需要依据法律规范、道德实践、社会文化等因素,通过利益衡量等方式予以解决。人脸识别是新型信息技术,基于大数据技术直接采集并使用个人影像数据,极容易侵犯到个人隐私,因而使得上述冲突变得更为凸显,使其成为人们日益关注的焦点。

人脸识别的此类社会生活应用方式,有的的确存在滥用之嫌,有的处于合理范围之内,需要依据法律法规、道德实践及其他具体情形予以判断。比如,利用人脸识别曝光穿红灯行人的完整姓名、户籍信息等做法,就属于暴露个人敏感数据从而侵犯个人隐私的做法,有滥用人脸识别技术之嫌,尤其随着大数据技术的发展,不法分子更加容易利用个人影像数据及相关信息识别定位公民个人,这实际上也对个人信息安全造成极大威胁;而利用人脸识别监控学生表情、识别取厕纸者的做法,只要符合知情、最小化等原则,采集内容仅限用于教学功能以及监督管理浪费厕纸行为,而未违法存储或者将信息影响大范围披露导致信息泄露或侵犯个人隐私,这并非法律所禁止的行为。

上述做法仅是人脸识别应用的初级阶段,未来,随着具有颠覆性、革命性的人工智能技术进一步发展,当人类将决策权和选择权让渡给人工智能时,人脸识别作为人工智能的重要分支亦将面临更为严峻和复杂的道德伦理问题。2017年,美国《自然》杂志发表的一项研究成果表明,智能算法也可能出现类似于人类偏见的刻板印象。这是因为,智能算法一旦进入到智能化预测或决策环节时,将不可避免引入人类为其所设定的规则来进行判断,这些规则涉及到以人类社会经验为基础的价值取向、伦理道德判断、结果导读等因素,从而在决策上带来诸多道德伦理问题。例如,近来,斯坦福大学研究人员开发出一套神经网络算法,可以通过人脸识别来判断出一个人的同性恋取向;美国麻省理工学院的最新研究论文,人脸识别系统对白人识别率达到99%,同时肤色越暗,发生错误率越高,尤其是黑人女性的错误识别率高达35%,这都导致了歧视问题。在我国,近来出现的依靠人工智能催债的做法也引发了很大的法律及道德争议。

人脸识别需要应对的不仅是道德伦理风险,它由于采集和利用的都是人像数据这种具有人类生物识别特征的关键信息,如果过度使用或者滥用,甚至可能引发更为严峻的数据泄露、数据滥用等信息安全问题。

因此,有必要对人脸识别的应用主体和应用领域加以限制。在主体方面,应围绕人脸识别的应用技术标准、安全标准,依据相关法律法规,为其应用主体设定资格条件;在应用领域方面,应当针对安防、金融、电商、支付、民生等不同应用领域及其重要性进行安全风险评估,逐步拓展应用范围,谨慎对待其在社会生活领域应用时所面临的道德伦理风险。此外,还应加强人脸识别技术应用的备案、监督、评估,构建人脸识别的监管体系,保证其应用发展的安全可控。对于其所涉及的法律及道德问题,对其利用必须坚持于法有据,谨慎对待其可能触及到的道德伦理风险,在不侵犯个人权益、社会利益的前提下,在社会道德伦理以及公民意识可接受的范围内逐步拓展其社会应用。

作者何明智,供职于赛迪智库软件产业研究所


(《中国电子报》版权所有,转载请注明出处)


责任编辑:赵强

2018制造业“双创”高峰论坛

6月22日,2018制造业“双创”高峰论坛在北京举办。本次论坛由中国电子信息产业发展研究院、中国制造企业双创发展联盟和中国软件行业协会工业互联网分会主办,中国电子报社、北京云道智造科技有限公司和中国船舶工...

2018世界VR产业大会新闻发布会

5月21日,记者从在北京人民大会堂召开的2018世界VR产业大会新闻发布会上获悉,由工业和信息化部、江西省人民政府共同主办,中国电子信息产业发展研究院、江西省工业和信息化委员会、南昌市人民政府、虚拟现实产业...

数字经济前沿论坛-CITE2018第六届中国电...

为贯彻落实党的十九大精神,充分展示新一代信息技术产业最新发展成就,促进产业核心技术突破,加快形成数字经济新动能,引领信息技术产业供给侧改革,工业和信息化部、深圳市人民政府将于2018年4月9日-11日在深圳市共 ...

中国超高清视频(4K)产业发展大会

3月29日,中国超高清视频(4K)产业发展大会在广州市召开。大会由工业和信息化部、国家广播电视总局、广东省人民政府主办,广东省经济和信息化委员会、广东省新闻出版广电局、广东省通信管理局、广州市人民政府、中...

工业互联网平台建设与推广专栏

当前,全球工业互联网正处在格局未定的关键期、规模化扩张的窗口期、抢占主导权的机遇期。作为工业互联网三大要素,工业互联网平台是全要素连接的枢纽,是工业资源配置的核心,正成为领军企业竞争的新赛道、产业布局...

聚焦2018年全国两会

3月5日,第十三届全国人民代表大会第一次会议在人民大会堂开幕。会后,工信部部长苗圩在人民大会堂两会“部长通道”回答记者提问时表示,工信部通过调查发现,广大手机客户对手机流量区分本地流量和全国流量这种计...

第六届中国电子信息博览会开幕式暨数字经济前沿论坛

本次论坛主题是“智领新时代 慧享新生活”,将邀请政府行业主管部门、国内外著名专家学者、企业家发表主题演讲、对话或专题交流,深入探讨深化创新驱动战略、实施“中国制...

必看 | 2017年成就平板显示产业的十大事件

2017年1月22日,由广东聚华印刷显示技术有限公司承建的广东省印刷及柔性显示创新中心成立。该中心以建设G4.5印刷OLED研发公共开发平台及印刷显示产业园为基...

4G高端访谈:Red Bend中国技术与新业务总监殷高生

其实我们Red Bend是一家典型的技术公司,是基于公司创始人他的很多专利算法专利,所以我们在手机软件管理里面我们提供差分升级对软件版本进行升级,传统方式进行整...

友情链接
关于我们 | 联系我们
电子信息产业网LOGO