人脸识别安全问题需注意
本文已影响1.04W人
本文已影响1.04W人
人脸识别安全问题需注意,作为人工智能领域最具商业价值的技术方向,人脸识别在安防、金融、交通、教育等关键领域实现了广泛应用,但仍面临安全挑战,人脸识别安全问题需注意。
人脸识别安全问题需注意1
以人脸识别为代表的个人生物信息识别应用,在近几年迅速发展且进入民生领域。但社会却没有针对该类应用的法律法规、行业规范和治理体系,市场呈野蛮开发、无序应用现象,监管缺失,随时会给应用单位和公民生命财产安全带来威胁。
针对这种问题,2022年两会期间,上海市政协委员左伋、李颖洁等人提出了加快构建个人生物信息识别应用管理制度体系的建议。
目前,我国正在加快数字化发展,不可避免要用到人脸识别等个人生物信息识别(生物特征识别)的应用,因此如何引导和规范该类应用的开发、使用和监管,保障人民隐私安全和社会稳定,是亟待解决的问题。
左伋等人注意到,尽管《个人信息保护法》、《数据安全法》目前已颁布,但是距离“个人生物信息应用”仍有差距。人脸识别技术产品的安全也存在较大漏洞,安全检测监管制度尚未形成。
放眼个人生物信息识别应用的供给与市场,左伋等人发现,该类产品开发企业资质认证制度缺失,应用场景和行业规范缺失,应用单位和个人的安全意识较为缺乏。当不受引导、规范和监管的人脸识别应用越广,将增加政府后续治理难度,政府将面临无力保护公民个人隐私的情况
因此,左伋等政协委员提出建议,应加快人脸识别应用制度建设,明确该类应用的治理思路、责任主体、监管任务、应用规范、市场准入等一系列具体操作办法,使政府监管、行业治理、企业开发、市场应用和公民维权有法可依。
此外,左伋等人认为,应实现全方位保障人脸识别应用安全。供给端应建立该类产品开发企业资质认证和产品合格认证制度;应用端应形成该类产品应用场景和应用行业规范;从监管端,则要建立该类产品应用安全定期执法检查制度。通过制度规范“开发、应用、监管”过程,全方位保障人脸识别应用安全,降低安全风险,维护社会稳定。
不仅如此,左伋等人还建议通过制度明确,赋予公安等特定部门公民个人生物信息(包括人脸、指纹、虹膜等)采集权和存储权,并且该类信息实行“采用分离”、“一次采集、多次使用”和“使用审核制”,即采集和使用为不同的单位,由特定部门负责采集、存储,其他单位需要使用的,提出申请,审核通过后方可接入数据接口,且使用单位本地不得存储生物信息,从而尽量避免个人生物信息数据泄漏带来的安全问题。
人脸识别安全问题需注意2
作为人工智能领域最具商业价值的技术方向,人脸识别在安防、金融、交通、教育等关键领域实现了广泛应用,但在技术层和应用层仍面临安全挑战,漏洞攻击、数据泄漏、技术滥用等问题,屡屡成为社会焦点。
1月18日,首个面向人脸识别系统安全性的国家级检测与评估结果在国家工业信息安全发展研究中心主办的人工智能融合发展与安全应用研讨会上发布,腾讯云、京东科技、商汤科技、旷视科技、海康威视、的卢深视成为首批通过测评的企业,国家工信发展研究中心副主任何小龙现场为企业颁发证书。
这项检测由国家语音及图像识别产品质量检验检测中心(以下简称“AI国检中心”)完成。作为人工智能领域的国家级第三方检验检测机构,AI国检中心就人脸识别系统安全启动测评工作,对市场主流人脸识别系统开展测试评估,规范人脸识别产业健康发展。
据悉,这是依据《信息安全技术人脸比对模型安全技术规范》《信息技术生物特征识别人脸识别系统技术要求》等现行和在研的有关国家和行业标准,通过呈现攻击、注入攻击等技术手段对对人脸识别产品和服务进行全方面的测试,有效评估人脸识别安全风险。
同时,为进一步推进国检中心建设高质量开展,优化资源配置,强化人工智能领域布局,国检中心成立专家委员会,邀请语音、图像、数据治理、安全等人工智能重点领域的多位专家学者、企业家担任中心的思想库和智囊团,未来持续推进技术研发、标准制定、政策研究等相关工作,促进人工智能产业高质量发展。
国家工信安全中心人工智能所副所长刘永东介绍道,人脸识别系统安全风险主要涵盖算法安全、数据安全和应用软件安全等维度。本次测评对人脸识别系统的安全风险提供明确的测试方法,包括算法层面的活体检测+假体攻击、对抗样本攻击等呈现和注入攻击检测。
目前,对人脸识别技术的规范和管理早已成为全球关注的重点。美国、欧盟相继推出《人脸识别和生物特征识别技术禁令法案》《通用数据保护条例》等监管政策,同时主导多项人脸识别国际标准。在全球共识下,我国重点提出发展与安全并重的理念,多措并举推进人脸安全应用,逐步牵头引领部分标准制订,在公安和金融等领域先行构建规范。本次测评工作将为进一步完善人脸识别标准体系、推动产业规范发展提供有力支撑,本次通过测评的企业也将参与后续的标准编制。
本次测评工作也存在一些改善项。国家工信安全中心人工智能所图像检测室负责人朱倩倩表示,人脸识别系统的安全评估,不应用一个尺度来衡量,比如门禁闸机、手机登录、金融支付等身份认证场景对安全性要求不同,从技术角度,安全性判定规则也应加以区分,以及不同测试样本间的测试结果也存在差异。她建议,进一步打造更细化的评测体系,包括按照不同场景、不同功能、不同应用阶段划分安全等级,对测试样本分级分类,保证在同一基准上衡量安全能力。
同时,由于人脸识别技术采用大数据训练的方法实现,目前安全测试项未全部涵盖,只通过呈现攻击的方式做检测,样本量有限,导致不能完全覆盖各种不安全情况。因此,检测手段与技术水平也需加快跟进。朱倩倩表示,加快研发自动化测试工具,研究测试样本差异,为企业提供高水准测试服务,帮助企业精准定位安全问题,提出改进及优化建议。
保障人工智能安全应用是一项系统工程,为人脸识别技术加装“安全锁”,除了开展测评与研制标准之外,还须从政策监管、技术攻关、合规建设等方面综合发力,加强人脸识别系统的安全管控。
从加强技术应对的角度,瑞莱智慧高级副总裁朱萌提出兼顾“主动”和“被动”的技术防御机制,被动防御是为人脸应用部署静态的安全能力,比如人脸AI防火墙,对外部访问、输入数据、行为决策等进行检测,提升人脸系统抵御攻击的能力。主动防御则是引入和强化安全团队力量,比如打造攻防演练靶场,帮助企业构建自适应、自生长的安全能力。
最后,人脸识别具有高度的社会属性,应在法治框架下开展协同治理。如何贯彻落实法规政策的要求,朱萌表示,技术厂商可联手律师事务所,针对数字经济时代新场景下监管机构的合规要求,对内健全技术合规体系建设,对外输出应用合规咨询服务,比如培育数据安全咨询、数据保护设计与数据安全管理等服务,从技术流程和业务流程的角度提供完整的安全保障解决方案。
人脸识别安全问题需注意3
咱的脸可能被“卖”了
在某些商场、店铺,通过安装带有人脸识别功能的摄像头,采集进店顾客人脸信息,已不是秘密。
记者调查发现,一些人脸识别技术公司虽然嘴上说已停止该业务,但买卖人脸照片的'生意他们还在干着。
现状
产品不难找 2000元一套
在搜索引擎或电商平台输入“人脸识别摄像头”“门店人脸系统”,很快能找到多个提供此类产品的公司页面。
“门店人脸识别,新零售系统解决方案,客流统计数据。”一家企业在推广页面中如此宣称产品。记者联系上该企业客服,咨询购买能够分析顾客人脸和个人信息的摄像头,其回应去年开始公司便不再涉足此类业务。
与此同时,也有个别公司仍在出售带有人脸识别功能的摄像头,但工作人员表示设备只是用来辅助统计客流,不会过多采集顾客信息。“AI人脸识别,准确识别率超99.99%,精准识别人脸信息……”深圳一家科技公司的官网上,该广告占据了主要页面。页面介绍,人脸识别客流统计系统可运用于商业综合体、图书馆、小区等场景。记者联系公司负责人,其表示目前带人脸识别功能的摄像头,属于公司客流统计管理系统的一部分。
“摄像头200万像素,支持复杂环境下的人脸抓拍,支持最多同时32个人脸检测。”该负责人说,系统要完成搭建,除了在店内适当位置安装摄像头之外,还需要能存储数据的云平台。“如果都在我这里购买,平均下来每个摄像头也就2000多元钱,施工费用你自己出。”
隐患
数据可自管 买卖风险大
那么,购买辅助客流统计的人脸识别摄像头,能获得什么信息?是不是仅用于客流统计,就没有风险了?
一名行业人士介绍,此前一些商场或门店使用的人脸识别拍摄系统,主要是通过拍摄顾客面部来识别、采集和分析顾客信息。而现在,则主要变为了以“撞线”统计客流,“比如辅助统计系统,在门店地面画一条线。只要有顾客进店,就能‘碰’到横线,于是客流统计就会记录下来……”
尽管相关企业宣称摄像头不在后台显示人脸信息,但其实只要顾客进店,安装好的摄像头就可以拍摄到每一位顾客的面部信息。而拍摄下来的人脸,究竟存储在了哪里、是否会脱敏处理,被设备采集的顾客完全无法控制。相反,在这背后,买卖人脸信息数据的灰色市场一直都在。
一家名为“数据标注共享”的聊天群中,就有人出售人脸照片。“我们专门是做人工智能人脸面部数据采集的,都是固定拍摄。”一名卖家表示,其手中有3000人左右的面部图片,主要是在大专院校采集学生数据时留下的,“要的话20元一个人。”该名卖家表示,他们采集的人脸数据相比其他设备采集的人脸更好,“每个人有20张图片、5段视频,AI测试这样的全方位的采集,好得多。”
这样的人脸数据买卖并非个例,此前也有媒体报道,在某些网络交易平台上,只要花2元钱就能买到上千张人脸照片,而5000多张人脸照片标价不到10元。
说法
安装摄像头须明确告知
“摄像头有很多种类别。一般来说,要在公共场所安装摄像头,是必须出于维护公共安全和公共利益才去设置的。”中国政法大学传播法研究中心副主任、中国消费者协会专家委员会委员朱巍说,我国《个人信息保护法》第二十六条规定,在公共场所安装图像采集、个人身份识别设备,应当为维护公共安全所必需,遵守国家有关规定,并设置显著的提示标识。所收集的个人图像、身份识别信息只能用于维护公共安全的目的,不得用于其他目的;取得个人单独同意的除外。
朱巍同时介绍,《个人信息保护法》第五条规定,处理个人信息应当遵循合法、正当、必要和诚信原则,不得通过误导、欺诈、胁迫等方式处理个人信息。因此,相关方面必须在显眼处明确告知消费者安装了摄像头。
朱巍认为,即使客流统计的摄像头是在去标识化的情况下拍摄,也在一定程度上侵犯了消费者的权益。“因为从功能上来讲,所有的人脸、表情等等,都是可以记录和获取的。而商场、商家拿这些拍摄到的顾客画面去做什么,是不是真如其所说不会侵犯隐私,是无法掌控的。”他提示,在公共场所安装摄像头不能任性,更不能把拍摄到的内容拿去做不法使用或分析。
向女朋友求婚需要注意哪些问题
面试时需要注意的问题
面试中需要注意的问题
女性在孕晚期需要注意的问题
宝宝龋齿常有哪些问题?龋齿问题需注意
敷面膜需要注意的问题
运动后需要注意哪些问题
养吊兰需要注意的问题
灶台需要注意风水问题
喜欢问问题的男人需要注意
二面需要注意什么问题
冬季美白需注意哪些问题
面试需要注意的问题
指纹与人脸识别哪个更安全 人脸识别更安全
面试需要注意哪些问题
出差时护肤需注意的问题
怀孕需要注意什么问题
跳槽需要注意哪些问题
办婚礼需要注意的问题
宝宝在人际交往中需要注意哪些问题
人造草足球场建设过程中需要注意什么问题
慢跑时需注意姿势问题
猫咪寄养需要注意的问题
求职需要注意哪些问题
跑步时需要注意这些问题
蹦极需要注意哪些问题
同居需要注意什么问题
买房需要注意哪些问题
论文答辩需注意的问题
职场中的问题需要注意
2021年12星座分别需要注意哪些问题
遛狗需要注意哪些问题
对宝宝人工喂养需要注意哪些问题