
随着AI换脸技术的迭代升级,人脸识别这道曾被视为“安全屏障”的防线,正面临前所未有的挑战。当我们刷脸支付、刷脸登录时,是否想过这张独一无二的生物ID,也可能被轻易“盗用”?这不,泉州市鲤城区就发生了一起利用“AI换脸”技术,突破平台人脸识别系统的新型犯罪案件。这起案件背后隐藏着怎样的技术风险和法律边界?这一期的《热案大家谈》一起来关注。
这位来自泉州的傅姓男子,初中毕业就迷上了网络,是一名资深网络“玩家”,对AI、黑客技术这些新鲜玩意儿特别感兴趣。



傅姓男子说,一开始自己只是帮朋友做一些好玩的视频,没想过赚钱。然而,随着技术的精进,傅姓男子渐渐在一些网络社群里小有名气,开始有陌生人主动找上门来,请他“帮个小忙”。2023年,随着AI技术的不断升级,傅姓男子在网上发现了一条“生财之道”:利用“AI换脸”技术帮助他人绕过平台的人脸验证。
傅姓男子说,刚开始他的“客户”还仅限于需要大量账号的短视频从业者。因为平台限制一人一号,还需要人脸识别,傅姓男子的技术正好“解决”了这个“难题”。
傅姓男子利用自己的技术,先是在未经他人同意的情况下,擅自使用他人照片,通过软件技术手段,帮助客户成功注册某平台企业员工账号两千余个,获利人民币七千元。此后,傅姓男子的技术“口碑”在灰色地带传开,业务也随之升级,有人找上门,希望他能突破某酒类申购平台的人脸识别门槛。
尽管多了几道程序,但这对于傅姓男子来说,并不是什么难事。就这样,短短一个多月的时间里,他利用AI换脸视频帮助客户通过相关微信小程序的人脸验证,超过90单,并从中获利人民币2万元,直到东窗事发。
程序异常引起了销售商的警觉,警方也随即介入调查,并通过技术手段溯源,很快就锁定了傅姓男子。2023年8月,傅姓男子被公安机关抓获,同年被泉州市鲤城区检察院以“非法控制计算机信息系统罪”提起公诉。2023年12月,泉州市鲤城区人民法院开庭公开开庭审理了这起案件。
此案的焦点在于:法律应如何定性这种利用AI技术“欺骗”系统的行为?傅姓男子的行为是构成“侵犯公民个人信息罪”,还是“非法控制计算机信息系统罪”呢?
法院经审理认为,傅姓男子通过专门软件,改变了手机系统原本调用摄像头的正常方式,强制系统读取预设视频,实现替换摄像头的功能,本质上是对计算机信息系统的干扰和控制,符合非法控制计算机信息系统罪的构成要件。根据《刑法》第二百八十五条第二款规定,采用其他技术手段非法控制计算机信息系统的,构成非法控制计算机信息系统罪。法院认为,傅姓男子使用软件干扰平台人脸识别,绕过活体检测的行为,属于“其他技术手段”。
最终,泉州市鲤城区人民法院以“非法控制计算机信息系统罪”追究傅姓男子的刑事责任,判处傅姓男子有期徒刑三年,并处罚金五千元,违法所得予以没收。
问题1:面对AI犯罪这种新型犯罪手段,法院主要依据哪些法律来进行判决?
问题2:在打击治理“AI犯罪”这一方面,法院有哪些相对应的措施?
问题1:AI换脸等深度伪造技术带来的这种新型犯罪手段,现有法律相对于这些AI技术发展是否存在一些滞后性,有没有必要在“AI犯罪”方面设置专门的条款,来增强法律的威慑力和针对性?
问题2:对于普通百姓来说,在平时生活工作中,该如何保护好个人信息,比如指纹,人脸信息等等?
问题1:如果AI被人利用,会给我们的生活以及社会可能带来哪些风险和危害?
问题2:在AI技术的应用、规范以及监管方面,是不是应该建立一个各部门合作的体系,来保证AI技术应用的安全呢?
AI已经渐渐融入我们社会,随之而来的“AI新型犯罪”,则是所有人都必须面对的问题。泉州市鲤城区人民法院的这次判决,综合考量了民事,刑事等多种法律手段,秉持技术中立但应用守法的原则,坚决打击新技术的滥用和违法行为。利用AI换脸等新技术进行犯罪,在如今已不是个案,此案也为技术滥用者敲响了法律警钟。AI技术本身没有对错,关键在于使用者的选择。当技术创新遭遇法律红线时,唯有坚守合法底线,尊重技术边界,才能让科技真正服务于社会。
来源:福建台融媒体资讯中心《现场》
记者:宋琳、林传喻
编辑:陈馨凝
审核:谢予川、卢和光、黄坚、陈惠
免责声明:文章内容如涉及作品内容、版权和其它问题,请在30日内与本公众号联系,我们将在第一时间删除内容。
仁信配资提示:文章来自网络,不代表本站观点。