AI反诈技术不能落在后头

福建日报 2023-05-28 14:06:03


(相关资料图)

最近,话题“AI诈骗正在爆发”冲上热搜。内蒙古包头市公安局发布一起使用智能AI技术进行电信诈骗的案件,案件中福州市一家科技公司的法人代表郭先生在10分钟内被骗430万元。骗子通过智能AI换脸和拟声技术,佯装好友对他实施了诈骗。等到郭先生拨打好友电话时,才知道被骗。警方表示,一些诈骗分子利用社交平台发布的视频,截取面部视频画面后再利用AI换脸技术合成,制造视频聊天的假象骗取其信任,从而实施诈骗。

技术天然是价值中立的,没有对错和善恶之分。一项突破性的技术,与生俱来就拥有强大力量。能不能约束和驾驭这股力量,决定了这项技术在现代社会所发挥的现实影响。当下,实现了质变的生成式人工智能,无疑走到了关键的十字路口。诚如我们所看到的,AI诈骗、AI造假事件近段时间来密集发生。此类案件预示着某种风险:过往那种基于生物信息、知识壁垒、专业身份等所建构的关乎真实与安全的社会防线,备受考验。

有人运用AI换脸冒充好友视频聊天借钱,辅之以毫无破绽的声音合成,简直可以以假乱真。在很多人的潜意识里,活生生的视频、面对面的对话,那种基于声画一体所形成的神经反射式感官反馈,足以形成“就是他本人”的笃定判断。然而,AI技术带来了新的挑战,也即“是他又不是他”。倘若角色视角互换,这就是个如何证明“我是我”的命题。稍有不慎,就可能搭进去真金白银。

不管承不承认,相比于生成式人工智能一日千里的发展,人类社会那套基于记忆、经验、直觉、印象以及简单肖像特征来“识人”的认知体系千古未变,时至今日这套系统正在趋于瓦解和失效。眼见为实,越发成为一种错觉式的存在。当然,就算如此,也大可不必陷入“技术悲观主义”的怅然情绪中,须知,围绕技术工具的善恶交锋、攻防对垒,本就是现代社会的常态,且结果往往都导向积极的一面。

随着AI技术的普及、通用化,其门槛和成本越来越低,使用者越来越多,由此注定会导致与之相关的侵权、违法案例越来越多发。可以预见,在未来的一段时间,群众或许会感叹“AI造假层出不穷,AI诈骗防不胜防”。为此破局,一方面要强化公共宣教,确立新的防骗反诈意识;另一方面,还是要加快防御性、对抗性技术工具的推广落地和应用嵌入。比如,不妨尝试在常用的社交媒介软件中,内嵌声纹、人脸识别的身份核验模块。如此,或许就能少些“换脸冒充好友借钱”之类的案件。(然玉)

标签:

广告

Copyright ?   2015-2022 时代商场网版权所有  备案号:   联系邮箱: 514 676 113@qq.com