大V机构法人被换：AI时代的人脸识别风险
本文来自微信公众号：caoz的梦呓 （ID：caozsay），作者：caoz，原文标题：《人脸识别与AI时代》，题图来自：AI生成
蹭点热点吧，这不最近看到不少相关的传闻，一些大V背后的商业机构，法人被黑客变更，然后导致公众号管理权限被变更，然后就被用来发诈骗文章割韭菜。
那么黑客是怎么变更法人的呢，说简单也简单，人脸识别。
我到现在，各种支付平台的人脸识别都没开通过，就显得很不与时俱进，这是一个过气中老年的顽固和保守。
人脸识别这个技术，首先是AI时代一个非常显著的成就，因为人脸识别这玩意本身只能是模糊识别，一个人不可能任何时候表情，脸部的各种细节都是一致的对不对，特别是随着时间变化，人脸型，皱纹，发型都会有不同的变化，比如很多人一见面就会说，曹老师，你怎么又瘦了。所以这是一个需要有足够包容性的识别系统，仅仅凭借人类的标注能力，在AI技术不成熟的时候，是不可能实现的。
但这种包容性，模糊性的识别问题，就会带来两种需要防范的错误，一种就是漏判，该识别到的无法识别，比如这个人最近晒黑了，或者失眠眼睛肿了，无法识别。这种其实日常也会遇到，比如我在过新加坡海关的时候偶尔也会提示识别不对要去走人工通道做二次识别。另一种就是错判，不是本人却被识别为本人，也就是被别人冒用身份，冒用脸型。
但这两个问题，对技术的要求截然相反，第一种需要增加包容性，允许更多的容错性，才能兼容一个人不同状态的脸部识别。但第二种恰恰相反，需要收紧兼容性，防止误判，将不同人或者不符合识别标准的图像资源识别，从而导致身份入侵。
可是问题又来了，对于一般的测试，对于一般的诸如领导审查，哪个问题更容易成为考核的重点呢，第一种。毕竟一个人发现自己无法被正确识别，肯定是很明显的，他们会说你的系统不好，当项目验收，领导亲自来体验产品的时候，保证识别率肯定是最重要的指标。至于误判，反正平时也很难测试对不对。
提升识别率肯定是最容易体现技术业绩的，至于误判率，毕竟在正常场景下，大家都是用自己的身份来识别的。
然后AI进入了新的阶段，可以让照片动起来了，可以自动生成视频了，张嘴，摇头，点头，这都不叫事了。
然后偏偏那些大V、大佬们的照片、视频网上到处都有。
你看，AI的识别技术遇到了AI的素材生成。
我没有证据，但我有个怀疑，为了追求识别率的指标，因为这个指标更容易被认可，成为业绩，这些识别模型会不会都加大了容错设计，这就导致误判的口子变大了。
我也没有证据，但我也依然有个怀疑，突破识别的大概率就是用AI生成的各种动作视频。
当然，不管我怀疑得对不对，最近类似这样的事情有不少。
第一，提醒有关官方部门，提升识别能力和手段，不要轻易让识别系统被攻破。
第二，提醒各大互联网自媒体平台，一些粉丝较多的自媒体账户在涉及变更管理员权限等操作时，需要一些必要的安全校验和人工审核。
第三，提醒读者，不管你关注的是谁，信用有多好，对他们发表的内容要有自己的判断力，不要无脑跟，盲目信，有可能这个博主确实没有打算骗你，但他自己也被黑了呢。
第四，提醒各家AI厂商们，用AI突破AI的这个问题貌似已经挺严重了，而且估计会成为长期的技术难题，因为盾和矛的快速发展都是同步的。
本文来自微信公众号：caoz的梦呓 （ID：caozsay），作者：caoz
相关推荐
大V机构法人被换：AI时代的人脸识别风险
人脸识别时代，如何应对“换脸”危机？
危险的人脸识别
账户被盗、名誉遭侵害…AI“换脸”游戏“丢脸”风险大
Deepfake阴影下的“人脸识别时代”全面到来，我们可能遭遇什么危险？
“人脸识别”，我们还能承受多少风险？
人脸识别十字路口：脸的恐慌
公共场所人脸识别或全面被禁，基于AI的生物识别都犯了哪些“罪状”？
人脸识别该不该禁？欧美相继出台AI新规，整治“蛮荒的西部”
观察+ | 人民需要人脸识别
网址: 大V机构法人被换：AI时代的人脸识别风险 http://m.xishuta.com/newsview139313.html
