唐伯虎视频里的女主是谁:黑料正能量和黑料不打烊-“AI张文宏”开始深夜带货?老人信以为真,已有多人上当受骗
什么?" 张文宏 " 开始带货了?
最近有网友向媒体发来一段视频询问 " 张文宏是不是带货了?" 还在卖一种蛋白棒,家里的老人信以为真已经下单,还转发了很多群。
该视频系 AI 合成
记者核实发现,这个账号名为" 般画 234"。在视频中," 张文宏 " 反复介绍一种产品,口型是他的,声音也是他的。
但稍微懂点 AI 的小伙伴们一眼就能分辨,这是 AI 合成的视频!但是老年人哪里懂甄别啊?
记者发现,这段视频已在该账号内不可见。但商品橱窗内还保留着蛋白棒售卖的页面,并显示已售出 1266 件。
新民晚报记者晏秋秋评论,现在的科技,只要有一段张文宏正常说话的视频,再把你想要他说的话输入,AI 一处理就能自动生成带货视频。不法账号趁着深夜把这种带货视频放出,到了早上再把视频屏蔽掉。这样买的人就投诉无门,而且也不太容易被发现。
这么做毫无疑问,就是在犯罪!卖掉这几百单,可能要坐牢几年,这样的账号也存活不了多久,平台会第一时间封禁账号、封存资金。
类似案例
" 假靳东 "骗老人上当
今年 11 月,江西一位老人来到银行办理银行卡,但手续不全又不肯离开,警方到现场后,老人表示要到银行贷款 200 万元给自己的男朋友 " 靳东 " 拍戏。
" 我是在短视频平台上认识的‘靳东’,‘靳东’向我表白了,并用两人合照发布了短视频,现在他拍戏需要 200 万元,我要去帮助他。"老人略显激动在说道。
民警随即拿起老人的手机进行查看,发现老人所谓的大明星 " 靳东 " 是骗子冒充的,其所发布的视频也是由电脑 AI 合成,但老人对网络知之甚少,对于骗子所说所做深信不疑。
民警向老人进行耐心劝导,通过展示网络上一些冒充 " 靳东 " 诈骗的新闻和现场利用 AI 合成照片等方式,老人才醒悟过来。
如何辨别
屏幕里是真人还是 AI 合成人?
蚂蚁集团天玑实验室安全算法专家朱凯建议,通过遮挡结合 " 动起来 " 的方式,来识别到底是真人还是 " 数字人 "——比如,在摁鼻子或摁脸的同时左右摇晃头部,这就是 " 动起来 " 的一种方式。目前很多 "AI 换脸 " 的基础是被模仿者的照片,照片是平面的,所以生成的 " 数字人 " 以正面、平面为主。当人脸动起来时,会呈现出脸部的三维结构,算法只能基于平面的照片推测三维结构,按照现有的技术手段,推测结果大多不太理想,从而让人发现漏洞。
此外,可以要求对方在脸部挥手、用手指比数字等。真人做这些动作时,脸部表情、手部动作都很自然;如果是 " 数字人 ",很可能出现问题。虽然现有的 AI 技术有能力生成脸部被部分遮挡的静止画面,但 " 挥手 "" 比数字 " 意味更多的动作,目前技术还没办法实时生成完美效果,从而出现破绽。
值得注意的是,以上鉴别方式都是基于现有算法的局限性。未来随着 AI 技术的发展," 动起来 "" 挥手 "" 比数字 " 等有可能难不倒新技术," 数字人 " 同样能顺利完成以上动作,从而更加具备迷惑性。所以,防范 AI 诈骗,还是要从自己出发,做好信息保护,提高警惕。
例如,不要泄露个人信息,尤其要注意图像、声音、指纹等生物信息的保护。"AI 换脸 " 的数据基础是被模仿人的照片、视频等,个人公开在外的照片、视频越多,意味着 AI 算法参考的数据越多,生成的 " 数字人 " 会更真实。
同时,在涉及资金交易等场景下,需要多留心眼,不轻易相信视频、声音。很多时候,传统的识别方式要比技术识别更有效。例如,可以询问对方只有当事人之间知道答案的问题、共同经历的事情等。
(来源:新闻晨报)