AI反诈!Deepfake音视频检测技术亮相CES,准确率超90%

2024-01-16 15:40

免责声明 免责声明:内容来源于网络收集,不构成任何投资建议!

文章来源:量子比特

AI反诈!Deepfake音视频检测技术亮相CES,准确率超90%

图片来源:无界AI生成

相当令人愤慨的是,一段标有美国消费者新闻和商业频道CNBC标志的视频说道:

“每个欧洲人每周可以依靠ChatGPT 赚取3 到4 千欧元。”

AI反诈!Deepfake音视频检测技术亮相CES,准确率超90%

“该投资平台使用人工智能,尤其是GPT来分析公司股票和在线趋势信息。利用这些信息,程序自动买卖股票,使平台用户获利。”

AI反诈!Deepfake音视频检测技术亮相CES,准确率超90%

好家伙,用ChatGPT赚钱有那么容易吗?

别担心,CES 2024上亮相的Deepfake音频检测技术就在这里打假

AI反诈!Deepfake音视频检测技术亮相CES,准确率超90%

上面视频中字幕中红色标注的内容都是假的,像下面绿色标注的部分才是真实的信息。

AI反诈!Deepfake音视频检测技术亮相CES,准确率超90%

当然,视频右侧的实时监控图已经说明了一切。当遇到假冒内容时,垂直轴会立即向上。

这是来自知名杀毒软件公司迈克菲(McAfee)的防伪技术,名为Project Mockingbird

随着人工智能技术的发展,现在互联网上充斥着人工智能合成的音频和视频。里面的信息也是真假难辨,有时很难辨别。一些不法分子甚至利用它来诈骗、操纵舆论。

现在,迈克菲推出了这项技术,据说可以识别AI伪造音视频准确率超90%

杀死一只“反舌鸟”

迈克菲2023 年12 月进行的一项调查显示,美国人们越来越担心Deepfake。近68% 的受访者表示,他们比去年更担心Deepfake。 33%的人明确表示曾遭遇过Deepfake诈骗或了解相关情况。

人工智能生成的虚假视频(例如下面的“泰勒斯威夫特向粉丝免费赠送大麻”)已经欺骗了很多人。

AI反诈!Deepfake音视频检测技术亮相CES,准确率超90%

于是迈克菲启动了Project Mockingbird。之所以得此名,是因为Mockingbird(可译为知更鸟)是一种善于模仿其他鸟类、昆虫、两栖动物叫声的鸟。

他们的策略是用AI打败AI。

Project Mockingbird 使用人工智能驱动的上下文、行为和类别检测模型的组合来识别视频中的音频是否是人工智能生成的。

具体来说,将音频或视频输入到模型中,分类模型从音频和视频数据中判断分析的内容是否属于某些预定义的类别,并可以确定伪造音频的起始位置并标记伪造部分。

迈克菲CTO Steve Grobman表示,研究团队正在构建Project Mockingbird的核心技术模块,并将这项技术投入产品线。

这项技术官方公布后,CNBC 印度分部CNBC-TV18 也转发进行宣传:

AI反诈!Deepfake音视频检测技术亮相CES,准确率超90%

参考链接:https://www.mcafee.com/en-us/consumer-corporate/newsroom/press-releases/press-release.html?news_id=509b05a3-65e9-46d4-9f17-2dbc606e111a