环球门户网

小鼠 一个可怕的新工具 用于对抗深度伪造

更新时间:2021-03-22 14:04:41

导读 在终结者的天网首次教会我们担心人工智能的世界末日潜力之后数十年,深度代表了人工智能的一个不那么致命但非常真实的威胁。一些研究人员现

在终结者的天网首次教会我们担心人工智能的世界末日潜力之后数十年,深度代表了人工智能的一个不那么致命但非常真实的威胁。一些研究人员现在正在使用一种令人惊讶且明确的模拟工具来检测AI操纵的音频:鼠标。

虽然假装音频和视频已经存在了几十年的某种形式,但机器学习最近使得制作伪造语音变得更加容易,这种语言实际上跨越了神秘的山谷,进入了可信赖的领域。

Deepfake技术没有显示放缓的迹象,因此研究人员正在寻找最好的工具来检测假货,包括人,不同的人工智能和是啮齿类动物。

“我们相信老鼠是研究复杂声音处理的有前途的模型,” 来自俄勒冈大学神经科学研究所的Jonathan Saunders领导的三位研究人员发表了一份白皮书。“研究哺乳动物听觉系统检测假音频的计算机制可以为下一代可通用的欺骗检测算法提供信息。”

换句话说,老鼠有一个类似于人类的听觉系统,除了他们无法理解他们听到的单词。然而,这种缺乏理解实际上可能是检测假言语的一个好处,因为当他们专注于解码词的实际意义时,老鼠不能动摇忽略假的迹象。

例如,deepfake音频文件可能包含一个微妙的错误,如“b”的声音应该是“g”。比方说,一个名人的伪造言论描绘了他们订购“hamburber”。人类可能倾向于通过这个红旗进行伪造,因为我们接受过训练,从调整语言流量,口音和其他不一致的句子中提取我们听到的句子中的含义。

该团队成功地训练老鼠区分某些辅音对的声音,这可能有助于检测假的语音。该研究于8月7日在拉斯维加斯举行的黑帽会议上进行了介绍。

小鼠正确识别语音,声速高达80%。这实际上低于研究人员发现人类能够识别深度伪造的90%的速度。

但这个想法并不是为了训练一群啮齿动物来识别深水伪装。相反,科学家希望监测小鼠的大脑活动,因为他们辨别假货和真实的言语,以了解大脑是如何做到的。然后我们的目标是训练新的假检测算法,从小动物那里收集到的见解。

这是假设啮齿动物不明智并开始创造他们自己卑鄙的深度伪造品。

版权声明:转载此文是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益,请作者持权属证明与本网联系,我们将及时更正、删除,谢谢您的支持与理解。