这家初创公司声称能分辨真人声音还是AI假冒

　　最(zuì)新的人工智能技术几乎可以模仿任何人(rén)的声音——总统、某位亲(qīn)属或银行(xíng)客户。

　　这就是成立已有十年的(de)音(yīn)频技术初创公(gōng)司Pindrop Security 要解决的问题和机遇(yù)。该公司长期为银行和(hé)保险公司提供(gōng)语音认证服务(wù)。最近(jìn)，它发布了(le)一款新产品，称(chēng)其可(kě)以(yǐ)检测电话和数字媒体(tǐ)内(nèi)容中由人工智能生(shēng)成(chéng)的语音。该公司正向(xiàng)媒体、政府机构和(hé)社交网络推销这项功(gōng)能。

　　Pindrop是越来(lái)越多具有安全意识(shí)、意(yì)欲打击人工智能造假(jiǎ)和欺诈威胁(xié)的公司(sī)之一。Protect AI 和萨姆·奥尔特(tè)曼（Sam Altman）麾下的Tools For Humanity Corp．（即Worldcoin，通过扫(sǎo)描眼睛来识别人的身份）等(děng)都属于这类公司。

　　Pindrop专注于音(yīn)频领域，今年1月，该公司因(yīn)检测到美国总统拜登的声音通(tōng)过自动语音电话(huà)唆使人们不要在新罕布(bù)什(shén)尔州(zhōu)初选中投票的深度伪造来源而登上了新这家初创公司声称能分辨真人声音还是AI假冒闻头条(tiáo)。攻击的规模在不(bù)断扩大：该公司称(chēng)，自去年以来，针对其客户的未遂攻击数量增(zēng)加了五倍多(duō)。

　　SocialProof Security的首席执行官雷切尔·托(tuō)巴克（Rachel Tobac）说：“把语音克隆和欺骗软件(jiàn)结合起来，伪装成其他人在打电话(huà)，非常容易办到。”

　　Pindrop从一批知名投(tóu)资者那里获得了融资，包括Andreessen Horowitz和GV。今年，该(gāi)公司又(yòu)从Hercules Capital 获得了(le)1亿美(měi)元债务(wù)融资。其最新估值为9.25亿(yì)美元。

　　联合创(chuàng)始人维贾伊·巴(bā)拉苏布拉马尼扬（Vijay Balasubramaniyan）攻读博士期间在(zài)印度旅行时曾想购买一套(tào)西装，之后他开始思考音频造假问题。他开户的某美国银行在当地时间凌晨3点左右打电话给他核实交易，问他的社保号码。由于(yú)无法核实来(lái)电者是谁，银行(xíng)也没有提供太多信息，他就挂断了电话。

　　“这太奇(qí)怪了，”巴拉苏布(bù)拉马尼扬回忆起他在回美国的飞机上的想法，“亚历山大·格(gé)雷厄姆·贝尔（Alexander Graham Bell）发明电话已(yǐ)经很久了，但我(wǒ)们仍然没有(yǒu)办法识别电话的另一头是谁。”（他没买到那(nà)套西装。）

　　Pindrop的技术通过分析(xī)音频来判断声音是(shì)属于(yú)真人，还是与人相(xiāng)像(xiàng)。巴拉(lā)苏布拉马尼扬说，人类通过发出特定(dìng)的声音来说话，用声音组(zǔ)成单词。但机器的发音不(bù)像人类，偶尔会产生一些变化，超出人嘴发音的物理限制。由于每秒钟的语音音频可以采集8000个样本，人工智能(néng)有可能在几千个地方出错。

　　巴拉苏布拉马尼扬说：“随着你获得的音频越来越多(duō)，你就会发现这些异常现象。”他补充说，由于人(rén)类的发音方式都一(yī)样(yàng)，因此他(tā)们的检测软件与语言种类无关。

　　该公(gōng)司称，其(qí)新(xīn)工具可识别人工智能生成的(de)音频(pín)，准确率在99%，但业内对人(rén)工(gōng)智能(néng)检测的局限性仍(réng)有争议。对于教师、研(yán)究人员(yuán)和社交媒体(tǐ)用户来说，随着技术的进步(bù)，识别人工智能生成的文字和图像一直是令人头疼的问题。今年3月，OpenAI发布了一款可以复制人声(shēng)的工具，该公司在一篇(piān)博文中建议，企业对(duì)于访问银行账户和其他(tā)敏(mǐn)感信息应逐(zhú)步淘汰基于(yú)语音(yīn)的身份(fèn)验证方法。

　　在Pindrop担任董事的思科系统公司前总裁约翰·钱(qián)伯斯（John Chambers）认为，语音ID是一种异常安全的在线身份验(yàn)证方式(shì)。钱伯斯通过他的公司JC2 Ventures投资了(le)这家初(chū)创公司。“语音将成为未来识(shí)别身份的主要网(wǎng)络安全验证方式(shì)，”他说，当语(yǔ)音与生(shēng)物特征(zhēng)识(shí)别和(hé)所使(shǐ)用(yòng)设(shè)备(bèi)的相关(guān)数据结合起来时，“几乎不可能有人完全破解。”

　　一些(xiē)业内人士对应对人工(gōng)智能(néng)问题的人工智能公司数量(liàng)增多表达了疑虑。身份盗(dào)窃研(yán)究中心（Identity Theft Research Center）的詹姆斯·李（James E． Lee）说，除(chú)非通过法律来减少网上可获得的个人数据数量，否则(zé)业界就可(kě)能(néng)卷入好(hǎo)坏人工智能(néng)之间的长期争斗之中。

　　安全技术的(de)发展同时(shí)，威胁也会随之而来。斯坦福大学的网络安全政(zhèng)策专(zhuān)家安(ān)德鲁·格罗(luó)托（Andrew Grotto）说，坏人有可能(néng)训练出一种算法(fǎ)，来逃(táo)避(bì)Pindrop等公司用来识别深度伪造(zào)的检查。格罗托说：“你最终会陷入这场军备竞赛，即防御者和威胁者之间的猫鼠(shǔ)游戏。”编辑/陈佳靖

责(zé)任编辑：刘明亮