在2024年新罕布什尔州初选的前2天，有9000多个民主党选民收到了来自“拜登”（民主党）的语音电话，告诉他们“不要在初选中投票，把票留到十一月份的选举”，同时来电显示是当地的一个有名的（民主党）政府工作人员。 这一切是怎么回事？“拜登”为什么要告诉大家不要给他们投票？

这是怎么回事？

当局调查发现，语音电话是来自Lingo电信公司，使用的是机器人电话。

机器人电话
智能外呼系统，大家平常经常接到的一些骚扰、推销电话就是这种机器人电话，以及一些“智能”客服电话。

语音通话的内容如下:

This coming Tuesday is the New Hampshire Presidential Preference Primary. Republicans have been trying to push nonpartisan and Democratic voters to participate in their primary. What a bunch of malarkey. We know the value of voting Democratic when our votes count. It’s important that you save your vote for the November election. We’ll need your help in electing Democrats up and down the ticket. Voting this Tuesday only enables the Republicans in their quest to elect Donald Trump again. Your vote makes a difference in November, not this Tuesday. If you would like to be removed from future calls, please press two now. Call {[xxxxxxx]} to be removed from future calls

主要就是告诉人们不要在初选中投票，把票留到十一月份再投。

来电显示的号码是xxxxxxx，当人们拨打xxxxxxx的电话号码进行“退订”时，xxxxxxx的机主也是一脸懵，完全不知道是怎么回事。 机主回拨之后，有人告诉他“总统打电话告诉他不要投票，打xxxxxx电话进行取消通知”。 机主表示他没有打这样的电话，那么电话又是来自哪里，谁拨打的？

马上就有媒体关注并报道这件事情。不久之后，有人公开承认，这个“拜登”语音是他生成的，使用了人工智能（AI）技术，DeepFake生成的。是有人给了他$150，让他生成的这段伪造语音。

那么是谁给他钱，让他生成语音的？ 是一个叫Steve Kramer的人。

Steve Kramer又是什么人？

Kramer是一位资深政治顾问，他自称在38个不同的州参与过竞选活动，并负责过59位国会议员的竞选活动。 看起来是一个竞选经验丰富的人。

他的目的是啥？

根据他的表述，伪造语音电话，这些事情他是有意做的。有人指使他干扰选举？他说，“没有任何人指使他这么做。”目的可能只有他自己知道了。

他做了什么？

我们按时间线来捋一捋。 1月19号，Kramer联系Voice Broadcasting公司，“周日晚上拨打一些自动电话，可能2万5千个左右”。

Voice Broadcasting是一个提供“呼叫目标客户列表并向他们播放语音信息”服务的公司。听起来像是打机器人推销电话的业务。

1月20号，Kramer找了一个人，这里我们暂时称呼这个人为Magic，让Magic来帮忙生成一份拜登的语音。因为这个人有这种技术。

为了使这个语音听起来更像拜登一点，Kramer还特意在语音脚本里面用了malarkey这个词语，据说拜登喜欢用这个词语。这段语音脚本就是我们上面看到的那段话。

Magic收到语音脚本之后，使用了一个AI平台，利用Deepfake的技术，生成了2份伪造语音给Kramer了。 之后Kramer的父亲以Kramer的名义帮忙付了$150给Magic。

语音有了。

来电显示的号码怎么来的？

这里Kramer用了一些社工的技巧。Kramer觉得，电话号码，最好是当地的号码。（这个确实是的，现在一般外地的电话都是不接听的。）这个号码最好还是跟选举有关的，这样选民接到电话，会更容易相信。 Kramer找了一个当地比较有名的跟选举有关的机构，通过在官网上查询，从中找到了一位比较有名的人员(下文简称NHPO)的电话号码。并且这个人还跟拜登选举相关事项有关。这样关联性就更大了，跟拜登有关的官员，打来之后是拜登的语音，看起来还是合理的。 Kramer就使用了这个号码。

1月20号，Kramer给Voice Broadcasting公司一份需要呼叫的名单。大约半小时之后，Kramer给Voice Broadcasting公司发送了需要播放的语音（就是伪造的拜登语音）。 1月21号，Kramer告诉Voice Broadcasting公司来电显示的号码，即NHPO的号码。晚上，Voice Broadcasting就使用Life公司的服务和设备拨打了9581个电话，来电显示是NHPO的号码，播放的是Deepfake的拜登语音。 这个就是文章开头提到的拜登打电话让大家不要投票的事情。

之后NHPO就开始收到有人给他打电话退订。声称“总统给他打电话，不要投票”。事实上，这个号码是NHPO的配偶的电话号码。

之后，就是媒体报道，当局开始调查了。也就是我们现在看到的故事。

2月23日，Magic公开承认拜登语音是他在Kramer的要求下进行生成的。为什么我们给他代号Magic呢？因为Magic这个人，现实中是一个街头魔术师。

那么伪造的的来电显示为什么没有被电信公司识别出来呢？ 根据现有的标准，电信公司会将电话分为A,B,C 3个等级。其中A等级为最高等级，粗略可以理解为A等级表示已经验证了电话号码的关系，电话号码就是这个人或者组织的。

当局调查到，这些伪造的语音是来自Lingo公司。

Lingo公司提供基于IP的云语音和数据服务等业务。

Lingo公司指出，这些伪造的电话是来自Life公司。进一步，Life公司指出，这些电话是Voice Broadcasting公司使用Life公司的服务和设备来传输给Lingo公司的。

Voice Broadcasting是一个提供“呼叫目标客户列表并向他们播放信息”服务的公司，并且与Life公司“共享共同的所有权和控制”。

Voice Broadcasting在其客户Steve Kramer的请求下传输的这些电话。

Lingo公司调查发现，他们的系统发送出去了3978个语音电话，而这些语音电话都被标记为A等级了。 Lingo公司说，根据他们的政策，他们会给拥有DID的客户的流量标记为A等级，而Life公司就是拥有DID的客户之一。 如果客户购买了公司SIP干线（允许客户使用分配给其他运营商的电话号码），并且客户证明“将识别语音客户并与用于呼叫的电话号码有关联验证”，那么Lingo公司也会给他们的流量标记为A等级。而Life公司就是这样的客户。 而Life公司曾经向Lingo公司提供过“将识别语音客户并与用于呼叫的电话号码有关联验证”这样的证明。并且Lingo公司之前也考察过Life公司这样的客户，而且Life是16年老客户。因此Lingo公司才给这些伪造电话号码的拜登语音标记为A等级。除此之外，Lingo公司没有进一步核实Life公司的客户是否能合法使用这些号码。因为这些语音被标记为A等级，因此这些来电显示为伪造的号码的语音通话被成功拨叫出去了。

后续

后续，Lingo公司被罚款100万，同时需要整改。

FTC建议给Kramer的处罚是金额$6000000， 那么这个金额是怎么算的呢？当局核实了3000个欺骗电话，每个电话罚款1000，考虑到严重性，罚款建议翻倍，所以最终是6000000。

深度伪造的语音，防不胜防，日常还得提高警惕。