AI造假泛滥，这家科技巨头终于对“杀猪盘”下手了

每个人都有可能受到“杀猪盘”的欺骗。数字最能证明问题——自2020年“杀猪盘”骗局出现以来，在缅甸、老挝、柬埔寨、菲律宾和阿联酋等国家，共有20万人从事这个诈骗行业，涉及金额达750亿美元。当地时间21日，大型科技公司Meta公布打击“杀猪盘”的方案，称今年已经关闭了200多万个与诈骗团伙有关的账户。此外他们还与科技公司、非政府组织和打击网络诈骗的机构合作，直接追踪犯罪集团。此前Meta对这些诈骗账户基本“睁一只眼闭一只眼”，称它们“并没有违反社区标准”。自从今年诈骗团伙开始利用AI深伪技术制作出细节更为真实的伪造视频后，Meta认为已经到了不得不阻止“杀猪盘”的时候了。“可以确定的是，团体组织能够根据需要挑选、转移账户所在的司法管辖区。由此造成的后果迅速超过了政府的遏制能力。如果不能解决这一问题，‘杀猪盘’将给东南亚和其他地区带来严重后果。”联合国毒品和犯罪问题办公室（UNODC）在今年发布的报告中写道。

Meta对“杀猪盘”不再沉默

想必如今的人们对“杀猪盘”骗局并不陌生。诈骗实施者通过约会应用、短信、电子邮件、社交媒体等与被害者建立亲密关系，最终将受害者转移到诈骗者控制的加密应用账户或伪装成投资平台的诈骗网站上。自从2020年最早的“杀猪盘”骗局出现以来，大约有20万人在东南亚国家被迫扮演网络骗子的角色。他们每天必须向世界各地的潜在受害者发送数千条信息，目的是与网线另一端的受害者建立浪漫关系，最终以有利可图的投资机会为由，说服受害者向他们汇款。近年来涉及金额达750亿美元。

当地时间21日，Meta终于对“杀猪盘”不再沉默，发布报告表示将重点打击网络诈骗行为。除了关闭200万个与诈骗有关的账户，还将不断推出新的产品功能来最大程度保护用户免受诈骗。然而此前因为在线审核问题，Meta等大型科技公司并不重视“杀猪盘”骗局。很多“杀猪盘”会小心翼翼绕过科技公司删除账户的标准，比如注意不要发布露骨内容。据网络安全公司DarkTower的情报总监加里·沃纳（Gary Warner）表示，他追踪了数千个专门引诱人们陷入加密货币投资骗局的Facebook群组和声称是社区约会资源的群组，发现骗子就潜伏在这些群组中。“Facebook上很多内容显然是‘杀猪盘’骗局前奏，但Meta表示这并不违反社区标准。”

Meta强调，研究人员在近几个月以来发现，“杀猪盘”诈骗者会使用AI深伪技术制作出细节更为真实的伪造视频后，并使用恶意软件扩大诈骗范围，因此他们决定利用针对危险组织和个人的政策以及更广泛的安全政策直接打击诈骗行为。比如Meta最近与OpenAI合作，关闭了一群“似乎”来自柬埔寨的账户。OpenAI发言人利兹·布尔乔亚（Liz Bourgeois）透露，他们首先观察到这些账户使用ChatGPT翻译和生成评论，并在社交媒体上分享。OpenAI以涉嫌诈骗活动为由，向Meta报告了这些账户和它们从事的社交媒体活动。

AI技术成为诈骗温床

在人工智能快速发展阶段，Meta的怀疑和快速采取行动实属合情合理。今年10月，联合国毒品和犯罪问题办公室（UNODC）发布报告，对“杀猪盘”骗局的快速增长发出了严厉警告，尤其提到诈骗者正在利用生成式人工智能内容和深度伪造来扩大诈骗规模。“高科技工具将本已紧迫的局势变成危机。”报告指出。

已经有不少人上当受骗。一名来自土耳其的男子接受采访表示，2022年12月，一名自称“Li Chu Xue”的女子以误发短信的方式与他建立联系，然后对他发动甜蜜攻势。双方展开长达一年的网恋。其间，对方多次以“要存更多钱才能结婚”为由，游说他进行加密货币交易，最终他被骗了91000美元（约合66万人民币）。这名土耳其男子表示自己与“Li Chu Xue”视频通话过四次，画面高清、声音清楚，此外对方还给他发过数不清的照片和视频。另有两名土耳其男子也表示自己被“Li Chu Xue”骗了许多钱。根据警方调查，类似的受害者共有27人，而骗他们的“Li Chu Xue”正是AI生成人物。

UNODC指出，AI换脸技术已经从东南亚流行到了西非。警方发现，使用这些设置需要稳定的互联网连接，而对于某些“杀猪盘”骗局流行的地方，维持稳定的网络不是一件易事，因此犯罪团伙经常会购买“星链”（Starlink）卫星天线。星链是太空探索技术公司SpaceX的一项服务，通过近地轨道卫星群，提供覆盖全球的高速互联网接入服务。今年4月至6月，东南亚警方共缴获90台“星链”卫星天线。泰国警方在今年6月没收了58台“星链”设备；在另一起案件中，泰国执法部门缴获了10台“星链”和4988张预注册的SIM卡，当时犯罪分子正将其业务从缅甸转移到老挝。“显然使用真人对他们来说效果很好，但在他们拥有所需的计算机和稳定连接后，使用这项技术可能会更便宜。”“全球反诈骗组织”（GASO）的志愿者特洛伊·戈切诺尔（Troy Gochenour）表示。

除了AI技术外，诈骗者也越来越多依赖其他技术来实施诈骗，比如使用被称为“加密货币耗尽程序”（crypto drainers）的恶意软件。这款软件尤其针对东南亚受害者，专门设计用来非法清空或“排空”加密货币钱包。它通常被设计成虚假的合法服务，并不会直接窃取目标钱包的加密货币，而是通过冒充某些平台或品牌，诱骗受害者将他们的加密货币钱包连接到“加密货币耗尽程序”这个软件上。一旦操作完成，钱包会自动被操纵批准一笔或几笔交易，使诈骗者获得对钱包中所有资金的访问权限。还有一些诈骗者利用木马程序攻击受害者电脑，获取大量个人信息。UNODC表示，当“杀猪盘”诈骗者采取的技术发生改变，他们也必须抓紧时间破获案件。“如果不能解决这一问题，‘杀猪盘’将给东南亚和其他地区带来严重后果。”