南都讯 记者 冯群星 美国总统大选之年临近，网络环境也日益复杂。近日，Facebook宣布关闭数百个持续发布政治内容的虚假账号、页面和聊天群组。值得注意的是，在这些虚假账号中，人工智能合成图片被大规模地使用。
美国总统选举每四年举行一次，2020年是美国总统大选之年。官网消息显示，Facebook近日关闭了来自美国乔治亚洲的39个账号、344个专页和13个群组。这些账号冒充媒体、政党、公众人物发布政治相关内容，被关闭时已经累积了45万名关注者。
除了以上账号，Facebook还关闭了来自美国和越南的610个账号、89个专页和156个群组，其中专页的关注者大约有5500万。Facebook称，这些账号主要面向美国用户以及全球范围内的越南语、西班牙语和中文用户。其中一些账号使用了由人工智能生成并伪装成美国公民的个人资料照片。
今年6月，美国现任总统特朗普宣布将参加2020年总统大选。据CNET报道，美国社交媒体分析公司Graphika和一家智库大西洋理事会分析发现，Facebook上的许多虚假账号的内容是在支持特朗普，或者在攻击特朗普的竞争对手。这些账号曾被用来运营“美国需要特朗普总统”“我们支持特朗普”等数十个亲特朗普的Facebook群组。
Graphika和大西洋理事会联合发布的报告指出，虚假账号持有者为了提高账号的误导性成功生成了大量合成图片，这样的现象需要引起重视。很多账号使用的个人资料图片都是由AI伪造的，从一些细节可以看出端倪——图中人物的眼镜、耳环等配件不对称，或者脖子出现了扭曲变形，等等。
这并非AI首次被利用在政治活动中。此前，Deepfake已经能制作出以假乱真的特朗普讲话视频。而在今年早些时候，跨大西洋选举诚信委员会联合一家AI公司做了线上测验：提供一些声音样本，让受测者选出更接近特朗普的声音。结果显示，90%以上的受测者认为AI模拟的特朗普比人类更加逼真。今年以来，美国已经有不少政界人士公开表达对于AI干扰选举的担忧。
自从2016年剑桥分析公司干扰大选的丑闻曝光，Facebook就一直不敢对虚假账号与虚假内容掉以轻心。“我们一直在努力检测并停止这种类型的活动，因为我们不希望我们的服务被用来操纵他人。”Facebook在官网声明中表示，“我们正在逐渐消除账号滥用，但是正如我们之前所说的，这是一个持续的挑战。”
