美国网络安全公司Mandiant发出警告的升级利用人工智能(AI)编排的在线活动。

而人工智能已经被坏演员利用各种数字入侵,近期激增推动信息操纵提出了重要的问题。

AI-Powered攻击上升

路透Mandiant公司报道,研究人员国有,弗吉尼亚州,自2019年以来发现的实例AI-generated内容,包括伪造档案图片,在网上政治动机影响运动中扮演过重要的角色。

这些活动横跨全球,涉及实体与政府,比如俄罗斯、中国、伊朗、埃塞俄比亚、印尼等。

亲华的急剧扩张运动称为Dragonbridge例证了这一趋势。起源于2019年,专注于民主的抗议者在香港,这个活动已经成倍增长,浸润30社交平台和十种语言,揭示了桑德拉·乔伊斯,副总裁Mandiant情报。

然而,尽管其增长,这些活动的有效性仍然有限。正如桑德拉·乔伊斯所指出的,“从效率的角度看,不是很多了。他们真的没有改变景观的威胁。”

读也:OpenAI面临金融危机,未能产生足够的收入

AI-Generated虚假内容

相同的报告指出,生成AI的扩散模型,包括著名的ChatGPT,扮演了一个关键的角色在创建复杂的虚假内容,包括视频、图片、文字,甚至计算机代码。

Mandiant公司强调了生成人工智能在放大的潜在恶意操作,强调两个关键方面:规模活动的能力超越固有的生产手段和令人信服的内容。

这种潜在的使威胁演员资源有限的大规模生产高质量的内容。

假图片,视频

最有趣的含义之一是使用AI-generated图像和视频。Mandiant公司预计,AI-generated最前沿的图像和视频很快就会采用调用情感反应由于其强大的影响。

Mandiant公司报告提供了一个这样的例子:2023年5月,有一个短暂的下降在美国股票市场价格。这发生在特定的Twitter账户,如俄罗斯国家媒体RT和验证账户@BloombergFeed(错误地将自己标榜为隶属于彭博媒体集团),共享一个AI-generated形象应该五角大楼附近爆炸。

Mandiant公司的研究也表明,信息作战演员AI-generated视频技术,从定制AI-generated人类化身面对互换工具,自2021年以来。万博体育登录首页这些工具促进促进所需的叙述,事实与虚构之间的界限变得模糊。

此外,艾未未的潜力生成文本也受到审查。虽然AI-generated文本目前有限的实例,Mandiant预见其由于可用工具的可访问性和易用性。

待发布在科技时代。万博体育登录首页

相关文章:慈善家为推动伦理AI的立场来保护世界的威胁