美国联邦调查局：黑客正广泛使用AI发动袭击

原标题：美国联邦调查局：黑客正广泛使用AI发动袭击

5月12日《参考消息》援引美国《华尔街日报》网站报道称，美国联邦调查局（FBI）高级官员说，形形色色的黑客正在广泛使用人工智能（AI）攻击美国公司、地方政府和联邦机构。

FBI网络部门副助理主任辛西娅·凯泽说，犯罪分子正在利用生成式人工智能等技术发动袭击。这些攻击包括有针对性的网络钓鱼和社会工程攻击。黑客利用深伪技术说服员工相信，他们的上司正在给他们打电话，或者利用从社交媒体或者更大的网络上获取的信息，专门对个人发动特定攻击。

凯泽周三在网络安全行业的RSA大会间隙接受采访时说：“突然之间，初学者可以达到中级水平，就连我们技术最先进的对手也至少在提高他们的效率。”

FBI的网络分析人士发现，黑客能力的突然提升在一定程度上源于生成式人工智能和其他形式的技术。这包括，攻击者能够发现目标系统中的编码错误，创造新的方法来隐藏更长时间，或者更快地绘制网络地图。

通过商业方式可以获得的生成式人工智能产品，比如OpenAI，通常包括旨在防止它们被用于恶意目的——比如编写恶意软件或钓鱼邮件——的防护措施。然而，黑客们开发出了自己的大语言模型，这种模型中就没有这样的限制措施，有些情况下他们还在暗网论坛上出售这种模型。

效率提高——以及人工智能发展的速度——已经成为FBI在制定搜捕网络犯罪分子的战术时需要关注的问题。

FBI网络部门负责人约瑟夫·什切尔巴在接受采访时说：“我们正在研究人工智能如何真正提高他们的能力，他们的技术已经超级先进了。”

他说：“这将会带来什么，不仅是在今天，而且在未来12到18个月里将从战略上带来什么？”

OpenAI公司的ChatGPT所推广的大语言模型等生成式人工智能平台，使用户能够根据人类的提示迅速生成大量的文字和逼真的艺术品，快速分析海量数据集，修改视频，并制作模仿某个人的音频片段。

什切尔巴说，尽管人工智能多年来一直以机器学习和这种技术的其他子集形式存在，但由于ChatGPT和其他平台的突然流行，人工智能的使用急剧增加。

黑客并不是唯一使用人工智能的群体。FBI也在探索执法部门可以如何从这项技术中获益。凯泽说，使用情况主要分为三类。

凯泽说，鉴别FBI从日常行动中获得的大量数据——例如搜查令的回复件——是一个应用人工智能的重要领域。她说，对于像公众提供线索的热线——每天会接到数千个电话——这样涉及大量数据的工作来说，自然语言处理也是如此。她说，FBI还利用人工智能处理生物特征识别。

FBI内部的人工智能使用最终由一个道德准则委员会管理，该委员会于2021年成立。但什切尔巴说，在达到这一级别前，各项目会受到严格审查，包括对于将要使用的数据对隐私影响的评估、适宜性问题，以及是否真的需要人工智能，还是其他技术也能发挥作用。

凯泽说：“我们提出了很多不同的、专门的问题，以确保这是一个一贯的、通用的程序，每次都是这样。”