全球今日报丨人工智能崛起带来恶意 AI 机器人：人与机器的界限变得模糊

来源：站长之家　2023-06-26 12:51:42

编程客栈() 6月26日消息:黑客将利用人工YOEMJO智能增强恶意机器人，用于欺诈性攻击，创建「能够有效冒充家人以欺诈性地获取利益」的高级角色，一位知名风险投资创始人指出。

在 The Crypto Mile 的最新一期节目中，雅虎财经与 Outlier Ventures 创始人 Jamie Bjavascripturke 进行了交流，Outlier Ventures 是全球最大的 Web3 加速器（以投资规模衡量）。

【资料图】

Burke 讨论了人工智能（AI）的演变和影响，以及它可能成为网络犯罪分子特别有效的工具。Burke 警告说：「如果我们只看统计数据，在一次黑客攻击中，你只需要欺骗十万分之一的人，这需要大量尝试，因此恶意行为者将提升他们的机器人的复杂程度，使其变得更加智能，利用人工智能。」

他强调了对恶意 AI 机器人被用于恶意目的的日益关注，改变了互联网的格局，或者如他所说的「代理人世界」。Burke 说：「网络上的大多数流量都是机器人，而且恶意机器人所占比例越来越高。黑客通常不会手动操作，黑客的技巧是尽可能自动化。」

随着这些恶意机器人的编程复杂性提升，人类和 AI 之间的界线可能变得几乎无法区分。

一个由 AI 驱动的机器人可以模仿一个真实的人，以至于他们可以参与视频通话而不引起怀疑。

这种技术的影响是深远的。它可能为诈骗和欺诈打开新的途径，黑客利用 AI 的能力来欺骗毫不怀疑的个人或公司分享敏感信息或转账。

Burke 说：「接收到的不再是一封要求转账的电子邮件，一个人可能会在日程表中收到一次 Zoom 通话预约，来自一个看起来像朋友的数字复制品，声音和他们一样，js并说与他们一样的话，通过说他们缺钱了，请求对方转账来欺骗联系人。」在php这种情况下，人类身份的验证系统将成为验证数字互动中个人真实身份的关键。

Burke 表示，这可能引发一场虚拟军备竞赛，各种 AI 平台争夺对互联网用户的影响力。「在这场 AI 战争中，你将拥有拥有自己的 AI 的平台，它们主要存在是为了以某种回报为代价帮助你，但你也将面临恶意 AI 的攻击，它们试图利用你与朋友和同事之间的互动中的漏洞来获取利益。」

他表示，确保人们拥有一个「主权代理人」将变得至关重要，这个代理人在虚拟环境中代表人们，保护他们免受潜在威胁，并确保他们在数字世界中的存在得到保障。

Burke 说，人工智能可能成为一种自主的行动者，影响决策和行动，确保我们在「代理人世界」中的安全和完整性将成为一个日益紧迫的挑战。

推荐DIY文章