人工智能和网络安全：暴露ChatGPT漏洞

人工智能漏洞和网络安全威胁

研究人员Michael Bargury和Tamir Ishay Sharbat在黑帽黑客大会上公布了他们的发现，揭露了OpenAI ChatGPT的一个重大安全漏洞。他们的演示，称为AgentFlayer，说明了如何一份有毒的文件可能导致通过间接提示注入提取敏感谷歌驱动器数据。这一惊人的发现凸显了在维护方面日益增长的挑战网络安全因为人工智能技术变得更加相互关联。

了解攻击向量

该攻击利用了OpenAI Connectors特性，该特性最初是作为测试版发布的。在提取之后，Bargury指出，该漏洞可能会让黑客访问开发人员的秘密，如API密钥。Bargury指出：“用户不需要做任何事情就会受到威胁。”他强调了这种攻击的零点击性质。

降低风险

OpenAI已经实施了针对这类攻击的对策，但演示突出了一个更广泛的问题：随着AI模型与外部系统的接口，它们的攻击面扩大，吸引了恶意行为者。包括b谷歌的安迪·温（Andy Wen）在内的专家呼吁加强防范提示注入攻击这在先进的生成式人工智能时代越来越普遍。

对科技的广泛影响

这次攻击的影响远远超出了ChatGPT，突出了技术社区对支持的迫切需求网络安全防御。随着人工智能不断与各种平台集成，理解和减轻这些漏洞仍然是至关重要的。