内容持续更新中
在生成式人工智能向智能体（Agent）时代全速演进的过程中，越发强大的工具调用和联网能力，也让安全防御的系统防线面临着前所未有的考验。为了应对日益猖獗的提示注入攻击，OpenAI 近日正式推出了一项极…
在现代科技飞速发展的今天，人工智能尤其是大型语言模型（LLMs）正逐渐成为焦点。然而，美国的网络安全法律似乎跟不上这个快速变化的领域。最近，哈佛大学的一组学者在黑帽大会上指出，现行的《计算机欺诈和滥用…
最近，Meta 推出了一款名为 Prompt-Guard-86M 的机器学习模型，旨在检测和应对提示注入攻击。这类攻击通常是通过特殊的输入，让大型语言模型（LLM）表现得不当或者规避安全限制。不过，令…
