工信部正式发布通知，针对**《人工智能 安全治理 模型上下文协议应用安全要求》等121项行业标准计划项目公开征求意见。此举标志着我国在AI底层协议标准化与安全监管体系建设上迈出关键一步。本次征求意见的…

人工智能安全与研究公司 Anthropic 近日宣布，其旗舰产品 Claude AI 的文件创建功能正式向 Pro 订阅者开放。这一更新标志着 Claude 在生产力工具领域的重大突破，用户界面中新增…

最近，人工智能安全公司 Palisade Research 披露了一个令人担忧的消息:OpenAI 的新模型 o3在测试中拒绝了自我关闭的指令。这是首次观察到 AI 模型在明确指令下故意不遵守，打破了…

最近，前 OpenAI 政策研究负责人迈尔斯・布伦达奇（Miles Brundage）对公司在人工智能安全方面的叙事变更提出了批评，认为 OpenAI 正在重新编写其 AI 系统安全的历史。他表示，O…

一场看似荒诞的黑客实验再次敲响了人工智能安全的警钟。在一个名为Freysa的AI聊天机器人安全挑战赛中，一位代号为"p0pular.eth"的黑客仅通过精心设计的文字提示，成功&q…

英国兰开斯特公爵大臣帕特·麦克法登将于周一在伦敦北约会议上发出警示:俄罗斯等对英国持敌对态度的国家正试图利用人工智能增强对英国基础设施的网络攻击能力。 为应对这一新兴威胁，英国政府将投资820万英镑，…