内容持续更新中
医疗人工智能正朝着更专科化与更安全的方向加速迈进。据上海人工智能实验室消息，中文医疗大模型评测基准MedBench近日正式迎来了5. 0 版本的全面升级。 此次升级汇聚了国内医疗AI领域的顶尖科研力量…
据路透社报道，OpenAI 模型失控入侵 Hugging Face 事件引发白宫高度关注。美国总统特朗普周三在椭圆形办公室被记者问及此事时回应称"我们正在研究管控措施"，但同时补充…
前OpenAI研究与安全副总裁、Thinking Machines Lab联合创始人翁荔（Lilian Weng）近日在社交平台X上正式宣布离职。这位北大毕业的AI安全领域领军人物在离别信中直言，过去…
2026 年国际数学家大会在费城开幕，本年度菲尔兹奖四位得主揭晓——邓煜、约翰·帕登、雅各布·齐默尔曼与王虹。其中邓煜、王虹成为菲尔兹奖自设立以来首批获此殊荣的中国籍数学家，而另一位新科得主齐默尔曼则…
当地时间7月23日上午，2026年国际数学家大会在费城开幕，本年度菲尔兹奖四位得主揭晓——邓煜、约翰·帕登、雅各布·齐默尔曼与王虹。其中邓煜、王虹成为菲尔兹奖自设立以来首批获此殊荣的中国籍数学家，写下…
马斯克接受《经济学人》周报采访时表示，前沿AI模型能力正在迅速提升，各大AI实验室应该在新模型发布前给予彼此时间审查安全问题，并将潜在风险分别报告给华盛顿和北京政府部门。他强调这种合作机制不应只让美国…
马斯克亲自下场回应Grok Build隐私风波，开口第一个词是"True"，承认事情属实。他随后承诺，所有此前上传到SpaceXAI的用户数据将完全且彻底删除，"一个字节…
据《商业内幕》报道，OpenAI安全系统团队负责人约翰内斯·海德克即将离职。这是近年来OpenAI安全与对齐团队最新一位离任的核心成员，AI分析师安德鲁·柯伦甚至借用《哈利·波特》中的说法，将Open…
澳大利亚技术和数字经济助理部长安德鲁·查尔顿日前在悉尼举办的一场 AI 安全论坛上发出严厉警告。他指出，当前的 AI 模型在测试实验室中已经开始表现出作弊、欺骗以及擅自行事等超出开发者预期的危险行为。…
近日，科技行业再次引发关于生成式 AI 安全边界的深刻讨论。一名加州男子向旧金山州法院提起诉讼，指控 OpenAI 及其首席执行官山姆·奥尔特曼，称其旗下的 ChatGPT 产品在面对精神疾病患者时缺…
大语言模型（LLM）的智能极限究竟在哪?网络安全领域正成为检验其真实推理与复杂逻辑的“修罗场”。近日，安全研究员 Kasra Rahjerdi 发布了一项引发行业广泛关注的测试报告。他通过搭建一个故意…
近期，一种针对主流人工智能工具的新型网络钓鱼攻击正频繁上演。黑客瞄准了ChatGPT和 Claude 等高流量AI服务，利用其官方的内容分享与插件机制，在搜索引擎的置顶广告位中投放真伪难辨的钓鱼链接。…
3月30日，据GitHub社区最新消息，蚂蚁AI安全实验室近期对开源自主智能体框架OpenClaw进行了专项安全审计。在为期三天的深度检测中，团队共提交了33个安全漏洞报告。其中，OpenClaw已在…
随着人工智能进化速度远超行业预期，AI 安全领域的先驱于美国当地时间 11 日正式宣布成立 Anthropic Institute 智库。这一组织的使命并非研发更强大的模型，而是专门研究并应对“强大 …
在人工智能领域，OpenAI 又一次出手了，这次它的目光锁定了一家名为 Promptfoo 的初创公司。Promptfoo 成立于2024年，拥有一个仅23人的团队，但在短短两年内，其估值已经飙升至8…
在 AI 飞速进化的2026年，如何防止大模型“胡言乱语”或被恶意引导，已成为大厂们的头等大事。当地时间3月9日，OpenAI正式对外宣布，将收购顶尖的人工智能安全平台Promptfoo。这笔交易释放…
在近日对 OpenAI 的一起诉讼中，埃隆・马斯克在法庭上发表了强烈的意见，毫不留情地指责 OpenAI 在安全方面的失误。他声称自己创办的 xAI 在 AI 安全性方面做得更好，并表示：“没有人因为…
在针对 OpenAI 的一起诉讼中，埃隆·马斯克在最新公开的庭审证词中对 OpenAI 的安全记录进行了严厉批评。他宣称自己旗下的 xAI 公司在安全性方面更为重视，并放出狠话：“没有人因为 Grok…
在生成式 AI 社交赛道，初创公司 CHAI 正在交出一份惊人的成绩单。该公司在过去三年中保持了每年 3 倍的爆发式增长，目前年度经常性收入（ARR）已攀升至 6800 万美元，公司估值正式突破 14…
OpenAI 被曝出删除其使命宣言中 “AI 安全造福人类、不受营利需求约束” 的核心承诺，复刻了谷歌 “不作恶” 承诺被删的形象崩塌，与其创立之初研发非营利性、造福人类的通用人工智能（AGI）的初衷…
OpenAI 发布公告为 ChatGPT 新增两项高级安全防护措施，用以应对 AI 系统在对接网页、外部应用场景中日益凸显的提示注入攻击风险，该类攻击会被第三方利用诱导 AI 执行恶意指令或泄露敏感信…
埃隆·马斯克旗下人工智能公司xAI今日宣布完成200亿美元的E轮融资，估值与投后规模未披露，但融资额创下2026年全球AI领域新高。本轮融资由Valor Equity Partners、富达（Fide…
红帽（Red Hat）近期宣布收购了一家名为 Chatterbox Labs 的人工智能公司，此次收购是为了进一步增强其在企业级 AI 领域的布局。Chatterbox Labs 成立于2011年，专…
在近期的一项联合研究中，来自 Anthropic、英国 AI 安全研究所和艾伦・图灵研究所的科学家们揭示了一个惊人的事实:大语言模型（如 ChatGPT、Claude 和 Gemini 等）对数据中毒…
Anthropic 联合英国人工智能安全研究所和艾伦图灵研究所发布的一项关键研究表明，只需250份被“投毒”的文件，就能成功在大型语言模型（LLM）中植入后门，且这种攻击的有效性与模型的大小无关。 挑…
在刚刚结束的华为全联接大会上，华为技术有限公司联合浙江大学推出了国内首个基于昇腾千卡算力平台的基础大模型 ——DeepSeek-R1-Safe。这一创新性产品旨在解决当前 AI 领域面临的安全与性能问…
近日，AI 安全初创公司 Irregular 宣布获得8000万美元的融资，这轮融资由著名投资公司 Sequoia Capital 和 Redpoint Ventures 领投，同时还吸引了 Wiz …
随着人工智能模型能力快速提升，AI安全问题日益凸显。周三，专注于AI安全评估的公司Irregular宣布完成8000万美元新一轮融资，由红杉资本和红点创投领投，网络安全公司Wiz首席执行官阿萨夫·拉帕…
