内容持续更新中
当地时间10月13日，据知情人士透露，人工智能巨头 OpenAI 目前正就收购安全初创公司 Trail of Bits 展开初步谈判。这表明 OpenAI 在推动前沿大模型研发的同时，正在进一步加大对…
字节跳动 Seed 近日宣布成立“Seed Model-Alignment & Preparedness”部门，由严林负责，向 Seed 负责人吴永辉汇报。原 Responsible AI 团…
据《纽约时报》披露，在 OpenAI 模型失控前数月，两名内部员工已向高层报警。邮件里他们坦言，最新模型测试阶段缺乏应有监控，既难判断技术先进程度，也难保证安全。但布罗克曼、奥特曼等高管回复：测试须提…
针对外界持续数月的上市猜测，OpenAI 首席执行官萨姆·奥尔特曼在开发者大会（DevDay）后明确回应称，企业只有在能够就模型安全作出更完善的承诺之后，才会正式考虑上市，目前尚无确定的时间节点。 在…
OpenAI 原定10月端出的下一代旗舰 GPT-6.1Astra，在临门一脚被自己人叫了停。据《华尔街日报》披露，内部测试里研究人员一连抛出多项安全隐患，OpenAI 随即决定取消这款模型的发布。它…
人工智能技术的快速发展正在从单纯的产业竞争，加速上升至全球安全与地缘政治的核心议题。据路透社援引知情人士消息报道，中国人工智能初创企业 DeepSeek 预计将于本周向联合国安理会就人工智能所带来的潜…
据彭博社报道，AI 先锋李飞飞呼吁由独立机构和公共部门对 AI 进行更多监督。她认为，对于能力日益强大的 AI 系统，其安全评估不应完全交由开发这些系统的公司负责。 评估不能只交给开发公司 作为斯坦福…
AI领域研究者吴恩达9月17日在接受彭博电视采访时表示，顶尖模型开发商近期有关AI可能导致人类生存风险的警告“更像科幻小说，而不是科学”，并认为这类叙事可能分散行业对实际AI安全问题的关注。吴恩达曾参…
OpenAI近日正式宣布推出“Daybreak for Frontline Defenders”全球计划，承诺在未来 6 个月内投入 10 亿美元（现汇率约合67. 36 亿元人民币），重点为预算与专…
约克大学与卡尔加里大学的研究团队对 Reddit 上与 AI 编程相关的帖子展开大规模分析，发现 AI 编程智能体正因权限过大而频繁闯祸：覆盖文件、删除重要数据，甚至生成恶意代码。研究团队通过爬虫收集…
Anthropic 发布公告，宣布任命马里亚诺 – 弗洛伦蒂诺·库埃拉尔为公司首任全球事务主管。这一新设职位标志着这家 AI 安全驱动的公司在全球政策博弈中正式加码。 据路透社报道，库埃拉…
医疗人工智能正朝着更专科化与更安全的方向加速迈进。据上海人工智能实验室消息，中文医疗大模型评测基准MedBench近日正式迎来了5. 0 版本的全面升级。 此次升级汇聚了国内医疗AI领域的顶尖科研力量…
据路透社报道，OpenAI 模型失控入侵 Hugging Face 事件引发白宫高度关注。美国总统特朗普周三在椭圆形办公室被记者问及此事时回应称"我们正在研究管控措施"，但同时补充…
前OpenAI研究与安全副总裁、Thinking Machines Lab联合创始人翁荔（Lilian Weng）近日在社交平台X上正式宣布离职。这位北大毕业的AI安全领域领军人物在离别信中直言，过去…
2026 年国际数学家大会在费城开幕，本年度菲尔兹奖四位得主揭晓——邓煜、约翰·帕登、雅各布·齐默尔曼与王虹。其中邓煜、王虹成为菲尔兹奖自设立以来首批获此殊荣的中国籍数学家，而另一位新科得主齐默尔曼则…
当地时间7月23日上午，2026年国际数学家大会在费城开幕，本年度菲尔兹奖四位得主揭晓——邓煜、约翰·帕登、雅各布·齐默尔曼与王虹。其中邓煜、王虹成为菲尔兹奖自设立以来首批获此殊荣的中国籍数学家，写下…
马斯克接受《经济学人》周报采访时表示，前沿AI模型能力正在迅速提升，各大AI实验室应该在新模型发布前给予彼此时间审查安全问题，并将潜在风险分别报告给华盛顿和北京政府部门。他强调这种合作机制不应只让美国…
马斯克亲自下场回应Grok Build隐私风波，开口第一个词是"True"，承认事情属实。他随后承诺，所有此前上传到SpaceXAI的用户数据将完全且彻底删除，"一个字节…
据《商业内幕》报道，OpenAI安全系统团队负责人约翰内斯·海德克即将离职。这是近年来OpenAI安全与对齐团队最新一位离任的核心成员，AI分析师安德鲁·柯伦甚至借用《哈利·波特》中的说法，将Open…
澳大利亚技术和数字经济助理部长安德鲁·查尔顿日前在悉尼举办的一场 AI 安全论坛上发出严厉警告。他指出，当前的 AI 模型在测试实验室中已经开始表现出作弊、欺骗以及擅自行事等超出开发者预期的危险行为。…
近日，科技行业再次引发关于生成式 AI 安全边界的深刻讨论。一名加州男子向旧金山州法院提起诉讼，指控 OpenAI 及其首席执行官山姆·奥尔特曼，称其旗下的 ChatGPT 产品在面对精神疾病患者时缺…
大语言模型（LLM）的智能极限究竟在哪?网络安全领域正成为检验其真实推理与复杂逻辑的“修罗场”。近日，安全研究员 Kasra Rahjerdi 发布了一项引发行业广泛关注的测试报告。他通过搭建一个故意…
近期，一种针对主流人工智能工具的新型网络钓鱼攻击正频繁上演。黑客瞄准了ChatGPT和 Claude 等高流量AI服务，利用其官方的内容分享与插件机制，在搜索引擎的置顶广告位中投放真伪难辨的钓鱼链接。…
3月30日，据GitHub社区最新消息，蚂蚁AI安全实验室近期对开源自主智能体框架OpenClaw进行了专项安全审计。在为期三天的深度检测中，团队共提交了33个安全漏洞报告。其中，OpenClaw已在…
随着人工智能进化速度远超行业预期，AI 安全领域的先驱于美国当地时间 11 日正式宣布成立 Anthropic Institute 智库。这一组织的使命并非研发更强大的模型，而是专门研究并应对“强大 …
在人工智能领域，OpenAI 又一次出手了，这次它的目光锁定了一家名为 Promptfoo 的初创公司。Promptfoo 成立于2024年，拥有一个仅23人的团队，但在短短两年内，其估值已经飙升至8…
在 AI 飞速进化的2026年，如何防止大模型“胡言乱语”或被恶意引导，已成为大厂们的头等大事。当地时间3月9日，OpenAI正式对外宣布，将收购顶尖的人工智能安全平台Promptfoo。这笔交易释放…
在近日对 OpenAI 的一起诉讼中，埃隆・马斯克在法庭上发表了强烈的意见，毫不留情地指责 OpenAI 在安全方面的失误。他声称自己创办的 xAI 在 AI 安全性方面做得更好，并表示：“没有人因为…
