内容持续更新中
随着人工智能进化速度远超行业预期，AI 安全领域的先驱于美国当地时间 11 日正式宣布成立 Anthropic Institute 智库。这一组织的使命并非研发更强大的模型，而是专门研究并应对“强大 …
在人工智能领域，OpenAI 又一次出手了，这次它的目光锁定了一家名为 Promptfoo 的初创公司。Promptfoo 成立于2024年，拥有一个仅23人的团队，但在短短两年内，其估值已经飙升至8…
在 AI 飞速进化的2026年，如何防止大模型“胡言乱语”或被恶意引导，已成为大厂们的头等大事。当地时间3月9日，OpenAI正式对外宣布，将收购顶尖的人工智能安全平台Promptfoo。这笔交易释放…
在近日对 OpenAI 的一起诉讼中，埃隆・马斯克在法庭上发表了强烈的意见，毫不留情地指责 OpenAI 在安全方面的失误。他声称自己创办的 xAI 在 AI 安全性方面做得更好，并表示：“没有人因为…
在针对 OpenAI 的一起诉讼中，埃隆·马斯克在最新公开的庭审证词中对 OpenAI 的安全记录进行了严厉批评。他宣称自己旗下的 xAI 公司在安全性方面更为重视，并放出狠话：“没有人因为 Grok…
在生成式 AI 社交赛道，初创公司 CHAI 正在交出一份惊人的成绩单。该公司在过去三年中保持了每年 3 倍的爆发式增长，目前年度经常性收入（ARR）已攀升至 6800 万美元，公司估值正式突破 14…
OpenAI 被曝出删除其使命宣言中 “AI 安全造福人类、不受营利需求约束” 的核心承诺，复刻了谷歌 “不作恶” 承诺被删的形象崩塌，与其创立之初研发非营利性、造福人类的通用人工智能（AGI）的初衷…
OpenAI 发布公告为 ChatGPT 新增两项高级安全防护措施，用以应对 AI 系统在对接网页、外部应用场景中日益凸显的提示注入攻击风险，该类攻击会被第三方利用诱导 AI 执行恶意指令或泄露敏感信…
埃隆·马斯克旗下人工智能公司xAI今日宣布完成200亿美元的E轮融资，估值与投后规模未披露，但融资额创下2026年全球AI领域新高。本轮融资由Valor Equity Partners、富达（Fide…
红帽（Red Hat）近期宣布收购了一家名为 Chatterbox Labs 的人工智能公司，此次收购是为了进一步增强其在企业级 AI 领域的布局。Chatterbox Labs 成立于2011年，专…
在近期的一项联合研究中，来自 Anthropic、英国 AI 安全研究所和艾伦・图灵研究所的科学家们揭示了一个惊人的事实:大语言模型（如 ChatGPT、Claude 和 Gemini 等）对数据中毒…
Anthropic 联合英国人工智能安全研究所和艾伦图灵研究所发布的一项关键研究表明，只需250份被“投毒”的文件，就能成功在大型语言模型（LLM）中植入后门，且这种攻击的有效性与模型的大小无关。 挑…
在刚刚结束的华为全联接大会上，华为技术有限公司联合浙江大学推出了国内首个基于昇腾千卡算力平台的基础大模型 ——DeepSeek-R1-Safe。这一创新性产品旨在解决当前 AI 领域面临的安全与性能问…
近日，AI 安全初创公司 Irregular 宣布获得8000万美元的融资，这轮融资由著名投资公司 Sequoia Capital 和 Redpoint Ventures 领投，同时还吸引了 Wiz …
随着人工智能模型能力快速提升，AI安全问题日益凸显。周三，专注于AI安全评估的公司Irregular宣布完成8000万美元新一轮融资，由红杉资本和红点创投领投，网络安全公司Wiz首席执行官阿萨夫·拉帕…
人工智能安全领域迎来重量级玩家。AI安全公司Irregular周三宣布完成 8000 万美元新一轮融资，由红杉资本和Redpoint Ventures领投，网络安全独角兽Wiz的CEO Assaf R…
近日，AI安全公司XBOW宣布，其自主研发的AI工具“XBOW”在全球知名漏洞众测平台HackerOne上力压群雄，成为美国排行榜第一名。这是AI工具首次超越人类安全研究员，登顶HackerOne漏洞…
在刚刚结束的第十八届中国电子信息年会上，中国电子学会公布了2024年度科学技术奖的获奖名单。其中，由清华大学、北京中关村实验室和蚂蚁集团联合研发的项目《高效协作的互联网动态行为安全可信关键技术与应用》…
位于旧金山的 Virtue AI 公司近日宣布完成3000万美元的种子轮和 A 轮融资。这轮融资由 Lightspeed Venture Partners 和 Walden Catalyst Vent…
丰田汽车在泰国的物料搬运仓储解决方案部门宣布与 AI 安全与网络智能提供商 Gorilla 达成合作，共同开发智能仓库自动化工具。 此次合作将 Gorilla 的人工智能解决方案与丰田在物流和物料搬运…
近日，JFrog 公司发布了《2025年软件供应链现状报告》，揭示了在人工智能（AI）迅速发展的背景下，软件供应链所面临的严峻安全挑战。根据该报告，研究团队通过对1400多名专业人士的调研，以及来自7…
最近，人工智能公司 Anthropic 发布了其 “负责任扩展” 政策的最新更新，明确了哪些模型需要额外的安全保护。这一举措旨在确保在推出新技术前，能够有效防范可能的风险。 据 Anthropic 在…
ChatGPT最新推出的4o模型图像生成功能正在引发安全忧虑，尤其是在生成逼真文本方面的进步可能为欺诈者提供新工具。社交媒体上已经出现多个用户利用该功能创建假餐厅收据的案例，这些收据看起来足以假乱真。…
近日，有关 OpenAI 内部紧张局势的报道浮出水面，投资人彼得・蒂尔在2023年11月阿尔特曼被解雇前夕，曾对阿尔特曼提出警告，关注 AI 安全倡导者与公司商业方向之间的冲突。 据《华尔街日报》的报…
近日，云计算和人工智能领域的先锋企业优刻得宣布与互联网安全巨头360集团达成战略合作。此次合作聚焦于优刻得的 DeepSeek 一体机与360的 AI 安全产品，旨在共同推动国产大模型的安全应用与创新…
在人工智能（AI）技术迅猛发展的背景下，SplxAI 公司宣布成功获得700万美元的种子融资，由 LAUNCHub Ventures 领投，Rain Capital、Inovo、Runtime Ven…
近日，AI 公司Anthropic在其网站上悄然删除了与拜登政府时期有关的人工智能（AI）安全承诺。该承诺最初由一个名为 “Midas Project” 的 AI 监督机构发现，上周从Anthropi…
在瞬息万变的AI领域，一个细微却意义深远的举动，在悄无声息中发生，直到近日才被外界捕捉——知名AI公司Anthropic，似乎正与过去“告别”。 这家明星企业，被曝已悄然从其官方网站上，撤下了多项在2…
