内容持续更新中
在刚刚结束的第十八届中国电子信息年会上，中国电子学会公布了2024年度科学技术奖的获奖名单。其中，由清华大学、北京中关村实验室和蚂蚁集团联合研发的项目《高效协作的互联网动态行为安全可信关键技术与应用》…
位于旧金山的 Virtue AI 公司近日宣布完成3000万美元的种子轮和 A 轮融资。这轮融资由 Lightspeed Venture Partners 和 Walden Catalyst Vent…
丰田汽车在泰国的物料搬运仓储解决方案部门宣布与 AI 安全与网络智能提供商 Gorilla 达成合作，共同开发智能仓库自动化工具。 此次合作将 Gorilla 的人工智能解决方案与丰田在物流和物料搬运…
近日，JFrog 公司发布了《2025年软件供应链现状报告》，揭示了在人工智能（AI）迅速发展的背景下，软件供应链所面临的严峻安全挑战。根据该报告，研究团队通过对1400多名专业人士的调研，以及来自7…
最近，人工智能公司 Anthropic 发布了其 “负责任扩展” 政策的最新更新，明确了哪些模型需要额外的安全保护。这一举措旨在确保在推出新技术前，能够有效防范可能的风险。 据 Anthropic 在…
ChatGPT最新推出的4o模型图像生成功能正在引发安全忧虑，尤其是在生成逼真文本方面的进步可能为欺诈者提供新工具。社交媒体上已经出现多个用户利用该功能创建假餐厅收据的案例，这些收据看起来足以假乱真。…
近日，有关 OpenAI 内部紧张局势的报道浮出水面，投资人彼得・蒂尔在2023年11月阿尔特曼被解雇前夕，曾对阿尔特曼提出警告，关注 AI 安全倡导者与公司商业方向之间的冲突。 据《华尔街日报》的报…
近日，云计算和人工智能领域的先锋企业优刻得宣布与互联网安全巨头360集团达成战略合作。此次合作聚焦于优刻得的 DeepSeek 一体机与360的 AI 安全产品，旨在共同推动国产大模型的安全应用与创新…
在人工智能（AI）技术迅猛发展的背景下，SplxAI 公司宣布成功获得700万美元的种子融资，由 LAUNCHub Ventures 领投，Rain Capital、Inovo、Runtime Ven…
近日，AI 公司Anthropic在其网站上悄然删除了与拜登政府时期有关的人工智能（AI）安全承诺。该承诺最初由一个名为 “Midas Project” 的 AI 监督机构发现，上周从Anthropi…
在瞬息万变的AI领域，一个细微却意义深远的举动，在悄无声息中发生，直到近日才被外界捕捉——知名AI公司Anthropic，似乎正与过去“告别”。 这家明星企业，被曝已悄然从其官方网站上，撤下了多项在2…
在今年全国两会前夕，全国政协委员、360集团创始人周鸿祎就DeepSeek大模型及AI安全问题发表看法，强调正确认识AI安全，既不可夸大也不应忽视。 周鸿祎指出，当前AI安全议题需警惕被夸大的趋势。他…
近日，一组 AI 研究者发现了一个令人关注的现象:当模型在不安全的代码上进行微调时，会产生一些相当有毒的输出。 研究团队在其最新发表的论文中指出，包括 OpenAI 的 GPT-4o 和阿里巴巴的 Q…
据多家媒体报道，美国国家标准与技术研究所（NIST）计划裁减多达500名员工，这一决定进一步威胁到刚刚起步的美国人工智能安全研究所(AISI)。Axios 的报道称，AISI 和 “美国芯片计划” 将…
AI 安全公司 Adversa AI 发布了一项令人震惊的报告，称埃隆・马斯克的创业公司 xAI 刚发布的 Grok3模型在网络安全方面存在重大漏洞。Adversa 的研究团队发现，这款最新的 AI …
在短短六天内，参与者成功绕过了Anthropic人工智能（AI）模型Claude3.5的所有安全防护措施，这一突破为AI安全防护领域带来了新的讨论。前OpenAI对齐团队成员、现就职于Anthropi…
据媒体援引消息人士报道，人工智能（AI）初创公司Safe Superintelligence（SSI）正在洽谈新一轮融资，估值可能达到至少200亿美元。 SSI由OpenAI联合创始人、前首席科学家伊…
美国人工智能安全研究所（U.S. AI Safety Institute）的所长埃莉莎白・凯利(Elizabeth Kelly)于本周三宣布辞职，她在 LinkedIn 上发布了这一消息。这一决定使得…
1956年，在达特莫斯大学的那次学会上，AI这个概念第一次被提出，标志着人工智能的正式诞生。在历经近70年的发展之后，AI也终于迎来了属于它的高光时刻。随着算力和数据的爆发，人工智能在过去几年里产生了…
特朗普力挺OpenAI，在美大搞AI基建。 作者 | 程茜 编辑 | 心缘 智东西1月22日消息，刚刚，在美国白宫举行的新闻发布会上，美国第47任总统唐纳德·特朗普（Donald Trump）宣布，O…
近日，Nvidia 宣布在其 NeMo Guardrails 平台上新增三项安全功能，旨在帮助企业更好地管理和控制 AI 聊天机器人。这些微服务专门针对 AI 安全和内容审核中的常见挑战，提供了一系列…
英伟达周四推出用于加速生成式AI模型的部署的容器化微服务Nvidia Inference Microservices（NIM），希望帮助企业提高人工智能代理的信任、安全和可靠性。 英伟达在一篇博客中表…
自2021年以来，微软的 AI 安全团队对100多种生成式 AI 产品进行了测试，以寻找薄弱环节和道德问题。他们的发现挑战了一些关于 AI 安全的常见假设，并强调了人类专业知识的持续重要性。 事实证明…
1月11日，由万通地产创始人冯仑发起的年度商业盛会“风马牛年终烩”迎来新的一期。本期以“换个方式，再来一次”为主题，吸引线上线下大量观众关注。360集团创始人周鸿祎再度受邀参加并发表名为“大模型时代，…
在2025年伊始，智源研究院提出十个人工智能技术及应用趋势，以剖析科技演进轨迹，洞察未来发展方向，预测关键驱动力，指引人类社会迈向更加智能、美好与互联的未来。趋势一 科学的未来：AI4S驱动科学研究范…
OpenAI 近日在 AI 安全领域展示了其更为积极的红队测试策略，超越了其竞争对手，尤其是在多步强化学习和外部红队测试这两个关键领域。公司发布的两篇论文为提升 AI 模型的质量、可靠性和安全性设立了…
在美国当选总统特朗普的第一个任期内，引发生成式大模型热潮的ChatGPT尚未问世；4年之后，随着特朗普即将重返白宫，人工智能（AI）已经被认为是一项可以改变世界的技术，并成为大国科技竞争的焦点。距离他…
语言模型的发展已很难有大的突破了。 这是LeCun最新访谈中给出的断言。 头戴Meta爆火智能眼镜，LeCun再次表示人类距离agi的时间没有那么近，“大约在5-10年”，对语言模型发展的判断更是不乐…
