内容持续更新中
在今年全国两会前夕，全国政协委员、360集团创始人周鸿祎就DeepSeek大模型及AI安全问题发表看法，强调正确认识AI安全，既不可夸大也不应忽视。 周鸿祎指出，当前AI安全议题需警惕被夸大的趋势。他…
近日，一组 AI 研究者发现了一个令人关注的现象:当模型在不安全的代码上进行微调时，会产生一些相当有毒的输出。 研究团队在其最新发表的论文中指出，包括 OpenAI 的 GPT-4o 和阿里巴巴的 Q…
据多家媒体报道，美国国家标准与技术研究所（NIST）计划裁减多达500名员工，这一决定进一步威胁到刚刚起步的美国人工智能安全研究所(AISI)。Axios 的报道称，AISI 和 “美国芯片计划” 将…
AI 安全公司 Adversa AI 发布了一项令人震惊的报告，称埃隆・马斯克的创业公司 xAI 刚发布的 Grok3模型在网络安全方面存在重大漏洞。Adversa 的研究团队发现，这款最新的 AI …
在短短六天内，参与者成功绕过了Anthropic人工智能（AI）模型Claude3.5的所有安全防护措施，这一突破为AI安全防护领域带来了新的讨论。前OpenAI对齐团队成员、现就职于Anthropi…
据媒体援引消息人士报道，人工智能（AI）初创公司Safe Superintelligence（SSI）正在洽谈新一轮融资，估值可能达到至少200亿美元。 SSI由OpenAI联合创始人、前首席科学家伊…
美国人工智能安全研究所（U.S. AI Safety Institute）的所长埃莉莎白・凯利(Elizabeth Kelly)于本周三宣布辞职，她在 LinkedIn 上发布了这一消息。这一决定使得…
1956年，在达特莫斯大学的那次学会上，AI这个概念第一次被提出，标志着人工智能的正式诞生。在历经近70年的发展之后，AI也终于迎来了属于它的高光时刻。随着算力和数据的爆发，人工智能在过去几年里产生了…
特朗普力挺OpenAI，在美大搞AI基建。 作者 | 程茜 编辑 | 心缘 智东西1月22日消息，刚刚，在美国白宫举行的新闻发布会上，美国第47任总统唐纳德·特朗普（Donald Trump）宣布，O…
近日，Nvidia 宣布在其 NeMo Guardrails 平台上新增三项安全功能，旨在帮助企业更好地管理和控制 AI 聊天机器人。这些微服务专门针对 AI 安全和内容审核中的常见挑战，提供了一系列…
英伟达周四推出用于加速生成式AI模型的部署的容器化微服务Nvidia Inference Microservices（NIM），希望帮助企业提高人工智能代理的信任、安全和可靠性。 英伟达在一篇博客中表…
自2021年以来，微软的 AI 安全团队对100多种生成式 AI 产品进行了测试，以寻找薄弱环节和道德问题。他们的发现挑战了一些关于 AI 安全的常见假设，并强调了人类专业知识的持续重要性。 事实证明…
1月11日，由万通地产创始人冯仑发起的年度商业盛会“风马牛年终烩”迎来新的一期。本期以“换个方式，再来一次”为主题，吸引线上线下大量观众关注。360集团创始人周鸿祎再度受邀参加并发表名为“大模型时代，…
在2025年伊始，智源研究院提出十个人工智能技术及应用趋势，以剖析科技演进轨迹，洞察未来发展方向，预测关键驱动力，指引人类社会迈向更加智能、美好与互联的未来。趋势一 科学的未来：AI4S驱动科学研究范…
OpenAI 近日在 AI 安全领域展示了其更为积极的红队测试策略，超越了其竞争对手，尤其是在多步强化学习和外部红队测试这两个关键领域。公司发布的两篇论文为提升 AI 模型的质量、可靠性和安全性设立了…
在美国当选总统特朗普的第一个任期内，引发生成式大模型热潮的ChatGPT尚未问世；4年之后，随着特朗普即将重返白宫，人工智能（AI）已经被认为是一项可以改变世界的技术，并成为大国科技竞争的焦点。距离他…
语言模型的发展已很难有大的突破了。 这是LeCun最新访谈中给出的断言。 头戴Meta爆火智能眼镜，LeCun再次表示人类距离agi的时间没有那么近，“大约在5-10年”，对语言模型发展的判断更是不乐…
近两年，各行业大模型如雨后春笋般快速发展，人工智能技术、产业、应用各环节迎来快速迭代和探索突破时期。在日前举行的2024第十二届西湖论剑·数字安全大会上，各界人士就如何应用人工智能技术赋能数字网络安全…
人工智能（AI）浪潮正以前所未有的速度重塑世界，随之而来的安全和伦理问题也日益受到关注。 8月底，AI巨头OpenAI和Anthropic与美国AI安全研究所达成了一项历史性协议，允许美国政府在其发布…
封面新闻获悉，成都人工智能企业正在形成出海发展热潮，形成2024年的行业亮点。 据悉，天虎科技联合成都科技推出《寻找成都AI“向新力”》专题，本期聚焦出海机遇。 近期举行的2024中国（成都）－新加坡…
当前，全球人工智能技术发展风起云涌，成为推动新一轮科技革命和产业变革的重要力量。 近日举行的2024年世界互联网大会乌镇峰会聚焦人工智能技术、产业发展及其对人类经济社会的影响，回应各方对人工智能发展与…
2018年，扎克伯格在美国国会听证会上接受了2天共10小时的质询；2023年初，TikTok CEO周受资也参与了类似的听证会。 两次听证会结束后，各种梗图在互联网弥漫开来，核心围绕一个观点：白宫政客…
据Choice数据统计，截至今日，沪深两市本周共379家上市公司接受机构调研。按行业划分，电子、机械设备和计算机接受机构调研频度最高。此外，轻工制造等行业关注度有所提升。 细分领域看，半导体、通用设备…
就在昨天，百度旗下小度科技的首款内置中文大模型的原生AI眼镜正式亮相！ 从去年以来，Ai Pin、Rabbit R1等创新形态的AI硬件设备展露头角，掀起大模型智能终端的新风口。其中，AI眼镜赛道更是…
法国人工智能初创公司 Mistral AI 近日正式推出了一款全新的内容审核 API，旨在与 OpenAI 及其他行业领军者展开竞争，同时应对日益增长的 AI 安全与内容过滤问题。 这项服务基于 Mi…
人工智能负责任开发与应用分论坛今年10月以来，人工智能再次向世人展示了其“双刃剑”的特性。 由人民网制作的时空漫谈《AI Talk》一方面，人工智能技术因其在科学领域的贡献而获得了诺贝尔物理学奖和化学…
今年的诺奖将物理和化学两个领域的奖项都颁给了AI成果，这究竟代表着怎样的含义，又会产生怎样的影响？Demis Hassabis在本次专访中提出了自己的见解。 10月，DeepMind联合创始人兼CEO…
新京报贝壳财经讯（记者白金蕾 陈维城）10月25日至26日，由RTE开发者社区和声网联合主办的RTE2024第十届实时互联网大会在京举行。会上一场由Lepton AI创始人兼首席执行官贾扬清，Mini…
