当前，以大模型为代表的生成式AI技术持续升级迭代，并已成为一种新质生产力驱动数字经济蓬勃发展，但AI技术发展过程中，AI安全和监管问题日益突出，加强人工智能安全治理已成为业界共识。 9月9日，全国网络…

日前，美国、英国和欧盟正式共同签署了第一个 “具有法律约束力” 的人工智能条约，名为《人工智能框架公约》。这项条约的宗旨是确保人工智能的使用与人权、民主和法治相符合。这是自2019年开始制定以来，许多…

人工智能的快速发展让不少人感到担忧，尤其是对未来 AI 是否会失控的问题。就在这波焦虑中，一个新的 AI 安全公司 ——  Safe Superintelligence（SSI）应运而生，背…

马里兰州盖瑟斯堡——今天，美国商务部国家标准与技术研究所 （NIST） 旗下的美国人工智能安全研究所宣布，与人工智能领域的领军企业Anthropic和OpenAI签署了谅解备忘录，正式开启人工智能安全…

最近，苹果公司正式宣布加入美国政府的自愿 AI 安全承诺，这一消息在7月26日由白宫发布。 自去年9月首次提出这一承诺以来，越来越多的美国知名企业纷纷参与进来。苹果的加入被认为是推动负责任 AI 创新…

近日，一组美国参议员向OpenAI首席执行官萨姆·奥特曼（Sam Altman）发出了一封重要的信函，要求他在2024年8月13日前，详细披露公司在安全措施和工作条件方面的信息。这一要求的背景是，媒体…

英国南安普顿大学教授温迪·霍尔（Wendy Hall）在澎湃新闻专访中分享了她对人工智能发展的见解和联合国人工智能高级别咨询机构的最新工作进展，强调多样性在AI治理中的重要性。

AI技术的迅猛发展带来了巨大便利，但也伴随着AI诈骗的威胁。2023年AI诈骗案件金额激增至1.85亿元，引发了社会广泛关注。

由华东师范大学联合港城集团举办的首届量子与老子国际论坛“AI之道”在临港举行，汇集中外专家学者探讨AI未来、量子科技与老子思维的交汇。

当前AI模型安全能力的提升远远落后于性能，导致AI的发展是跛脚的，失衡的背后是两者投入上的巨大差异。目前世界上99%的算力用于模型预训练，只有不到1%用于对齐或更多安全优先的考量。发展可信AGI，需要…

Anthropic公司周一宣布启动一项新计划，旨在资助开发能够评估人工智能模型性能和影响的新型基准，包括像其自家Claude这样的生成模型。 根据Anthropic官方博客发布的信息，该公司将向第三方…

非营利性研究团体机器智能研究所（MIRI）呼吁全球停止基础或 “前沿” 模型研究，担心其安全问题可能威胁人类生存。基础模型是一种能够应用于多种模式的人工智能系统。MIRI 认为，基础模型将会比人类更聪…

你敢相信？ChatGPT已经通过图灵测试了！ 甚至不是最新的GPT-4o，老版本GPT-3.5和GPT-4就已经打破人类和AI的最后一层限制。 “图灵测试”由计算机科学家艾伦・图灵在1950年提出。他…

每个人都能拥有有检测AI造假的“照妖镜”了！ 清华系独角兽初创公司，发布了面向个人的产品级检测工具，可以让AI伪造的图像、音频和视频现出原形。 而且无需上传素材，在网页和视频会议中就能主动探测内容和人…

最近AI领域发生了一件重磅事件，引发广泛关注。 　　北京时间6月20日，OpenAI联合创始人、前首席科学家伊利亚（Ilya Sutskever）在社交平台上发文宣布，将创办一家“安全超级智能公司”（…

近日“AI教父”杰弗里·辛顿（Geoffrey Hinton）在联合国AI for Good大会上分享了AI在医疗和教育领域的潜力、他对AI安全的深切担忧以及针对AI发展的一系列监管建议 杰弗里·辛顿…

OpenAI联合创始人之一、前首席科学家Ilya Sutskever在离职仅一个月后，就与两位前同事创立了一家新公司Safe Superintelligence Inc.（SSI），专注于解决&quo…