内容持续更新中
当地时间周二（5月28日），OpenAI发布公告称董事会成立一个负责把控AI开发方向的安全顾问委员会。 图片来源：OpenAI OpenAI成立新的安全顾问委员会 成员全是自己人 OpenAI周二宣布…
【产业互联网周报是由钛媒体TMTpost发布的特色产品，将整合本周最重要的企业级服务、云计算、大数据领域的前沿趋势、重磅政策及行研报告。】 国内资讯 世纪互联创始人陈升：AI的终极目标是…
5月17日消息，AI教父Geoffrey Hinton接受访谈。对谈不仅涉及Hinton对大型神经网络、多模态学习、模拟计算、AI安全等技术发展的看法，还有其接触人工智能的经历以及与Ilya初识的回忆…
随着全国首个官方“大模型标准符合性测试”结果公布，AI大模型商业化应用的关注度进一步提升。在金融领域，AI大模型被不少业内人士视为第二次数字化浪潮，是金融科技向智能金融的进阶升级。但目前来看，智能金融…
作者 | 香草 编辑 | 李水青 智东西12月25日报道，近期，AI生图赛道迎来一波新的爆发期。不仅Meta、谷歌等科技巨头接连推出新的文生图模型，现象级产品Midjourney也在上周迎来今年最大的…
Patronus AI发布SimpleSafetyTests测试套件，发现ChatGPT等AI系统存在关键安全漏洞。测试揭示了11个LLMs中的严重弱点，强调安全提示可减少不安全响应。结果表明在处理真…
OpenAI首席运营官Brad Lightcap接受媒体采访,谈到ChatGPT、AI发展方向和公司内部问题。他表示,ChatGPT用户增长远超公司预期;AI技术和应用还处于早期阶段,需要不断试错和探…
微软总裁表示在短期内创建超智能AI几乎不可能实现，需要数十年时间。OpenAI公司寻找人工通用智能的突破引起担忧，但微软总裁否认了危险突破的说法。他强调现阶段需关注AI安全问题，并提出在AI系统中应有…
英国国家网络安全中心（NCSC）、美国网络安全与基础设施安全局（CISA）等国际机构发布了一份关于人工智能系统安全的新指南。这些指南旨在为开发人员提供指导，确保在设计、开发、部署和运营AI系统的过程中…
最近,全球首届AI安全峰会在英国布莱切利园成功举办,来自包括中美等28个国家的代表出席并签署了《布莱切利AI宣言》。该宣言呼吁AI科研机构和企业应以负责任的方式设计、开发和使用AI。宣言承认AI改善人…
英国政府日前宣布,将增加资金投入,用于支持两台旨在推动先进人工智能模型安全研究的超级计算机。英国政府将为「人工智能研究资源」增加资金,从之前宣布的1亿英镑增至3亿英镑。这笔投资将确保英国的科学人才拥有…
最近,AI界多位大佬在线上展开激烈讨论,围绕人工智能可能存在的风险、是否需要监管等问题针锋相对。以吴恩达和Hinton为代表的两派人分别表达了不同观点。吴恩达等人主张开放创新,认为过度监管会扼杀创新;…
一篇由杰弗里·辛顿、尤瓦尔·赫拉利等联合撰写的论文呼吁全球政府采取具体监管措施，以规范AI的发展和应用。这些专家包括三位图灵奖得主、一位诺贝尔奖得主以及众多AI学者。专家集结呼吁政府监管，提出“三分之…
谷歌AI负责人Demis Hassabis认为，人工智能的发展对人类构成了类似气候变化的威胁。他强调必须认真对待AI的风险，呼吁建立监管AI的独立机构。谷歌等公司成立了AI安全基金，推动对AI模型的有…
微软、OpenAI等科技公司联合投入1000万美元，任命Chris Meserole为“前沿模型论坛”执行董事，致力于加强生成式AI产品的安全。他们成立AI安全基金，支持全球独立研究人员构建安全的AI…
英国谢菲尔德大学的研究人员揭示了一个令人担忧的发现：ChatGPT等人工智能工具可能会被操纵，用于生成恶意代码，从而危害数据库安全。多种商业AI工具存在安全漏洞，成功攻击可能导致泄露机密数据库信息，破…
英国即将于11月1日至2日举行首届全球人工智能（AI）安全峰会。据英国《金融时报》19日援引英国和中国官员的消息报道，中国预计将出席此次AI安全峰会。 报道称，两名中国政府官员透露，中国已决定至少派出…
初创公司Reality Defender宣布成功融资1500万美元，专注于检测和处理合成媒体，为企业和政府机构提供多种工具。公司首席执行官表示他们已经捕获了数百万个深度伪造媒体，并发布了可解释AI功能…
白宫要求科技公司在AI生成内容中添加水印,以识别虚假信息。但马里兰大学的研究团队发现,所有当前的数字图像水印技术都可以轻易被破解。水印可以被删除,也可以在真实图像中添加误导检测结果。由于缺乏可靠的水印…
数据是数字经济的关键要素，数据安全已成为数字经济时代最紧迫、最基础的问题之一。 “生成式AI服务出现，让数据的真实性遭到空前挑战。”中国科学院院士冯登国在近日举行的第六届中国数据安全治理高峰论坛上说。…
生成式人工智能AIGC（Artificial Intelligence Generated Content）让人们看到了未来世界AI的无限潜力，但在技术成果涌现之时，内容和数据的安全问题也第一次变得格…
前面一段时间，小编向大家介绍过，随着最近GPT-4语言模型的正式投入使用，ChatGPT也带来了全新的插件——网络浏览器和代码解释器，赋予ChatGPT使用工具、联网、运行计算的能力。 更新后，根据全…
大家也许还有印象，近期一则关于人工智能的恐怖“新闻”：在美军进行的一次模拟测试中，一架搭载了AI技术的无人机出现了异常，它认为操作员下达的“不许攻击”的命令是阻碍它完成任务，开始攻击人类操作员，以确保…
AI 风险 ：AI 会杀死我们所有人吗？ 有关 AI 的末日风险，首当其冲的就是 AI 会干掉所有人类。 我们自己创造的技术崛起并摧毁我们的恐惧已深深地融入了我们的文化。希腊人在普罗米修斯神话中表达了…
近日，美亚柏科在投资者关系活动记录表中表示，在AI监管产品方面，公司已经发布了AI-3300“慧眼”视频图像鉴真工作站，可以对深度合成伪造的视频图像、AIGC生成视频图像进行监测鉴定; 同时，公司推出…
最会说服人的AI = 你被永远剥夺的注意力 我想让您在这个演示中注意到，我们没有谈论聊天机器人，我们没有谈论人工智能偏见和公平性，我们没有谈论人工智能艺术，或深度修复或自动化工作或AGI世界末日。 我…
撰文 | 王培（美国天普大学计算机与信息科学系） 像很多其它研究领域一样，人工智能的基本问题可以提炼成四个：“做什么?” “能做吗?” “怎么做？” “该做吗？” 下面是我对这些问题的简略分析。 1 …
.jpg)
.jpg)
