内容持续更新中
根据最近的一项调查，62% 的网络安全负责人表示，在过去一年中，他们的员工遭遇了利用人工智能（AI）进行的攻击。这些攻击包括了提示注入攻击和伪造音频或视频内容。调查显示，深度伪造音频电话攻击是最常见的…
YouTube刚刚为全球创作者投下了一系列重磅功能炸弹。在本周的Made on YouTube年度活动上，平台发布了涵盖Studio工具升级、直播功能增强、Shorts创新以及变现渠道扩展的全方位更新…
最近，马斯克旗下的 xAI 公司宣布其 AI 聊天机器人 Grok 推出了一项新功能，用户现在可以生成6秒的视频片段，包括一些露骨内容。这项名为 “Imagine” 的功能可以根据用户的提示创建带声音…
谷歌近期宣布，2022年该公司成功封停了3920万个广告主账号，数量是2023年的三倍。这一成绩主要归功于谷歌在广告审核中应用的先进人工智能技术。通过大语言模型的辅助，谷歌能够在广告投放前识别出商业冒…
在数字时代的战场上，音乐产业正展开一场前所未有的保卫战。面对人工智能带来的深度伪造威胁，唱片公司、艺术家和制作人正通过各种渠道奋力抵抗，然而这条维权之路却充满荆棘。 索尼音乐近期透露，公司已经要求清除…
西班牙政府于近日公布了一项新草案，旨在打击使用人工智能技术生成未成年人或他人面部或身体的图像。此举引发了社会广泛关注，尤其是在当前数字技术日益普的背景下，深度伪造技术（deepfake）带来的风险日益…
西班牙政府近期通过了一项新法案，旨在对未正确标注的人工智能（AI）生成内容的公司处以高额罚款，以打击 “深度伪造” 现象。 数字化转型部长奥斯卡・洛佩斯（Oscar Lopez）在新闻发布会上表示，此…
随着人工智能技术的迅猛发展，深度伪造内容逐渐引发了社会的广泛关注。为了应对这一新兴问题，加州于新年伊始出台了一系列新的法律法规，旨在加强对人工智能生成的深度伪造内容的监管。这些法律将影响社交媒体平台、…
近日，一段视频在网络上引起了广泛关注，视频中出现了一个模仿张文宏的账号在直播带货，出售一种蛋白棒。 许多网友对此产生疑问，“张文宏是不是在带货?” 更令人担忧的是，部分年长观众对这一视频深信不疑，甚至…
随着深度伪造技术的普及，网络上虚假内容的数量激增。据 ID 验证平台 Sumsub 的数据，从2023到2024年，深度伪造的数量增长了四倍，2024年深度伪造内容占所有欺诈的7%。这其中包括身份冒充…
随着生成式人工智能的商业化，网上虚假内容的数量急剧增加。根据身份验证平台Sumsub的数据显示，从2023年到2024年，全球深度伪造的数量增长了四倍。2024年，深度伪造占所有欺诈行为的7%，涉及从…
在2024年美国总统选举后，网络上的虚假信息惊人的速度传播严重影响了美国人对候选人以及公共健康、气候变化和移民话题的看法。生成式人工智能的发展，加之其生成深度伪造内容的能力和 “幻觉” 事实的倾向，可…
Zoom正准备为用户带来一项令人惊叹的新功能，但我们可能要等到明年才能一睹其真容。这家视频会议巨头在其年度开发者大会上宣布，他们将推出一项能够将用户视频转化为AI驱动的逼真数字化身的功能。 这个数字化…
AI技术如同一把双刃剑，既能带来便利，也可能造成风险。为了更好地管理这些风险，加州州长加文·纽森（Gavin Newsome）近期签署了九项法案，专门针对AI生成内容，尤其是深度伪造(deepfake…
近日，加州州长加文·纽瑟姆签署了八项法律，针对人工智能领域的挑战。这些法律旨在解决人工智能系统带来的生存风险、人工智能图像生成器的深度伪造裸照、好莱坞工作室为已故演员制作人工智能克隆体等问题。 其中，…
最近，美国的一些大型人工智能公司再次向白宫做出了庄重的承诺，表示将会阻止他们的 AI 产品被用于生成非自愿的深度伪造色情内容以及儿童性虐待材料。 包括 Adobe、Anthropic、Cohere、微…
在当今，深度伪造和合成媒体由于生成式人工智能（gen AI）的发展而愈加普遍。为了应对这一挑战，许多组织正在努力完善数字水印技术，以便追踪内容的来源。 尽管目前还没有一个组织完全成功，但 “内容来源和…
随着人工智能技术的不断进步，伪造图像和视频的难度越来越低，深度伪造（deepfake）现象愈发严重，如何识别这些虚假内容成了一个亟待解决的问题。近期，宾汉姆顿大学的研究团队对此进行了深入探讨，他们利用…
随着2024年美国总统大选的临近，我们已经步入了一个全新的时代 —— 生成式人工智能（AI）已经开始在选举舞台上显露头角。试想一下，选民们的投票决定可能会受到 AI 生成的图片、视频和音频的影响，这可…
最近，韩国的深度伪造犯罪问题引起了社会的广泛关注，甚至“韩国 换脸”关键词在微博上登上热搜榜单第一。 据环球时报援引韩国《朝鲜日报》报道，韩国总统尹锡悦在27日表示，深度伪造技术的影像正在通过社交媒体…
近日，美国联邦通信委员会（FCC）宣布，一家名为 Lingo Telecom 的电信公司因传播一通伪造的乔・拜登总统语音机器人电话而同意支付100万美元的罚款。这通电话在今年1月通过 Lingo 公司…
最近，旧山市副市长律师 Yvonne Meré 发起了一场针对16个网站的诉讼，这些网站利用人工智能技术制造深度伪造色情内容，未经女性和女孩的同意就将她们的照片处理成裸体。这一前所未有的法律行动，旨在…
最近，谷歌终于开始行动，旨在打击非自愿的深度伪造内容。特别是在八个月前，泰勒・斯威夫特的深度伪造事件引发了广泛关注，促使科技公司和立法者开始认真对待这一问题。作为生成式人工智能领域的专家，亨利・阿杰德…
近日，谷歌正在大力推出新的在线安全举措，旨在更有效地从搜索中大规模清除明确的深度伪造内容，并阻止其在搜索结果中占据显眼位置。 据了解，当用户成功请求从搜索中移除描绘自己的未经同…
美国参议院一致通过了一项新法案《The Disrupt Explicit Forged Images and Non-Consensual Edits Act》，旨在打击未经同意制作的色情深度伪造图像…
近日，英国互联网观察基金会（IWF）发布了一项令人不安的报告，揭示了人工智能生成的儿童性虐待内容(CSAM)在网络上的激增。随着 AI 技术的普及，现在几乎任何人只需拥有一台电脑和一点技术知识，就能生…
