2023年9月，AI技术推动深度伪造色情应用激增至2400万人次。社交媒体广告助长2400%增长，引发担忧。随着技术发展，普通人成为目标，引发法律问题。部分平台如TikTok和Meta Platfor…

最近，微软在其Ignite大会上宣布了一个新的AI工具，名为Azure AI Speech，可以生成新的头像和声音，或者复制用户的现有外观和语音。这项技术使用人类图像进行训练，并允许用户输入脚本，由A…

根据 2023 年的深度伪造状况报告，绝大多数在线深度伪造视频为色情内容，其中数量较 2019 年增长 550%。深度伪造色情内容占据了网上发现的所有深度伪造视频的 98%，而受害者中 99% 是女性…

随着对人工智能助长虚假信息传播的担忧增加，微软积极推出数字水印工具，Content Credentials as a Service将于明年春季首次面向政治运动提供。此举旨在防范深度伪造，同时微软还加…

哥伦比亚广播公司宣布成立CBS新闻确认部门，以应对AI深度伪造和虚假信息。该部门的领导由CBS新闻和电视台的高级副总裁克劳迪娅·米尔恩和罗斯·达根负责。为了更好地辨别虚假信息，CBS计划雇佣专业人才、…

德国相机制造商Leica最近发布了一款新的M11-P相机，配备了验证技术，以确保相机拍摄的照片没有经过人工智能生成。该相机采用水印技术为每张照片添加特殊元数据，以验证文件的真实性并记录未来的更改。这一…

深度伪造技术不仅用于政治攻击，还广泛用于性内容，影响数千名妇女。纪录片《Another Body》揭示了受害者的创伤，包括Twitch主播Gibi和学生Taylor。该纪录片警示深度伪造技术的威胁，呼…

社交平台推出生成AI新功能出现的各类问题。Meta和Snapchat推出的新AI功能已经出现深度伪造和儿童隐私数据风险。美国联邦交易委员会召开会议探讨版权等问题,监管机构正在关注生成AI对行业和消费者…

随着人工智能技术的快速发展,生成和辨别深度伪造内容的能力将成为一个重大的社会挑战。最新研究指出,当前广泛使用的数字水印技术很容易被绕过,未来防止AI深度伪造的难度依然很大。研究团队成功证明了现有水印保…

FBI专家警告，青少年正在利用人工智能技术生成深度伪造裸照，对同学进行恶意攻击，令家庭感到尴尬和害怕。这一技术不再仅限于名人和社交影响者，而是被中学生和青少年用来欺凌其他孩子。FBI敦促公众在社交媒体…

专家呼吁开发深度伪造检测工具时应考虑深色肤色群体，避免偏见。目前大多数深度伪造检测器都基于依赖于训练数据集的学习策略，但这些方法并不总是适用于深色肤色的人群。担心偏见会导致少数群体承受更多欺诈、诈骗和…