IT商业网-解读信息时代的商业变革
当前位置: 首页 > 人工智能 > 正文

AI 生成内容的“数字水印”技术可被轻易破解

2023-10-08 09:27:45  来源:IT之家    

  10月8日讯:据外媒 Engadget、Wired 等报道,美国马里兰大学的一个研究小组对 AI 生成内容的“数字水印”技术可靠性进行研究,发现这一技术可被轻易破解。

  该校计算机科学教授 Soheil Feizi 面对 AI 生成图像的水印现状时直言不讳:“目前我们没有任何可靠的水印技术,我们破解了所有的水印。”

  在测试过程中,研究人员可轻松避开现有的水印方法,并发现在非 AI 生成的图像上添加“假水印”更为容易。同时,该团队还开发出了一种“几乎无法”从图像中去除的水印技术,且不会完全损害图像的知识产权。

  而在加州大学圣巴巴拉分校和卡内基梅隆大学合作的一项类似研究中,研究人员发现通过“模拟攻击”,AI 生成图像的水印可被轻易去除:通过破坏性的调整亮度、对比度或压缩乃至旋转图像来去除,或通过建设性的高斯模糊等技术来去除。

  据报道,AI 生成数字水印将成为一场与黑客之间的竞争。这种水印尽管肉眼不可见,但可以打击滥用 AI 生成的内容。

  IT之家此前报道,美国政府曾在 7 月下旬宣布,已获得多家人工智能头部公司的自愿承诺,将对人工智能生成的内容加水印等措施,以帮助提高技术的安全性。

  亚马逊、Anthropic、谷歌、Inflection、Meta、微软和 OpenAI 这七家公司都同意提高其系统的安全性和透明度,包括允许第三方专家对其模型进行审查。

  在发给 TechRadar 的一份声明中,美国政府表示:“正在开发这些新兴技术的公司有责任确保其产品的安全。为了充分发挥人工智能的潜力,美国政府鼓励该行业坚持最高标准,以确保创新不会以牺牲美国人的权利和安全为代价。”

原标题:研究表明:为 AI 生成图像添加的数字水印可被轻易破解

免责声明: IT商业新闻网遵守行业规则,本站所转载的稿件都标注作者和来源。 IT商业新闻网原创文章,请转载时务必注明文章作者和来源“IT商业新闻网”, 不尊重本站原创的行为将受到IT商业新闻网的追责,转载稿件或作者投稿可能会经编辑修改或者补充, 如有异议可投诉至:post@itxinwen.com
微信公众号:您想你获取IT商业新闻网最新原创内容, 请在微信公众号中搜索“IT商业网”或者搜索微信号:itxinwen,或用扫描左侧微信二维码。 即可添加关注。
标签:

品牌、内容合作请点这里: 寻求合作 ››

相关阅读RELEVANT