313啦实用网
财联社
为了防止人工智能（AI）生成的错误信息的传播和滥用，也为了履行自己的承诺和义务。在周二的谷歌年度云会议上，该公司发布了一个名为SynthID的新工具：嵌入不可见的永久性水印，以表明图像是由人工智能创建的。
据悉，这项名为SynthID的技术将水印直接嵌入到Imagen生成的图像中，Imagen是谷歌最新的人工智能图像生成器之一。之后，无论裁剪、添加过滤器或改变颜色以及使用各种有损压缩方案，被添加到图像中的水印都将无法去除，以便于人们区分真实和虚假的内容。
当然，SynthID工具也可以扫描传入的图像，从而评估图像是由Imagen生成的可能性。这项功能由人工智能实验室Google DeepMind的技术提供支持。
不过，SynthID并不能保证水印可以万无一失地抵御极端图像处理，但它提供了一种有用的技术方法，使人们能够负责任地使用人工智能生成的内容。研究团队表示之后可能还会面向音频、视频和文本等模态推出类似的工具。
谷歌声明称：“虽然这项技术并不完美，但我们的内部测试表明，它对许多常见的图像处理都是准确的。”该公司表示，目前SynthID只能在谷歌云平台上使用，主要针对使用Vertex AI平台和Imagen图像生成器的客户，但SynthID技术将继续发展下去，并可能扩展到谷歌其他产品或第三方产品。
谷歌DeepMind首席执行官Demis Hassabis表示，SynthID是为了解决深度伪造等问题而开发的，在2024年美国即将举行大选的背景下，建立人工智能图像识别系统是非常重要的。
多家公司参与
随着深度伪造和编辑过的图像、视频变得越来越逼真，科技公司正在争先恐后地寻找一种可靠的方式来识别和标记被操纵的内容。
在上个月底，美国白宫发布公告称，已与大型科技公司达成协议，为人工智能的开发设置更多防护措施，包括开发水印系统等，来控制误导信息的传播和其他风险。白宫表示，亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家主要人工智能公司做出自愿承诺，以公众安全、系统网络安全和获取社会信任作为人工智能开发的三大原则。
在SynthID发布之前，Truepic和Reality Defender等公司也在试图寻找解决方案，这也说明了这项工作的潜在风险和必要性。
OpenAI公司今年早些时候推出了一个工具，旨在弄清文本是人类还是计算机写的。但该公司表示，他们检测人工智能生成的文字的能力是“不完美的”，需要继续进行优化。
