2024-01-23 10:36:50

GalaxyS24是为大众带来先进人工智能照片编辑功能的最新手机系列。Pixel8系列和Android14已经发生过这种情况，而且我不太喜欢这些假AI照片功能。三星希望通过宣布所有GalaxyAI编辑的照片都将显示水印和元数据信息来应对此类批评，以确认照片已被篡改。

这是一个好主意，直​​到您了解到可以完全删除水印(如手机测试所示)。即使三星通过软件更新解决了这个问题，这个视觉指示器仍然可以被击败。

自从谷歌去年春天推出它的MagicEditor以来，我一直批评它。是的，对于生成式AI来说，让你无需任何Photoshop技能或知识即可处理照片，这是一项了不起的壮举。是的，自摄影诞生以来，人们就一直在伪造照片。

但让人工智能立即为你做这件事可以让假货民主化。在我们目前生活的世界中，这为严重虐待打开了大门。

有些人可能会超越改变天气或移动物体的范围，假装某个事件的照片与他们拍摄照片时想要的一样好。他们会伪造照片以操纵观看者。当然，在生成式人工智能出现在手机之前这是可能的，但现在变得非常容易。

GalaxyAI有一项称为“生成编辑”的功能，可让您填充图片边缘或移动主体。它类似于Google的MagicEditor工具。一旦对照片进行此类更改，三星将在左下角添加水印以及元数据信息，旨在告诉人们该图像是经过人工智能修改的。

三星级水印是三星在GalaxyS24上随处使用的符号，用于指示AI功能。您需要点击该图标让人工智能为您工作。如果您在照片中看到它，则表明该图像不是真实的。明显的问题是水印可以很容易地在同一部手机上删除。

正如您在上面的视频中看到的，您可以删除水印。当然，除非视频是假的。明白了吗?这就是媒体生成人工智能的问题：你不能相信你看到的一切。

在这种情况下，Gizmodo能够复制这个实验。此外，他们发现并非所有借助对象擦除工具生成的图像都首先显示水印。

三星可能已经意识到了这个问题。正如Gizmodo指出的那样，三星在Unpacked活动的Mr.Beast部分发布了免责声明，警告人工智能问题。野兽先生使用GalaxyAI能力从照片中移除了起重机(见下面的视频)。三星使用此免责声明：

生成编辑需要网络连接和三星帐户登录。使用GenerativeEdit进行编辑可将照片大小调整为高达12MP。保存时输出的图像上会叠加可见的水印，以表明该图像是由AI生成的。无法保证生成的输出的准确性和可靠性。

三星总能解决这个软件问题并使该水印永久存在。请注意，删除水印不会删除元数据。但大多数人不看元数据。更不用说元数据可以轻松更改。

我还将在这里指出显而易见的事情。即使三星设法修复了该错误，您也只需截取假AI图像的屏幕截图，然后对其进行裁剪即可去除水印。长话短说，仅靠水印并不能解决人工智能照片造假的问题。

三星以及其他提供先进人工智能照片编辑工具的公司也应该找到更好的方法，让毫无戒心的用户清楚地知道，如果图像(或剪辑)经过人工智能编辑，那么它就是假的。