OpenAI推出新工具以鉴别AI生成图像，效果喜忧参半
来源：环球网
【环球网科技综合报道】在人工智能技术的快速发展下，生成的图像越来越逼真，使得真实与虚假的界限逐渐模糊。为了应对这一问题，行业领军企业OpenAI近日推出了一款新工具，旨在鉴别由其自家DALL-E 3生成器所创建的图像。然而，测试结果显示，该工具在实际应用中效果喜忧参半。
OpenAI表示，他们新推出的工具能够在98%的情况下准确检测出由DALL-3生成的图片，这无疑是一个令人鼓舞的结果。然而，该工具在鉴别其他人工智能模型制作的图像时，成功率却大幅下降，仅在5%至10%之间。这意味着，对于非DALL-E 3生成的AI图像，该工具的鉴别能力相当有限。
此外，当图像经过修改后，该工具的鉴别能力也会受到影响。对于诸如裁剪、压缩和饱和度变化等微小修改，工具的成功率虽然有所下降，但仍保持在95%至97%的可接受范围内。然而，当图像经过色调调整后，成功率骤降至82%。对于经历更广泛变化的图像，该工具在分类时更是遇到了明显的困难，OpenAI甚至未公布这些情况下的成功率。
这一局限性在选举年尤为引人关注。由于选举过程中可能会出现大量经过修改的AI生成图像，以激怒或误导公众，因此该工具的鉴别能力在实际应用中显得尤为重要。然而，从目前的测试结果来看，该工具可能无法有效识别出经过修改的、具有误导性的AI生成图像。
值得肯定的是，OpenAI对其检测技术的局限性保持透明态度，并允许外部测试人员访问该工具以帮助改进。同时，该公司还与微软等合作伙伴共同致力于扩大人工智能教育和素养的提升。
然而，随着人工智能技术的不断发展，我们仍需要更加完善和高效的工具来鉴别AI生成图像，以确保信息的真实性和可靠性。在当前选举背景下，这一问题显得尤为重要和迫切。
发布于：北京
相关推荐
OpenAI推出新工具以鉴别AI生成图像，效果喜忧参半
Adobe加入生成式AI战局：推出Firefly工具，可根据文字生成图像
ChatGPT “克星”出现，OpenAI 重磅发布全新 AI 鉴别工具，网友吐槽：失败率太高啦
Meta宣布测试生成式AI广告工具
过去五年里，AI 图像生成技术走了多远？
必应聊天周报：图像生成工具Bing Image Creator、图谱卡片2.0等
生成式AI是工具，真正的原创者还在反击
2023，生成式AI狂奔的一年
OpenAI 宣布 DALL-E 3 图像生成器将加入水印
新型AI工具允许艺术创作者掩盖个人风格，以防止被AI公司抓取
网址: OpenAI推出新工具以鉴别AI生成图像，效果喜忧参半 http://m.xishuta.com/newsview117589.html
