2024年05月10日 星期五
检测工具可识别AI生成虚假图

    5月7日,OpenAI宣布推出专用的AI检测工具,能够识别某张图片是否由DALL-E3模型生成。在内部测试中,该工具正确识别率达98%,并且可以处理一些常见的修改,如压缩、裁剪和饱和度变化等。此外,OpenAI还计划添加防篡改水印,对照片或音频等数字内容进行标记,且这些标记很难被删除。

    OpenAI之所以推出检测工具,主要是为了帮助研究人员研究内容真实性。此外,该公司还宣布加入C2PA(内容来源和真实性联盟)的指导委员会,ChatGPT和OpenAIAPI创建和编辑的所有图像中,也均添加了C2PA元数据。

    点评:随着生成式大模型的持续迭代,人们越来越担心由AI生成的内容会在日常工作和生活中产生不良影响,检测工具的出现是技术发展的一种必然。

京ICP备06005116