人工智能巨头OpenAI最近开始考虑如何确保AI生成内容的真实性。他们发布了一款图像检测分类器，可以区分非人工智能生成的图像和DALL-E 3生成的图像，并且能够正确识别约98%的DALL-E 3生成图像。该分类器还可以处理常见的修改，如压缩、裁剪和饱和度变化，但对其他修改的性能较低。此外，OpenAI还提到了音频水印技术，目前还处于研发阶段。他们计划为音频数字内容添加难以去除的隐形信号，以确保内容的完整性。
OpenAI强调，他们创建新技术的目的是为了帮助识别由他们自己工具创建的内容，并与其他公司一起推广一种开放标准，帮助验证用于创建或编辑数字内容的工具。为此，OpenAI宣布加入C2PA指导委员会，该标准可用于证明内容来自特定来源。据称，OpenAI已经开始为由DALL-E 3创建和编辑的所有图片添加C2PA元数据，并计划在Sora推出时为模型整合C2PA元数据。
随着生成式人工智能的快速发展，AI内容变得愈发真实，但也带来了新型诈骗如AI换脸、AI变声等。为确保数据安全和内容真实性，全球各地都在加强科技伦理治理，制定相关法规和政策。中国也相继出台多项法规，要求使用AI等技术生成的信息必须明确标注来源。在这样的背景下，OpenAI的举措将为AI生成内容添加认证水印，有望提高内容的可信度和真实性。
