欧盟将 AI 视频标注标准延伸到文本,OpenAI 用 textGrain 水印合规
欧盟开始执行 EU AI Act,并把此前用于 AI 视频的标注思路延伸到 AI 生成文本,OpenAI 成为首批合规的科技公司之一。OpenAI 采用 textGrain,在 ChatGPT 生成文本时改变其用词选择,把水印嵌入语言能力中,理论上无法通过复制粘贴或重新排版去除,也不会泄露生成者的信息。
欧盟开始执行 EU AI Act,并把此前用于 AI 视频的标注思路延伸到 AI 生成文本,OpenAI 成为首批合规的科技公司之一。OpenAI 采用 textGrain,在 ChatGPT 生成文本时改变其用词选择,把水印嵌入语言能力中,理论上无法通过复制粘贴或重新排版去除,也不会泄露生成者的信息。
Google 宣布其 SynthID 检测器现已支持所有合作方的水印,并上线独立网站 SynthID.com 供任何人使用。SynthID 是编码在 AI 生成图像、视频像素和音频波形中的隐形信号,Google 称仅 Gemini 就已为超过 1800 亿张图像和视频以及 24 万年时长的音频集成该水印。
OpenAI 宣布支持欧盟 AI 内容透明度行为准则,推进内容溯源标准与工具,帮助人们识别 AI 生成内容。
OpenAI 推进 AI 内容溯源,采用 Content Credentials、SynthID 并推出验证工具,帮助人们识别和信任 AI 生成媒体。
Google 宣布把内容透明度与验证工具扩展到 Search、Gemini、Chrome、Pixel 和 Cloud。SynthID 已为超过 1000 亿张图片和视频、6 万年音频打上水印,Gemini 中的 SynthID 验证已被使用 5000 万次,并将在数周内进入 Search 和 Chrome。
推荐理由:Google 把 SynthID 与 C2PA 验证铺到搜索、Gemini 和 Chrome,并开放 AI 内容检测 API,可观察内容溯源工具的平台化路径。
Google 在 Gemini 应用中上线图像验证功能,用户上传图片并提问即可通过 SynthID 数字水印判断该图是否由 Google AI 生成或编辑。SynthID 自 2023 年推出以来已为超过 200 亿件 AI 生成内容打上水印,Google 计划将验证扩展到视频和音频等格式,并接入 Search 等更多入口。
推荐理由:Google 把 SynthID 水印检测放进 Gemini 应用,创作者可据此判断图片是否由 Google AI 生成或编辑。
OpenAI 推出新技术,帮助研究人员识别由其工具生成的内容,同时加入内容来源与真实性联盟(C2PA)指导委员会以推动行业标准。