AIPress.com.cn报道

当地时间2月5日，英国政府宣布，将与微软、学术机构及相关专家合作，开发一套用于识别网络深度伪造内容的检测系统，以期为打击有害和欺骗性AI生成内容建立统一标准。

虽然网络上的篡改内容已经存在了几十年，但随着ChatGPT等生成式AI聊天机器人的快速普及，深度伪造的规模和逼真程度引发了越来越大的担忧。

英国近期已将未经同意制作他人私密图像的行为入刑，目前正在开发一套深度伪造检测评估框架，旨在为评估检测工具和技术设立一致的标准。

英国科技大臣Liz Kendall在声明中表示，深度伪造正在被犯罪分子武器化，用于诈骗公众、侵害女性和未成年人，以及破坏人们对所见所闻的信任。

政府表示，这套框架将评估如何利用技术来识别、理解和检测有害的深度伪造内容，无论其来源如何。具体做法是让检测技术针对真实世界的威胁进行测试，包括性侵害、欺诈和身份冒充等场景。

政府称，这将帮助执法部门更清楚地了解检测能力的不足之处，同时该框架也将用于明确各行业在深度伪造检测方面应达到的标准。

根据英国政府数据，2025年网络上共享的深度伪造内容估计达到800万条，而2023年这一数字仅为50万条。

全球各国政府和监管机构一直在努力跟上AI技术的快速演进。今年以来，马斯克旗下Grok聊天机器人被发现可生成未经同意的性化图像（包括涉及未成年人的内容），这一事件促使多国监管机构加快行动步伐。

目前，英国通信监管机构和隐私监管机构正在对Grok展开平行调查。

（AI普瑞斯编译）