用AI识别AI伪造图像 《文本图像篡改检测系统技术要求》发布

    更新时间:2024-09-25 09:55  

当下,有不法分子利用人工智能技术兴风作浪,文档图像领域是诈骗的重灾区。近日,由中国图象图形学学会、中国信息通信研究院、上海合合信息科技股份有限公司、中国科学技术大学、深圳大学、上海交通大学、华南理工大学、南开大学等高校、公司联合编制、中国互联网协会发布的《文本图像篡改检测系统技术要求》团体标准(简称“《要求》”)正式发布,将助力文档图像处理技术安全、有序发展。

作为中国首批文本图像篡改检测领域的团体标准之一,《要求》围绕“细粒度”视觉差异伪造图像鉴别、生成式图像判别、文档图像完整性保护等行业焦点议题,建立了统一的评估框架。《要求》覆盖了市面上常见的图像篡改类型,适用于拍照证照、扫描证照、拍照文档、扫描文档、截图等五大类文本图像篡改检测系统,为企业在开发篡改检测技术时提供了明确指导,提升产品的可靠性和有效性。

随着人工智能、机器学习和大数据技术的发展,文本图像反篡改技术也在不断突破边界,据信通院移动互联网反欺诈研究中心显示,反篡改技术正在朝着智能化和自动化、多模态融合、注重鲁棒性和适应性、增强用户体验、高效处理大规模数据等方向进化,探索复杂环境下如何提高检程度上引领行业技术发展方向,为企业应对未来挑战提供了坚实基础。

图像篡改手段层出不穷,据悉,合合信息技术团队通过大规模样本预训练模型,实现了对截图场景的有效篡改检测。这一技术还能够通用推广到PDF扫描文档的场景中,例如,检测房屋租赁合同PDF文件中字段(姓名、房屋地址等)、二维码、背景等内容是否有篡改痕迹,降低房屋租赁风险。

纵观科技发展进程,AI时代已经到来,生成式技术的发展增加了篡改检测的难度,文档图像反篡改领域需要建立起联合防范机制,及时应对各类挑战。

0