AI“慧眼”讓證照造假無所遁形

證件圖像是造假的“重災區”，即便是一張小小的行駛證，也可延伸出多種花式造假方法。在《生成式Al時代的內容安全與系統構建加速》主題分享中，郭豐俊提到，在汽車交易、運輸等業務中，涉及大量駕駛證、行駛證真實性核查需求。以二手車交易為例，行駛證涉及車輛買賣合法性，不法分子通過偽造、變造車輛登記證、行駛證號牌號碼、發動機號碼等的方式實施合同詐騙，從中牟利，給相關企業造成了高額的經濟損失。

圖像篡改檢測技術定位行駛證造假位置

除上述局部篡改手段外，AIGC技術的普及，讓“無中生有”成為了一種新的造假形式。今年5月，上海市寶山區人民法院審結了一起偽造國家機關證件案：為幫助違章駕駛人代扣分來獲取利益，被告人開發“行駛證美化”模塊。使用者上傳行駛證照片后，模塊自動生成帶有行駛證版式、各省市交通部門印章的“新”行駛證。多位“黃牛”使用該模塊生成假證20萬張，交給代扣分駕駛員用以違章處理，獲利超過30萬。“由于篡改手段的多樣性、篡改文本的隱蔽性，檢測任務目前存在篡改痕跡微弱、篡改文本與鄰近文本高度相似等難點，對檢測方法的精度和泛化性提出了挑戰。”據郭豐俊介紹，面對復制粘貼、拼接、擦除及混合造假形式，合合信息圖像篡改檢測技術能夠捕捉圖像在篡改過程中留下的細微痕跡，在保持極低誤檢率的同時，準確識別并定位圖片中文本的篡改行為；面對生成式圖像造假，合合信息圖像篡改檢測技術可基于空域與頻域關系建模，利用多維度特征以鑒別圖像是否由?AI?生成，并給出相應的警告或提示。

現階段，圖像篡改檢測技術已被應用于卡證篡改檢測中，不僅在駕駛證、行駛證檢測中實現了良好的鑒偽效果，也在銀行移動開戶、信用卡申辦、保險理賠，財務報銷審批及其他商業消費場景中廣泛落地，為機構、企業規避圖像偽造帶來的經濟風險。

圖像篡改檢測技術定位財務報銷材料造假位置

產學研攜手共筑圖像安全防線在大模型飛速發展的背景下，需要更高級別的技術手段來應對偽造技術的不斷進步。本次大會期間，譚鐵牛院士《大模型背景下的數字內容取證》主旨報告廣受矚目。報告針對虛假信息帶來的嚴峻挑戰，指出了包括視覺偽造檢測、AIGC檢測在內的數字內容取證技術的重要性，為在大模型背景下保障數字內容的真實性和可信性提供了重要方法和思路。

用科技手段應對日益復雜的信息偽造和濫用問題，是全社會共同關注并為之努力的“大課題”，也亟須建立起可靠、可信的專業標準，為行業發展指引方向。今年9月，由中國圖象圖形學學會、中國信息通信研究院、合合信息、中國科學技術大學等高校、公司聯合編制，中國互聯網協會發布的《文本圖像篡改檢測系統技術要求》圍繞“細粒度”視覺差異偽造圖像鑒別、生成式圖像判別等行業焦點議題，建立了統一的評估框架，將助力文檔圖像處理技術安全、有序發展。