当 AI 让造假门槛变低 我们还能分辨真假吗？
AI 技术愈发普及，制图、修图门槛越来越低，可偏偏有人动起歪脑筋，把 AI 当成违法牟利的工具。
近日，上海杨浦区人民法院就审理了一起利用 AI 造假实施敲诈勒索的案件。被告人杨某在 2025 年 11 月至 2026 年 1 月期间，频繁在辖区内多家餐饮店消费，堂食、点外卖后，利用 AI 修图、绘图功能，伪造出急性肠胃炎诊断证明、就医病历、电子发票等材料，甚至还 P 出虚假呕吐物照片，谎称自己和女友吃完食物后身体不适。手握全套 “虚假证据” 后，杨某开始向商家索要医药费赔偿，还放出狠话：如果不赔钱，就向监管部门投诉、在消费平台刷差评。
而不少商家担心店铺口碑受损，无奈之下选择妥协。经核查，杨某通过这套 AI 造假碰瓷手段，实际敲诈到手 2500 元，另有 7000 余元敲诈行为未遂。
庭审中，杨某也如实承认，所有虚假图片、凭证都是靠 AI 批量制作而成。
承办法官介绍，根据法律规定，敲诈勒索公私财物数额达到 2000 元以上，就已构成敲诈勒索罪。综合案件情节，加之杨某到案后主动坦白、全额退赔钱款，并获得受害商户谅解，法院最终依法判处杨某拘役四个月，缓刑四个月，并处罚金 2000 元。
通过AI造假已经并非个例。此前湖北就有房东用 AI 生成虚假水电表照片，当作诉讼证据提交法院，当场被法官识破，当事人也因提交虚假证据、妨碍民事诉讼受到训诫。层出不穷的 AI 造假行为，也给司法证据核验工作带来新挑战。
不少网友疑惑：现在 AI 修图、改图这么厉害，难道真能做到完全以假乱真、肉眼分辨不出？
记者在跟着网上有人分享的指令，试图让 AI凭空创作一张拍摄手机聊天内容的照片后发现，AI 凭空制作的图片，还是很容易出现头像错乱、文字生硬、表情图片违和等漏洞。
可一旦依托真实原图进行局部修改，成品仅凭肉眼确实很难辨别真假。
对此，复旦大学信息学院副教授凌力解释，再逼真的 AI 造假图片也留有破绽。图片光影、清晰度、色彩亮度编码等细节，都会和原图存在差异，借助专业检测工具，依旧可以发现 AI 合成痕迹。法院也表示，今后会通过源头核查、证据链比对、专业技术鉴定等多种方式，严审各类可疑证据。
法官也郑重提醒所有人：AI 是便民、赋能工作与生活的工具，绝非违法犯罪的“帮凶”。
利用 AI 制作虚假材料搞碰瓷、敲诈、诬告等行为，轻则违反治安法规，重则触犯刑法，必将受到法律惩处。在此也呼吁大家，理性、合法使用 AI 技术，坚守法律底线，别让前沿技术沦为违法工具。
AI 技术愈发普及，制图、修图门槛越来越低，可偏偏有人动起歪脑筋，把 AI 当成违法牟利的工具。
近日，上海杨浦区人民法院就审理了一起利用 AI 造假实施敲诈勒索的案件。被告人杨某在 2025 年 11 月至 2026 年 1 月期间，频繁在辖区内多家餐饮店消费，堂食、点外卖后，利用 AI 修图、绘图功能，伪造出急性肠胃炎诊断证明、就医病历、电子发票等材料，甚至还 P 出虚假呕吐物照片，谎称自己和女友吃完食物后身体不适。手握全套 “虚假证据” 后，杨某开始向商家索要医药费赔偿，还放出狠话：如果不赔钱，就向监管部门投诉、在消费平台刷差评。
而不少商家担心店铺口碑受损，无奈之下选择妥协。经核查，杨某通过这套 AI 造假碰瓷手段，实际敲诈到手 2500 元，另有 7000 余元敲诈行为未遂。
庭审中，杨某也如实承认，所有虚假图片、凭证都是靠 AI 批量制作而成。
承办法官介绍，根据法律规定，敲诈勒索公私财物数额达到 2000 元以上，就已构成敲诈勒索罪。综合案件情节，加之杨某到案后主动坦白、全额退赔钱款，并获得受害商户谅解，法院最终依法判处杨某拘役四个月，缓刑四个月，并处罚金 2000 元。
通过AI造假已经并非个例。此前湖北就有房东用 AI 生成虚假水电表照片，当作诉讼证据提交法院，当场被法官识破，当事人也因提交虚假证据、妨碍民事诉讼受到训诫。层出不穷的 AI 造假行为，也给司法证据核验工作带来新挑战。
不少网友疑惑：现在 AI 修图、改图这么厉害，难道真能做到完全以假乱真、肉眼分辨不出？
记者在跟着网上有人分享的指令，试图让 AI凭空创作一张拍摄手机聊天内容的照片后发现，AI 凭空制作的图片，还是很容易出现头像错乱、文字生硬、表情图片违和等漏洞。
可一旦依托真实原图进行局部修改，成品仅凭肉眼确实很难辨别真假。
对此，复旦大学信息学院副教授凌力解释，再逼真的 AI 造假图片也留有破绽。图片光影、清晰度、色彩亮度编码等细节，都会和原图存在差异，借助专业检测工具，依旧可以发现 AI 合成痕迹。法院也表示，今后会通过源头核查、证据链比对、专业技术鉴定等多种方式，严审各类可疑证据。
法官也郑重提醒所有人：AI 是便民、赋能工作与生活的工具，绝非违法犯罪的“帮凶”。
利用 AI 制作虚假材料搞碰瓷、敲诈、诬告等行为，轻则违反治安法规，重则触犯刑法，必将受到法律惩处。在此也呼吁大家，理性、合法使用 AI 技术，坚守法律底线，别让前沿技术沦为违法工具。
本文链接：http://m.sushuapos.com/show-2-16502-0.html当 AI 让造假门槛变低 我们还能分辨真假吗？
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇：机器人没有一部手机贵了
