服装公司利用AI生成图欺诈消费者，法院判了→
1. 消费者钟某向某服装公司购买女式上衣后，发现实物与宣传的AI生成图片在花纹、版型等方面差异显著，商家在询问时虚假陈述。法院审理认为商家利用AI生成与实物差异大的图片且存在欺诈故意，判决商家承担三倍赔偿责任。 2. 法院依据电商法和消保法，明确经营者对AI生成内容负有审查义务，需确保信息客观准确，不得虚构商品特征；若AI生成信息与实际显著差异且未告知消费者致其误购，构成消费欺诈，本案中某服装公司的行为符合该情形。 3. 此案是新技术背景下处理AI纠纷的探索，确立了经营者对AI生成内容的审查义务规则，为经营者划定行为边界，既指引消费者维权，也引导经营主体在技术运用中恪守诚信，规范AI内容在商业宣传中的合法应用。
某服装公司利用AI技术生成与实物差异显著的图片，并在消费者询问时虚假陈述，存在明显的欺诈故意，法院判决其应承担三倍赔偿责任。
3月12日，广州市中级人民法院在“法润湾区促消费，公正护航兴百业”消费者权益保护十大典型案例发布会上，披露了这起利用“AI”图片欺诈消费者的典型案例。
发布会现场。摄影：彭勇
广州市中级人民法院在发布会上介绍，钟某通过某购物平台向某服装公司经营的店铺购买两件女式上衣，共支付411元。购买前，钟某询问商家“图片模特和衣服都是实拍的吗”，商家答复“我们店铺的图片都是实物拍摄”，并提供了模特身高、体重及尺码信息。收货后，钟某发现实物与宣传图片存在显著差异，两件服装在花纹、版型、造型等方面与图片有明显不同。
经审查，案涉商品图片均系“AI”生成，商品的详情页面均仅有“AI”图片，没有实物图片或照片，也未有案涉图片系“AI”生成的说明、提示或标识。钟某认为商家构成欺诈，故诉请退货退款并要求三倍赔偿。
法院认为，根据《中华人民共和国电子商务法》《中华人民共和国消费者权益保护法》的规定，经营者应当真实、准确地披露商品或者服务信息。故此，经营者对利用人工智能技术生成的介绍、宣传等内容，负有审查义务。经营者应当确保其所展示的文字、图片、视频等信息能够客观、准确反映实际状况，不得利用人工智能技术虚构商品特征。若人工智能生成信息与商品或服务的实际信息存在显著差异，经营者未向消费者如实告知，导致消费者陷入错误认识并据此作出购买决定的，构成消费欺诈。某服装公司利用“AI”技术生成与实物差异显著的图片，并在消费者询问时虚假陈述，存在明显的欺诈故意，应承担三倍赔偿责任。
广州市中级人民法院介绍，本案是在人工智能技术高速发展的背景下，人民法院妥善处理新技术应用与消费者权益保护纠纷的积极探索，对规范人工智能生成内容在商业宣传中的合法运用具有典型意义。本案确立了经营者对人工智能生成内容的审查义务规则，这为经营者提供了清晰的行为指引：技术可以用于美化与展示，但应对消费者进行必要提示与说明，不得逾越“失真”的红线。本案的处理既为消费者维权提供了明确指引，也为经营者合法运用人工智能技术划定了行为边界，有助于引导经营主体在技术运用中恪守诚信原则。