新京报贝壳财经讯(记者陈子娇)12月4日,新京报贝壳财经记者从北京市消费者协会(以下简称“北京消协”)获悉,北京市消费者协会已与京东、美团、拼多多、唯品会、抖音、快手、小红书、微信直播等8家电商平台合作,在全国开展首次正式签约。 《促进AI(人工智能)技术标准应用的承诺》(以下简称《承诺》)从技术认定、内容审核、责任追踪等方面制定了企业自愿性标准,提出了六项具体措施,勾画了人工智能技术应用的“合规红线”,强化平台企业主体责任,保护消费者合法权益。近年来,新技术的应用uch as digital live streaming of AI humans and virtual scene distribution has become widespread rapidly.在消费者体验不断改善的同时,一些商家的违规经营正引起消费者的广泛关注。北京市消费者协会进行了为期三个月的专项调查。 Through methods such as questionnaire surveys, experience studies and expert discussions, the report identified three notable problems that violate consumer rights in the current application of AI synthesis technology. One is that consumers’ right to know is not sufficiently protected and the problem of “difficulty in distinguishing between truth and falsehood” is widespread. Based on data from 3,162 completed valid surveys, nearly 90% of respondents asked that “”AI-generated content is clearly marked” and more than 70% accepted virtual backgrounds, but emphasized the need for prominent indications. More than 60% believe that AI digital humans “lack real emotion” and a近 30% 的人担心它们“可能会误导消费者的决定”。二是合成技术滥用造成消费风险,“虚假营销”问题凸显。考虑到AI数字人以及电商平台AI场景产品直播的行为,北京市消费者协会决定,对于10个AI数字人产品直播样品,“消费者可以在直播间进行购买。我们进行了“模拟设计+实体产品线下对比”的实证研究。调查发现:5个样品在直播界面上标注了“AI生成”、“真实场景”等即时信息。5个样品未对产品做出回应或互动。 6个样本存在未引发私下交易风险等问题。此外,部分网络直播滥用公众信任,做出不公平交易。利润。近期,网信部门还查处了一批利用人工智能换脸技术冒充明星进行直播营销的网络账号。三是平台审核机制存在缺陷,“风险防控”功能有待完善。经过与专家讨论研究发现,目前部分电商平台尚未建立健全专门的电商内容审核系统和人工智能,对卖家使用数字人、虚拟场景等人工智能技术缺乏有效的管理规则和准确的识别技术,导致消费者在购买过程中难以快速识别信息的真伪,从而增加了消费者决策的风险。针对上述问题,《承诺书》提出了六项具体措施,为人工智能技术在电子商务领域的合规应用划定“红线”,“运输北京市消协相关负责人表示,下一步,消协将继续跟踪线上人工智能技术应用动态,组织志愿者在直播中体验购物,跟踪反馈真实情绪,督促企业严格履行承诺。同时,通过线上线下渠道向消费者传播人工智能技术知识,开展消费者教育活动,提高消费者识别虚假内容和预防能力。通过多方合作、多方位政策,构建“技术合规、平台责任合规、消费者放心”的网络消费环境。