据湛江晚报11月26日《快评》版报道:近来,商家利用AI技术带货的现象日渐增多,有的出现违法违规情形,有借助名人效应、仿冒专家学者、奥运冠军、影视明星为产品站台,冒充知名名牌误导消费者。
这是令人啼笑皆非的AI产品带货宣传。某公司通过视频帐号宣传其销售的“鱼油”产品,具有治疗头晕头痛,记忆力下降等功效,直播视频中出现的竟然是央视著名主持人李梓萌。当受害者出面避谣时,人们才知道这是用AI技术伪造而成。还有冒用国医大师张伯礼的形象和声音合成制作AI视频,均系伪劣产品,严重误导消费者,损害公众健康权益,带来医疗安全隐患。前不久,有网友发现同一位演员同时现身3个不同的直播间,身着不同服装,推广不同产品。显然,这是用AI技术深度合成。AI换脸乱像,让名人深受其扰。
AI技术发展到今天,越来越多出现在商家的直播中,形成一条AI卖货产业链。AI带货可让商家降本增效,可以砍掉真人主播的人力成本,而且还可以24小时不间断直播。AI带货大火的同时,一些不法商人利用AI技术,改头换脸,假冒名人带货,向消费者传达错误的商品信息,造成销售货不对板,售后维权困难,直接损害名人和消费者权益。
今年双十一中,AI带货系统正在成为直播电商的标配。不少消费者吐槽称自己在直播间买的衣服等实物与展示的效果天差地别。这一切皆因AI生成太过优秀,过度美化商品展示效果,向消费者传达错误的商品信息。
无论是盗用名人形象带货,还是用虚假视频坑害消费者,其行为都已构成违法犯罪,必须从严整治。对AI换脸乱象治理是一场关乎技术、法律与道德的博栾。唯有发布者自律、平台尽责、监管到位,形成综合治理,才遏制AI技术滥用的灰色产业链,才能打击不法商人用AI技术坑蒙拐骗行为,才能让AI技术不偏离法治与文明轨道。
用AI技术侵犯人权,违反市场竞争法规,已成为数字经济时代新型的社会公害。这种欺诈模式不仅突破了商业伦理底线,更对社会信任体系造成破坏。需要媒体和监管部门加强数字素养教育,教会公众识别AI合成内容的蛛丝马迹。作为消费者要努力成为监督网络的尖兵,一旦发现疑似利用AI技术进行虚假宣传等违法行为,在留存证据材料的同时,通过12345热线电话向市场监管部门举报,形成对利用AI技术违法行为的全民围剿,共同违护良好的市场秩序和消费环境。