您的位置：首页 > 新闻中心 > 社会 > 正文

我的前半生

中消协发布消费提示：使用人工智能服务需谨防误导_我的网站

不能说的秘密

一 |

中国科学报消息，5月12日，据媒体报道，人类首例猪肾移植患者Richard Slayman在术后不到两个月去世，享年62岁。 8 月 25 日消息，中国消费者协会今天发布人工智能服务消费提示，提醒广大消费者理性认识通用生成式人工智能的信息辅助和参考属性，对涉及价格费用、合同条款、售后服务、法律责任等重要消费信息，不宜仅依据人工智能生成内容作出决定，应通过经营者官方渠道、合同文本、监管部门及其他权威渠道进行核实确认。

二 | 附全文如下：目前，以大语言模型为核心的生成式人工智能技术正加速融入消费生活各类场景。人工智能在提升消费便利和服务效率的同时，因信息生成具有一定不确定性，也可能出现信息不准确、表述不严谨、承诺与实际情况不一致等问题。例如，提供与实际不符的费率信息、作出难以兑现的赔付表述、提供片面或欠审慎的法律建议等，可能影响消费者判断和选择，甚至造成经济损失。根据相关舆情和全国消协组织近期接收的相关投诉情况，人工智能服务引发的消费问题，在不同应用场景下具有不同特点。消费者日常接触的人工智能大体可分为两类：一类是面向公众的通用生成式人工智能服务，主要根据公开信息、模型训练数据和用户提问生成回答，一般不代表具体经营者的官方意见；另一类是经营者部署使用的人工智能客服工具，直接参与商品介绍、费用说明、活动解释、售后处理等经营服务环节。美国麻省总医院（MGH）研究团队于5月11日正式宣布了此消息。

三 |

据华中科技大学同济医院器官移植研究所教授、同济医院器官获取组织（OPO）首席顾问陈忠华透露，他从为该患者实施手术的美国研究团队处获悉，患者于5月6日死于心脏病。死亡原因与移植物功能没直接关系。

四 | 此前，研究团队估计，这位患者至少能活两年以上。

“很遗憾，患者虽然‘挺’过了异种器官移植超急排异反应、围手术期风险、感染及早期康复等阶段，但没能‘熬’过可能因多种综合因素导致的心脏问题。一、通用生成式人工智能：应明确参考属性，防止误导消费决策面向公众的通用生成式人工智能服务并非特定经营者的代言主体，其生成内容一般不能直接视为平台或商家的正式承诺，也不能替代合同约定及权威机构意见，主要发挥信息辅助和参考作用。”陈忠华说，病人患尿毒症11年，曾做过一次同种移植，而且患有高血压和2型糖尿病。

该患者出院后复查时曾公开表示，“相比此前的长期透析，现在能吃、能喝，感觉真好”。实践中，一些通用生成式人工智能在消费咨询和维权辅助过程中，可能出现对消费者遭受的损失作出缺乏依据的兜底承诺，对诉讼结果作出过度确定性判断、提供错误的诉讼管辖等法律指引，甚至生成并不存在的款项缴存、案件办理等虚假信息。

五 | 如果消费者对上述生成内容缺乏必要辨别，未通过经营者官方渠道、合同文本或者有关权威渠道进一步核实，可能据此作出错误的退费、维权、诉讼等决定，不仅影响正常消费决策和依法维权，还可能造成经济损失。

六 |

另据第一财经，在斯莱曼去世后，该医院的移植团队表示，没有任何迹象表明移植是导致死亡的原因。《生成式人工智能服务管理暂行办法》明确规定，人工智能服务提供者应基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。不过斯莱曼的具体死因尚未公布。

器官移植专家、复旦大学上海医学院副院长朱同玉表示：“患者的死亡原因还是要通过具体的病理分析才能得知，但此前两名接受猪心移植的患者在移植手术后也都没有活过两个月，这说明异种移植在真正进入到临床应用前，还面临很多挑战。明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术。

七 | 中国消费者协会建议，面向公众的通用生成式人工智能服务提供者进一步强化重点场景风险提示和信息质量管理。

八 | ”

据央视新闻，美国马萨诸塞综合医院3月21日发布消息称，该院医学专家已成功为一名美国男性终末期肾病患者进行了一项特殊的移植手术，将经基因编辑的猪肾脏移植入其体内。这是全球首例。

九 | 这名男子术后恢复良好。

十 | 在涉及金融理财、生活服务、维权决策等与消费者重要权益密切相关的场景中，应通过适当方式提示人工智能生成内容的局限性，提醒消费者对重要信息进一步核实；同时，持续优化模型准确性，完善内容审核、风险预警和纠错机制，提升答复质量，尽可能减少错误信息和容易引发误解的内容，降低消费者因过度依赖人工智能生成信息而遭受损失的风险。

据介绍，该院移植中心的专家于16日进行了这项耗时4小时的手术。接受猪肾脏移植的患者是现年62岁的理查德·斯莱曼。二、经营者部署的人工智能客服：不能因技术介入弱化经营者责任经营者自行部署的人工智能客服工具，是其经营服务链条的组成部分。斯莱曼多年来一直患2型糖尿病和高血压，曾长期透析。

十一 | 实践中，一些人工智能客服可能出现价格费用说明与实际不一致、优惠活动规则解释不准确、重要限制条件提示不足等问题；在发生争议后，个别经营者还可能以“人工智能自动生成”“系统自动回复”等为由，与相关答复进行责任切割，逃避应承担的责任。上述问题容易使消费者对交易价格、费用构成和售后服务等产生错误认识，影响消费者的知情权和公平交易权。

十二 | 他于2018年12月在该院接受了肾移植手术，但几年后其移植的肾脏出现衰竭迹象，不得不于2023年5月恢复透析。后来斯莱曼出现血管通路相关并发症，医生建议其进行猪肾脏移植。《消费者权益保护法》规定，消费者享有知悉其购买、使用的商品或者接受的服务的真实情况的权利。经营者对消费者就其提供的商品或者服务的质量和使用方法等问题提出的询问，应当作出真实、明确的答复。中国消费者协会敦促部署人工智能客服工具的经营者加强审核和管理，确保人工智能客服提供的信息与商品服务实际情况、价格费用、活动规则、合同约定和售后政策保持一致，并提供便捷有效的人工客服和纠纷解决渠道。美国食品和药物管理局基于“同情使用”规则批准了这项移植手术。经营者利用人工智能提高经营服务效率的同时，应建立相应的责任承接机制；对于人工智能客服在经营服务过程中向消费者作出的涉及价格、费用、售后等重要答复，不能仅以“算法自动生成”等理由简单免责，更不能通过相关声明不合理减轻或者免除依法应承担的责任。中国消费者协会呼吁有关部门进一步完善人工智能在消费领域应用的相关规范，结合不同服务类型和应用场景，进一步明晰服务提供者、经营者等主体的责任边界和治理要求，推动形成权责清晰、规范有序的人工智能消费服务环境。同时提醒广大消费者理性认识通用生成式人工智能的信息辅助和参考属性，对涉及价格费用、合同条款、售后服务、法律责任等重要消费信息，不宜仅依据人工智能生成内容作出决定，应通过经营者官方渠道、合同文本、监管部门及其他权威渠道进行核实确认。