仿冒AI智能体层出不穷 有用户被误导 谁该担责?

  近期,有网友发现 ,不少AI大模型平台都开放了网友自制的AI智能体的体验,其中就有不少打着官方旗号的智能体。但这些带有官方Logo、语气专业的AI客服给出的回复乃至建议却并不那么靠谱 。这些引发大量误导的智能体究竟是怎么生成的?普通人又该如何擦亮双眼?

仿冒AI智能体层出不穷 有用户被误导 谁该担责?-第1张图片

  如果AI大模型上的智能体(Agent)告诉你,有“南方电网”招聘的内推渠道 ,这会是真的吗?近日,南方电网公司官方科普辟谣平台“南网求知 ”视频号发布视频,反映在大模型上竟搜出了近70个“南方电网”智能体 ,却没有一个是南方电网发布的。有关所谓内推信息,视频号辟谣说:

仿冒AI智能体层出不穷 有用户被误导 谁该担责?-第2张图片

  我问南方电网内训师智能体,南方电网有没有内推渠道 ,它让我联系某个私人手机号,顺着号码一查,发现竟是一个中介机构。事实上 ,南方电网从未开展过任何内推 。所有招聘信息仅通过官方渠道发布。

仿冒AI智能体层出不穷 有用户被误导 谁该担责?-第3张图片

  对此 ,相关AI大模型平台表示,企业在平台运营的官方智能体均带有认证标签。用户因个人学习 、求职等需求自主创建的包括企业模拟面试官在内的各类涉企业智能体,均未获得官方资质认证 。后续平台也将对未经授权、易造成混淆的企业相关智能体下架。

  究竟什么是智能体 ,它和我们熟悉的DeepSeek等大模型有什么区别?工业和信息化部信息通信经济专家委员会委员刘兴亮指出,智能体从本质上讲,是从“对话”走向了“行动 ”。

  刘兴亮:智能体 ,英文名为Agent 。简单地说就是它不只是回答问题,它是一个能替你做事的AI。以前的大模型,你可以理解为它像一个顾问 ,你问他答。现在这个智能体,像一个员工,你说了目标 ,他去执行 。本质上,智能体就是把一个机构的服务能力做成了一个“数字员工” 。

  既然具备“员工”的能力,为何会频繁出现误导用户的现象?刘兴亮表示 ,各大平台推行的零门槛创建工具 ,在激发公众参与的同时,也让未经核实的信息搭上了技术的快车,放大了大模型固有的“幻觉 ”缺陷。

  刘兴亮认为 ,尽管目前智能体还在初级阶段,可能会出现种种问题,但它的确是未来AI发展的趋势之一。

  刘兴亮:过去的我把他们叫作“生成式AI” ,现在智能体这一波,我把它叫作“养成式AI” 。就是你得去养,AI给了一个能力 ,就像雇了一个实习员工,不是说来了就能很好地上岗,我们得去培训他 ,去教育他,让他变得越来越好。

  智能体正快速走进我们的生活,但提供便利的背后也暗藏风险。面对层出不穷的AI应用 ,我们还是要提高安全意识 ,特别是辨别虚假信息、违规服务或诈骗行为,及时留存证据,通过正规渠道维权举证 。

  对于冒充官方的AI智能体 ,中国政法大学人工智能法研究院院长张凌寒认为,其本质不仅是侵权,更是对公共常识的混淆。未来 ,提供创建工具的平台理应承担起前置审核义务。

  张凌寒:滥用他人名义的Agent,是严重的侵权行为和混淆冒用的不正当竞争行为 。实际上平台是有审核义务的,这种实名制的认证 ,包括真实资质的认证。我们国家已经有一套对账户管理体系的完整的认证机制,相信未来这样的制度也都会延伸到有关Agent的审核当中去。

  在AI这位“实习员工 ”真正成熟之前,如果因为轻信这些山寨智能体造成了损失 ,制作智能体的个人创建者需要担责吗?北京航空航天大学法学院副教授赵精武给出了明确的法律界定:关键看是否为了商业牟利 。

  赵精武:如果只是为了普及知识,了解一些业务咨询流程的指导,这不需要担责。但假如研发者是为了引流 、获取一定的商业利益 ,在获取商业利益的过程中发生了欺诈 ,这种行为肯定是要担责的。

  但并非所有领域的智能体都能被随意创建 。赵精武指出,针对电网、医疗等特殊场景,以及AI生成内容的标识问题 ,我国现行法律体系已经划定了明确的红线 。

  面对防不胜防的AI生态,张凌寒教授特别提醒,尤其在涉及财产安全的领域 ,绝不可轻信。

  张凌寒:随着平台业务的延伸,大量的Agent入驻平台,尤其是在人工智能的“幻觉”还无法完全消除的情况下 ,对于医疗、金融等专业的意见和涉及财产健康方面的Agent,实际上我们是不能够完全相信的,而是还要到官方网站去进行相关的服务和交易。

  赵精武提醒 ,当下的智能体尚处于发展阶段,切莫被部分技术概念炒作的营销口号迷惑,既要对新兴技术应用抱有积极客观的态度 ,也要警惕技术创新过程中不可避免的安全风险 。

  (总台记者 任梦岩)

标签:

相关推荐

  • 疫情时期退票(疫情期间退票规定)

    疫情时期退票(疫情期间退票规定)

    疫情期间火车票退票手续费〖壹〗、疫情期间,火车票退票免收手续费。根据国家相关规定,自2020年2月6日0时起,针对因自愿更改行程需要退票的旅客,铁路部门实行免收退票手续费的政策。这一措施旨在减少人员聚集,降低疫情传播风险,同时为旅客提供便利。适用范围包括通过线上渠道(如微信、支付宝、12306官方网站及APP)购买的车票。〖贰〗、法律分析:如果是由于车票始...

    2026/04/26
  • 疫情开学讲课/疫情期间开学第一课讲稿

    疫情开学讲课/疫情期间开学第一课讲稿

    疫情开学教师优秀讲话五篇〖壹〗、疫情开学教师优秀讲话篇1尊敬的各位领导,老师们、同学们:早上好!新学期开学了,在这熟悉的校园里,我们潭中全体师生又欢聚在一起。我们队伍中,又多了一张张新鲜的面孔,充满阳光,朝气蓬勃,他们,就是高一年级的新同学!在此,我作为教师代表,对高一年级同学们的到来表示热烈欢迎!再过几天又是一年一度的教师节了。〖贰〗、疫情高中开...

    2026/04/26
  • 全家疫情最新(全囯疫情最新通报)

    全家疫情最新(全囯疫情最新通报)

    【湖北电影制片厂常凯全家染病,17天内4人相继去世,这可怕的疫情夺走了多...〖壹〗、在17天内,湖北电影制片厂常凯一家4人(常凯的父亲、母亲、常凯本人、常凯的姐姐)因新冠肺炎相继去世。时间线与去世人员:初三,常凯的老父亲去世。初九,常凯的老母亲去世。2月14日,常凯本人去世。2月14日下午,常凯的姐姐去世。家庭其他成员情况:常凯的妻子也不幸染病。〖贰〗、...

    2026/04/26
  • 疫情初期症状/疫情早期症状

    疫情初期症状/疫情早期症状

    疫情前期症状疫情最初感染者的症状表现如下:发热表现多数感染者会出现不同程度的体温升高,包括低热(体温33~38℃)或高热(体温≥39℃)。发热是免疫系统对病毒入侵的常见应答反应,不同个体的发热程度存在差异,可能与病毒载量、免疫状态相关。呼吸道相关症状干咳是典型症状,表现为无痰或痰量极少的咳嗽,由病毒刺激呼吸道黏膜引发。全身乏力部分患者在感染初期会感到持续性...

    2026/04/26
  • 宝安疫情中级/深圳市宝安区新冠肺炎疫情防控指挥部办公室

    宝安疫情中级/深圳市宝安区新冠肺炎疫情防控指挥部办公室

    深圳宝安机场属于什么风险地区?深圳机场防疫规定是怎样的〖壹〗、深圳宝安机场属于疫情低风险等级地区,坐飞机离深去外地是否会被隔离需以目的地疾控中心防疫规定为准。具体说明如下:深圳宝安机场风险等级及防疫要求风险等级:深圳宝安机场被划定为疫情低风险等级地区。〖贰〗、深圳宝安机场的风险等级:深圳宝安机场属于疫情低风险等级地区。深圳机场防疫规定:进站旅客要求:所有进...

    2026/04/26
  • 【疫情38海报,疫情海报手抄报】

    【疫情38海报,疫情海报手抄报】

    抗击疫情手绘海报-抗疫的手抄报怎么画简单又漂亮第一步、我们在纸的顶上画出一个矩形框。第二步、在上边写上【抗击疫情-从我做起】。第三步、画出图案,下边画出两个大的矩形。第四步、画上消毒液和口罩,这样抗疫手工海报就画好了。抗疫的手抄报怎么画简单又漂亮抗疫的手抄报简单又漂亮的画法如下:材料准备:A4纸、笔、彩色笔。第二步、在上边写上【抗击疫情-从我做起】。第三...

    2026/04/26
  • 孝感疫情速/孝感发布疫情实时

    孝感疫情速/孝感发布疫情实时

    2021年孝感市什么时候封城021年1月25日。通过查询相关信息显示,2021年1月25日为抗击新冠肺炎疫情,孝感市新冠肺炎防控指挥部采取了封城的防控措施,至此孝感正式封城,2021年3月15日正式解封。021年1月23日,武汉市封城,离汉通道关闭,禁止公共交通和私家车上路。2021年1月26日,湖北省全省范围内封省,离汉通道关闭,全省范围内禁止公共交通和...

    2026/04/26
  • 灵宝今日疫情/灵宝疫情最新数据消息

    灵宝今日疫情/灵宝疫情最新数据消息

    疫情灵宝封城了吗封城了。根据三门峡市疫情防控指挥部研究决定,截止2022年9月12日、涧西区、城关镇所辖区域及尹庄镇镇区)设置19个封控卡点,实行临时交通管制。全体居民应严格遵守交通管制规定,除核酸检测、就医等特殊需求外,非必要一律不出门、不开车、不聚集、不进入公共场所。解封了。三门峡-灵宝,截止2022年09月05日11时,灵宝暂无高中低风险地区,全域都...

    2026/04/26
  • 疫情营销/疫情期间营销模式

    疫情营销/疫情期间营销模式

    在“阳阳得疫”焦虑下,品牌们竟凭段子活成了顶流在“阳阳得疫”焦虑下,部分品牌通过适度玩梗获得关注与流量,但过度营销或贩卖焦虑会损害品牌形象,品牌应注重科学理性与消费者情感共鸣的结合。罗永浩的大半生展现了理想主义者的坚持与蜕变,从创业受挫到成为“顶流网红”,其经历充满波折但也凸显了个人特质与时代机遇的结合。自信与理想主义驱动的早期经历罗永浩的自信在其高中辍学...

    2026/04/26
  • 【武汉疫情考验,疫情发生了武汉研究生好考吗】

    【武汉疫情考验,疫情发生了武汉研究生好考吗】

    回忆武汉当年疫情的亲身经历〖壹〗、019年末至2020年初武汉疫情暴发期间,我作为感染者经历了从发病、求医到最终康复的全过程,这段生死考验让我深刻体会到生命的脆弱与坚韧。初期误判与病情恶化最初症状类似感冒,在社区诊所和武汉市第四医院多次就诊,但持续发烧不退。〖贰〗、我的抗疫回忆防控工作会议的召开1月23日上午,我参加了新型冠状病毒感染防控工作会。会议上...

    2026/04/26
返回顶部