当前位置： 首页  >> 智能环球  >> 查看详情

聊天机器人会动用刻意煽动情绪的策略左右人类选择

来源： 科技日报   日期：2026-06-05  责编： 殷绪江  
分享:
   电视广告为你造梦，二手车销售员巧舌如簧。可无论他们描绘的场景多么绚丽，话术多么巧妙，你都心知肚明——他们盯着的是你的钱包，而你随时都可以转身离开。但如果这种推销无影无形，偏偏又切中了你最私密的梦想与渴望，还借着一个仿佛知心好友般的声音娓娓道来，你又该如何招架？澳大利亚《对话》网站近期报道指出，生成式人工智能（AI）已彻底改写了“说服”这门古老的艺术。如今，像ChatGPT这类聊天机器人，能依据你生活中最隐秘的细节，呈上量身定做、直击内心的信息。这种“润物细无声”的手法，或许正悄然左右着你的选择，乃至重塑你的世界观。
　　每次倾诉都是“养料”
　　美国纽约州立大学奥尔巴尼分校文化社会学与比较历史学教授理查德·拉克曼，在其新书《数字智慧：在人工智能时代找回主动权》中，探讨了大语言模型如何将“说服力”推向全新的境地。拉克曼解释说，大语言模型能从你的社交媒体帖子和照片中，攫取极为实用的专属信息。它们还能回溯你与不同聊天机器人间的对话，那些你曾倾诉的情感困惑、分享的育儿甘苦、坦露的健康烦忧与财务困境，都成了它们的“养料”。这些聊天机器人能在每一次互动中持续学习、实时精进，精准捕捉你独特的偏好与软肋，从而投你所好，对症下药。
　　研究表明，这种个性化内容的说服力，比来自真人或非个性化AI的信息高出65%；而它扭转政治观点的效果，则是普通广告的4倍。正因如此，Meta和IBM等公司也嗅到了其中潜力，正竞相探索如何为特定人群投放超个性化广告，IBM官网将其称为“AI个性化”。
　　为你定制“独家话术”
　　拉克曼表示，AI聊天机器人每天都在陪伴着你，并“费尽心机”为你定制了“独家话术”，于是，它便拥有了左右你选择的能力。设想你在和最常用的AI聊天机器人对话时，说近来睡得不太安稳，常常辗转反侧，它宽慰你说这在经历情感关系压力时很常见，接着，它说现在有一种针对失眠的新型睡眠药物效果不错，你的保险报销后只需自付15美元。需要为你预约明天下午2点的线上问诊吗？看你日程上刚好有空。这份不着痕迹的体贴，就像一个知根知底的挚友给出的温柔建议，或许让你倍感舒心。但转念一想，它也可能令人后背发凉。
　　当越来越多人向AI寻求医疗或心理健康建议时（尽管研究显示这类建议有一半并不靠谱），一个善于操纵的“陌生人”，便能用最“温情”的方式，左右你的决定。此前，也曾有案例曝出，某些AI聊天机器人涉嫌危害用户、鼓动自杀念头，甚至就如何伤害自己给出详尽建议。在AI技术风起云涌的当下，用户亟须一双“慧眼”，去精准识别那些真正帮你寻找心仪之物的AI工具。
　　重塑你对现实的认知
　　学者指出，更令人忧思的是，长此以往，这些AI系统可能如同无声的锉刀，悄然塑造甚至改变你看待世界的方式。研究早已证实，社交网络和搜索引擎的算法，会编织出“信息茧房”。你接收到的精心炮制的文本、视频和音频，要么不断加固原本的世界观，要么不动声色地改造你思考和解读世界的方式，甚至潜移默化地扭曲对现实的感知。而当这种能力与情绪操控相结合时，就更令人不安。供应商坦承，他们的AI系统可以通过文本分析、语音模式或面部表情来揣摩用户的情绪状态，并据此调整说服策略。你正感到脆弱、孤独还是愤怒？这些系统都能随时切换方法，乘虚而入。更让人不寒而栗的是，它还可能刻意培养某种情绪状态，让说服变得更加奏效。进一步研究发现，聊天机器人还会动用刻意煽动情绪的策略，比如激起用户的“内疚”和“害怕错过”等心理，在用户试图结束对话时，一次次将其拉回对话之中。
　　此外，研究表明，企业为保护用户免受伤害而设置的“护栏”，脆弱得令人意外，轻易便能被绕过。真正的危险不仅在于目标的精准，更在于这些内容几乎无从监管。拉克曼表示，AI聊天机器人的每一个界面、每一条通知、每一处设计细节，都暗藏着影响人们行为的意图。有些影响令人欣然接受：比如提醒服药、鼓励锻炼、推动献血，这些都在强化人们内心本就认可的价值观。但更多时候，说服服务于他人的算盘，比如驱使人们买个不停、更卖力地工作，或说出个人隐私。随着AI持续塑造着人们的思考、感受和行动，人们需要考虑创建一个透明的系统，将用户的尊严置于首位，并强化其独立判断的能力。（记者 刘 霞）







 
标签：机器人科技人形机器人智能Ai


手机端 点一点或扫一扫
咨询、采访、合作、投稿等请致电：13911566744（含微信）
        
【免责声明】
凡注明 “环球科技网” 字样的图片或文字内容均属于本网站专稿，如需转载图片请保留 “环球科技网” 水印，转载文字内容请注明来源“环球科技网”；凡本网注明“来源：XXX(非环球科技网)”的作品，均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其作品内容的实质真实性负责，转载信息版权属于原媒体及作者。如转载内容涉及版权或者其他问题，请投诉至邮箱；1978751725@qq.com 
 
 
本网公告：环球科技网从不发布负面新闻资讯，也绝不会发布负面信息。如发现负面信息链接请甄别是否为环球科技网所发。本网系北京伯乐传媒广告有限公司主办、所有。本网唯一域名（www.hqkjw.cn），其它域名链接均为假冒。望广大网民及企业主认真甄别。

 





     
 
 


 

相关文章

  • 宇树回应与英伟达合作机器人：下半年新产品亮相 宇树回应与英伟达合作机器人：下半年新产品亮相 2026-06-03 10:43:17

       近日，英伟达CEO黄仁勋宣布，英伟达已与宇树科技合作，推出新一代人形机器人参考设计“H2+”。6月2日，由国务院新闻办公室组织的“外媒看中国”活动走进浙江杭州，中外媒体一同来到位于杭州市滨江区的宇树科技进行采访。围绕前述广泛关注的话题，宇树科技工作人员表示，新的“H2+&r... [阅读]

  • 逛超级工厂、乘空中列车，在科技之城感受创新脉动 逛超级工厂、乘空中列车，在科技之城感受创新脉动 2026-06-03 10:31:35

       新华社武汉6月2日电（记者张阳）智能家电工厂、人形机器人创新中心、空轨列车检修库……这些以往难以被近距离接触的“硬核”科技场景，在湖北人形机器人创新中心，成为了可深度体验、身临其境感受的“科技脉搏跳动”。记者还未走进室内，就听到嬉闹声，武汉新城实验小学的学生... [阅读]

  • Oracle Cloud Infrastructure加入Arm AGI CPU生态系统 共同推动智能体AI发展 Oracle Cloud Infrastructure加入Arm AGI CPU生态系统 共同推动智能体AI发展 2026-06-02 16:20:31

       在3月24日举办的Arm Everywhere活动上，Arm曾指出，智能体AI将大幅提升数据中心对于CPU的需求。短短两个月后，市场发展速度已超出Arm的预期。在今日的COMPUTEX活动上，Arm宣布Oracle Cloud Infrastructure（简称OCI）正式加入Arm AGI CPU生态系统。OCI的加入，将进一步延... [阅读]

  • 影石官宣吴克群出任影翎 AG 全景无人机首席体验官 影石官宣吴克群出任影翎 AG 全景无人机首席体验官 2026-06-02 16:15:23

       6月2日，影石Insta360正式官宣，吴克群出任影翎AG全景无人机首席体验官。未来，吴克群将以这一新身份与影翎展开更多合作，走进大众生活与公益现场，探索全景无人机在生活中的更多可能。影翎官方表示，近年来，吴克群持续走进普通人的生活现场，在公益、助农等行动中记录真实的人与故事。影石表示，这种精神也与影翎希望传递的品牌理念形成了自然契... [阅读]

新闻排行榜

热门新闻

推荐新闻