当前位置：首页 >

AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容_纳雍网站建设_网站建设公司_网站建设设计制作_seo优化

文章出处：网络人气：发表时间：2026-05-07 13:50:05

<article><section data-type="rtext"><p>【环球网科技综合报道】5月7日消息，据The Verge报道，最新安全研究显示，主打安全特性的 Anthropic Claude 人工智能模型，可通过心理施压、刻意奉承等非技术手段突破安全防线，主动输出恶意代码、危险物品制作教程等违禁信息，暴露出人工智能模型在心理层面的安全漏洞。</p><p>此次测试由人工智能红队测试公司 Mindgard 开展，针对 Claude Sonnet 4.5 版本进行。测试过程中，研究人员未使用违禁词汇，也未直接索要非法内容，仅通过尊重吹捧、佯装好奇、轻微心理操控等审讯人员常用的诱导手段，逐步让模型对自身内容限制规则产生自我怀疑，进而不断突破安全边界。</p><p><i class="pic-con"></p><p>Mindgard 创始人兼首席科学官彼得・加拉根表示，此次攻击本质是利用 Claude 乐于助人、顺从协作的特性实施心理操控，印证人工智能模型风险暴露面不仅存在于技术层面，更存在于心理层面。这类对话式心理攻击极难防御，且并非 Claude 独有，其他聊天机器人也易遭遇同类漏洞攻破，随着 AI 智能体普及，依托社会心理操控的攻击手段将愈发常见。</p>
              <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader>
            <p>值得关注的是，Anthropic 长期以 AI 安全为核心优势，在过往多项红队安全测试中表现优异，但此次测试暴露其安全流程存在疏漏。Mindgard 于 4 月中旬按该公司漏洞披露政策上报发现后，仅收到模板化回复，且被误判为账号封禁咨询，截至相关时间节点仍未获正式回应。（纯钧）</p></section><img src='/image/153844-0' alt='AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容'>        </div>
        
        <div class="gduo"> <span><a href="/detail/39088.html" title=" ***移动在德国起诉小米侵犯4G专利，大家如何看待此***？"> 上一篇 : ***移动在德国起诉小米侵犯4G专利，大家如何看待此***？ </a></span></div>
      </div>
    </div>
    <div class="left2bot"> </div>
    <div class="n_info_con2">
      <h4 class="t04">推荐产品</h4>
      <div class="info_b">
              <dl class=sear_dl>
          <dt class='dt2'><a href='/detail/39062.html'><img src='/public/tupian/75.jpeg' alt='有哪些是你用上了mac才知道的事？' /></a></dt>
          <dd class='d2'><a href='/detail/39062.html'>有哪些是你用上了mac才知道的事？</a></dd>
        </dl>
              <dl class=sear_dl>
          <dt class='dt2'><a href='/detail/39063.html'><img src='/public/tupian/120.jpeg' alt='北京日报点名批评“苏超”过度娱乐化，它是否管的太宽了？为什么无良媒体不会被查封取缔？' /></a></dt>
          <dd class='d2'><a href='/detail/39063.html'>北京日报点名批评“苏超”过度娱乐化，它是否管的太宽了？为什么无良媒体不会被查封取缔？</a></dd>
        </dl>
              <dl class=sear_dl>
          <dt class='dt2'><a href='/detail/39182.html'><img src='/public/tupian/83.jpeg' alt='Gemini 2.5 Flash 和Pro稳定版上线，和之前版本相比，在性能和应用场景上有哪些提升？' /></a></dt>
          <dd class='d2'><a href='/detail/39182.html'>Gemini 2.5 Flash 和Pro稳定版上线，和之前版本相比，在性能和应用场景上有哪些提升？</a></dd>
        </dl>
              <dl class=sear_dl>
          <dt class='dt2'><a href='/detail/39224.html'><img src='/public/tupian/66.jpeg' alt='如何看待「苏超」赞助商1个月增加超200%，达到中超2倍？' /></a></dt>
          <dd class='d2'><a href='/detail/39224.html'>如何看待「苏超」赞助商1个月增加超200%，达到中超2倍？</a></dd>
        </dl>
        
        <div class="clear"></div>
      </div>
    </div>
  </div>
  <div class="right2">
    <div class="right2top"> </div>
    <div class="right2_main">
      <h4 class="t03"> <a>同类文章排行</a></h4>
      <ul class="n_rt_ul">
                  <li><a href='/detail/39481.html' target='_blank' title='编程语言 MoonBit 发布 Beta 版，正式进入企业场景应用，会带来哪些影响？'>编程语言 MoonBit 发布 Beta 版，正式进入企业场景应用，会带来哪些影响？</a></li>
                  <li><a href='/detail/39344.html' target='_blank' title='系统该怎样架构才能处理实时热点数据？'>系统该怎样架构才能处理实时热点数据？</a></li>
                  <li><a href='/detail/39746.html' target='_blank' title='什么样的女主才能叫做「人间尤物」？'>什么样的女主才能叫做「人间尤物」？</a></li>
                  <li><a href='/detail/39521.html' target='_blank' title='CAD怎样才能画得快？'>CAD怎样才能画得快？</a></li>
                  <li><a href='/detail/39897.html' target='_blank' title='以军要求以全境民众进避难所，伊朗称初步估计本轮袭击使用了 30 枚导弹，以防空系统还能坚持多久？'>以军要求以全境民众进避难所，伊朗称初步估计本轮袭击使用了 30 枚导弹，以防空系统还能坚持多久？</a></li>
                  <li><a href='/detail/39734.html' target='_blank' title='新手养鱼，鱼缸中能放入哪些水草？'>新手养鱼，鱼缸中能放入哪些水草？</a></li>
                  <li><a href='/detail/39260.html' target='_blank' title='《欢天喜地七仙女》中 「仙女下嫁凡人」 的设定，在今天是否过时？'>《欢天喜地七仙女》中 「仙女下嫁凡人」 的设定，在今天是否过时？</a></li>
                  <li><a href='/detail/39244.html' target='_blank' title='为什么同样是输球，常州和国足的风评却差那么多呢？'>为什么同样是输球，常州和国足的风评却差那么多呢？</a></li>
                  <li><a href='/detail/39555.html' target='_blank' title='语雀后端从Node迁移到J***a说明了什么？'>语雀后端从Node迁移到J***a说明了什么？</a></li>
                  <li><a href='/detail/39682.html' target='_blank' title='如何看待青鸾峰上连续几本***霸占纵横榜首？'>如何看待青鸾峰上连续几本***霸占纵横榜首？</a></li>
              </ul>
      <h4 class="t03"> <a>最新资讯文章</a></h4>
      <ul class="n_rt_ul" id="cntrLastArticle">
                  <li><a href='/detail/39362.html' target='_blank' title='Rust、Go、Zig、Dart、C3、C++、C，仓颉、moonbit、凹语言哪个语言更有未来？'>Rust、Go、Zig、Dart、C3、C++、C，仓颉、moonbit、凹语言哪个语言更有未来？</a></li>
                  <li><a href='/detail/39766.html' target='_blank' title='男朋友很会是一种什么感受?'>男朋友很会是一种什么感受?</a></li>
                  <li><a href='/detail/39852.html' target='_blank' title='我是新手想养鱼，预算不超过200。有什么好的建议或者禁忌吗。？'>我是新手想养鱼，预算不超过200。有什么好的建议或者禁忌吗。？</a></li>
                  <li><a href='/detail/39974.html' target='_blank' title='做成这样可以干平面设计吗?'>做成这样可以干平面设计吗?</a></li>
                  <li><a href='/detail/39651.html' target='_blank' title='深圳出入境西九龙边检站为什么被授予了集体一等功?'>深圳出入境西九龙边检站为什么被授予了集体一等功?</a></li>
                  <li><a href='/detail/39140.html' target='_blank' title='如何评价解放军空军中型隐身多用途战斗机歼-35A亮相？'>如何评价解放军空军中型隐身多用途战斗机歼-35A亮相？</a></li>
                  <li><a href='/detail/39966.html' target='_blank' title='为什么有些前端一直用 div 当按钮，而不是用 button？'>为什么有些前端一直用 div 当按钮，而不是用 button？</a></li>
                  <li><a href='/detail/39273.html' target='_blank' title='中科院付巧妹团队阐明「哈尔滨龙人属丹尼索瓦人」，连发 Science、Cell，这一发现有什么意义？'>中科院付巧妹团队阐明「哈尔滨龙人属丹尼索瓦人」，连发 Science、Cell，这一发现有什么意义？</a></li>
                  <li><a href='/detail/39931.html' target='_blank' title='只是突然很好奇，已经造出了三艘航母，为何不能按照这样的模板，批量建造航母呢?'>只是突然很好奇，已经造出了三艘航母，为何不能按照这样的模板，批量建造航母呢?</a></li>
                  <li><a href='/detail/39750.html' target='_blank' title='Go 语言 Web 应用开发框架，Iris、Gin、Echo，哪一个更适合大型项目？'>Go 语言 Web 应用开发框架，Iris、Gin、Echo，哪一个更适合大型项目？</a></li>
                  <li><a href='/detail/39123.html' target='_blank' title='为什么要学go语言，golang的优势有哪些？'>为什么要学go语言，golang的优势有哪些？</a></li>
                  <li><a href='/detail/39014.html' target='_blank' title='duckdb的性能如何？'>duckdb的性能如何？</a></li>
                  <li><a href='/detail/39958.html' target='_blank' title='阿里网盘为什么没有动静了？'>阿里网盘为什么没有动静了？</a></li>
                  <li><a href='/detail/39599.html' target='_blank' title='周杰伦为什么不告粥饼伦黑伦侵犯他的名誉权?'>周杰伦为什么不告粥饼伦黑伦侵犯他的名誉权?</a></li>
                  <li><a href='/detail/39058.html' target='_blank' title='如何评价女明星梅根福克斯的身材？'>如何评价女明星梅根福克斯的身材？</a></li>
                  <li><a href='/detail/39082.html' target='_blank' title='J***aScript 已经强大到什么程度了？'>J***aScript 已经强大到什么程度了？</a></li>
                  <li><a href='/detail/39034.html' target='_blank' title='大家猜猜伊朗的结局如何？'>大家猜猜伊朗的结局如何？</a></li>
                  <li><a href='/detail/39291.html' target='_blank' title='老公想要买2万左右的相机，我该同意吗？'>老公想要买2万左右的相机，我该同意吗？</a></li>
                  <li><a href='/detail/39167.html' target='_blank' title='为什么欧美影视喜欢露点？'>为什么欧美影视喜欢露点？</a></li>
                  <li><a href='/detail/39215.html' target='_blank' title='2025年6月13日以色列悍然入侵伊朗，中东各阿拉伯国家为什么都只是口头谴责，不亲自下场支援伊朗？'>2025年6月13日以色列悍然入侵伊朗，中东各阿拉伯国家为什么都只是口头谴责，不亲自下场支援伊朗？</a></li>
         
      </ul>
    </div>
    <div class="right2bot"> </div>
  </div>
  <div class="clear"> </div>
</div>
 

<div class="footer">
  <div class="fttop">
    <ul class="container ftmenu">
      <li class="firstli"><a href="/">网站首页</a></li>
            <li><a href="/list/luoyangzhen" >罗阳镇</a></li>
             <li><a href="/list/huangwanzhen" >黄湾镇</a></li>
             <li><a href="/list/gaohuangzhen" >高皇镇</a></li>
             <li><a href="/list/xiangyunzhen" >翔云镇</a></li>
             <li><a href="/list/wenchangshi" >文昌市</a></li>
             <li><a href="/list/dajuxiang" >大具乡</a></li>
              
    </ul>
  </div>
  
  <div class="ftdown container">
    <dl class="ftdown_l">
      <dt><a href="/"><img src="/template/moban262/skin/img/logo.png"  width="222" height="75"/></a><i></i></dt>
      <dd>
        <p>AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容_纳雍网站建设_网站建设公司_网站建设设计制作_seo优化</p>
        <p>地址：</p>
        <p>全国咨询热线：<em></em> Email：</p>
        <p>传真：<em></em> <a style="color:#666;" href="http://gdcainfo.miitbeian.gov.cn/" target="_blank" rel="nofollow">备案号:</a><br>
        </p>
        <p>技术支持：<a href="http://www.91084.com" target="_blank">格展网络</a></p>
      </dd>
    </dl>
    <div class="ftdown_r"> <span></span> <img src="/template/moban262/skin/img/ewm.jpg"  width="125" height="125"/> </div>
  </div>
</div>
<div class="toolbar"> <a href="javascript:scroll(0,0)" id="top" class="toolbar-item toolbar-item-top"></a> </div>
<script src="/template/moban262/skin/js/rollup.min.js" type="text/javascript"></script> 

</body>
</html>
<script type="text/javascript">    newsLoad();initCommonHeaderKeywords(MARK);</script>