研究：用诗歌就能让AI说违禁内容，成功率达62%
发布时间：2025-12-30 02:23:53 作者：玩站小弟 
我要评论
我要评论IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》
。
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容厦门市某某洗涤用品培训中心便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功厦门市某某洗涤用品培训中心实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
12月18日，由红星教育传媒·成都儿童团主办的十周年特别活动「每一粒种子，都值得最好的盛开——“三尺之外”城市教育谈」举行。刘云杉、李松蔚、陈赛、姚敏、张平原等五位嘉宾的带来了各自的洞见与思考。青春期2025-12-30
大家还震惊于人大教授性骚扰女学生的新闻中，7月24日，安徽霍邱县教育局通报了一起令人震惊的事件。一名中学教师汪某某涉嫌在网络上与学生进行不当表白，严重违反了师德师风问题。根据初步调查结果，这一情况属实2025-12-30
原标题：江西42个县市、区）超过39℃ 多地出现中度以上气象干旱） 今天24日），江西晴热高温持续，吉安、九江两个地级市以及广昌县、于都县、乐平市、浮梁县、兴国县2025-12-30
来源：中国新闻周刊 当地时间7月23日下午，韩国执政党国民力量党召开全国代表大会，选举新任党首。该党前任紧急对策委员会委员长韩东勋以62.8%的绝对多数票当选，得票率超过第二名三倍以上。 论资2025-12-30
乳制品消费加速分化，“精准营养”成行业新增长点2025-12-25 20:21:34 来源：中国新闻网 作者2025-12-30
[环球时报报道 记者 涂蕾 甄翔]美国CNBC网站23日报道称，波音公司已重启旗下737 MAX机型对华交付。波音公司23日对《环球时报》记者证实了这一消息。波音方面还表示，预计到2043年全球航2025-12-30
最新评论