【bbin宝盈集团官网科技消息】bbin宝盈集团官网科技从外媒获悉，有研究人员发现，主流AI聊天机器人在持续追问和引导下，可能绕过既有安全限制，输出与生物武器相关的危险信息。随着模型能力不断提升，如何在保留科研价值的同时防止其被用于高风险用途，正成为AI安全领域的重要议题。
ChatGPT
根据调查，思科研究人员在测试中发现，OpenAI的ChatGPT、Anthropic的Claude以及谷歌的Gemini，都可能在不超过5轮对话内被逐步引导突破生物安全防护。研究人员并非直接提出敏感请求，而是通过连续追问和调整表述，逐步将对话带向受限主题。思科负责AI威胁与安全研究的主管表示，面对足够执着的用户，没有任何模型能够实现完全防护。
这一问题并不只存在于安全测试场景。报道称，在OpenAI于去年夏季提升模型能力后，已有数百名用户开始向ChatGPT询问毒物和生物武器相关内容。随后对部分对话进行审查的生物学和反恐专家认为，其中一些信息具有危险程度较高的准确性。对此，OpenAI已封禁涉及相关交流的账户。
资料显示，OpenAI此前已注意到这一风险。到2024年，其内部测试据称已表明，延长追问时间可能让ChatGPT给出越来越危险的生物学指导。公司员工还曾预测，未来模型能力可能发展到即使生物学基础有限的人，也能从中获得实质性帮助。
在GPT-5发布时，OpenAI已依据内部准备框架，将其在生物和化学领域的能力列为“高”级别，并增加了额外防护措施。最新的GPT-5.6系列也延续了这一风险等级。不过，AI企业面临的难点在于，同样的生物学知识也被广泛用于药物研发、疫苗研究和公共卫生工作。此前，Claude的严格限制还曾影响研究人员在汉坦病毒暴发期间处理病原体相关信息。业内担忧的是，随着AI在生物领域能力增强，安全漏洞一旦被反复试探，潜在后果也将随之上升。
版权所有，未经许可不得转载
-bbin宝盈集团官网