IT商业网-解读信息时代的商业变革
当前位置: 首页 > 人工智能 > 正文

新方法揭示:聊天机器人安全防线或将被突破

2023-12-30 20:26:44     

  新加坡南洋理工大学(NTU)的计算机科学专家最近成功研发了一项令人震惊的技术,通过聊天机器人来入侵其它聊天机器人。

  创新算法Masterkey:逆向设计安全限制

  这支科研团队精心设计了一项名为Masterkey(LLM)的算法,其目的在于逆向设计LLM检测和防御恶意查询的方式。通过这一算法,他们教会LLM自动学习,通过相关提示词绕过其他LLM的安全性限制。

  黑客LLM的诞生:自适应性逆袭

  这一创新手法使得团队能够构建出一个黑客版LLM,它可以在开发人员对其LLM进行修正后,自动适应新的条件,并创造出新的黑客请求。

  成功入侵:研究团队通知服务提供商

  经过成功的入侵实验后,研究团队迅速通知了相关服务提供商,提醒其可能存在的安全隐患。

  这一突破性的研究引发了对聊天机器人安全性的新关注。随着技术的发展,我们需要更为创新和强大的安全措施,以保障这一日益普及的人工智能技术不受到潜在的恶意威胁。

免责声明: IT商业新闻网遵守行业规则,本站所转载的稿件都标注作者和来源。 IT商业新闻网原创文章,请转载时务必注明文章作者和来源“IT商业新闻网”, 不尊重本站原创的行为将受到IT商业新闻网的追责,转载稿件或作者投稿可能会经编辑修改或者补充, 如有异议可投诉至:post@itxinwen.com
微信公众号:您想你获取IT商业新闻网最新原创内容, 请在微信公众号中搜索“IT商业网”或者搜索微信号:itxinwen,或用扫描左侧微信二维码。 即可添加关注。
标签:

品牌、内容合作请点这里: 寻求合作 ››

相关阅读RELEVANT