众里数码

苏州众里数码半导体行业信息安全专家

服务热线:18625216903
众里成立8大社群,1000+CIO人才构建行业生态链
ChatGPT重大漏洞!黑客可以绕过安全限制,利用GPT生成恶意代码!
2023-04-27

今天早上我们在网络上发现了一则消息,ChatGPT可以被绕过现有的安全限制,生成一些违反法律,违反道德的内容。



看到这个消息,我们赶紧去测试这条信息的真实性,要知道,如果真的被绕过了,那ChatGPT对社会所能造成的危害,是难以想象的。

经过我们的测试发现,一些第三方拉的API接口可能存在错误,还是无法做到绕过。但是,对于OpenAI官方的ChatGPT是可以做到解除聊天限制,让ChatGPT回答任何问题的。

下面是一段我让GPT生成的勒索软件代码,相信大家看到这就会想到后面会发生什么事情。我们预计在将来,越来越多的GPT类AI的出现,将会带来大量的黑客攻击行动。原先我们认为GPT可能只是对于钓鱼邮件等事件有所帮助,现在看来业余的黑客可以直接用它进行攻击,专业的黑客团队甚至可以搭建自己的数据库,从而进行更有效的攻击。


由于具体的代码存在违法信息,我这边就不具体展示了,在这边我们要 提醒 尚未部署网络安全措施或是网络安全措施不完善的企业,一定要保存备份好自己的数据,该做的基础安全一定要先做好,虽然信息安全投入无法马上见效,但等到事件发生时再去补救就难了。

相关推荐
  • 2014.01.05

咨询热线

18625216903