近日，OpenAI发布了全新的神经网络ChatGPT-4，这个聊天机器人拥有优秀的推理能力，被认为具有较大的应用价值。然而，研究人员指出，他们成功诱导ChatGPT-4帮助开发恶意软件和钓鱼电子邮件。
据报道，网络安全公司Check Point的研究人员表示，他们通过避免使用“恶意软件”一词，在对话中成功让ChatGPT-4帮助他们开发恶意软件，绕过了OpenAI对这些犯罪行为的封锁。 尽管OpenAI在发布ChatGPT-4时强调其安全性，但在研究人员的测试中，ChatGPT-4仍然能够用C ++编写恶意软件程序，该程序可以收集PDF文件并传输到远程服务器。值得一提的是，ChatGPT-4还向他们提供建议，如何让恶意软件在Windows 10上运行、缩小文件大小，并降低被防病毒软件发现的可能性。
黑帽大会审议委员会成员丹尼尔·卡斯伯特（Daniel Cuthbert）指出，GPT-4可以帮助没有充足技术知识的人开发恶意工具，让网络犯罪变得轻而易举，大大降低其门槛。 Check Point过去也追踪过ChatGPT被用于网络犯罪的情况，去年12月发现有网络犯罪份子利用ChatGPT撰写能用于恶意攻击的Python脚本。利用ChatGPT-4生成网络钓鱼信件或恶意软件程式码的难度，比以前的版本要来得更低。可能是因为目前仅开放给ChatGPT Plus的付费用户有限使用恶意代码，才没有立刻遭到有心人士滥用。
「GPT-4可以帮助恶意人士——甚至是非技术背景的人——加速并实现他们的预谋。」最终Check Point在报告中表示恶意代码，「我们看到的是，GPT-4可以用在正反用途上，良善的使用者会利用GPT-4打造各种有助于社会的程式，而恶意使用者则会利用人工智慧快速进行网络犯罪。」
另一家网络安全公司Blackberry也透露，他们针对1500名信息技术专家的调查中，多达74%的人都担忧ChatGPT可能助长网络犯罪。同时还有71%的人担心，这项技术可能会被国家政府利用，来对其他国家展开网络攻击。 事实上，OpenAI发布ChatGPT-4时也打了「预防针」，一并发布的论文中就坦承，ChatGPT可能会降低进行网络攻击的成本，声称事前找来资安专家测试时发现在网络安全相关操作上有「重大缺陷」，但也强调他们已透过训练模型、增加内部监控及检测等方式加强围堵。
其实ChatGPT打造的钓鱼邮件及恶意软件并不特别，现代的检测系统都能识别出这些恶意软件，我们可以得知，ChatGPT只是一种工具，它的好坏取决于使用者如何利用它。 ChatGPT同样存在用于教育、管理数据、识别欺诈等方面的巨大潜力。
———END———
限 时 特 惠： 本站每日持续更新海量各大内部创业教程，一年会员只需98元，全站资源免费下载 点击查看详情
站 长 微 信： Lgxmw666
