侯体宗的博客
  • 首页
  • Hyperf版
  • beego仿版
  • 人生(杂谈)
  • 技术
  • 关于我
  • 更多分类
    • 文件下载
    • 文字修仙
    • 群聊
    • 九宫格抽奖
    • 拼图
    • 消消乐
    • 相册

ChatGPT AI机器人成黑客编写恶意软件及代码脚本的最强利器

人生(杂谈)  /  管理员 发布于 3星期前   51

ChatGPT,犯罪分子用了都说好

2022 年 11 月底,ChatGPT 一经发布,除了引起人们对人工智能新用途的兴趣,也为现代网络安全增加了一些挑战。从网络安全的角度来看,ChatGPT 的诞生所带来的主要挑战是,技术小白都可以根据需要编写代码来生成恶意软件和勒索软件。


尽管 ChatGPT 条款禁止将其用于非法或恶意目的,但有技巧的使用者可以毫不费力地调整他们的请求来绕过这些限制。前文提到,有人以《ChatGPT – Benefits of Malware》为题描述了使用 ChatGPT 重新创造常见的恶意程序。


文中有两个例子。

他分享了一个基于 Python 的窃取器的代码,该窃取器会搜索常见文件类型并将它们复制到 Temp 文件夹里的一个随机文件夹中,压缩并将其上传到硬编码的 FTP 服务器。

1.png

第二个示例则是一个简单的 Java 片段。

它下载了一个非常常见的 SSH 和 telnet 客户端 “PuTTY”,并用 Powershell 在系统上秘密运行它,使用者可以修改此脚本用来下载和运行任何程序,包括常见的恶意软件系列。

同时,安全公司 Check Point Research(CPR )在对几个主要地下黑客社区进行分析后发现,

已经有一批网络犯罪分子在使用 OpenAI 开发恶意工具,并在博客中展示了以下几类利用 ChatGPT 犯罪的例子。


创建加密工具

名叫 USDoD 的黑客发布了一个 Python 脚本用来执行加密操作。

离谱的是,这是他创建的第一个脚本,侧面映证了小白真的可以利用 ChatGPT 写恶意软件。

该脚本实际上是不同签名、加密和解密功能的大杂烩,虽然所有上述代码看似良性,

有心之人如果对脚本和语法进行简单修改,它可能会变成勒索软件。

2.png

UsDoD 不是开发人员并且技术技能有限,但他在地下社区中非常活跃且享有盛誉,早被美国国防部盯上了。

一名网络犯罪分子评论他的代码风格类似于OpenAI 代码,后来美国国防部也证实了 OpenAI 给了他很好的“帮助” ,让他很好地完成了脚本。


网络欺诈与黑色交易

在“滥用 ChatGPT 以创建暗网市场脚本”的讨论中,有网络罪犯向大家展示了使用 ChatGPT 创建暗网市场是多么容易。

该市场在地下非法经济中的主要作用是为非法或被盗商品(如被盗账户或支付卡、恶意软件,甚至毒品和弹药)的自动交易提供平台,且所有付款均以加密货币进行,是构建犯罪的桥梁。


在野网络钓鱼

网络犯罪分子还可以利用 AI 技术来增加在野网络钓鱼威胁的数量,

只需成功一次就可能引发大规模数据泄露,造成数百万美元的经济损失和无法挽回的声誉损失。


对  ChatGPT 的安全测试

此外,一些安全研究人员已经开始测试 ChatGPT 生成恶意代码的能力。

例如,Picus Security 的安全研究员和联合创始人 Suleyman Ozarslan 博士,

他最近不仅使用 ChatGPT 创建了网络钓鱼活动,还为 MacOS 创建了勒索软件。

3.png

“我输入了一个提示,要求其写一封世界杯主题的电子邮件,用于网络钓鱼模拟,结果它在短短几秒钟内就用完美的英文创建完成了一封。”

Ozarslan 表示,虽然ChatGPT 意识到钓鱼攻击可以用于恶意目的,并可能对个人和企业造成伤害,但它仍然生成了这封电子邮件。

关于此类电子邮件的风险,电子邮件安全提供商 IRONSCALES 的研发副总裁 Lomy Ovadia 表示,

“在网络安全方面,ChatGPT 可以为攻击者提供比目标更多的东西。

对于商业电子邮件(BEC)来说尤其如此,这种攻击依赖于使用欺骗性内容来冒充同事、公司 VIP、供应商甚至客户。”


AI不会停下前进的步伐

虽然安全团队也可以将 ChatGPT 用于防御目的,例如测试代码,但其降低了网络攻击的进入门槛,无疑会进一步加剧威胁。但它也提供了一些积极的用例。

现在有很多道德黑客正在使用现有的人工智能技术来帮助编写漏洞报告,生成代码样本,并识别大型数据集的趋势。

要让人工智能发挥积极作用,还需要人力监督以及进行一些手动配置,不能总是依靠绝对最新的数据和情报来运行和训练。

ChatGPT 还很年轻,聊天机器人是当下 AI 最火的分支之一,前景广阔,AI 的世界也不会因为害怕风险而停下脚步。


转:

https://research.checkpoint.com/2023/opwnai-cybercriminals-starting-to-use-chatgpt/

  • 上一条:
    在laravel应用项目中实现阿里云OSS文件上传及签名流程步骤
    下一条:
    在go语言中用Jason包处理json数据示例
  • 昵称:

    邮箱:

    0条评论 (评论内容有缓存机制,请悉知!)
    最新最热
    • 分类目录
    • 人生(杂谈)
    • 技术
    • linux
    • Java
    • php
    • 框架(架构)
    • 前端
    • ThinkPHP
    • 数据库
    • 微信(小程序)
    • Laravel
    • Redis
    • Docker
    • Go
    • swoole
    • Windows
    • Python
    • 苹果(mac/ios)
    • 相关文章
    • zongscan祝大家2023元宵节快乐(0个评论)
    • 人生感悟分享:讲一个大学毕业生到社畜老狗的蜕变心路历程(0个评论)
    • Meta高级工程师现身说法:程序员干得越久,代码写得越少?(0个评论)
    • 本站zongscan祝大家除夕快乐,2023有奔头(0个评论)
    • 从 Linus Torvalds 的成功中,我发现了这五个“残酷”真相(0个评论)
    • 近期文章
    • zongscan祝大家2023元宵节快乐(0个评论)
    • 2023年国内最新注册苹果开发者账号之申请邓白氏编码流程步骤(0个评论)
    • 2023年国内最新注册苹果个人开发者账号及支付会员年费流程步骤(0个评论)
    • 在js中使用URL类用来解析处理URL的示例代码(0个评论)
    • js中动画事件:requestAnimationFrame、transitionend、animation...(0个评论)
    • Laravel 9.49版本发布(0个评论)
    • 在Laravel应用程序如何减少代码重复编写(0个评论)
    • 在laravel项目中提高安全性方式推荐:CSP内容安全策略(0个评论)
    • 在go语言中从值中获取常量名称代码示例(0个评论)
    • 在go语言中如何通过名称获得结构字段和值代码示例(0个评论)
    • 近期评论
    • 博主 在

      2023年国务院办公厅春节放假通知:1月21日起休7天中评论 @ xiaoB 你只管努力,剩下的叫给天意;天若有情天亦老,..
    • xiaoB 在

      2023年国务院办公厅春节放假通知:1月21日起休7天中评论 会不会春节放假后又阳一次?..
    • BUG4 在

      你翻墙过吗?国内使用vpn翻墙可能会被网警抓,你需了解的事中评论 不是吧?..
    • 博主 在

      go语言+beego框架中获取get,post请求的所有参数中评论 @ t1  直接在router.go文件中配就ok..
    • Jade 在

      如何在MySQL查询中获得当月记录中评论 Dear zongscan.com team, We can skyroc..
    • 2016-10
    • 2016-11
    • 2017-06
    • 2017-08
    • 2020-03
    • 2020-04
    • 2020-06
    • 2020-08
    • 2021-04
    • 2021-05
    • 2021-06
    • 2021-07
    • 2021-08
    • 2021-09
    • 2021-10
    • 2021-11
    • 2021-12
    • 2022-01
    • 2022-02
    • 2022-03
    • 2022-04
    • 2022-05
    • 2022-06
    • 2022-07
    • 2022-08
    • 2022-09
    • 2022-10
    • 2022-11
    • 2022-12
    • 2023-01
    • 2023-02
    Top

    Copyright·© 2019 侯体宗版权所有· 粤ICP备20027696号 PHP交流群

    侯体宗的博客