评论
作为网络安全专家 一年前预测人工智能 (AI) 已成为 2023 年网络犯罪格局的核心角色,推动攻击增加,同时也有助于改进对未来攻击的防御。现在,进入 2024 年,整个行业的专家预计人工智能将在网络安全方面发挥更大的影响力。
2024 年 Google 云网络安全预测 认为生成式人工智能和大型语言模型导致各种形式的网络攻击增加。超过 90% 的加拿大首席执行官 毕马威民意调查 认为生成式人工智能将使他们更容易受到破坏。英国政府的一份报告称人工智能构成了 对该国下次选举的威胁.
虽然与人工智能相关的威胁仍处于早期阶段,但人工智能驱动的攻击的数量和复杂性每天都在增加。组织需要为未来做好准备。
网络犯罪分子利用人工智能的 4 种方式
攻击者主要通过四种方式使用 ChatGPT、Dall-E 和 Midjourney 等常用人工智能工具:自动网络钓鱼攻击、假冒攻击、社会工程攻击和虚假客户支持聊天机器人。
人工智能极大地推动了鱼叉式网络钓鱼攻击。过去,识别网络钓鱼尝试更容易,因为许多钓鱼尝试都充满了糟糕的语法和拼写错误。敏锐的读者可能会发现这种奇怪的、不请自来的交流,假设它可能是从英语不是主要语言的国家产生的。
ChatGPT 几乎消除了举报。在 ChatGPT 的帮助下,网络犯罪分子可以编写具有完美语法和英语用法、采用合法来源语言风格的电子邮件。网络犯罪分子可以发送模仿银行权威机构的自动通信,要求用户登录并提供有关其 401(k) 账户的信息。当用户单击链接开始提供信息时,黑客就会控制该帐户。
这个技巧有多受欢迎?斜线下一个 2023 年网络钓鱼状况报告 自 1,265 年第四季度以来,恶意网络钓鱼电子邮件增加了 2022%,主要归因于针对性攻击 商业电子邮件妥协 使用人工智能工具。
冒充攻击 也呈上升趋势。诈骗者利用 ChatGPT 和其他工具冒充真实的个人和组织,进行身份盗窃和欺诈。就像网络钓鱼攻击一样,他们使用聊天机器人冒充可信的朋友、同事或家庭成员发送语音消息,以试图获取信息或访问帐户。
一个例子 故事发生在2023年初的加拿大萨斯喀彻温省。一对老年夫妇接到一个冒充他们孙子的电话,声称他出了车祸,被关进监狱。打电话的人讲述了自己受伤、钱包丢了的故事,需要 9,400 美元现金与另一辆车的车主和解,以避免面临指控。祖父母去银行取钱,但当银行官员说服他们该请求不合法时,他们避免了被骗。
虽然行业专家相信人工智能语音克隆技术的这种复杂应用将在几年内得到发展,但很少有人预计它会如此迅速地变得如此有效。
网络犯罪分子正在使用 ChatGPT 和其他人工智能聊天机器人进行社会工程攻击,从而引发混乱。他们结合使用声音克隆和深度伪造技术,使其看起来像是有人在说一些煽动性的话。
这发生在二月份芝加哥市长选举的前一天晚上。一名黑客 创建了一个 Deepfake 视频 并将其发布到 X(以前称为 Twitter)上,显示候选人保罗·瓦拉斯(Paul Vallas)据称发表了虚假的煽动性言论,并宣扬有争议的政策立场。该视频在从平台上删除之前产生了数千次观看次数。
最后一种策略,即用于客户服务的虚假聊天机器人,确实存在,但它们可能还需要一两年的时间才能获得广泛普及。可以使用看似人类的客户服务聊天机器人来创建欺诈性银行网站。该聊天机器人可用于操纵毫无戒心的受害者交出敏感的个人和帐户信息。
网络安全如何反击
好消息是,人工智能也被用作打击人工智能驱动的诈骗的安全工具。以下是网络安全行业反击的三种方式。
开发自己的对抗性人工智能
本质上,这是在创造“好的人工智能”并训练它对抗“坏的人工智能”。通过开发自己的生成对抗网络(GAN),网络公司可以了解在发生攻击时会发生什么。 GAN 由两个神经网络组成:一个生成新数据样本的生成器和一个区分生成样本与原始样本的鉴别器。
使用这些技术,GAN 可以生成类似于以前见过的攻击模式的新攻击模式。通过根据这些模式训练模型,系统可以预测我们可能会看到的攻击类型以及网络犯罪分子利用这些威胁的方式。
异常检测
这是了解正常行为的基线,然后识别某人何时偏离该行为。当有人从与平常不同的位置登录帐户时,或者会计部门神秘地使用软件开发人员通常使用的 PowerShell 系统时,这可能是攻击的迹象。虽然网络安全系统长期以来一直使用这种模型,但人工智能模型拥有的附加技术能力可以更有效地标记潜在可疑的消息。
检测响应
使用人工智能系统、托管检测和响应 (MDR) 等网络安全工具和服务可以更好地检测威胁并向安全团队传达有关威胁的信息。人工智能通过接收简洁且相关的信息,帮助安全团队更快地识别和解决合法威胁。花在追踪误报和尝试破译安全日志上的时间更少,有助于团队发起更有效的响应。
结论
人工智能工具让社会看到几乎每个工作领域的新可能性。随着黑客更充分地利用大型语言模型技术,该行业将需要跟上步伐以控制人工智能威胁。
- :具有
- :是
- :在哪里
- 1
- 2022
- 2023
- 2024
- 400
- a
- 关于
- ACCESS
- 事故
- 账号管理
- 基本会计和财务报表
- 账户
- 横过
- 添加
- 地址
- 优点
- 对抗
- 驳
- 向前
- AI
- AI模型
- 人工智能系统
- 还
- an
- 和
- 出现
- 保健
- 人造的
- 人工智能
- 人工智能(AI)
- AS
- At
- 攻击
- 攻击
- 尝试
- 尝试
- 尝试
- 权威
- 自动化
- 可使用
- 避免
- 避免
- 远离
- 背部
- 坏
- 银行
- 底线
- BE
- 因为
- 成为
- 很
- before
- 行为
- 作为
- 相信
- 更好
- 促进
- 违规
- 但是
- by
- 呼叫
- 呼叫者
- CAN
- 加拿大
- 加拿大
- 候选人
- 汽车
- 携带
- 携带
- 现金
- 中央
- 老总
- 混沌
- 收费
- 聊天机器人
- 聊天机器人
- ChatGPT
- 芝加哥
- 自称
- 云端技术
- 同事
- 打击
- 组合
- 常用
- 通信
- 沟通
- 通信
- 贡献
- 控制
- 争议
- 确信
- 可以
- 国家
- 情侣
- 创建
- 创建
- 创造
- 顾客
- 客户服务
- 客户支持
- 网络
- 网络攻击
- 网络犯罪
- 网络犯罪
- 网络罪犯
- 网络安全
- 达尔-e
- data
- 天
- 解码
- 国防
- 问题类型
- 检测
- 检测
- 开发
- 开发
- 发展
- 不同
- do
- 驾驶
- 早
- 更容易
- 有效
- 只
- 老年
- 选举
- 淘汰
- 邮箱地址
- 电子邮件
- 工程师
- 英语
- 故障
- 醚(ETH)
- 甚至
- 活动
- 所有的
- 每天
- 例子
- 存在
- 期望
- 预期
- 专家
- 利用
- 眼部彩妆
- 面对
- 假
- false
- 家庭
- 二月
- 少数
- 部分
- 战斗
- 企业
- 针对
- 收益预测
- 以前
- 形式
- 四
- 第四
- 骗局
- 欺诈
- 朋友
- 止
- 富勒
- 未来
- 获得
- GAN
- 生成
- 产生
- 生成的
- 生成对抗网络
- 生成式人工智能
- 发电机
- 得到
- 越来越
- 非常好
- 谷歌
- 政府
- 语法
- 黑客
- 黑客
- 民政事务总署
- 移交
- 发生
- 有
- he
- 标题
- 保持
- 帮助
- 帮助
- 相关信息
- 他的
- 创新中心
- HTML
- HTTPS
- 人
- 伤害
- 鉴定
- 确定
- 身分
- if
- 改善
- in
- 增加
- 增加
- 指示符
- 个人
- 行业中的应用:
- 行业专家
- 影响
- 信息
- 房源搜索
- 成
- ISN
- IT
- 监狱
- JPG
- 只是
- 保持
- 类
- 已知
- 毕马威会计师事务所
- 景观
- 语言
- 大
- 在很大程度上
- 名:
- 发射
- 学习用品
- 合法
- 减
- 借力
- 喜欢
- 容易
- 友情链接
- 圖書分館的位置
- 日志
- 长
- 看
- 看起来像
- 丢失
- 主要
- 主要
- 使
- 恶意
- 管理
- 许多
- MDR
- 会员
- 条未读消息
- 中途
- 模型
- 模型
- 钱
- 更多
- 许多
- 需求
- 打印车票
- 网络
- 神经
- 神经网络
- 全新
- 消息
- 下页
- 夜
- 正常
- 通常
- 现在
- of
- 官方
- on
- 开放
- or
- 组织
- 原版的
- 其他名称
- 输出
- 超过
- 己
- 业主
- 步伐
- 过去
- 模式
- 保罗
- 个人
- 钓鱼
- 网络钓鱼攻击
- 地方
- 平台
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 播放机
- 政策
- 贫困
- 热门
- 声望
- 构成
- 拥有
- 可能性
- 发布
- 可能
- PowerShell的
- 预测
- Prepare
- 漂亮
- 先前
- 小学
- 大概
- 提供
- 季
- 很快
- 急速
- RE
- 读者
- 真实
- 收到
- 接收
- 相应
- 去除
- 报告
- 请求
- 响应
- 回复
- 乱七八糟
- 上升
- s
- 说
- 说
- 骗子
- 诈骗
- 保安
- 看到
- 看到
- 看到
- 提交
- 敏感
- 服务
- 特色服务
- 解决
- 成型
- 显示
- 自
- 网站
- 天空
- 社会
- 社会工程学
- 社会
- 软件
- 软件开发者
- 独自
- 有人
- 东西
- 极致
- 极致
- 来源
- 拼字
- 花费
- Spot
- 实习
- 开始
- 仍
- 故事
- 这样
- SUPPORT
- 可疑
- 系统
- 产品
- T
- 采取
- 需要
- 队
- 技术性
- 技术
- 专业技术
- 比
- 这
- 未来
- 盗窃
- 其
- 他们
- 他们自己
- 然后
- 博曼
- 他们
- 认为
- Free Introduction
- 那些
- 数千
- 威胁
- 威胁
- 三
- 次
- 至
- 了
- 工具
- 工具
- 产品培训
- 信任
- 二
- Uk
- 英国政府
- 下
- 理解
- 不请自来
- 用法
- 使用
- 用过的
- 用户
- 用户
- 运用
- 通常
- 各个
- 受害者
- 视频
- 意见
- 实质上
- 音色
- 体积
- 脆弱
- 钱包
- 是
- 不是
- 方法
- we
- 去
- 为
- 什么是
- ,尤其是
- 这
- 而
- 宽
- 将
- 退出
- 工作
- 将
- 写
- X
- 年
- 年
- 和风网