美国政府警告:ChatGPT存在重大安全风险


一知半解
一知半解 2023-07-11 14:25:44 65929
分类专栏: 资讯

近日,美国联邦政府发布了一份报告,称用户需密切注意ChatGPT存在的网络安全风险,尤其是在网络钓鱼和恶意软件开发领域。

图片

在其发布的咨询意见报告中,政府部门警告,尽管微软支持的人工智能工具ChatGPT获得了前所未有的成功,吸引了大量头部企业和资本疯狂涌入AI赛道,一时间AI成为当下最为火热的赛道之一。

但是,AI 也带来了安全方面的风险,尤其是在网络钓鱼邮件制作和恶意软件生成等方面,以ChatGPT为代表的AI工具存在重大安全风险。该报告指出,为了防止这类AI工具带来的威胁,企业必须积极主动地采取极其谨慎、尽职尽责和密切注意的态度,避免出现更糟糕的情况。

一、攻击者正在利用ChatGPT放大作恶能力

该报告列举了恶意攻击者使用ChatGPT的部分方法清单,具体如下所示:

 

1.恶意软件生成: 利用ChatGPT生成恶意软件不再只是一种可能存在的理论,恶意攻击者对它的利用已经越来越熟练,并且在暗网上开始了各种各样的讨论和尝试。

 

 

2.制作网络钓鱼电子邮件:和恶意软件生成不同的事,在钓鱼邮件方面ChatGPT已经向用户展现出其强大的能力。恶意攻击者可以利用它来生成网络钓鱼和鱼叉式网络钓鱼电子邮件,并且这些电子邮件有可能通过电子邮件提供商的垃圾邮件过滤器。

 

 

3.诈骗网站: 通过降低代码生成门槛,ChatGPT 可以帮助技能较低的威胁行为者轻松构建恶意网站,例如伪装和网络钓鱼登陆页面。例如,零技能或很少技能的恶意行为者可以使用 ChatGPT 克隆现有网站,然后对其进行修改、构建虚假电子商务网站或运行带有恐吓软件诈骗的网站等。

 

 

4.发布虚假信息: 通过 ChatGPT,用户可以使用能够撰写极具说服力的散文、在短时间内生成数千条虚假新闻报道和社交媒体帖子的软件。

 

二、企业&用户安全防范指南/预防措施

1、提高对钓鱼邮件的防范

  • 千万不要打开未知、意外或可疑的电子邮件、链接和附件;
  • 在下载附件之前,使用电子邮件服务提供商提供的防病毒软件对其进行扫描,即便是可信任的附件。如果电子邮件服务不提供病毒扫描功能,则所有下载的文件在打开前都可以用本地的杀毒软件扫描;
  • 对所有计算机设备,包括个人台式电脑、笔记本电脑、手机、可穿戴设备等操作系统和软件应用程序进行更新;
  • 在所有的计算机设备中使用著名的、可信的防病毒软件;
  • 不要在官方设备上使用个人账户;
  • 尽可能使用多因素身份验证(MFA);
  • 绝不与未经授权/可疑的用户、网站、应用程序等共享个人信息和证书;
  • 始终在浏览器中键入URL,而不是直接点击链接.
  • 始终用https开放网站打开链接,不访问http网站。

2.识别恶意软件伪装指南

(1)管理员

  • 通过在操作系统、BIOS和应用程序级别上实现强化系统,尽可能地限制传入的流量和用户权限;
  • 通过系统强化来阻止未经授权的存储介质(例如 USB);
  • 经常格式化可移动媒体,尽量避免恶意软件在系统内横向传播;
  • 通过文件哈希、文件位置、登录和失败的登录尝试来监控网络活动;
  • 使用知名的、可信的反恶意软件、防病毒、防火墙、IP、IDS、SIEM解决方案;
  • 对离线 LAN 和在线网络使用单独的服务器/路由;
  • 根据需要允许特定用户访问互联网并限制数据使用/应用程序权限;
  • 下载之前通过数字代码签名技术验证软件和文档;
  • 在邮件系统管理员控制和其他关键系统中实施 MFA(多重身份验证);
  • 始终定期维护关键数据的备份;
  • 定期更改管理员级别的密码;
  • 定期修补和更新所有操作系统、应用程序和其他技术设备;
  • 为了减少恶意代码执行的攻击面,建议用户始终使用具有标准用户权限的帐户登录。

(2) 终端用户

  • 下载之前,请务必重新验证通过辅助方式(电话、短信、口头)发送电子邮件/附件的受信任用户;
  • 立即向管理员报告任何可疑活动;
  • 切勿将关键数据存储在在线系统上,而应将其存储在独立系统上。
(3)ChatGPT用户安全准则
  • 使用 ChatGPT 时,请注意共享的信息。避免共享敏感或机密信息,例如密码、财务信息或个人详细信息。
  • 谨慎对待链接和附件。ChatGPT 可能会提供链接或附件作为其答案的一部分,但在单击它们之前请务必小心谨慎。请务必验证链接或附件的来源,并谨防可疑/未知来源。
  • 政府机构工作人员手机不得用于 ChatGPT。

(4) 如果在使用ChatGPT时遇到安全问题,请立即向Open AI报告。

信息安全不容忽视,培养安全人才是大势所趋,高薪行业欢迎你的加入。天融信教育7月认证课程安排已出,详情请咨询~

图片

7月开课计划表

图片

网站声明:如果转载,请联系本站管理员。否则一切后果自行承担。

本文链接:https://www.xckfsq.com/news/show.html?id=26051
赞同 0
评论 1 条
  • 小冬 2023-07-12 14:44:52

    楼主 这个原文是美国联邦政府在哪个网站上发布的呢 求教

    赞同 0 反对 0
    回复

一知半解L2
粉丝 0 发表 61 + 关注 私信
上周热门
银河麒麟添加网络打印机时,出现“client-error-not-possible”错误提示  1323
银河麒麟打印带有图像的文档时出错  1236
银河麒麟添加打印机时,出现“server-error-internal-error”  1023
统信桌面专业版【如何查询系统安装时间】  951
统信操作系统各版本介绍  944
统信桌面专业版【全盘安装UOS系统】介绍  903
麒麟系统也能完整体验微信啦!  889
统信【启动盘制作工具】使用介绍  499
统信桌面专业版【一个U盘做多个系统启动盘】的方法  441
信刻全自动档案蓝光光盘检测一体机  386
本周热议
我的信创开放社区兼职赚钱历程 40
今天你签到了吗? 27
信创开放社区邀请他人注册的具体步骤如下 15
如何玩转信创开放社区—从小白进阶到专家 15
方德桌面操作系统 14
我有15积分有什么用? 13
用抖音玩法闯信创开放社区——用平台宣传企业产品服务 13
如何让你先人一步获得悬赏问题信息?(创作者必看) 12
2024中国信创产业发展大会暨中国信息科技创新与应用博览会 9
中央国家机关政府采购中心:应当将CPU、操作系统符合安全可靠测评要求纳入采购需求 8

添加我为好友,拉您入交流群!

请使用微信扫一扫!