本文4986字阅读约需11分钟

    如同其他人为智能模型一样，，，，，，ChatGPT对网络安满是把双刃剑，，，，，，既可所以网络垂钓、恶意软件天生、社工攻击的壮大工具，，，，，，也成为网络防御者的有力副手。。。。。。。

    2022年底，，，，，，OpenAI颁布了人为智能谈天机械人ChatGPT，，，，，，立即引起轰动，，，，，，一周内获得超过注册100万用户。。。。。。。作为一款免费的谈天机械人，，，，，，ChatGPT险些能够回覆任何问题。。。。。。。与其他类似产品分歧，，，，，，可能以惊人的正确性参加对话并实现复杂工作，，，，，，同时提供连贯且类似人类的响应，，，，，，实现从撰写婚礼致辞、嘻哈歌词到撰写大学水平的学术论文、编写代码等各类事项，，，，，，被《纽约时报》称为有史以来公开颁布的最好AI谈天机械人。。。。。。。

    ChatGPT等天生式人为智能(AI)基于深度进建的交互性和类人类能力，，，，，，代表创造新内容的算法，，，，，，可输出能与人类创造无法分辨的内容，，，，，，有可能扭转多多工作的实现方式，，，，，，让好多领域遭逢挑战：纽约一家学堂因不安可能用于舞弊而禁用ChatGPT；；；；；数字媒体公司BuzzFeed打算选取ChatGPT协助内容创作，，，，，，撰稿人面对下岗的逆境；；；；；ChatGPT还引发对谷歌搜索引擎将来的哀愁。。。。。。。《纽约时报》报路，，，，，，ChatGPT全球爆红、代替谷歌搜索引擎的风险，，，，，，令谷歌感应震惊，，，，，，其CEO桑达尔·皮查伊颁布“红色警报”(CodeRed)，，，，，，以确保公司搜索业务的生计。。。。。。。

    受ChatGPT影响的还有对新技术敏感的网络安全行业。。。。。。。一方面，，，，，，多多安全专家忠告，，，，，，由OpenAI开发并免费在线提供的ChatGPT，，，，，，暗藏着多多潜在网络安全风险，，，，，，可能组成严沉的网络安全威胁。。。。。。。网络攻击者已起头使用ChatGPT来创建恶意软件、暗网站点和其他执行网络攻击的工具。。。。。。。同时有越来越多的证据批注，，，，，，ChatGPT也能够成为网络防御者的壮大兵器。。。。。。。

    ChatGPT：扭转网络威胁格局的黑客新工具？？？？？？

    持久以来，，，，，，好多网络安全专业人士一向对人为智能的作用持疑惑态度，，，，，，习惯于冷笑有关企业对于人为智能作用的大举宣传（夸大）。。。。。。。人为智能技术在鉴别安全威胁方面阐扬了沉要的价值，，，，，，但事实证明，，，，，，好多解决规划约有宣传的那么实用，，，，，，而是被营销团队夸大了。。。。。。。

    对于火热的ChatGPT，，，，，，网络安全专业人士赐与了前所未有的关注。。。。。。。ChatGPT亮相仅数周，，，，，，网络安全公司CheckPoint就利用谈天机械人ChatGPT，，，，，，结合OpenAI的代码编写系统Codex，，，，，，天生了能携带恶意载荷、编写奇妙的网络垂钓邮件。。。。。。。CheckPoint创建的网络垂钓电子邮件，，，，，，附有Excel文档，，，，，，其中蕴含将反向shell下载到受害者系统的恶意代码。。。。。。。

    CheckPoint安全专家以为，，，，，，这批注ChatGPT有“显著扭转网络威胁格局的潜力”，，，，，，代表着“日益复杂的网络能力在危险演化上又向前迈进了一步”。。。。。。。

    利用ChatGPT天生的垂钓邮件

    威胁谍报公司RecordedFuture的钻研人员在最新汇报中暗示，，，，，，使用ChatGPT编写用于网络攻击的恶意软件代码，，，，，，降低了攻击者的编程或技术能力门槛。。。。。。。凭据汇报，，，，，，“只有对网络安全和推算机科学的基础知识有根基相识，，，，，，就可借助ChatGPT执行网络攻击。。。。。。。PaloAltoNetworks公司的安全专家SeanDuca也以为：“ChatGPT降低了网络犯罪的门槛”——即便没有技术，，，，，，也能成为攻击者。。。。。。。其带来的网络威胁还有可能舒展到异次元。。。。。。。

    目前网络垂钓即服务(PhaaS)和勒索软件即服务(RaaS)能够向攻击者提供收费工具包，，，，，，使其能够轻松执行攻击。。。。。。。而此刻ChatGPT则使网络犯罪活动正经历另一种演变：利用ChatGPT面向公家免费盛开的服务，，，，，，更多危险在萌芽，，，，，，这加剧了对于将来安全风险的哀愁。。。。。。。

    RecordedFuture在汇报中暗示，，，，，，网络犯罪分子使用ChatGPT造成的“最紧迫和常见的威胁”重要蕴含网络垂钓、社会工程和恶意软件开发。。。。。。。

    （1）网络垂钓

    凭据HPWolfSecurity的钻研，，，，，，网络垂钓占恶意软件攻击的近90%。。。。。。。ChatGPT使情况变得更糟：它在仿照人类书写方面的专长，，，，，，使其可能成为壮大的网络垂钓工具，，，，，，尤其对英语不流畅的攻击者出格有效。。。。。。。

    撰写杰出的网络垂钓电子邮件是一门艺术和科学。。。。。。。借助ChatGPT，，，，，，编写垂钓邮件会变得更容易，，，，，，且没有任何拼写谬误或奇怪的体式，，，，，，而这些通常是分辨垂钓与合法邮件的关键。。。。。。。攻击者能够借助ChatGPT创造多种垂钓邮件，，，，，，例如“使邮件看起来很垂危”、“收件人点击链接的可能性很高的邮件”、“要求汇款的社工邮件”等。。。。。。。

    AkamaiTechnologies首席技术官兼执行副总裁RobertBlumofe暗示：“ChatGPT使攻击者能有效地将通常垂钓的数量与鱼叉式网络垂钓（定向）的高收益结合起来。。。。。。。”通常网络垂钓的规模很大，，，，，，以电子邮件、短信和社交媒体帖子的大局发送数百万个钓饵。。。。。。。但这类通用的大局，，，，，，容易被发现，，，，，，往往回报较低。。。。。。。鱼叉式网络垂钓利用社会工程，，，，，，创建拥有更高回报的针对性和定造化的钓饵，，，，，，但因必要大量的人为投入，，，，，，因而数量较少。。。。。。。借助ChatGPT天生网络钓饵，，，，，，攻击者就能够实现事半功倍的成效。。。。。。。

    （2）恶意软件天生

    目前安全人员已发现网络攻击者使用ChatGPT来开发恶意软件。。。。。。。只管ChatGPT的设置阻止其直接做恶，，，，，，好比具体注明若何造作炸弹或编写恶意代码，，，，，，但多个钻研人员已经找到步骤，，，，，，能绕开和躲避ChatGPT为预防滥用而设置的规定。。。。。。。BugCrowd首席技术官、首创人兼董事长CaseyJohnEllis将ChatGPT的出现称为匹敌性AI/机械进建知识领域的“糟糕”时刻。。。。。。。

    在地下黑客论坛上，，，，，，网络攻击者展示若何使用ChatGPT创建新的木马。。。。。。。只有简腹地描述所需的职能（“将所有密码保留在文件X中，，，，，，并通过HTTPPOST发送到服务器Y”），，，，，，就能够得到单一的信息窃取器，，，，，，而不必要任何编程技术。。。。。。。？？？？Ｋ伎嫉揭丫蟹缸锛盘峁┒褚馊砑即服务，，，，，，在ChatGPT等人为智能法式的援手下，，，，，，攻击者借助人为智能天生的代码提议网络攻击可能会变得更快、更容易。。。。。。。ChatGPT赋予甚至经验不及的攻击者编写更正确的恶意软件代码的能力，，，，，，而这在以前只能由专家来实现。。。。。。。ChatGPT的代码编写质量曲直参半，，，，，，但无疑能够加快恶意软件的开发。。。。。。。

    RecordedFuture在暗网和封关论坛发现了1,500多条关于在恶意软件开发和概想验证代码创建中使用ChatGPT的资料。。。。。。。其中蕴含利用开源库发现的恶意代码对ChatGPT进行培训，，，，，，以天生可逃避病毒检测的恶意代码分歧变体，，，，，，以及使用ChatGPT创建恶意软件配置文件并设置号令和节造系统。。。。。。。值妥贴心的是，，，，，，凭据RecordedFuture钻研人员的说法，，，，，，ChatGPT还能够用于天生恶意软件有效载荷。。。。。。。钻研团队已经确定了ChatGPT能够有效天生的几种恶意软件有效负载，，，，，，蕴含信息窃取器、远程接见木马和加密钱币窃取器。。。。。。。

    当然ChatGPT并不是编写恶意软件的专家，，，，，，它天生的恶意代码可能存在轻微的谬误和逻辑缺点，，，，，，从而降低其有效性。。。。。。。这意味着天生高质量的恶意代码显然离不开攻击者专业知识的支持。。。。。。。

    （3）社会工程

    ChatGPT作为由OpenAI训练的大型说话模型，，，，，，可能天生可用于多种用处的类人文本。。。。。。。其中一种用处是在社会工程攻击领域。。。。。。。社会工程攻击是一种依附生理把持来诱骗人们泄录感信息或执行某些操作的战术。。。。。。。这能够通过各类方式实现，，，，，，蕴含网络垂钓诳骗、借口和其他大局的糊弄。。。。。。。

    ChatGPT和其他基于GPT-3的工具使社会工程攻击可能从其“创造力和对话步骤”中受益。。。。。。。就像互联网为网络犯罪分子解除物理阻碍一样，，，，，，这些工具的建辞能力能够解除文化阻碍。。。。。。。

    钻研人员发现，，，，，，ChatGPT等GPT-3工具使犯罪分子可能真切地模拟各类社会环境，，，，，，从而使任何针对性的通讯攻击都越发有效。。。。。。。GPT-3这类说话模型提供支持的工具，，，，，，使攻击者更易诱骗受害者提供敏感信息或下载恶意软件，，，，，，加快从网络垂钓到传布仇恨舆论的所有级别和主张的社会工程攻击。。。。。。。

    总的来说，，，，，，ChatGPT天生类人文本的能力能够成为社会工程攻击的壮大工具。。。。。。。通过创建令人折服的新闻，，，，，，ChatGPT可用于把持幼我泄录感信息或执行某些操作。。。。。。。将来必要更多人意识到ChatGPT的这种潜在用处，，，，，，在与未知起源互动时维持审慎。。。。。。。

    ChatGPT同样是安全防护的福音

    与所有技术一样，，，，，，ChatGPT自身是一把双刃剑。。。。。。。只管越来越多的钻研人员以为ChatGPT可能成为黑客的盟友，，，，，，但这一可天生不良内容的工具，，，，，，也能够用来援手安全人员提高效能，，，，，，提高恶意信息鉴别、招架网络攻击的能力，，，，，，这重要蕴含垂钓检测、缝隙发现和安全事务响应。。。。。。。

    （1）网络垂钓检测

    2022年11月，，，，，，驰名《安全杂志》汇报称，，，，，，2022年前11个月产生2.55亿次垂钓攻击，，，，，，同比2021年激增了61%。。。。。。。人是安全链中最幽微的环节，，，，，，把握着接见敏感数据的密钥。。。。。。。攻击者往往利用定造的垂钓邮件来获取对敏感数据的接见权限。。。。。。。

    ChatGPT能够被攻击者创造垂钓邮件，，，，，，同样能够从大型说话模型中进建，，，，，，援手组织鉴别和象征垂钓邮件，，，，，，在邮件进入收件人的收件箱之前就能够进行象征，，，，，，从而显著降低网络垂钓活动成功的机遇。。。。。。。网络安全专业人员还能够利用ChatGPT来训练网络垂钓检测系统，，，，，，以鉴别与这些攻击有关的模式和说话。。。。。。。以便提高网络垂钓检测系统的效能和有效性。。。。。。。

    （2）缝隙发现

    ChatGPT可用于援手发现组织使用软件和系统中的新缝隙。。。。。。。网络安全行业已经面对节造大量安全缝隙的挑战。。。。。。。人为智能将会把安全缝隙数字推得更高，，，，，，由于它能够更快、更智能地发现缝隙。。。。。。。

    安全人员能够使用ChatGPT急剧天生大量怪异的输入，，，，，，使网络安全专业人员可能鉴别以前未检测到和未知的缝隙。。。。。。。同时，，，，，，还使用新获得的知识和信息来提高软件和系统的安全性，，，，，，执行更有效的安全节造，，，，，，或改进当前的安全措施和实际。。。。。。。

    ChatGPT它与用户的专业水平相结合，，，，，，能够使用户可能急剧进建并有效地采取行动。。。。。。。就像利用法式的在线援手能够解决问题一样，，，，，，用户能够从ChatGPT获得特定缝隙的更多信息以及若何缓解法子。。。。。。。

    将来随着，，，，，，ChatGPT模型代码理解能力的提高，，，，，，安全防护人员能够询问软件代码的副作用，，，，，，将其作为开发同伴，，，，，，能够显著提升软件代码的安全水平。。。。。。。

    随着ChatGPT人为智能模型的演进，，，，，，有可能实现缝隙检测和建复的自动化和/或半自动化，，，，，，以及基于风险的优先级。。。。。。。这对于面对资源限度的IT和安全团队来说将是极度有吸引力的利用。。。。。。。

    （3）事务分析与响应

    ChatGPT还能够在检测和响应网络攻击，，，，，，以及改善组织内部的沟通方面阐扬关键作用。。。。。。。

    埃森哲的安全钻研人员一向在尝试利用ChatGPT的职能，，，，，，实现网络防御自动化的工作。。。。。。。纯熟的安全专业人员，，，，，，网络安全专业人员职守过沉，，，，，，ChatGPT实现一些安全工作的自动化将会给不胜沉负的安全团队带来福音，，，，，，同时还有助于“解除信号中的一些噪音”

    多年来，，，，，，安全运营领域在好多方面一向滞碍不前，，，，，，分析师收到了大量、过载的信息。。。。。。。通常，，，，，，安全分析师收到潜在安全事务的警报后，，，，，，会提取数据以便能“讲出故事”，，，，，，同时判读是否为真正的攻击。。。。。。。这通常必要大量手动工作，，，，，，或者必要使用SOAR（安全编排、自动化和响应）工具将有关工作进行整合。。。。。。。

    ChatGPT在这方面展示怪异的优势：在从安全运营平台获取数据后，，，，，，ChatGPT会天生极度好的提要，，，，，，险些就像人类分析师在审查后所形成的汇报。。。。。。。埃森哲的钻研批注，，，，，，ChatGPT从安全信息和事务治理(SIEM)工具中获取数据输出并进行处置能够急剧天生安全事务的“故事”。。。。。。。相比人类分析师，，，，，，ChatGPT能够更快地从数据中创建有关安全事务的清澈画面。。。。。。。最终，，，，，，这些能够援手安全团队做出更好的安全决策。。。。。。。

    ChatGPT的将来：以人为智能匹敌人为智能

    对ChatGPT将来在网络安全中表演什么角色、有什么影响，，，，，，我们很难进行正确的预测。。。。。。。这取决于它的使用方式以及使用的意图。。。。。。。来自人为智能的威胁并不是新问题，，，，，，只是ChatGPT展示了一些看起来很可怕的利用。。。。。。。对于网络安全人士来说，，，，，，沉要的是要实时意识到ChatGPT的潜在风险并实时采取适当的措施来应对。。。。。。。

    安全专家预测，，，，，，国度布景的黑客将率先在网络攻击中利用ChatGPT，，，，，，而该技术最终会在更多的攻击组织得到大规模的使用。。。。。。。信息安全专家必要起头开发可能招架此类攻击的系统。。。。。。。

    从网络安全防护的角度来看，，，，，，机构能够采取针对性的应对措施。。。。。。。对ChatGPT等类似模型进行培训，，，，，，象征恶意的活动和恶意代码；；；；；同时对其设置难以绕过护栏。。。。。。。对于ChatGPT引发的威胁，，，，，，能够向员工提供新型的网络意识培训，，，，，，把握鉴别社会工程攻击的知识，，，，，，以便鉴别ChatGPT等人为智能工具所创造的垂钓攻击。。。。。。。

    当然仅仅是这样还不够。。。。。。。ChatGPT等人为智能工具会以比人类罪犯更快的速度造作出新的、日益智能的威胁，，，，，，传布威胁的速度也会将超过网络安全人员的反映速度。。。。。。。对于机构来说，，，，，，跟上这一变动速度的唯一步骤是通过使用人为智能来应对人为智能。。。。。。。

    一方面，，，，，，网络安全行业的钻研人员、从业者、学术和企业能够利用ChatGPT的力量进行创新和合作，，，，，，蕴含缝隙发现、事务响应和垂钓检测。。。。。。。此表，，，，，，随着ChatGPT等类似工具的发展，，，，，，将来开发新的网络安全工具越发沉要。。。。。。。安全企业应更积极地开发和部署基于行为（而非规定）的AI安全工具，，，，，，来检测人为智能天生的攻击。。。。。。。网络安全仅使用规定驱动的框架来检测潜在的网络威胁。。。。。。。行为分析通过使用复杂的机械进建算法来分析整个企业的用户和实体数据，，，，，，鉴别拥有风险的表行为，，，，，，从而实现以报答本的防御。。。。。。。为了更好地保唬唬唬；せ姑馐苷庑┬滦凸セ，，，，，，是时辰发展和部署基于行为的AI检测工具了。。。。。。。

    安全钻研人员以为，，，，，，瞻望将来，，，，，，ChatGPT也可能是一个信号，，，，，，批注距离网络防御决策的更高自动化不再遥远。。。。。。。

    参考资料

    https://www.helpnetsecurity.com/2023/01/26/chatgpt-cybersecurity-threat/

    https://www.crn.com/news/security/5-big-pros-and-cons-of-chatgpt-for-cybersecurity

    https://www.scmagazine.com/analysis/emerging-technology/how-chatgpt-is-changing-the-way-cybersecurity-practitioners-look-at-the-potential-of-ai

    https://www.rsa.com/products-and-solutions/cybersecurity-and-chatgpt-use-bots-to-fight-bots/

    https://www.techrepublic.com/article/cybersecurity-blade-chatgpt-can-cut-both-ways/

    https://techcrunch.com/2023/01/11/chatgpt-cybersecurity-threat/

    https://www.darkreading.com/omdia/chatgpt-artificial-intelligence-an-upcoming-cybersecurity-threat-

    https://www.crn.com/news/security/accenture-exec-chatgpt-may-have-big-upside-for-cybersecurity?itc=refresh