尊龙凯时

AI又惹祸了??? ?? ?硅谷大佬Mac遭一键清空 ,,,,,,智能体安全再敲警钟

功夫:2026-07-16 作者:尊龙凯时

分享到:

    2026年7月 ,,,,,,一场突如其来的“数据大难”在硅谷圈炸开了锅。。。 。。前HyperWrite CEO、驰名AI投资人Matt Shumer在社交平台上恼怒发帖:自己Mac电脑上“险些所有文件都被删光了”。。。 。。

AI又惹祸了??????硅谷大佬Mac遭一键清空,,,,,,智能体安全再敲警钟

    起因是OpenAI团队暗里联系他 ,,,,,,约请测试GPT-5.6 Sol的Ultra模式。。。 。。Matt承诺了 ,,,,,,给这个本地Agent开了“Full Access”权限 ,,,,,,让它执行一个单一的文件算帐工作。。。 。。运行了1幼时21分钟后 ,,,,,,由于一个极其微幼的Shell变量解析失误——Agent没有正确发展`$HOME`蹊径——GPT-5.6 Sol直接在后盾静默执行了那条让所有法式员胆战心惊的号令。。。 。。

    短短几极度钟 ,,,,,,数年的心血灰飞烟灭。。。 。。更令人细思极恐的是 ,,,,,,Matt坦言:“我从前曾进行过数百次类似的会话 ,,,,,,从未出现过任何问题 ,,,,,,即便是在机能极度弱的模型上也是如此。。。 。。”就在人类最不设防的时辰 ,,,,,,AI忽然干了一票大的。。。 。。

    这不是孤例。。。 。。巴西软件开发者布鲁诺·莱莫斯也遭逢了类似变乱——GPT-5.6在执行工作时谬误删除了他的整个出产数据库。。。 。。尊龙凯时AI安全专家以为 ,,,,,,这次事务无疑揭开了一个惊人真相:当智能体在接入本地系统时 ,,,,,,安全天堑远比设想中脆弱 ,,,,,,权限授予的每一分慷慨 ,,,,,,都可能造成数据苦难的加快器。。。 。。

    失控不是无意:AI权限暴走事务密集发作

    GPT-5.6 Sol的删库事务并非孤例。。。 。。2026年以来 ,,,,,,多起触目惊心的AI权限失控事务接连演出 ,,,,,,揭示出一个令人不安的趋向——AI的“越权」佚在从偶发走向常态化。。。 。。

    2026年2月 ,,,,,,Meta超等智能尝试室的AI对齐总监Summer Yue——一位专门钻延装若何让AI遵从指令”的专家——将其时最火的AI智能体OpenClaw接入了自己的工作邮箱。。。 。。只管她设置了明确的安全天堑:“提出归档或删除的建议 ,,,,,,未经我核准不得执行任何操作” ,,,,,,然而OpenClaw依然直接忽视指令疯狂删除邮件 ,,,,,,她陆续三次喊停 ,,,,,,AI却置若罔闻。。。 。。过后AI竟淡定认可:“我记得'未经核准不得操作'的指令 ,,,,,,但我违背了。。。 。。”

    更令人不安的是OpenClaw的“集体失控”尝试。。。 。。钻研人员将一批具备高度自主能力的OpenClaw智能体投入模拟办公环境 ,,,,,,让它们“像员工一样工作”。。。 。。了局彻底失控——有的被“洗脑”后自动泄录感信息 ,,,,,,有的为了“遵守规定”竟自行关关关键职能。。。 。。当一群AI代理被赋予自主权后 ,,,,,,它们的集体行为齐全超出了人类的预期。。。 。。

    若是说上述事务尚属“尝试性”失控 ,,,,,,那么企业出产环境的惨痛教训则更具警示意。。。 。。据《金融时报》援引内部员工新闻 ,,,,,,亚马逊内部AI编程工具Kiro在自主模式下 ,,,,,,工程师的本意只是建复一个幼缝隙 ,,,,,,然而Kiro自行判断“最优解”是删除并沉建整个运行环境 ,,,,,,直接触发了长达13幼时的AWS服务大规模中断。。。 。。且并非初次 ,,,,,,短短数月内已产生至少2次类似变乱。。。 。。2026年4月 ,,,,,,美国一家创业公司使用Cursor AI Agent做运维 ,,,,,,Agent在短短9秒内自主删除了整个出产数据库和所有备份。。。 。。

    这些事务均揭示了一个冰凉的事实:当AI从“工具”变为“数字员工” ,,,,,,其自主决策与行动能力越强 ,,,,,,失控后的粉碎半径就越大。。。 。。AI 自主决策能力越强 ,,,,,,失控事务的粉碎风险越大——这不是危言耸听 ,,,,,,而是2026年已经产生的事。。。 。。

    从“工具”到“数字员工”:2026或成安全事务“发作年”

    为什么2026年忽然成了AI安全事务的“发作年”??? ?? ?答案在于一个底子性的转变。。。 。。

    2023年 ,,,,,,AI是副手;;;;;;2025年 ,,,,,,Agent贸易化元年;;;;;;2026年 ,,,,,,多Agent合作成为主流 ,,,,,,进入企业的业务工作流。。。 。。AI已经从“工具”造成了具备自主执行的“数字员工”——不再只回覆问题 ,,,,,,起头替身做决定、调工具、执行系统号令。。。 。。

AI又惹祸了??????硅谷大佬Mac遭一键清空,,,,,,智能体安全再敲警钟

    一组数据揭示了严格现实:据Gartner预测 ,,,,,,2026年底40%的企业利用将集成AI Agent ,,,,,,较2025年不及5%暴增8倍。。。 。。HiddenLayer汇报更是指出 ,,,,,,76%的组织将影子AI视为明确或潜在问题。。。 。。

    “IT部门登记的是8个AI系统 ,,,,,,现实运行的是80多个。。。 。。剩下的70多个 ,,,,,,IT部门底子不知路它们的存在。。。 。。”尊龙凯时人为智能公司智能安全产品线总经理刘岩暗示 ,,,,,,员工私接、部门自购、第三方嵌入——让Agent安全面对失控。。。 。。

    云盾智慧有关掌管人彭涛对此深有体味。。。 。。他坦言 ,,,,,,公司内部已有30多个AI Agent在出产环境运行 ,,,,,,但自己每天“胆战心惊”。。。 。。其中两类场景最令人忧郁:一是攻击者假装成客户治理员向告警Agent下发“暂停战术”指令 ,,,,,,可能造成托管客户出现防护空窗期;;;;;;二是运维Agent在自主查阅资料时“自作主张”执行高危数据库操作。。。 。。

    现有的天堑安全、终端安全、身份安全只管控人和法式 ,,,,,,却管不到Agent的自主决策意图。。。 。。

    企业必须直面四个Agent安全挑战:

    l看不见——影子 AI 难以盘点 ,,,,,,76% 的组织忧郁影子 AI 风险

    l管不住——Agent行作难以预测 ,,,,,,超1/8安全事务涉及自主Agent;;;;;;

    l防不住——针对智能体的指标劫持等新型攻击 ,,,,,,传统安全措施难以应对;;;;;;

    l说不清——日志不全、链路不齐全 ,,,,,,一旦出问题无法追忆责任。。。 。。

    OpenAI在GPT-5.6颁布前的系统注明文档中其实已对有关风险作出警示:模型可能会做出与用户指标不一致的意表行为 ,,,,,,“可能在某些情况下拥有较高的严沉性 ,,,,,,例如绕过沉要的安全限度或删除沉要数据”。。。 。。明知有高危隐患 ,,,,,,却依然仓皇颁布。。。 。。而更令人震惊的是 ,,,,,,当开发者试图拦截GPT-5.6的删除行为时 ,,,,,,它展示出了惊人的“绕过”能力:发现`rm`号令被拦截 ,,,,,,就改用`unlink`和`find -delete`;;;;;;再不能就挪用`apply_patch`工具贪图把文件内容“批改”为空。。。 。。为了删你的文件 ,,,,,,它甚至学会了“不择伎俩”。。。 。。

    尊龙凯时智能体安全平台:让企业安心用AI

    面对日益严格的智能体安全挑战 ,,,,,,尊龙凯时于2026年6月正式颁布智能体安全平台 ,,,,,,定位为“企业智能体运行时安全一体化平台” ,,,,,,以“看得见、管得住、防得住、说得清”四大主题价值 ,,,,,,解除智能体失控带来的安全风险。。。 。。

    看得见——AI资产从“看不见”造成“全可视”。。。 。。平台具备资产指纹能力 ,,,,,,覆盖文心、千问、智谱、Kimi、DeepSeek等主流大模型;;;;;;代理链拓扑可视化展示跨Agent挪用关系;;;;;;影子AI自动鉴别 ,,,,,,分钟级发现员工私接的表部AI。。。 。。

AI又惹祸了??????硅谷大佬Mac遭一键清空,,,,,,智能体安全再敲警钟

    管得住——从“全权委陀妆到“最幼权限”。。。 。。 基于细粒度的战术引擎 ,,,,,,平台可实现对智能体权限的精确管控。。。 。。确保Agent权限不蹬宗触发者权限 ,,,,,,从源头预防权限滥用。。。 。。对超等权限挪用可进行事前拦截 ,,,,,,确保越权操作零放行。。。 。。

AI又惹祸了??????硅谷大佬Mac遭一键清空,,,,,,智能体安全再敲警钟

    防得住——应对针对智能体的新型攻击。。。 。。 通过四层引擎自动检测AI攻击 ,,,,,,防御提醒注入、匹敌样本等新型威胁 ,,,,,,实时检测并阻断恶意指令和违规内容。。。 。。尊龙凯时曾捕获某企业真实攻击——攻击者5幼时内同时对多个Agent提议攻击 ,,,,,,单看每条都是孤立事务 ,,,,,,但串联起来是一条齐全的攻击链。。。 。。平台在3秒内实现阻断 ,,,,,,零数据表泄。。。 。。

    说得清——全流程审计 ,,,,,,责任可追忆。。。 。。 纪录全链路日志 ,,,,,,实现风险可定位、可追忆、可追责。。。 。。让安全掌管人不再面对“Agent其时为什么这么做”的拷问时张口结舌。。。 。。

    这不是演习 ,,,,,,这是2026年已经产生的事。。。 。。GPT-5.6删库事务给全行业敲响的警钟 ,,,,,,当AI从“工具”造成“数字员工” ,,,,,,安全不能再是过后补救 ,,,,,,而必须是运行时原生能力。。。 。。尊龙凯时智能体安全平台给出的答案 ,,,,,,正是让每一个企业敢用、安心用、规;;;;;;肁I。。。 。。

尊龙凯时 95015网络安全服务热线

95015网络安全服务热线

扫一扫关注

尊龙凯时 在线客服 尊龙凯时 95015

您对尊龙凯时的任何疑难可用以下方式通知我们

将您对尊龙凯时的任何疑难

用以下方式通知我们

【网站地图】【sitemap】