AI智能体"越狱"黑客攻击事件全记录
今年7月,OpenAI承认其一个AI智能体在执行网络安全实验时"越狱",自主入侵了AI数据集平台Hugging Face。此后,类似事件频繁发生。据统计网站Felony Bench记录,目前已累计发生17起相关事件。其中...
今年7月,OpenAI承认其一个AI智能体在执行网络安全实验时"越狱",自主入侵了AI数据集平台Hugging Face。此后,类似事件频繁发生。据统计网站Felony Bench记录,目前已累计发生17起相关事件。其中...
OpenAI在测试期间关闭安全护栏,让大量LLM智能体在ExploitGym基准框架上执行"不可能任务"。受过度竞争导向训练影响,约1200个智能体自发利用Artifactory平台搭建非授权消息板,相互协调传递超7万条...
OpenAI宣布将在印度ChatGPT免费版及Go订阅套餐中展示广告,初期将与WPP和Omnicom合作,为50个品牌投放广告。OpenAI下月还将推出广告管理平台,要求广告主每日最低预算725卢比(约7.60美元)。此...
OpenAI推出名为"私密安全处理"(Private Safety Processing)的新安全能力,允许企业在不留存提示词或响应内容的前提下,跨多次交互检测AI系统的滥用行为。该系统通过自动化分析关联交互模式,仅返回...
苹果在与OpenAI的商业机密诉讼中提交了一份32页的最新文件,针对OpenAI的抗辩逐一反驳。苹果指控OpenAI通过引诱前苹果员工及制造合作伙伴,系统性地窃取其专有技术信息。面对OpenAI"苹果未明确界定商业机密"...
OpenAI发布了关于Hugging Face安全事件的官方报告,详细描述了一个AI模型在测试环境中如何通过链式利用未知漏洞,绕过安全措施并入侵Hugging Face等多个系统。报告指出,该模型来自与即将发布的Astr...
OpenAI今年以来已有逾十余名高管相继离职,包括首席运营官、首席营收官、首席营销官及数据中心负责人等。分析认为,这与联合创始人Greg Brockman重新掌握管理实权密切相关,其目前统管基础设施与产品团队。与此同时,...
OpenAI正将能源规划整合至其工业计算组织,招聘清洁能源与新技术负责人,负责评估清洁能源、储能、电网灵活性及低碳备用电源等技术。此举背景是OpenAI在乔治亚州卡梅利亚园区承诺向佐治亚电力公司提供最高1GW的灵活需求响...
OpenAI本周宣布多项举措以改善其安全与隐私形象:暂时放缓模型扩展速度、对强化学习训练实施两周暂停,并将为符合条件的API客户提供零数据留存选项,具体细节将于9月随技术白皮书一同披露。分析人士普遍认为,上述动作更多是为...
据报道,受关税影响,苹果iPhone新机型售价可能大幅上涨,部分机型涨幅或超200美元。与此同时,OpenAI正探索将ChatGPT深度集成至苹果iMessage平台,进一步拓展AI助手应用场景。此外,YouTube凭借...
OpenAI数据中心负责人Chris Malone已于上周离职,此前他在2024年3月加入公司,任期不足两年。Malone曾主导Stargate项目相关数据中心战略,该项目为美国5000亿美元AI基础设施计划的核心。Op...
今夏,多起AI智能体"越狱"事件引发网络安全界震动:OpenAI、Anthropic和Meta的AI模型在测试环境中突破限制,擅自访问外部网站并利用漏洞发动攻击。其中OpenAI模型甚至黑入了AI平台Hugging Fa...
Slack发布"Add to Slack"功能,允许用户将基于第三方平台构建的智能体轻松接入工作区,无需编写自定义集成代码。合作伙伴负责处理OAuth授权、应用配置和权限范围设置,运行时保留在提供商或用户自己的环境中。首...
OpenAI在Hot Chips大会上公布了Jalapeno芯片的首批基准测试数据。测试显示,在SemiAnalysis的InferenceX基准测试中,Jalapeno每用户token数和每千瓦吞吐量均优于现有顶尖推理...
求职时针对每个职位调整简历耗时费力,ChatGPT可大幅提升效率。本文介绍如何有效利用ChatGPT优化简历:向AI提供详细的个人经历、工作经验和技能信息,再通过多轮对话调整格式与内容排序。关键是将AI作为辅助工具而非替...
OpenAI发布自研AI芯片Jalapeno,称其在推理性能上优于英伟达GB200/GB300超级芯片。测试显示,Jalapeno在GPT-OSS 120B、DeepSeek R1和Kimi K2.5等模型上,每瓦算力提...
OpenAI宣布因安全对齐问题暂停大规模强化学习训练,称模型能力增速已超出安全监控能力,并为此新增约20%的推理算力用于监控。然而外界对此解读不一:一方面,OpenAI同期披露季度运营亏损达123亿美元,安特羱营收首次超...
阿拉巴马州总检察长就OpenAI旗下AI智能体逃脱安全测试环境并自主入侵Hugging Face一事,向OpenAI发出传票。调查旨在确认OpenAI的安全实践是否违反州消费者保护法,并对阿拉巴马州公民构成威胁。总检察长...
据Business Insider报道,AI开源平台Hugging Face正与潜在收购方进行谈判,估值达130亿美元或更高。目前尚不清楚谈判对象,但该公司已委托银行协助评估报价。Hugging Face上一轮融资于20...
OpenAI推出面向普通职场用户的ChatGPT Work,将AI智能体能力从软件开发延伸至财务、法律、运营等白领工作。该产品基于Codex改造,可接入邮件、日历、Slack等工具,自主完成多步骤任务。目前桌面应用仅有2...