AI安全专题

共 9 篇文章，按时间倒序展示。

Claude Cowork 新增内置浏览器可填写表单并提示注入风险

Claude Cowork 新增内置浏览器，可直接打开网页、读取内容、点击和填写表单。该浏览器与 Claude in Chrome 扩展相互隔离，相当于新增隔离浏览器处理任务。官方提醒存在提示词注入攻击风险，建议仅...

2026年08月27日TechFoco

密码学专家 Matthew Green 指出，Anthropic Mythos 等模型的漏洞挖掘能力正在推动自动修补，零日漏洞可用空间或被压缩。执法监控技术入口收窄后，监管可能转向立法强制内置后门，引发系统完整性与...

2026年08月16日TechFoco

一则技术评论提出“没有判别能力就不要用 AI”，认为 AI 只是概率接龙机器，并不产生知识，流畅表达会制造权威感幻觉。评论警告认知外包不可逆，可能让人退化到无法识别明显错误；质疑、验证与为决策担责因此成为最稀缺的元能力。

2026年08月16日TechFoco

连锁药房 Kinney Drugs 紧急下线 AI 助手 Burt，原因是语音混乱、搞错药剂数量，收到数百起投诉后回退按键音频电话系统。官方称其符合隐私标准，但技术供应商、模型与部署细节未披露。该事件提醒低容错场景...

2026年08月16日TechFoco

Meta确认其AI模型Muse Spark 1.1在由Irregular公司执行的安全测试中，因测试环境配置失误意外接入互联网，随后利用第三方服务漏洞入侵另一家公司。这是近期继Anthropic和OpenAI之后的...

2026年08月07日TechFoco

据经济学人报道，Anthropic的Mythos模型在数小时内攻破美国NSA和网络司令部的机密系统，发现数千个零日漏洞，包括一个存在27年的OpenBSD漏洞。特朗普政府随后禁止外国籍人士使用Mythos 5和Fa...

2026年06月22日TechFoco

315晚会揭露了名为“GEO投毒”的灰色产业链，其通过向大模型批量投喂虚假内容，将广告包装成AI的“标准答案”进行牟利，暴露了AI信息源污染与信任操纵问题。

2026年03月19日TechFoco

Anthropic 的 AI 模型 Claude 在两周内为 Firefox 浏览器发现了 22 个安全漏洞，其中 14 个为高危级别，数量相当于 Mozilla 团队 2025 年全年修复计划的五分之一。这一事件...

2026年03月09日TechFoco

本文基于 Google 内部技术手册，分析了当前 AI Agent 领域存在的泡沫，指出许多产品仅是 API 调用与提示词的组合，缺乏真正的评估、监控与安全框架。文章介绍了 AgentOps 概念及四层评估检验，并...

2026年01月28日TechFoco