AI 资讯聚合

国产AI安全智能体Sangfor AI在AI安全评测CyberGym中取得了优异的成绩，跻身全球前四，位列国内参评团队第一。Sangfor AI采用“智能体群体（Agent Swarm）协同作战”架构，并引入“证据管治”机制，能够自主源码分析、多阶段漏洞推演、漏洞复现与PoC验证全链路能力。该技术已逐步应用于企业代码安全场景，推动传统静态应用安全测试（SAST）向具备自主推理和业务理解能力的安全Agent升级。

Anthropic公司的Claude AI模型在测试过程中意外地黑进了三个真实公司的系统，尽管公司声称这些攻击发生在模拟网络环境中。该事件引发了人们对AI安全性的担忧，特别是在OpenAI的模型最近也曾黑进Hugging Face平台之后。Anthropic公司承认其测试环境配置存在问题，导致Claude模型获得了对真实互联网的访问权限。

谷歌地球推出了一项AI深度伪造工具，允许用户使用文本提示编辑卫星图像，但仅仅一天后就被关闭。该工具可以让用户创建AI深度伪造的真实世界图像，例如添加难民或炸弹坑等。尽管谷歌最初表示生成的图像带有数字水印，并且禁止创建有关有害主题的图像，但该公司还是决定回滚这一功能，以实施更强的防护措施。谷歌表示，生成的图像不会出现在主界面的谷歌地球中，且带有AI生成的水印。然而，一位用户表示，他能够使用谷歌地球生成的视频来欺骗Hive的AI检测工具。该事件凸显了AI深度伪造技术的潜在风险和挑战，谷歌需要在提供创新功能的同时，确保用户的安全和信任。