跳到正文

技术方向

安全对齐 最新动态

AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。

3 条精选近 30 天 3 条共收录 6 条

更新

安全对齐的精选

今天10月16日周五第 1–3 条
  1. Latent Space78

    [AINews] Meta发布Muse Spark Open,Goodfire发文反驳多语义性

    Meta发布Muse Spark Open,参数量达816B / 42B,支持1M上下文,推理价格为$1.25/$4.25每1M输入/输出token。Goodfire的Nick Cammarata发文指出大多数神经元具备可读性,多语义案例多被误读;AI Twitter Recap收录了该观点及多篇针对多语义性理论的独立批驳。

    推荐理由:该报道对Meta最新开源大模型Muse Spark Open的核心架构及推理成本进行了细致拆解,并为工程侧提供了跨平台部署与量化落地的参考。

10月1日周四
  1. Google DeepMind95

    Google DeepMind 发布 Gemini 4 Argon 模型

    Google DeepMind 发布新前沿模型 Gemini 4 Argon,目前正通过 Fairwind 计划向可信网络防御者提供。该模型输出 token 限制扩展至 1M,定价为每百万输入 token 2 美元、输出 token 10 美元。

    推荐理由:官方披露了 Gemini 4 Argon 在 1M 输出 token 及内部工程优化中的具体表现,并说明了分阶段安全发布策略。

9月25日周五
  1. GitHub Blog · AI & ML60

    GitHub Security Lab 发布 AI 驱动的模糊测试 Taskflow 智能体

    GitHub Security Lab 推出 Fuzzing Taskflow 智能体,用于自动化 C/C++ 项目的模糊测试流程。该智能体基于 Taskflow Agent 框架构建,能够自主识别入口点、生成测试桩、运行 AFL++ 并进行崩溃分诊。默认使用 Claude Sonnet 5 模型,通过 MCP 工具实现决策与执行分离。

    推荐理由:文章展示了如何利用 LLM 智能体自动化模糊测试中的覆盖率分析与崩溃分诊,为 C/C++ 项目维护者提供了可复用的安全工程实践。