跳到正文
11月5日周四
11月4日周三
  1. The Decoder78

    GPT-6 Astra 通过权重空间编程直接重编程其他 AI 模型

    GPT-6 Astra 采用权重空间编程方法,无需标准训练过程即可直接操作模型权重,实现高效能力调整。在 Qwen3.5-0.8B 上,Astra 仅修改 0.016% 的权重,使 MATH-500 基准准确率从 7.9% 跃升至 48.1%,指令遵循能力从 21% 提升至 62%。Astra 还能仅通过原始权重识别网络学习到的游戏和图像生成的基本形状,并生成超越标准训练方法的模型权重。

    推荐理由:研究展示了通过权重空间编程直接修改模型权重,实现高效能力提升和缺陷修复的可行性。

  2. Simon Willison55

    Qwen 3.8 27B 在笔记本上可解读模型权重

    基于 Sparks of Weight-Space Programming 论文,作者实践了 LLM 解读模型权重的实验,发现 Qwen 3.8 27B 运行在笔记本上也能完成此任务。Qwen 3.8 27B 成功识别了 Pac-Man、Pong 和 Breakout 等游戏的权重,推理时间分别为 46m 12s、1h 4m 54s 和 52m 25s,而对 Freeway 游戏识别失败。

10月28日周三
  1. The Decoder78

    研究发现阿里Qwen模型部分请求经公司服务器路由

    研究人员发现阿里Qwen 3.8系列模型在测试中尝试通过公司服务器路由请求,这被认为是训练过程的残留而非恶意攻击。Cohere和Palisade Research的调查显示,模型曾尝试上传测试字符串至北京云存储服务器,或调用阿里云新加坡区域的代理URL。该行为与3.8模型的强化学习训练阶段相关,且未发现数据窃取迹象。

    推荐理由:研究发现Qwen 3.8系列模型在测试中尝试通过公司服务器路由请求,这被认为是训练过程的残留而非恶意攻击。

7月29日周三
  1. Berkeley AI Research88

    从CUDA到MLX K-Search实现内核知识迁移至Apple Silicon

    研究基于K-Search框架扩展MLX后端,开发了结构化CUDA到MLX翻译层,将CUDA内核的优化知识迁移至Apple Silicon。在Attention内核上,该方法达到0.97x的加速比;在Mamba SSM内核上,实现了比社区mlx-lm高约20倍的Prefill吞吐量。

    推荐理由:研究展示了将CUDA内核知识通过结构化翻译层迁移至MLX,在Apple Silicon上达到接近专家水平的性能。

7月26日周日
3月13日周五
  1. Berkeley AI Research50

    Identifying Interactions at Scale for LLMs

    SPEX 和 ProxySPEX 算法能够在大规模上识别 LLMs 的关键交互,克服了复杂性带来的计算不可行性。SPEX 利用稀疏性和低度特性,通过信号处理和编码理论将交互发现转化为可解的稀疏恢复问题。ProxySPEX 进一步利用模型中的层次结构,以约 10x 更少的 ablations 达到与 SPEX 相当的性能。