mayulu的AI笔记

异星心智

Mon, 07 Sep 2026 11:17:23 +0800

OpenAI 首席科学家 Jakub Pachocki《异星心智》一文警示，具备递归自我改进能力的 AI 雏形已然出现，智能正沿着算力驱动的路径快速演进。AI 是培育而非设计出来的系统，内部涌现机制难以完全解析，对齐分为目标对齐与价值对齐两大维度，现有对齐手段存在泛化短板，思维链监控等验证方案也面临效能衰减风险。超强 AI 既可以构筑网络安全防御，也可能催生恶意自主智能体。作者认为尚无实验室具备全速扩模的完备安全能力，呼吁行业主动减速，建立强制安全门槛与国际协同机制，确保人类保留在 AI 自我改进闭环中，掌控技术转型的主动权。

通往AGI之路：关于大语言模型、强化学习、持续学习、元学习、具身智能的观点和逻辑

Thu, 06 Aug 2026 10:48:06 +0800

行业曾寄望依靠扩大算力、数据与离线 RL 规模实现 AGI，该范式如今遭遇越来越多质疑。本文结合 Jerry Tworek 与梁文锋的观点，剖析离线强化学习的固有局限，拆解从大模型、CoT、Agent、持续学习、自我迭代到具身智能的六级递进 AGI 技术阶梯。指出持续学习是工具 AI 迈向通用智能的分水岭，AGI 竞赛的关键不再是规模军备竞赛，而是原生自主成长机制的架构重构。

Jeff Dean 提出的每个工程师都该懂的AI系统核心数字

Sat, 01 Aug 2026 09:33:19 +0800

Jeff Dean 经典的程序员延迟对照表，曾是传统分布式系统架构的性能参考基准。2026 年 Y Combinator 访谈中，他提出适配大模型时代的全新系统量化指标，将性能标尺从时间延迟转向带宽、运算能耗、芯片互联三大维度。数据搬运能耗可达计算的千倍，由此解释批处理、量化等工程优化的底层逻辑。文章对比新旧两套体系，梳理 LLM 真实推理时延，剖析专用推理硬件发展趋势，帮助 AI 开发者建立硬件量级直觉。

Sebastian Raschka 对 Kimi K3 架构的观察笔记要点

Wed, 29 Jul 2026 08:53:39 +0800

本文全文翻译 Sebastian Raschka 解读的开源超大模型 Kimi K3 架构，该模型由 48B 参数扩容至 2.8T，沿用前代 Kimi Linear 核心设计，新增 LatentMoE 提升效率，搭配多头隐注意力、注意力残差模块优化性能。模型摒弃 RoPE，全域采用 NoPE，原生支持多模态；该设计小幅提升任务效果，仅轻微增加训练与推理开销，是兼顾性能与效率的前沿大模型。

llama.cpp 系列之三：目录组织

Fri, 24 Jul 2026 17:00:54 +0800

本文为 llama.cpp 源码系列第三篇，完整梳理项目全量目录结构，自问自答拆解 GGML 独立、tools 隔离、极简对外头文件、硬件后端解耦等目录划分逻辑。结合洋葱架构、单一职责、实用演进式设计三大思想，解读其通过物理目录隔离控制代码耦合的 C/C++ 工程实践，适合研究本地大模型推理框架底层架构设计。

llama.cpp 系列之二：架构

Thu, 23 Jul 2026 11:04:39 +0800

本文为 llama.cpp 架构解析系列第二篇，自上而下拆解完整分层体系，划分工具层、C 公共 API、libllama 运行时、计算图构建器、图调度器、GGML 张量 IR、硬件后端、底层计算内核八大模块，明确各层职责与代码归属。文章厘清 Graph 算子调度、服务请求调度等易混淆概念，梳理从 GGUF 模型加载到 token 生成的完整推理流程，并给出新增模型、硬件后端、量化格式对应的源码修改层级，帮助开发者快速区分模块边界、定位源码，适合深耕本地大模型推理引擎底层设计。

llama.cpp 系列之一：目标

Thu, 23 Jul 2026 08:18:57 +0800

本文是 llama.cpp 源码解析系列开篇，不直接切入代码，先剖析项目核心使命与七大底层设计目标。作者复盘最初本地大模型推理生态痛点，点明 llama.cpp 核心定位：跨多平台、零依赖、高性能本地离线推理引擎。文章拆解跨平台、无第三方依赖、极致性能、轻量化运行时、硬件解耦、可扩展后端、易嵌入七大设计准则，剖析目标间工程取舍矛盾，解答自研 GGUF、手写矩阵乘等代码设计疑问，为后续源码架构解读铺垫底层设计逻辑，适合开发者理解端侧大模型推理底层设计思路。

注意力机制其实是对数复杂度-重新思考计算复杂度

Wed, 22 Jul 2026 07:56:01 +0800

本文提出 Work-Depth 工作量 - 深度模型，指出传统时间复杂度不适用于多核并行硬件，以张量、矩阵乘、Softmax 等算子逐层推导，论证标准 Transformer 注意力机制并行计算深度为对数计算复杂度O(logn)。文章拆解各类深度学习基础运算并行瓶颈，分析缓存溢出导致实际性能退化的原因，结合 FlashAttention 分块思路给出工程解释，同时探讨该理论对 GPU、AI 芯片等下一代算力硬件设计的指导价值，适合大模型、高性能计算从业者阅读。

你和你的研究 - 理查德.汉明那场经典演讲的完整记录

Mon, 20 Jul 2026 08:10:27 +0800

本文完整整理图灵奖得主理查德・汉明 1986 年经典演讲《You and Your Research》全文，含主讲介绍、演讲正文、问答与汉明生平荣誉。汉明结合贝尔实验室、洛斯阿拉莫斯从业经历，剖析顶尖学者产出里程碑成果的核心特质：深耕核心课题、持续深度投入、开放交流、转换视角化劣势为优势，同时分享课题选择、成果推广、规避性格短板等实操科研方法论，适合科研人、研究生研读。

循环工程：Claude官方入门指南

Tue, 14 Jul 2026 15:41:33 +0800

本文解读 Anthropic Claude Code 官方循环工程指南，定义智能体循环为重复迭代至达标，划分回合、目标、时间、主动四类循环，详解`/goal`、`/loop`、`/schedule`指令用法与适配场景，配套技能文件、多智能体评审等代码质量保障方案，提供轮次、调度、模型选型等 Token 成本管控手段，附选型对照表，适合 AI 编程、智能体自动化开发从业者学习落地自主工作流。

试验观察雅克比透镜 J-Lens

Mon, 13 Jul 2026 16:50:25 +0800

本文基于 Anthropic 开源 jacobian-lens 项目，完整复现 J-Lens 雅克比透镜，选用 Qwen3.5-4B 模型实操演示。文章讲解 uv 环境搭建、模型加载流程，拆解雅可比矩阵拟合、透镜推理核心源码，区分拟合反向传播与应用前向推理两套逻辑，提供拟合、推理、可视化完整可运行 Python 脚本，附 M3 Max 设备实测耗时，对比传统 Logit Lens 解码效果，适合想要落地 LLM 内部表征解读、复现 J-Space 全局工作空间实验的开发者。

重磅发现：LLM产生意识了么

Fri, 10 Jul 2026 09:05:51 +0800

本文解读 Anthropic 2026 重磅 LLM 意识相关研究，介绍自研可解释工具 J-Lens（雅可比透镜），证实模型自发涌现匹配人脑全局工作空间理论的 J-Space。文章详解 J-Space 类意识认知特征，覆盖 AI 对齐审计、反事实反思训练等落地价值，提出该发现让意识研究进入可干预实验阶段，同时客观界定当前模型仅具备功能意识、无人类主观体验，适合大模型可解释性、AI 安全与意识科学研究者阅读。

缘起

Thu, 09 Jul 2026 16:43:57 +0800

我们正处在 LLM 与 Agent 能力井喷、全面普及的浪潮之中。

唯有主动适应、持续深耕，学会和 AI 协同成长、共生发展，才能跟上技术节奏，这也是我心中 AI亲和（AI Affinity） 的核心内核。