https://mayulu.co/tags/agi/Recent content in AGI on mayulu的AI笔记HugozhcnCopyright © 2025–2026 mayulu All Rights ReservedSat, 08 Aug 2026 10:48:06 +0800https://mayulu.co/posts/an-alien-mind/Mon, 07 Sep 2026 11:17:23 +0800https://mayulu.co/posts/an-alien-mind/OpenAI 首席科学家 Jakub Pachocki《异星心智》一文警示，具备递归自我改进能力的 AI 雏形已然出现，智能正沿着算力驱动的路径快速演进。AI 是培育而非设计出来的系统，内部涌现机制难以完全解析，对齐分为目标对齐与价值对齐两大维度，现有对齐手段存在泛化短板，思维链监控等验证方案也面临效能衰减风险。超强 AI 既可以构筑网络安全防御，也可能催生恶意自主智能体。作者认为尚无实验室具备全速扩模的完备安全能力，呼吁行业主动减速，建立强制安全门槛与国际协同机制，确保人类保留在 AI 自我改进闭环中，掌控技术转型的主动权。https://mayulu.co/posts/the-way-to-agi-viewpoints/Thu, 06 Aug 2026 10:48:06 +0800https://mayulu.co/posts/the-way-to-agi-viewpoints/行业曾寄望依靠扩大算力、数据与离线 RL 规模实现 AGI，该范式如今遭遇越来越多质疑。本文结合 Jerry Tworek 与梁文锋的观点，剖析离线强化学习的固有局限，拆解从大模型、CoT、Agent、持续学习、自我迭代到具身智能的六级递进 AGI 技术阶梯。指出持续学习是工具 AI 迈向通用智能的分水岭，AGI 竞赛的关键不再是规模军备竞赛，而是原生自主成长机制的架构重构。