# AI 焦虑与未来：四篇文章的阅读讨论稿

整理日期：2026 年 10 月 8 日。读者是正在学习用 AI 做作品、同时担心自己的学习与未来的学生。本文供课程内容讨论与延伸阅读使用，尚未经过课堂试用。

更新说明：授课者随后补充了完整读后感，并明确要求将这一主题升为第一讲的重要结尾章节。最新叙事与课堂安排以新结尾章稿（本机维护文件）为准。本文保留早期阅读记录；下文关于新增课堂练习、之后再决定放在哪里的建议不再作为当前实施要求。数学与风险的重新核查见新核查记录（本机维护文件）。

课程需要回应一个真实的问题：当 AI 很快做出我们过去需要学很久才能完成的东西，继续学习究竟有什么用？把焦虑简单归结为“不够会用工具”，会漏掉其中关于能力、成长和社会责任的问题。这四篇文章提供了不同入口，适合让学生有依据地讨论，而不是让标题替他们得出结论。

下文分别说明可核查的材料、作者的判断和本稿提出的讨论问题。第三篇是卡兹克翻译润色 Anthropic 官方长文，其主体观点应归于 Anthropic。公开同步或转载页的日期不一概等于公众号首发日期；本次没有读取公众号原始页面，也没有复制整篇文章。

## 1. 数学成果越来越多，得到答案和理解答案是一回事吗？

对应文章是[《AI让数学再也回不去那个旧世界了。》](https://blog.csdn.net/khaxi/article/details/167269907)，作者名下 CSDN 同步全文，日期依据为作者文章目录的 2026-10-08。用户口述中的“旧时代”在原题中是“旧世界”。

**已核查的背景。** [OpenAI 官方数学仓库](https://github.com/openai/math)发布了模型产生的研究手稿，同时说明验证阶段不同、并非全部有 Lean 形式化证明。Lean 是让计算机检查形式化数学推导的工具；通过检查还需要确认形式化的命题确实对应原来的问题。文章介绍发布时的 722 份手稿；本次读取的官方目录为 719 份、372 组，[更新记录](https://github.com/openai/math/blob/main/history.md)列出了 10 月 7 日撤回三份手稿及其他修订。数字和状态必须随版本看，不能写成“722 个难题已全部解决”。

**作者的判断。** 卡兹克借此讨论生成成果与审核、消化成果的速度差异，最后把人的作用放在选择问题、理解结果和寻找意义上。他对各学科未来的速度判断属于观点，本文没有逐一核验其中数学突破的证明。

**我们的讨论问题。** 如果 AI 给出一个答案，我能复述它，但不能解释为什么成立，算学会了吗？可以选一个熟悉的小问题，让学生指出假设、验证一个步骤，再尝试解释给同学听。练习应留下“我理解了什么”的证据，而不只展示 AI 生成了多少页。

## 2. 研究员辞职提出风险警告，应该怎样认真阅读？

对应文章是[《一个27岁的AI研究员从Anthropic辞职了，因为他担心AI会导致人类灭绝。》](https://timeline.sohu.com/news/XZHeSTpn0T)，数字生命卡兹克署名搜狐同步全文，2026-09-10。

**已核查的背景。** 人物是 Jacob Coxon。[《华尔街日报》署名报道的公开同步版](https://www.tovima.com/wsj/anthropic-researcher-quits-over-out-of-control-ai-fears/amp/)写明他当时 27 岁，因担忧竞相开发自我改进的 AI 带来的失控风险而离职；[WIRED 对本人的访谈](https://www.wired.com/story/anthropic-researcher-quits-jacob-coxon-ai-fears-humanity/)也支持姓名、离职与安全担忧。这里核实的是他表达了什么担忧，不是灾难已经确定发生。其 X 原帖返回 403，未直接读取；年龄采用报道依据，没有核对私人出生资料。

**作者的判断。** 卡兹克从这次离职谈到模型能力增长与人类能否控制系统的关系。标题中的灭绝风险是警告与判断，不能改写成事实预告，也不能从一个人的发言推出整个行业完全一致。

**我们的讨论问题。** 哪些话描述已经发生的事情，哪些在判断风险，哪些在建议行动？让学生分别找出一个例子，并说清还需要什么证据。讨论可以严肃，但无需让学生接受某个灾难概率或日期，才能参加课程。

## 3. AI 参与开发下一代 AI，和完全自主改进还有多远？

用户口述的“Astra 万字长文”对应[《Anthropic万字长文：当AI开始构建自己，人类该何去何从？》](https://news.pedaily.cn/202606/564896.shtml)，2026-06-05 的投资界授权转载。开头明确说明卡兹克翻译润色了 Anthropic 的[《When AI builds itself》](https://www.anthropic.com/institute/recursive-self-improvement)。

**已核查的背景。** 官方文章区分 AI 协助工程和实验、AI 选择研究目标，以及完全自主构建后继系统。递归自我改进指 AI 构建更强的后继系统，再由后继系统继续这个过程。官方明确说完全递归自我改进尚未实现，也并非必然发生；内部代码量增长不能直接当作等比例的生产力增长。

**来源的判断。** Anthropic 根据自身材料讨论多种未来情景。它既关注现阶段人类的研究判断，也没有保证这会是永久优势。这里属于实验室提出的证据与推演，卡兹克的译文不能变成他个人独立证明的结论。

**我们的讨论问题。** 一个 Agent 能按照目标把实验跑完，是否就能决定什么目标值得追求？先画出由人设目标、AI 执行、检查结果的过程；再讨论如果 AI 也决定下个研究目标，哪些责任与验证问题会变化。学生需要指出，当前证据支持到哪里，哪些关系属于未来情景。

## 4. AI 省掉操作时间，是否也省掉了人成长的过程？

对应[《因为GPT-6 Astra的爆火，我好像看见了时代的断层。》](https://www.woshipm.com/ai/6460982.html)，2026-09-07，页面明确标注作者原创发布。本稿不再次摘录已在“10 条理念”文档中引用的句子。

**作者的判断。** 作者修正了自己在焦虑时的极端表达，随后讨论操作越来越容易、判断力却需要积累的矛盾。他担心年轻人绕过执行练习后失去形成判断的机会。这是需要继续讨论的教育问题，不能当成“判断力只能靠痛苦练习”的定律，更不能由演示案例推断所有职业已经失去价值。

**我们的讨论问题。** 哪种重复可以放心交给 AI，哪种练习仍帮助我发现错误、理解机制？例如自动整理文件名可以节省时间；学习统计时判断空值和异常值如何影响平均值，仍值得亲自完成。学生可以提出相反例子，讨论 AI 的反馈能否帮助形成判断。

## 焦虑需要怎样进入课程

以下是本稿的课程建议，不是作者原话，也不是心理诊断。首先让学生说出担心的具体对象：熟练操作某个软件的价值是否变化、自己是否还能学出能力，或者强大的系统是否会被负责任地管理。三种问题需要不同材料，不能只用一句“赶快学会 AI”处理。

技能变化可以用一个自己的任务来观察。先写下今天怎样完成、哪里困难，再尝试让 AI 接手一部分，比较结果与检查成本。一次实验不能预测职业前景，但能让学生知道自己当前需要补什么，而不是不停追新工具。

学习问题需要保留学生的思考与反馈。课程可以让学生先做一次小预测，再看 AI 结果，指出一处理由或错误，最后修改要求。评分看学生是否能解释和纠正，而不是谁最先生成漂亮页面。我们可以减少重复操作，同时观察哪种练习确实带来了理解；这仍需通过教学验证。

公共风险则需要分清个人责任与制度问题。课堂里可以练习核对来源、控制工具权限、保留记录与回退办法；实验室发展速度、公共监督和国际协调需要更广泛讨论。让学生承认这些问题还没有确定答案，比给出一个乐观或悲观的截止日期更有帮助。

阅读顺序建议从第 4 篇的个人焦虑开始，再读数学与理解，随后讨论自我改进和公共风险。每次只选一个问题，允许学生指出反例和不同立场。课程可以教他们怎样提出问题、检查结果和参与讨论，不能承诺学会工具就不会被替代，也不能把害怕当作推动学习的手段。

## 核查范围与下一步

四个口述题目均找到对应全文；第三篇标题中的机构已纠正，第二篇的人名、年龄与离职动机有报道和本人访谈依据。网站阅读数据使用公开全文入口，完整材料通过链接查看。

尚未完成的是数学手稿逐篇验证、各文章演示的复现、所有预测的评估，以及学生试读。下一步适合一起选出最想讨论的问题，再决定放到课堂开场、练习后的反思，还是延伸阅读；这份材料不会自行把某个未来情景写成课程结论。