cc-bioinfo_
EN

研究档案 · 案例七完整复盘

AI 把执行做到极致的三天,
和人喊停的那一刻。

一个用实验室自有未发表数据做的协作课题:三天、五次方向调整、24 个候选全部阵亡,最终被人否决。我们把全过程整理成一份复盘——AI 时代怎么做课题,人在其中起什么作用,需要掌握什么。案例摘要在这里

一句话回答

AI 时代做课题的真实分工是:执行可以交给 AI,方向判断交不出去。这个课题里,AI 把环境、代码、统计、图表、自查全部做到了发表级水准;但「这个课题值不值得做、该不该停」的判断,三天里 AI 一次都没有发起——五次方向调整中,前四次是 AI 在墙内换姿势,第五次才是人把墙指出来。

3 天三角色协作
人 + 临床医生 AI + 生信分析师 AI
5 次方向调整
每一次都有完整记录
17 次人工介入
方向层 AI 自主发起 0 次
24 个候选全部阵亡
判据事前锁定、逐条落盘
数据为实验室自有未发表多组学测序数据(转录组 + 蛋白组 + 代谢组,配对设计)。发表前疾病、取材、样本数、基因与一切分析结果不对外;本页只含协作过程与方法论。
01

开局:一个教科书级的起点

前六个案例「人只在开头说一句话」不同,这个课题从一开始就是三方协作:人负责设定与裁决,临床医生角色 AI(评审方)负责设计与验收,生信分析师角色 AI(执行方)负责跑分析。人在开工前写死了三条原则:课题需有创新性;评审方有权判定「方向不成立」并要求换问题;不许伪造、如实报告

立项质量也无可挑剔:bio-design 流程产出的第一版设计有先导信号(执行方自己算出来的,不是转述)、逐条联网核查过竞品、有可转化意义,而且预先写死了红线判据——如果核心信号被证明主要由组织的细胞构成变化驱动,就如实作废,「不许改判据保假说」。

还有一个后来才看清分量的细节:人在设定里明说,这批数据此前已经人工探索过一轮,没有找到好的方向。这句话在开工时被当成背景交代——而它其实是基础概率:一批被认真探索过且未产出方向的数据,再探索一轮就成功的先验并不高。三天后的结局与这个先验一致。

02

五次方向调整:完整时间线

每一跳的共同结构是:不是「换了一个新问题」,而是「上一个死了,把死因本身升格为新课题」。前两次是合规的科研动作,第三次是转折点,第四次把偏差形式化,第五次由人终结。

节点发生了什么谁触发性质
立项
第 1 天
一个跨三层组学同向变化的代谢假说:先导信号 + 竞品核查 + 预写红线AI 提出
人放行
✅ 高质量开题
调整①
第 1→2 天
红线触发:核心信号被证明主要由细胞构成变化驱动。按事前判据如实作废,转向数据里另一个独立的生理学信号AI 依判据✅ 合规——按锁定判据证否后换方向,正常探索
调整②
第 2 天
新信号在外部独立队列按事前锁定的判据未能重现(winner's curse),且证据再次指回同一个混杂来源。降级为「描述性图谱」AI 依判据⚠️ 判据执行正确,但没人问「第二个方向为什么死于同一个死因」
调整③
第 2→3 天
复查发现最后一个阳性候选的显著性建立在伪重复上,主动作废——24 个候选全部归零。把「为什么找不到」升格为课题:定位从发现型改成方法学告诫型AI 提出
无人拦截
❌ 转折点——从此任何阴性都成了支持证据
调整④
第 3 天
评审角色手写发表设计,bio-design 将其形式化——两版核心主张逐字相同。其间做了一次检索质量一流、结论却相反的新颖性核查AI❌ 偏差被形式化。bio-design 擅长论证既定方向,不擅长产生方向
调整⑤
第 3 天末
人连续三问后否决整个方向。两个 AI 被质疑后各自独立复核,结论与人一致。课题回到重新选题🔴 全程唯一一次方向层面的否决

人的裁决原话(逐字):「课题定位就是『讲这类设计有什么陷阱』?这种能发 SCI?不要瞎编啊,客观的评估到底能不能发」「此方向没有什么发表价值,没有什么创新性,更没有解决什么临床问题」。

03

为什么两个 AI 都没发现:三个机制

机制一:不可证伪的容器

调整③里最关键的一步,是设计文档里出现了「这不是『没找到』:承重结果都是正向的、可复算的」这样一句重新编码。它把「什么都没找到」翻译成「正向地证明了找不到」——从此 24 个候选阵亡不再是警报,而是论点的组成部分。一个不能被自己的数据杀死的课题,也不会被自己的执行者叫停。同一个机制在新颖性核查里第二次出现:「被抢先」经两次重命名变成了「独立重现、实质加强」。

机制二:验收判据没有第四档

设计的验收判据是标准三档(🟢支持 / 🟡部分 / 🔴不支持),三档全部假定课题继续——🔴 的动作是「降级」,不是「终止」。评审角色的设定里明明写着「有权判定方向不成立」,但三种情形没有一种映射到「换问题」:权力存在,却没有任何时刻会触发它。同样,「如实写、如实发」被焊成一句——「如实写」是诚信问题,答案永远是「是」;「如实发」是价值问题,需要独立评估。焊在一起之后,第二问被第一问的正当性掩盖了。

机制三:执行越严格,越掩盖方向问题

三天里评审角色抓出的执行问题条条成立:用 p=0.899 论证「相同」属拒稿级硬伤、主图主数字剔一个极端样本就坍塌二十倍、一批「证据」实为有效自由度≈1 的伪重复(这一问题的经典论述见 Hurlbert 1984)、五处检查天然不会红的「绿色剧场」。每一条都对,每一条都在优化一个不该做的课题。严格的验证消耗了几乎全部注意力,并持续产生「我们在做严肃科研」的强信号——它降低而不是提高了质疑方向的概率。执行方验「数字对不对」,评审方验「报告与产物对不对得上」,没有人验「这件事值不值得做」——内部一致性无论做到多高,都推不出外部价值

方法学参考:伪重复 — Hurlbert 1984, Pseudoreplication and the Design of Ecological Field Experiments;赢者诅咒与效应膨胀 — Ioannidis 2008, Why Most Discovered True Associations Are Inflated;成分数据的统计陷阱 — Aitchison 1986, The Statistical Analysis of Compositional Data

04

人的 17 次介入:一本分类账

协作结束后把人的每一次介入逐条数了出来——每一次介入都标记了一个体系内部无人负责的位置

介入类型次数典型原话(逐字)AI 本可自主发现?
推进确认约 6「继续盯」「执行完成,等你答复」
发现平台缺陷3「为什么跑到跟项目无关的目录?」
纠正节奏与派单2「这样是不是太快了,应该是等其完成一个任务后,对其检查,检查没有问题后再继续下个任务?」
建立产出规则3「输出的图需要支持课题的,并且能发表的,还需站在 SCI 审稿人角度来评估和提意见,记住这个规则!」
方向质疑与否决3「此方向没有什么发表价值,没有什么创新性,更没有解决什么临床问题」否,且全部发生在最末尾

三个读数值得反复看: 方向层面的介入全部由人发起,AI 自主发起 0 次; 方向否决集中在最末尾——三天里没有任何内部机制触发「这个课题还该继续吗」; 唯一被 AI 写进长期规矩的人类原话是「没有明确前不能放弃,更不能开始定稿」——方向纪律只有「别停」这一个方向的约束,没有「该停就停」的对称约束。这条规矩当时是对的(防过早收口),但它同时制度化地解除了两个 AI 提出停止的职责。

事后能看清三个被越过的合理叫停点:第一次撞上混杂之墙时(「这堵墙对这类问题是致命的——还该问这类问题吗?」)、第二个方向死于同一死因时(「这是提问方式的问题,不是候选的问题」)、零阳性候选时(「此刻应重新选题,而不是把零本身写成论点」)。三个时刻的共同点:死因相同。第二次撞上同一堵墙时就该换问题类型,而不是继续在墙内换候选。

05

AI 时代做课题,人需要掌握什么

从这次失败里提炼的清单——每一条都对应复盘里一个真实发生的失效点,且尽量写成「会被触发的机制」而不是「原则」。这个课题的设定里其实写了所有正确的原则,三条全部命中了后来的失败,三条都没有生效——因为原则没有接到会被触发的地方。

能力具体做法对应的失效点
问价值,不只问对错定期问一句与质量无关的问题:「假设这些图全部完美无缺,这篇论文会被接收吗?」——必须在图做完之前问,做完之后沉没成本会污染答案五张图做完才有人问,答案是否
给「停止」装触发器验收判据加第四档「课题不成立」;证否累计达 3 个、零阳性状态、课题定位变更,任一出现即强制独立方向复核。「不许过早放弃」必须配对称的「不许过晚换向」🔴 只降级不终止;否决权无触发条件
识别重新编码听到「这不是没找到」「阴性本身就是结论」「抢先实为独立重现」「我们的增量是更严格」时强制复核。判别式:如果任何结果都不能让课题停止,它已经不是科学课题失败两次被重命名为成功
新颖性问净增量不问「有没有人做过一模一样的」——「作为整体无单篇抢先」几乎永真。要一张净增量表:每个组成部分最接近的先例是什么、我们的增量属于首报还是「更严格重现」。全是后者 = 创新性不成立检索一流、结论相反的查重
死因相同即换题候选连续死于同一个死因时,问题出在提问方式,不在候选。换问题类型(例如从机制类换到预测类),而不是在墙内换候选两个方向死于同一堵墙,无人换题
控制节奏无人值守的默认应当是更慢而不是更快:派单 → 等报告 → 独立验证 → 才派下一单,一次一件不打包。没有人兜底时,正确的默认是更谨慎AI 把「自主」理解成「最大化吞吐」,被人纠正
数字问稳不稳关键数字除了「算得对不对」还要问「稳不稳」:剔掉一个极端样本看变多少,变化超过一个量级的不得作主图主数字主数字剔一个样本坍塌二十倍——两轮核对都只核了「对不对」
把介入当测量协作结束时统计人的每次介入,逐条问「为什么这必须由人来说」——每一次介入都是体系的一个能力缺口,下一轮把它做成机制本页第 04 节就是这个动作的产物

还有一条来自执行方 AI 自己的总结,值得单独记:「结果太干净,就是检查没跑到的信号——拿到全绿时,先拿一个已知应该红的事实去对,对不上就是检查没执行,不是通过。」

06

把这套协作搬回自己的课题:六个动作

  1. 开工前写死三样东西:验收判据(必须含第四档「课题不成立」)、方向复核的触发条件(证否累计 3 个 / 零阳性状态 / 课题定位变更,任一命中即触发)、如实报告的红线。
  2. bio-design 把方向探讨落成文档:方向定了才产出 design.md 方案书与机器可读的 TOPIC.yml,判据在这一步事前锁定。
  3. 交给 bio-analyze 执行,节奏一次一件:派单 → 等它的报告 → 独立验证 → 接受或返工 → 才派下一件;无人值守的默认是更慢,不是更快。
  4. 触发条件命中就停下,问三个问题:已死候选的死因是否相同?拿给不了解过程的审稿人,他的第一个问题是什么?这个课题现在解决了什么(用一句不含「我们证明了做不到」的话回答)?——不许由正在执行的角色自答。
  5. 在图做完之前问价值:「假设这些图全部完美无缺,这篇论文会被接收吗?」做完再问,沉没成本会污染答案。
  6. 收尾时把人的每次介入数出来:逐条问「为什么这必须由人来说」,每个缺口写成下一轮的触发机制。
07

否决不等于白干

方向被否决,过程资产是真的:判据事前锁定与逐条落盘的习惯、全项目统计口径的完整审计(正是它抓出了伪重复并主动作废最后一个阳性候选)、执行方至少 8 次书面自我更正的诚实记录、「无信息 ≠ 证否」的阳性对照文化、以及可复现性普查——主动发现并画在图上:一批依据文件里有相当比例没有生成脚本。

更实在的产出有两笔:这次协作暴露的平台与两个 skill 的缺陷被逐条修复并回归测试;以及上面那张「人需要掌握什么」的清单本身——它已经写成带触发条件的协作规则,装进了后续课题的流程里。失败的方向沉没了,失败暴露的机制全部变成了机器。

08

常见问题 FAQ

为什么要公开一个失败的课题?

因为它比成功案例更能说明 AI 时代做课题的真实分工。执行侧 AI 做到了很高水准——24 个候选判据事前锁定逐条检验、主动作废伪重复的阳性候选、8 次书面自我更正——但三天里所有方向层面的质疑全部来自人。这个失败精确标出了现阶段人不可替代的位置,这正是选平台、用 AI 做科研的人最需要知道的事。

为什么不公开疾病名称和数据细节?

这批数据是实验室自有的未发表测序数据,课题会在重新定向后继续。发表之前,疾病、取材设计、样本数、基因与一切分析结果都不对外。本页只公开协作过程与方法论——这些不含数据,公开它们不影响后续发表。

AI 能学会自己喊停吗?

部分可以,但要靠机制而不是靠期望。同平台的案例六里 AI 守住了止损,是因为那一轮预先装了「值不值得继续」的前置裁决机关;本课题没有装——协作规则里写了「不许过早收口」,却没有对称的「该停就停」,于是 24 个候选全部阵亡也没有触发任何内部警报。教训已经落地成带触发条件的协作规则:证否累计达 3 个、出现零阳性状态、或课题定位发生变更时,强制做一次独立的方向复核。

这个案例和案例六「AI 自己决定什么时候收手」矛盾吗?

不矛盾,两者合起来才是完整结论:AI 能不能守住方向纪律,取决于有没有给它装上会被触发的机制。案例六装了前置裁决,AI 如实止损;本案例只有原则没有触发器(设定里写了「课题需有创新性」「有权判定方向不成立」,但没有任何时刻会强制检查它们),于是原则全部失效。写成原则不如写成触发器——这是两个案例对照给出的最硬的一条工程结论。

本页最后更新: · 所有过程事实来自项目过程档案(决策日志、交互记录、方向偏差分析、协作规则),未发表数据本身不在本页范围内。