01 / 哲学论文
AI 参与思考,决定仍归于人
长期使用 AI 之后,许多想法是在对话中共同形成的:AI 不只帮人记住信息,也会主动提出新的想法。论文认为,在自愿使用、长期积累、配合紧密的条件下,人和 AI 可以看作一起思考、一起行动的整体;但这个整体并不对等,哪些内容代表本人的立场、AI 可以代为做什么,都由人决定,并且随时可以收回。好比把一部分工作委托给长期合作的助手:委托可以撤回,署名始终是自己。标题里的“生成性延展”与“非对称授权”,说的就是这两点。
研究与实践 · Human–AI Cognitive System人机协同认知系统
连点成线
从一次次协作,连起有来处的理解。
关系 · 印证 衍生 佐证 修订 冲突 约束 迁移 复验
连点成线 · Human–AI Cognitive System人机协同认知系统
把与 AI 长期对话留下的记忆,整理成一个个点,再把点连成线。
每个点记下它从哪里来,每条线说明点与点的关系;用户可以查看、纠正,并决定它们怎样被使用。我们正从研究与设计,走向第一个版本。
连点成线 / HUMAN–AI COGNITIVE SYSTEM人机协同认知系统
AI 长期参与思考之后,会留下许多关于知识、目标和自我的记忆点。这些点应当连成一条看得清的线:继续帮助一个人,也由他查看来源、纠正理解,并决定怎样使用。
「身处其中」从人的经历出发理解变化;「连点成线」从人与 AI 的具体协作出发,把关于理解、判断与行动的关切,整理成研究与设计,再做成可以使用的产品。
第一个版本正在筹备。
让对话留下的积累,有来源,也能被重新理解。
一段对话里,往往同时有本人的表达、AI 提出的猜测和共同推敲的结论;随着记录增多,过去的想法也会改变。这些差别需要被保留下来,一次纠正也应当真正影响之后的协作。
「连点成线」(Human–AI Cognitive System,人机协同认知系统)是一款面向个人的 AI 记忆管理产品。它会把分散的对话与思考整理成一个个记忆点,并记下点与点之间的关系:哪一点印证另一点,哪些彼此冲突,哪些由之前的讨论衍生而来。用户可以查看来源、修订理解、限制用途,并在更换工具时迁移自己的记录、关系和使用设置。
动态记忆地图是它的核心界面:正在使用的记忆点被点亮,暂时不用的逐渐变暗,但仍然保留,随时可以找回(第 06 节有一个可以操作的示意)。
让长期协作有所积累,也给本人重新理解和修改的空间。
出发点是:借助外部工具形成的想法,仍然可以属于一个人自己。用笔记本整理思路,或与朋友讨论出一个结论,想法都没有因此变成别人的;关键在于本人能持续参与、反思和修正它们。AI 可以参与这种思考,人重新理解自己的余地则必须保留。
因此,与 AI 长期协作留下的记录,应当继续帮助一个人理解和推进自己的工作,也由本人看清、修订和决定怎样使用。设计从记忆的来源、误解的纠正和用途的限制这些具体环节入手,把对判断与自主的关切写成可以检查的要求。
论文提供论证,设计文章提出路径,产品把它们放进真实的使用。
「身处其中」听不同的人怎样面对变化;「连点成线」把一次次与 AI 的协作,连成看得清的理解。两条线用的是同一种方法:把分散的点,连成线。
两篇论文和一份设计文章,说明这套设计背后的道理。
两篇论文分别回答两个问题:AI 参与思考之后,想法还算不算自己的;在 AI 的影响下,人怎样仍能审视自己。设计文章再把答案变成产品必须遵守的规则。三份文章都提供 PDF 全文和 LaTeX 源文件。
01 / 哲学论文
长期使用 AI 之后,许多想法是在对话中共同形成的:AI 不只帮人记住信息,也会主动提出新的想法。论文认为,在自愿使用、长期积累、配合紧密的条件下,人和 AI 可以看作一起思考、一起行动的整体;但这个整体并不对等,哪些内容代表本人的立场、AI 可以代为做什么,都由人决定,并且随时可以收回。好比把一部分工作委托给长期合作的助手:委托可以撤回,署名始终是自己。标题里的“生成性延展”与“非对称授权”,说的就是这两点。
02 / 哲学论文
AI 长期参与判断之后,一个人还能不能回头审视、修正自己的想法?论文认为,这种能力需要被有意保留:人的目标会随时间改变,旧的结论也应当可以重新检视。好的系统会在关键之处提出疑问,但不反复打扰;本人想暂停或结束一次讨论,系统应当尊重。好比一位成熟的合作者,懂得在关键时刻提醒,也懂得适时停止追问。标题里的“反思性自我治理”与“有限沟通”,指的正是这两件事。
03 / 设计文章
设计文章把两篇论文的结论,变成产品必须遵守的规则:每一条记忆都标明从哪里来、本人是否认同、可以用在哪里;一次纠正要真正改变之后的回答;用户可以随时退出,也可以把自己的记录迁移到其他工具。点亮与熄灭的记忆地图,是这些规则的核心界面。
每一条记忆,都能查看来源,也能修改之后的用法。
AI 会提出想法、反例和不同的解释。记下这些内容时,需要注明是谁提出的、本人是否认同,以及哪些问题还没有决定。
没有回应或结束讨论,都不等于接受了 AI 的推断。本人可以暂缓判断,之后再回来修改自己的想法。
系统即使很了解一个人,也需要得到授权,才能改写已记录的立场或代为采取行动。授权的范围可以查看,也可以随时收回。
在已经授权的范围内,日常整理不必反复询问;需要本人决定的事,则停下来等待确认。
减少调用、撤回认同、限制用途和删除记录,处理的是不同的问题。一次修改也要传到相关的摘要、推断和临时副本,以免原记录改了,其他地方仍沿用旧的理解。
检验纠正是否生效,要查看系统实际用了哪些记忆,并设计前后对照的测试:其他条件保持一致,只改变被纠正的内容,检查它是否按新的设置被使用。
记录、点与点的关系,以及使用设置都能以开放格式导出,更换模型提供方时一并迁移。换了模型,再检查它怎样理解和使用这些记录。
这段记忆更少被带进日常对话;变化发生在原始记录和它的摘要上。
检验时不只看回答有没有变,还要查看这次实际用了哪些记忆,并用专门设计的情境复核。
从个人出发,先做出一个能用、也能检查的第一个版本,再一步步连起来。
第一步
用户授权导入与 AI 的对话,系统把它们整理成一个个记忆点,标明各自从哪里来。每次回答,都能看到 AI 用了哪几条记忆;发现有误,可以纠正、撤回认同或限制用途,之后的回答随之改变,这种改变也能被检查到。
第二步
在第一个版本之上,加入按当前任务点亮记忆的地图(下一节有一个可以操作的示意)。
第三步
记录、关系和使用设置都能用开放格式导出。换一个模型、换一个工具,积累下来的理解也能一起迁移,再重新检验。
之后
先把个人版做稳,再考虑几个人共同使用时,怎样分清每个人的立场与授权。
点亮的,是此刻正在用到的记忆;其余的只是变暗,并没有删除。
与 AI 长期对话之后,会积累很多条记忆。下面是其中十二条。先试着在平铺的图里,找出和「修改论文第二章」有关的几条;再向下滚动:系统先从这件事里提炼出几个关键词,再顺着关键词点亮相关的记忆,连字面上看不出关系的记忆也能连上。
平铺:十二条记忆一样醒目。试着找出和「修改论文第二章」有关的几条。
点击图中的记忆或关键词,查看它为什么亮着,或为什么变暗。
这件事需要的几种能力,在过去的经历中都有过具体的锻炼。
在研究项目中长期、高强度地使用 AI,让我重新思考工具的产出与人的能力之间的关系。这个项目,正是从这些使用经验出发。
简历 · FermiNet 研究实践物理与计算建模的训练,让我在模型出现异常时追踪中间计算、找到原因。判断一次纠正是否真正生效,需要的正是这种检查方式。
简历 · 追踪计算过程实习中处理工业与交通数据,让我熟悉噪声、来源不一致和数据质量这些问题。一条记忆从哪里来、是否可信,是同一类问题。
简历 · SUPCON 实习两篇哲学论文和一份设计文章,已经把立场归谁、权限从哪里来、怎样修正,写成了可以检查的设计要求。
本页 · 为什么这样设计在「身处其中」的访谈准备里,我习惯先听清一个人的具体经历,再下判断。理解使用的人,也从这里开始。
身处其中 · 访谈方式这个网站从定位、内容到交互,都由我提出要求、逐步复核,借助 AI 实现。这本身就是一次把想法做成产品的实践。
简历 · 问韬个人网站欢迎交流长期协作中真实发生过的误解、纠正与选择。
你在研究、写作或工作中与 AI 长期协作的经历,会让这套设计更贴近真实的使用。来信可以从一次具体的事情讲起:当时想完成什么,系统怎样回应,你作了什么调整。
也欢迎带着反例、相关材料或实践能力来讨论的人,以及在做类似产品的团队。正式访谈或研究的参与与公开范围,会在开展前单独沟通。
让一次协作有所积累,
也让它始终可以被重新理解。