现在我们正在经历一个各种新技术的生物爆发到 “达尔文进化” 阶段,很多创新就像是随机的基因突变的过程,许多突变在短期内可能看似无用甚至有害的,但长期来看可能为物种的适应环境提供新的方向。这很像科研领域的一个概念,就是人类做科学研究可以 “乱弄然后再发现真相”( FAFO ),或者生物实验里故意引入 “污染” 培养物的外界菌群,短期内可能引发混乱,但长期看可能催生真正的突破。过去的“突变”环境更严苛,突变一次的成本更高,这让生物们很小心翼翼,不敢也没有心思随便“变异”。
而随着最近 AI 和自动化技术越来越降低了 “执行” 一个想法的门槛,开始有越多人愿意尝试一些更古怪和离经叛道的“实验”,有些纯粹出于“普通项目”带来的无聊感,有些出于出奇制胜的策略。
这可能比过去完全自上而下而严苛审慎的科学研究范式更快和“更奇妙地”催生科技突破。
这篇文章来自于 Michael Dempsey的个人博客,他是纽约市早期风险投资基金 Compound 的管理合伙人。在之前的文章里介绍过他们的工作框架和投资策略。
Compound:新生代深科技 VC 的工作模式 — 集体研究驱动, “机缘引擎”, 媒体/品牌为壁垒。
希望今天这篇文章对你有启发。
无聊、混乱与实验曲线
Boredom, Chaos, & the Experimental Curve
当社会转向低激活能量和短期无聊感与实验文化相遇时,
是否会产生更多的混乱?
As society turns and low activation energy and short-term boredom meets experimentation, will more chaos emerge?
作者:Michael Dempsey
编辑:范阳
发表日期:2025年1月29日
在过去的几年里,我们见证了人工智能等赋能工具的加速发展,以及
复杂机器的进一步去中心化
( further decentralization of sophisticated machinery,我们可以宽泛地使用这个术语,从本地 AI 模型和更强大的计算能力,一直到未来的 3D 打印和桌面 DNA 合成器 )。与此同时,我们不断听到人们大声疾呼,质疑在这个由 AI 主导的世界中,人类将如何打发时间。随之而来的是对进步和实验方向的持续质疑,或许还有无聊在其中扮演的角色( the role of boredom)。
比如下面这段评论:
" 相比其他大型威胁,这个问题要容易应对得多。
二氧化碳持续上升,因为化石燃料几乎是不可或缺的。人工智能不断变得更聪明,因为它们目前无害且有用,只有在某个不确定的未来才可能变得危险。核武器依然存在,因为它们可以终结任何战争。
但对于制造“镜像生命”(Mirror Life),却没有强有力的理由。我阅读了(大部分)那份 300 页的报告,里面详细论证了这个问题。他们提出了充分的理由,表明一旦镜像细菌泄露,其后果将是灾难性的。但让我觉得更有趣、也更令人安心的是关于创造镜像细菌的潜在好处的讨论。老实说,这些好处非常有限:
— 它可能会降低制造某些理论上的药物的成本,而这些药物目前尚未被证明有效。
— 这将是一个惊人的生化技术壮举,或许有人能因此获得诺贝尔奖。
— 仅此而已!
考虑到“利”极小,而“弊”极大,我认为要阻止任何人去做这件事应该是很容易的。理智的人不会去尝试,理智的立法者也会禁止它。此外,考虑到镜像细菌的无差别破坏性,我很难相信任何团体会想要释放它。"
范阳注:镜像生物体的上下文可以参考这篇文章
当生命“反转” — 镜像生命是人类的终结?| Asimov Press 长文
"考虑到‘支持’因素非常小,而‘反对’因素非常大,我认为要阻止任何人去做这件事应该非常容易。理智的人会自觉避免……”
上面的评论与镜像细菌的扩散/创造有关( 镜像细菌是一种理论上的合成生物学分支,可能通过分子反转的生物体创造出足以引发物种灭绝的威胁,这些生物体对地球的生物防御免疫 ),它指向了我们在 Compound 风险投资公司一直在深入思考的核心动态:
当实验的成本结构和现实摩擦几乎完全从"执行"转变为仅仅依赖于"构思"和"设计"时,科学和社会会发生什么?
What happens in science and society when the cost structures and friction of experimentation collapse almost entirely to ideation and design?
延伸阅读:
Compound:新生代深科技 VC 的工作模式 — 集体研究驱动, “机缘引擎”, 媒体/品牌为壁垒。
随着研究带宽成本的传统范式发生变化,从以执行为主的模式转向以人类创造力和方向设定为主要制约的模式,这一问题已经成为我们关注的焦点。
在这种( 缺乏 )制约的情况下,
人类可能会走上两条分岔的道路
( a bifurcated path of agency):
少数高效能个体追求真正的创新方向
(A small subset of high-agency individuals pursue truly novel directions),
其他人则接受由 AI 公司提供的惯性和应用场景
( others accept the inertia and use-cases given to them by AI companies ),而有些人则因短期的无聊感或心理带宽( mental bandwidth )的增加,从一方转向另一方。
注:
短期的这一细微差别很重要,因为人类总会找到填充时间的方法,但正是这个短暂的无聊窗口期,实验才有可能发生。
《镜像细菌》一文指出,历史上,“利因素” 和“弊因素” 之间的不对称性为某些类型的实验设置了天然的障碍。对于高效能个体来说,生产力杠杆的增加放大了一个已有的事实:
人类的影响力遵循幂律分布,随着技术能力的扩展,这一分布变得越来越极端
( Human impact follows a power law distribution that grows increasingly extreme as technological capability expands )。这一点可以通过社交网络上比如 “单人独角兽公司” ( single person billion dollar companies )以及更进一步的超级个体创建的组织的讨论和文化现象得到验证。
我们或许可以借鉴之前的科学家们,了解如何通过解除带宽限制,从而为实验开辟更广阔的空间,进而促成突破或意想不到的结果。在他的文章中,Eric Hoel 描述了一个有趣的动态,同时突出了爱因斯坦和冯·诺依曼之间的差异。
“换句话说,科学的抽象机器是一个开放系统。我们可以理性地选择不同的假设、想法或实验,但理性本身并不会告诉我们,什么才是一个好的假设、一个好的想法,或者一个优雅的实验。这些选择包含了美学、直觉、激情以及其他不可简化的特质的奇妙融合。“
—— Eric Hoel,《
伟大的科学家追随直觉和美感,而非理性》
有时候,最伟大的科学发现往往发生在那些人们没有完全理解或理性衡量所有利弊的情况下,而是像 Hoel 所写的那样,“(爱因斯坦)从神明那里摘取一个想法,交到人类手中”。
在一个由 AI 驱动的未来,这些“神明”变得越来越易于接触,而我们的 “手” 则变得越来越强大,推动我们快速攀升到 “乱弄并发现真相”(FAFO)的曲线上方。
尽管监管框架和制度控制会通过技术和法律的调整来适应,并试图更好地协调这些超人类AI代理,但我们真正见证的是一场哲学层面的转变:随着技术进步的推动,以及可能伴随的社会向虚无主义、个人主义和激进主义的深层转变,理性与实验之间的传统屏障正在逐渐消融,而激活能量的降低则加速了这一过程。
回到最初的话题,关于“镜像细菌”的评论反映了一种旧的范式——在那个范式中,我们可以清晰地区分理性与非理性的实验,明确利弊。在那个范式中,我们人类能够更好地预测可能和不可能的事件及其时间线。