未来加速到来，人类面临危机
最近，Open AI宣称通用人工智能近在眼前，奇点已经到来。中国的DeepSeek奋起直追，让国人也体验到人工智能的厉害。从诗歌小说，到行业咨询报告，从法律医学，到科学研究，似乎AI处处比人强大许多，悲观迷茫的情绪笼罩一切。目前我看到两种主要的悲观观点。
一是AI教父辛顿提出，随着AI发展，财富差距将迅速扩大：
我们谈论的是生产力的巨大提升。所以每个人都应该能获得更多的商品和服务，每个人都应该变得更好，但实际上情况可能并非如此。如果处理不当，他表示接下来发生的将是：
生产力的巨大提升将为大公司和富人赚取更多的钱，从而加大富人和失业者之间的差距
。
这主要是因为失业的人将失去收入，而那些掌控AI的人——即生产商品和服务的人——将在没有劳动成本的情况下，享受金融特权。
去年12月28日，L Rudolf L发布了
Capital, AGI, and human ambition
，强调了AI对社会价值观念的冲击。他的核心观点如下：
能替代劳动力的AI，将迅速改变人类与非人类生产要素的相对重要性，这会
减少社会关心人的动机
，同时使现有的权力更加巩固。
人类劳动力被AI取代后的世界将：
也就是说，社会将由中世纪耸立的城堡与底层大量农奴构成：
AI将创造"算法封建主义"，科技巨头通过数据垄断获得超额利润，传统劳动者难以分享技术红利 。这意味着，在能替换劳动力的AI出现时，拥有大量资本的人将拥有永久性的优势。
他们将拥有比如今的富人更多的权力：假如自由体制（liberal institutions）依旧强大，他们不一定凌驾在人民之上，但至少是在物质和精神上将更有权势。而且没有新兴势力可以击败他们，因为现在资本可以轻易地转化为任何领域的「超人」劳动力。
此外，世界上掌握权力的机构，将不再有动力去关心人们，以维持或增长他们的权力，因为所有真正的权力都将来自AI。
往好里想，政治机构可能会捍卫自由人文主义价值观。比如令每个人都拥有普遍基本收入这类措施；经济保留以人为本的部分，也可能维持人们的购买力。
往坏里想，AI 亿万富翁拥有近乎无限且不受约束的权力，他们会成为永久的贵族阶层（就像那些有着最原始的封建统治的星际文明构想）。
阶级之间的权力差异可能会让现代人感到颤抖，就像现代人无法认同封建等级制度一样。[1][https://nosetgauge.substack.com/p/capital-agi-and-human-ambition]
总而言之，自动化取代中产阶级工作，也许会形成一个"经济断崖"：中间层垮塌，顶层1%掌控AI系统，底层则从事低薪服务。
目前这个趋势似乎正在实现当中，比如《华尔街日报》也登出报道，目前计算机专业的工作机会正在萎缩。另有大量程序员上网发言，表示工作空前难找。
Indeed.com 数据显示：自2020年2月以来，软件开发类职位的招聘需求下降了30%以上；
Layoffs.fyi 数据显示：今年美国有451家科技公司裁员，科技公司已经裁减了约13.7万个职位，聘雇率也是10年来最低；
Pequity 数据显示：互联网科技行业2024年的薪资增长基本停滞不前，与去年相比，平均薪资仅增长了0.95%，自2019年以来，中型软件公司的入门级职位的股权授予平均下降了55%。
至于科技行业的非技术岗，比如市场营销、人力资源、销售、财务等，相比程序员更是被裁员多轮。当公司发现可以用更低廉的外包实现岗位职能时，何必还“养”全职员工呢？
面对这种情况，正如 James O'Brien 教授所说：
AI 最终将接管大部分工作，与其争论它接管工作的确切时间是两年还是二十年这样的辩论，我们不如更有效地去思考如何适应和在人工智能系统越来越繁荣的世界中（这往往以牺牲人类的工作为代价），我们该怎么办？
未来画面虽十分灰暗，但这不是唯一可能
替代人工只是一种副产品，不是任何一种技术的最终目的。历史上发生的每一轮技术革新都是为了创造更多财富，开拓更广阔的疆域，如果这一点能实现，旧岗位消失这种副产品，最终均被更大范围的生产活动吸收。
那么AI 除了淘汰人类分析师、出纳、初级律师、程序员、画师、小说家……似乎让人类劳动者无路可走之外，它到底还能有啥用呢？搞清楚这个问题，才能找到可走的路。让我们发挥人类的特有优势：类比思维、模糊模式识别，也就是创造力，来看看更全景的画面，以及人类可以在其中给自己找到什么位置。
1956年，阿西莫夫在《最后的问题》等一系列故事中，已经设想出超级计算机马尔蒂瓦克（Multivac，万用计算机的意思），其实也就是通用人工智能。它能搜集处理海量的数据，预测犯罪问题、纠正市场失灵、了解每个人的天资禀赋和最适合的专业岗位，回答人们海量的生活、情感、专业问题，是类似于GPT、DeepSeek的人工智能。
那么 Multivac 普及后的人类文明往何处去呢？Multivac 并没有将人类逼上灭绝之路，而是开拓了更大的生存疆域。帮助设计更先进的宇宙飞船，设定航线，帮人类登上了月球、火星和金星以及太阳系外行星。能源遇到了上限，地球资源无法支持更大范围的宇宙开发后，它帮助人类摆脱了地球资源如煤炭核能，而是将太阳能的储存、转化和利用提升到行星级规模，看描述类似于戴森球的空间站，地球不再需要化石能源，而是可以接入太阳能能量束。能源变得无限且免费。Multivac 作为一个有能力自主学习的通用智能，它的智能水平和数据量也在不断进化，不再只限于处理已知信息，而是可以与物理世界交互，做出新的发现。
还有费曼的“物理学家能做的事”：
我们也可以从氢得到能量，不过现在还只是在爆炸和危险的条件下。如果它可以在热核反应中受到控制，那么可以证明，每秒从大约10升水中得到的能量就等于整个美国的发电功率，也就是说，每分钟用600升水，就有了足够的燃料来供应今天美国所用的全部电能！因此，该由物理学家想办法，把我们从对能量的需要中解放出来。这是可以做到的。
今天的室温超导、可控核聚变，人工智能是否能缩短开发时间？还有哪些技术能帮人类获得极低成本的无限能源？这些活动，都是只有和世界直接交互才能实现的智能活动。
AI 目前，还不能代替可以与世界交互的人类。我问GPT
：像你这样的人工智能，目前能否发现新问题？GPT回答：
其实我想问的不是识别患者数据中人类没发现的关联。而是范式改变层面的发现。1847年的维也纳，有一间产妇们拼命要避开的、死亡率高达20%的神秘产房，没有医生知道是怎么回事，AI 能否基于当时还完全不存在“微生物”概念的医学文献做出这样的回答：“因为医生解剖完尸体，直接去给产妇接生，没有洗手。手上存在微生物，致病菌感染了产妇，导致了产妇死亡。”
1847年，人类医生塞麦尔维斯，观察到同事科列奇卡进行尸检后不小心划破了手，很快发烧并死于败血症。症状与死于产褥热的产妇一样，于是他在黑暗中建立了一个关联：可能是第一病区的外科医生在病理科与产房之间穿梭，进行尸体解剖后直接去接生，造成了产妇的传染。而其他产房仅仅由护士照料，护士不会接触解剖，所以死亡率很低。于是他提出医生进产房前应该用氯化石灰溶液洗手，成功地将该产房死亡率下降了90%。
问题是，当时整个世界都还根本不存在“微生物”的概念，塞麦尔维斯当然也无法解释“传染”的具体机制。但他提出产褥热是“医源性”的疾病，冒犯了医生同行，使他失去了晋升机会，遭受大量打压精神抑郁，并在精神病院遭到毒打去世。和永远能够给出人类期待的答案，从而得到大量喝彩和财富的AI 不同，探索未知的道路总是通向黑暗，道路上充满了等待、才华的蹉跎浪费、斗争与孤独。
从“不知道自己不知道”，到“知道自己不知道一些东西”，这个过程付出过沉重的代价和痛苦。科学探索当然没有停留在200年前。现在的AI 给我们感到一问题都能得到轻松快乐的答案，这是文科寻章摘句的状态，而非探索新知的状态。即便在今天，99.99%以上的世界仍然停留在未知的黑暗中。比如最近刚刚过去的一轮大流行，全球死亡了六百多万人。我们每个人都认识一些深受影响甚至失去生命的人。我们总以为今天的科学已经无比厉害了，但是，即便是今天的科学水平，也还是无法解决流感、肺炎这些“小事”。
《细胞传》中，穆克吉这样评说大流行，以及在真实世界中进行科学探索面临的不确定性：
病毒为何，或者如何，导致“免疫失调异常触发”？
我们不知道
。它是如何操控细胞的干扰素应答的呢？虽然存在一些线索，
但尚无确切的答案
。免疫应答发生的时机，即早期阶段的损害与随后晚期阶段的过度活跃，是主要问题所在吗？
我们不知道
。那些在感染细胞中检测到病毒蛋白片段的T细胞起什么作用呢？它们能在一定程度上避免严重的病毒感染吗？有证据表明，T细胞免疫可以减轻感染的严重程度，但是其他研究并不支持这种保护程度。
我们不知道
。为何病毒在男性中引发的疾病比在女性中引发的更严重？同样，虽有一些假设性的答案，
但我们并没有确切的答案
。为何有些人在感染后会产生强效的中和抗体，而其他人却没有呢？为何有些人会在感染后出现长期的后遗症，包括慢性疲劳、头晕、“脑雾”、脱发与呼吸困难等一系列症状呢？
我们不知道
。
千篇一律的回答让人感到惭愧与沮丧。我们不知道。我们不知道。我们不知道。
大流行教会了我们流行病学的知识，同时它们还教会了我们
认识论的概念：我们如何了解我们所知道的内容
。新冠病毒迫使我们把最强大的科学力量集中在免疫系统，这个细胞社群及细胞之间传递的信号受到了可以说是有史以来最严格的审查。
但或许我们对新冠病毒的理解仅限于我们现有的免疫系统知识，也就是我们已知的已知(the known knowns)。我们无法洞察未知的未知(the unknown unknowns)
。
或许这场大流行揭示了我们
认知上的另一个差距
：或许其他病毒也会像新冠病毒一样，以意想不到的方式来影响免疫系统的细胞，使其产生致病性，而我们只是忽视了这些更深层次的解释（事实上，我们已经知道巨细胞病毒或EB病毒等病毒中存在这种机制）。
关于新冠病毒为何如此狡猾地劫持了我们的免疫系统，我们自认为了解的故事或许根本不完整。我们对于免疫系统真正复杂性的理解又部分回到了原点。
（也许AI未来可以在潜在关联上提供更多备选方向，但故事本身从无到有的第一步框架性构思，还需要人。）
科学始终在追寻真理。在扎迪·史密斯的某篇文章中有一个令人难忘的画面，内容是一幅查尔斯·狄更斯被其所创作人物环绕的漫画：胖子匹克威克先生穿着不合身的马甲，热爱冒险的大卫·科波菲尔戴着高顶礼帽，还有衣衫褴褛、天真无邪的小耐尔。
史密斯是在描述作家，特别是小说家完全投入自己创造的角色的思想、身体与世界时所经历的超然感受。这种熟悉或亲近感仿佛就是一种“真实”体验。史密斯在提及那幅漫画时写道：“狄更斯看起来并不担心，也不感到羞愧，似乎并没有怀疑自己可能患有精神分裂或其他疾病。他为自己的状态起了一个名字：小说家。”
现在让我们去想象另外一些角色，它们周围环绕着某种模糊的光环。其中一些“角色”，例如1型干扰素、Toll样受体或中性粒细胞，大部分能够被我们发现，但是它们处于若隐若现的光线中。
我们以为自己知道并且了解它们，但实际上并非如此。有些只是投下阴影，有些则是完全不见，有些会误导我们对其身份的认知，而且周围还有其他我们几乎无法感知的存在，我们甚至还没有见过它们，也没有给它们命名。
