思想周报以翻译、扫描舆论场上的观点文章的方式，为读者呈现全球思想动态。本期思想周报，我们关注人工智能与文本末世，以及写作如何定义人类。
人工智能与文本末世
人工智能语言模型的快速发展将会如何影响我们的写作？2023年，马里兰大学英语系的学者马修·柯申鲍姆（Matthew Kirschenbaum）提出了文本末世（Textpocalypse）的理论。伴随着生成式人工智能的爆发，我们更有理由去反思生成式人工智能对于原创思想和文学创造力的削弱。
在文章《迎接文字末日》（Prepare for the Textpocalypse）中，柯申鲍姆提出：我们与书面文字的关系正在发生根本性的变化。所谓的“生成式人工智能”已经通过 ChatGPT 等程序进入主流。这些程序使用大型语言模型（LLM），通过统计预测文本序列中的下一个字母或单词，从而生成模仿被输入文档的句子和段落。它们将类似“自动补全”的功能扩展到了整个互联网。
柯申鲍姆随后提出了担忧：此前，人们通过主动输入提示词来训练这些模型，这些模型（大多数情况下）仍然主要基于人类创作的文本进行训练。然而，自ChatGPT API 发布以来，过去的训练模式可能被颠覆——机器可以提示其他机器无休止地生成文本，利用机器生成的文字“自我训练”，这些毫无人味的合成文本将迅速充斥互联网，就像文字版的灰色粘质（gray goo，一种科幻概念，指纳米机器人消耗完地球上所有的生物量，通过无限自我复制造成的末日灾难）。
不论是出于商业目的，政治宣传，甚至是为了某些恶趣味，这些系统都将生成大量的文本，并将它们投放到互联网上，与其他信息混杂在一起。这并非危言耸听，2022年6月，一个经过调整的开源语言模型GPT-J被植入匿名论坛 4chan，它在24小时内发布了 15000条大多带有攻击性的帖子。设想某人建立一个系统，使人工智能程序不断自我查询，并自动将生成内容发布到网站或社交媒体上，形成一个永无止境的内容流。这些内容不仅干扰互联网上的信息流，还会被重新吸收进训练数据集，最终影响模型生成的新内容。这些信息的准确性也难以保证，科技新闻网站CNET曾发布过数十篇由AI辅助撰写的文章，试图吸引流量，而其中超过一半的文章被发现存在错误。
我们可能很快会面临一场文本末世（Textpocalypse），届时机器生成的语言将成为常态，而人类撰写的文章则成为例外。届时，网络上的人类创作文本可能会变得稀有，就像书法家的珍贵作品一般。这仿佛一场全球性的垃圾信息（spam）事件，但我们尚未开发出有效的过滤机制。
许多人没有意识到的是，文本是内容，但它是一种特殊的内容——“元内容”（meta-content）。在每个网页的表层之下，都隐藏着文本，用尖括号括起的指令或代码，决定页面的外观和行为。浏览器与服务器之间通过文本进行连接和交流。编程同样通过纯文本进行。图像、视频和音频都依赖文本进行描述和标注，这些文本被称为元数据（metadata）。互联网远不止是文本，但从根本上说，互联网的每个元素都是由文本支撑的。
长期以来，“读—写”网络（read-write web）一直是互联网的基本范式。我们不仅消费内容，还能生产内容，通过编辑、评论和上传来参与网络的构建。然而，如今我们正处在迈向“写—写”网络（write-write web）的边缘：网络开始自行书写和重写，甚至在这个过程中可能会重新构建自身。
针对柯申鲍姆的文章，威诺纳州立大学大众传播学副教授达文·赫克曼 (Davin Heckman) 提出三点思考：第一，一旦无休止的、令人信服却完全空洞的机器人诡辩泛滥成灾，那么参与和表达有意义内容的场所的价值将迅速下降。换句话说，繁荣之后便是衰败。俗话说，“说话不花钱”，但话语的价值将变得更加廉价。很快，你会看到人们推着满载文字的手推车走出图书馆，而这些文字的价值甚至比承载它们的纸张还要低。
其次，根据斯蒂格勒的理论：个体化作为一个过程（而非目标），它与个人的（心理的）、集体的（社会的）和技术的日常生活协商密切相关。人们在参与心灵、社会与文化生活时，个体性才会作为一种自我意识不断地生成和变化。然而，在越发技术化、自动化的社会中，人与人之间的互动变得更加空洞。社会世界已经变得倾向于选择欲望与满足之间的最短距离，没有空间进行反思、社交互动，更不用说历史性的推测了。人类语言被简化为稀疏的礼节性功能，这种功能反映了我们在社交媒体上所学会的强迫性手势（点赞！）。未来，人工智能可能进一步塑造人与人之间的互动方式。
最后，赫克曼质疑了人工智能成为社会知识基础的替代的可行性。赫克曼提出：智慧存在于城市、乡村、家庭、教堂、工作场所等地。换句话说，智力生活不仅依赖于个体的智力，还依赖于社会知识基础的形成；依赖于社区知识和分析能力的聚合。当一个活跃的社区将自己视为跨代的实体时，它会收集来自过去世代的信息，并为未来世代保存信息，运用记忆技术和技巧，建立档案。个体、社区和文化的这种整合是文明意义的基础。人工智能的出现，提供给人们更加直接的“回答”，让人质疑保存和建档的工作意义，这似乎也预示着人们逐步放弃建立社区的艰巨任务。
自《迎接文字末日》发布以来，已经过去了两年时间，人工智能以更加迅猛的势头飞速发展。柯申鲍姆近日写道：如今，正如关于AI“劣质内容”泛滥的新闻标题所揭示的，文本末世已基本成为现实。如今的文本已不再是为了被阅读，甚至不再是供人消费的内容，而更接近一种通用货币——一种无限的、可替代的代币，成为新的（并且具有掠夺性的）书写经济的化石燃料。
无论一场完全自动化的文本末世是否真的会降临，这一趋势都在加速发展。从类型小说到医生报告，我们或许无法再轻易假定自己正在阅读的文本出自人类之手。写作（尤其是数字文本），作为一种人类表达形式正在逐渐与我们疏离。这些文字，最终可能也难逃被吸纳进下一代生成式人工智能的训练数据之列，不可避免地沦为即将到来的文本末世的燃料。
写作定义人类
人工智能会取代作家吗？美国作家海伦·菲利普斯（Helen Phillips）给出了她的答案：也许正是在这个技术爆炸的时代，人类的写作变得更有意义。
菲利普斯2月14日接受了CBC加拿大电台采访，在谈论她最新出版的小说《嗡鸣》（
Hum
）时，探讨了在由人工智能驱动的日常生活中，是什么让我们成为人类。
菲利普斯是布鲁克林学院教授，已出版六本书，包括入围美国国家图书奖的小说《需要》（
The Need
），以及获得约翰·加德纳小说奖的短篇小说集《一些可能的解决方案》（
Some Possible Solutions
）。
《嗡鸣》书封
“我的焦虑是我的灵感：更深入地理解这些焦虑，直面它们，也许能找到某种解决方案。”她在Bookends节目访谈中说，“对我来说，面对焦虑的过程就是更多地了解我所担心的事情。”
这种将焦虑转化为故事的能力，源于她的童年经历。
11岁那年，菲利普斯因自身免疫性疾病失去了所有头发。
“在那段最艰难的时期，写作给了我一个自由的空间。
13岁开始，我给自己定了个目标：
每天写一首诗。
这个习惯一直坚持了八年。
”
对菲利普斯而言，写作不仅是表达方式，更是将私人经验转化为可共享叙事的过程。“当我用语言表达出来时，它就转变成了我可以与他人分享的东西。当我与他人分享时，它就不再是我一个人承担的负担。”
这种将个人危机转化为普遍意义的能力，正是人类写作区别于人工智能文本生成的关键。
在写作《嗡鸣》时，菲利普斯直面了对于人工智能和气候变化的恐惧。
故事发生在一个反乌托邦世界，这个世界既熟悉又与我们的现实有微妙的不同。气候变化已经破坏了环境。
（“要是森林没有被烧毁就好了，”May想。“要是离开城市、越过众多工业和荒芜地带不是那么困难、那么昂贵就好了。”）
摄像头和屏幕与空气中的污染一样无处不在；隐私、亲近自然和免受广告干扰已成为奢侈品。智能机器人(称为“Hum”)在这里行走、说话并执行各种工作。这里的年幼儿童普遍佩戴智能手表方便家长来监测他们。几乎每个大人都沉迷于被称为“Woom”的个人虚拟现实舱。
许多工作都被自动化取代，包括May的工作。她曾在一家开发“人工智能沟通能力”的公司工作，但在无意中训练了一个使她自己变得多余的人工智能网络后被解雇。她的丈夫Jem是一名前摄影师，现在靠清理捕鼠器和打扫壁橱的零工维持生计。这对夫妇对未来的焦虑已经影响到他们的孩子，8岁的Lu和6岁的Sy，他们表现出对蟑螂的呵护、对防灾手册的痴迷，以及对无味草莓的欢欣。
