//@机吉斯卡:转发微博-20241022232009

上周对话《人类简史》作者尤瓦尔-赫拉利教授。他的新书《智人之上》讨论了从石器时代到信息时代，AI时代的很多真相。尤瓦尔眼中人类所面临的三大挑战：1，生态系统；2，人工智能的崛起（The rise of AI）；3，WAR。

针对人工智能的崛起（The rise of AI），他认为，如今的人工智能还处在一个很原始的阶段。现在很多国际机构都在呼吁要让AI有利于人类（AI for Good），科技也的确是解决了很多为人类谋福利的问题。对于很多国家和地区而言，放任让AI野蛮生长并不少见。因为发展更重要，就不需要监管了么？（想到某些地区为了保住自己什么电商园区的旗号，宁愿对电商乱相睁一只眼闭一只眼）

在AI监管领域，尤瓦尔认为，应该禁止人工智能假冒人类。我们欢迎人工智能以医生或教师的身份在社交媒体上与我们互动，但它绝不能假装自己是人类。你在交谈时，需要知道交谈的对象是人类还是人工智能。同时，因为社交媒体上充斥着假流量的bot，让某个推送获得大量关注，吸引很多用户点击。用户可能会想，是不是大家都对这个感兴趣，你也想了解一下人们正在谈论什么。于是你也开始点击它。实际上，最初推送这则内容的并不是人类用户，而是bot，它们在干扰人类的决定。

“禁止假冒人类“应该成为一项重要规定，就像各国政府禁止伪造货币，以维护人们对货币的信任一样，我们需要禁止伪造人类，以维护人们对人类的信任。

另一项重要的监管规定，应该是公司应对其算法的行为负责。如果汽车在工程设计上存在缺陷，导致发生事故，造成了人员伤亡，这显是汽车公司的责任，一定会被惩罚。如果一种药品有副作用，导致人们患病，那么医药公司显然要承担责任。

人工智能的算法为什么不应该要用同样的逻辑呢？如果一家公司研发了一种功能强大的算法，而它对社会、人类心理或其他方面产生了危险的副作用，那么这家公司就必须承担责任，必须对它造成的损害负责！！！【不能再赞同】

事实是，目前有关人工智能的大部分知识只掌握在少数国家的少数公司手中，而世界上大多数人、甚至大多数政府都不太了解发生了什么

这就要说回第三个挑战：WAR。正因为我们面临着生态崩溃和人工智能崛起这两大挑战，本应该全世界人民更加团结共同应对？事实却恰恰相反。。。在过去十多年里，世界各地的国际紧张局势日益加剧，战争和冲突越来越多。因此，如果我们现在拥有的武器具有如此大的破坏力，一旦爆发真正的大规模战争，不需要人工智能或气候变化来毁灭我们，我们就可以毁灭自己。

是的，能摧毁人类的，只有自称“智人”的，我们自己。@尤瓦尔诺亚赫拉利