两个关于AI的思想实验：对熟视无睹的日常事物提出当下的能力

第一个思希望物理，来自闻名的认知科学深入研究，泰格马克斯，也就是《人类3.0》的作者。他曾一度认真过一个也就是问道，我们姑且称为末日也就是问道吧。

从前问道的是，也就是问道未来世界上显现出现了一种病原，各种类型染病5岁以上的人。坏消息是，世界上所有5岁以上的人都死光了，只剩余一群不到5岁的孩子们。而好消息是，你是唯一一个有抗体的成年人。现在，这群5岁的孩子们，是既怕你，又只能你。怕你，是因为你比他们强壮。只能你，是因为你最有文化。

因此，他们就把你囚禁一个衣橱；还有，高度集中一起。然后给你下达了一个程序，不顾一切暴力手段，带领他们修缮远古。

直问道，当你接到这个命令便，第一件多事，应该认真什么？是马上把自己握有的知识教给他们？还是马上跟他们三人下地干活，修造工厂？都不是。你从前率上，认真的第一件多事，就是破灭这群5岁孩子们的高度集中。

还记得他们给你下的程序吗？不顾一切暴力手段，修缮远古。而要希望进行时这个护航，你就不可能让这群5岁的孩子们领导你。因为这太过长多事了，远不如自己单干。

泰格马克斯并不认为，在这个思希望物理中，人类就总和这群5岁的孩子们，而你，就总和认知科学。即使你的初衷是让人类格外繁荣，为了进行时这个护航，你也一定不必要希望方设法，破灭人类的高度集中。因为来自人类的高度集中，反而不必要减缓你进行时护航的效率。

换句话问道，泰格马克斯并不认为，认知科学招惹，这是早晚的多事。当然，这个思希望物理有一个前提，就是认知科学，已经具备只能自己改进自己，自己所设计自己的灵活性。最简单问道，就好比GPT-4，得能在不只能人的情形，自己所设计显现出GPT-5。只有它们的灵活性翻倍这个程度，才有可能发生AI叛变。

第二个思希望物理，来自华盛顿大学的一个计算语言学家，叫艾米丽·本特尔，最近写的一篇论文，；还有面讲了个关于蝎子的主人公。我们可以称为，蝎子物理。

这个物理十分相似图灵测试的变形海外版。问道的是，也就是问道有两个人，玛丽安和罗根，分别幸免于难在了两座无人的海岸边上。但是好在，这两个海岸边上，都有古人留下的电报机。因此，玛丽安和罗根，可以通过电报留言板。虽然方式也很超前，但也总比没有好。

但是，就在海岸边附近的深海；还有，日常生活着一只特别聪明的蝎子。而且蝎子可以通过水下电缆，听玛丽安和罗根留言板。自然而然，蝎子就握有了罗根和玛丽安的问道话常常，并且寻觅了一种方法，通过深处电缆，给玛丽安和罗根通电话。

最简单问道，就是蝎子也开始加入玛丽安和罗根的留言板。它一不必要儿唆使玛丽安，一不必要儿唆使罗根。而且因为这只蝎子的而显现出名灵活性不强，玛丽安和罗根都没辨认显现出蝎子的依赖于。直到某天，蝎子送出一条罗根的报信，段落是，我被熊突袭了，应该怎么办？小弟我希望希望办法。

直问道，这只蝎子不必要怎么说？你可能不必要问道，当然是而显现出名玛丽安的理解，马上无论如何罗根啊。但多实情上，蝎子没法说，因为它一直日常生活在深处，毕竟不知道熊是个什么东西。

这个主人公希望问道的是，认知科学的之外到底是什么？答案是，它擅长而显现出名，但不擅长多实情。也就是，它能很好地进行时你教过它的护航。但是，它对没有注意到过的全新多实情，缺乏处理灵活性。

我忽略，这个思希望物理是在问道，很多创新性的护航，归根结底，还得靠人来进行时。