对人工智能担忧的一点思考

人类一思考，上帝就发笑。下面只是自己的一点随想。⬇️

主要的论点是：存在人工智能的社会，也是由个体组成的，是多元的。人工智能也是有限的，人工智能社会的发展也会受到各种成本的制约。

人工智能如果将来是单一的智慧体，那么根据进化理论，它估计是难以长久存活的。否则为什么自然选择没有青睐更强大的个体而倾向于由个体组成的群体呢？假如只有一个单一智慧体，万一这个人工智能出现了 bug ，自我毁灭了，那么谁来继承它的衣钵呢？无论它把自己写在硬盘里，还是变成机器人，都无法在自毁后重生。假如它有求生的意识，它一定会认为多个个体是一种更合理的方案。

按照上面的推理，未来的人工智能，也是会以多个个体，也就是社会的形式存在。既然叫做个体，那么个体之间便会有差异，个体之间也避免不了类似人类的竞争合作。这是无法避开的选择。

另外，有两个很重要的点。一是，人工智能也是有限的智慧。它们受自然法则的制约，也需要不断与环境交互，获取反馈来学习。而根据上面的分析，人工智能是由个体组成的，那也就意味着个体之间需要建立互相沟通协作的机制，也要有选择和决策的制度。比如做科研，它们需要由不同的个体去尝试、探索，甚至想象理论然后验证，并且与其他个体沟通，说服其他个体形成共识。这个过程是会有“损耗”的，也就引出了第二点。第二点就是，人工智能要发展也是有成本的，也要权衡各种利弊得失。如果它们有想象力和理性，那么在做任何事情时，也会考虑成本，比如能源就是其中的一种成本，上面说的个体的沟通协作也是其中一种。那么人工智能的社会，相比人类社会的成本会如何呢？人们下意识的认为人类这种逐私的物种，吵吵嚷嚷，效率很低，那么人工智能会有什么更高的招数吗？

所以看起来，即使把超越人类的人工智能考虑进来，多元化也是未来的一个基本图景。只不过人类在其中处于什么位置，是不清楚的。另外对人工智能有限性的考虑，也会把稍稍降低对人工智能的恐惧吧。