“物理-逻辑性”与“生物-文化性”之间:人工智能技术的文化边界

摘要

超级人工智能技术的发展可能达到奇点状态,即最终成为可以自我设计、优化、制造出任何技术的技术,在这个意义上它成为绝对的技术主体,从而超越并支配人类智能。超级人工智能的文化风险可以被描述为"物理-逻辑性"对"生物-文化性"的削弱、支配甚至消灭。当人工智能战胜人类智能、非生物智能控制生物智能、人工意识取代人类意识,就会造就一个后生物学的世界。基于人类"生物-文化"系统的脆弱性、唯一性和整体性,为了确保自然人类文明的可持续发展,就必须建立一个统合各类智能主体的整体主体,对任何意义上的极限技术进行管控,以维持生物主体与技术主体之间的均衡。这个自然人类文化系统之下的内在均衡是智能与非智能、机器与生命、理性与非理性、还原主义与整体主义等的整体化进程。