超级智能（Superintelligence）是人工智能（AI）发展的更高维方向，具备远超人类的认知和能力，其潜在应用令人期待，但也将带来前所未有的治理与安全挑战。哲学家 Nick Bostrom 在 2014 年出版的《超级智能：路径、危险、策略》一书中写道，“超级智能如果被创造出来，将很难控制，它可能会为了实现目标而占领世界。”为应对超级智能可能带来的风险，OpenAI 在 2023 年提出“超级对齐”（Superalignment

【点击查看原文】