维塔利克·布特林警告：超智能人工智能可能比预期更早到来

以太坊联合创始人维塔利克·布特林警告称，超智能人工智能可能在几年内到来，呼吁采取紧急措施以防止灾难性风险。

以太坊联合创始人维塔利克·布特林对人工智能（AI）的快速发展表示担忧，警告说超智能AI可能比预期更早出现。布特林强调迫切需要制定策略来应对潜在风险，专注于他所称的“防御性加速”，以确保AI技术的负责任使用。

在1月5日的一篇博客文章中，布特林概述了他防止AI有害进展的提议。他主张建立与人类决策紧密相关的去中心化AI系统，旨在降低滥用风险，尤其是军事力量的滥用。他强调了AI在战争中日益增长的全球趋势，引用了在乌克兰和加沙的部署实例，并警告说，AI法规中的军事豁免可能会带来重大威胁。

布特林估计，人工通用智能（AGI）可能仅在三年内到来，而超智能可能在此之后的三年内出现。他强调，人类不能仅仅加速有益的进展，还必须积极减缓有害的发展。他描述了一个场景，即不受控制的AI可能导致灾难性后果，包括人类灭绝的可能性。

为应对这些风险，布特林提出了几项措施。首先，他呼吁制定责任规则，以使用户对AI系统的使用负责。尽管承认将AI发展与其使用联系起来的复杂性，但他认为最终决定技术应用的是最终用户。

如果责任措施被证明不足，布特林提议实施“软暂停”机制。这将暂时减缓危险AI系统的发展，可能通过在关键时期将全球计算能力减少90-99%为期一到两年。这将为人类准备应对新出现的挑战提供时间。

另一个关键建议涉及控制AI硬件。布特林建议在AI系统中集成芯片，这些芯片需要来自三个国际机构的每周授权，其中至少一个机构不是军事机构。此措施旨在保持全球监督，防止滥用。

尽管提出了这些想法，布特林承认他的策略是暂时的和不完美的。然而，他坚持认为，必须立即采取行动来管理迅速发展的AI技术所带来的风险。

布特林的警告正值人们对AI安全的关注日益增加之际，突显了全球合作解决这些紧迫问题的必要性。通过确保AI仍在人的控制之下，可以将灾难性结果的风险降到最低，但实现这一目标需要集体努力和警惕。