马斯克等千名专家签署联名信，呼吁暂停训练比GPT-4更强大的AI

根报道，Tesla首席执行官Elon Musk、苹果联合创始人Steve Wozniak、图灵奖得主Yoshua Bengio等千名科技界专家及行业高管近日联合签署了一份关于《暂停巨型人工智能实验》的公开信，呼吁暂停训练比GPT-4更强大的人工智能系统至少6个月的时间，理由是这种系统对社会和人类构成潜在风险。公开信指出，现代AI系统正逐渐在通用任务上实现与人类竞争的水平，只有当人类确信AI系统的影响是积极的，风险是可控的时候，才应该开发强大的AI系统。此外，AI实验室和独立专家应该利用这个暂停期共同制定和实施一套共享的AI设计和开发安全协议，这些协议应由独立的外部专家严格审核和监督，应确保遵守它们的系统在合理怀疑范围之外是安全的。这并不意味着暂停整个AI领域的发展，而仅仅是从危险的竞赛中退一步，避免研究更大、更难以预测、具有突现性能力的黑箱模型。