苹果联合创始人史蒂夫·沃兹尼亚克是上千位呼吁暂停开发超级人工智能的公众人物之一。其他签署者包括诺贝尔奖得主、人工智能先驱及其他科技界杰出人士……
该声明简短扼要。全文如下：
创新的人工智能工具可能带来前所未有的健康与繁荣。然而，除了工具之外，许多领先的人工智能公司都公开表示，其目标是在未来十年内构建出超级智能，这种智能在几乎所有认知任务上都能显著超越所有人类。这引发了诸多担忧，范围从人类经济过时和权利丧失、自由、公民自由、尊严和控制权的丧失，到国家安全风险，甚至潜在的人类灭绝风险。以下简明声明旨在让公众逐渐了解，越来越多的专家和公众人物反对仓促发展超级智能。
我们呼吁禁止开发超级智能，在满足以下条件之前不应解除禁令：
- 科学界广泛共识认为其开发将是安全且可控的；
- 并获得了公众的广泛支持。
其他一些值得注意的签署者包括：
- 人工智能先驱杰弗里·辛顿，有时被称为“深度学习之父”
- 基础人工智能研究员约书亚·本吉奥
- 加州大学伯克利分校计算机科学教授、人工智能安全专家斯图尔特·罗素
- 诺贝尔物理学奖得主弗兰克·维尔切克和约翰·C·马瑟
- 诺贝尔奖得主比阿特丽斯·菲恩和达龙·阿西莫格鲁
- 美国前国家安全顾问苏珊·赖斯
许多相同的签署者此前曾表示，人工通用智能（AGI）对人类构成的灭绝威胁与流行病和核战争一样大。
