埃隆-马斯克、史蒂夫-沃兹尼亚克和其他1000多名企业家、科学家和教授签署了一份来自未来生命研究所的请愿书，要求暂时中止GPT-4聊天机器人等AI的开发。这种担忧的背后是什么？
埃隆-马斯克想停止人工智能（AI）的发展吗？
埃隆-马斯克、史蒂夫-沃兹尼亚克和其他企业家、科学家和教授都签署了一份由未来生命研究所提议的请愿书，呼吁暂时停止人工智能的发展：
我们呼吁人工智能实验室暂时暂停训练强大的模型!
与Yoshua Bengio、@stevewoz、@harari_yuval、@elonmusk、@GaryMarcus&超过1000名其他签名者一起加入FLI的呼吁： https://t.co/3rJBjDXapc
一个简短的关于我们为什么呼吁这样做–（1/8）
–生命的未来研究所（@FLIxrisk）2023年3月29日
在写这封信的时候，总共收集了1377个签名。这封信的目的是将GPT-4等系统的培训搁置至少六个月，GPT-4是由埃隆-马斯克共同创办的公司OpenAI的著名聊天机器人的新版本。
主要的问题是人类在这些发展中的地位。在这个意义上，提出了几个问题，如可以决定我们在各种社交网络上看到什么的算法，各种操作的自动化，以及开发比人类更聪明的头脑：
。
这种决定不应该被委托给未经选举的技术领导人。只有当我们确信强大的人工智能系统的效果是积极的，其风险是可控的，才应该开发。这种信心必须有充分的理由，并随着系统的潜在影响的规模而增加。”
另一方面，请愿书呼吁将人工智能的发展重点重新放在 “安全、可解释、透明、稳健、一致、值得信赖和公平 “的技术领域。
人工智能是一个真正的危险吗？
与任何技术革新一样，人工智能也会引发问题。早在工业革命时代，人类就在质疑自己可能被机器取代，《终结者》等小说作品也释放了对可能出现的末日场景的热情，但我们真的处于奇点的边缘吗？这个问题是有分歧的。
这些问题并没有等到最近人工智能在社交网络上的流行而出现。
然而，确实有一些伦理问题需要强调，特别是在这些系统的教学方式方面。就像我们在网络上的所有活动一样，与人工智能的每一次互动都会给它提供关于我们的信息，我们免费为私营公司的算法提供信息。
因此，质疑这些数据如何以及将如何被这些公司使用是很有趣的，这可能代表了一种更理性的危险，而不是目前对完全自主的超级人工智能的幻想。
至于取代人类的问题，就像其他技术领域一样，虽然人工智能可能确实会消除一些工作，但它会同时创造其他工作。简而言之，它是一个道德上中立的工具，其危险或好处取决于如何使用它。
