问:Steven Pinker认为只有男人才会担心超级智能人工智能的前景。 Quora上有没有关于这个话题的女性?
答:是的。 我是Quora的女性,对这个话题有严重的保留意见。
从心灵哲学的角度,我写了关于人工智能的硕士论文。 我知道什么是智慧和思想,而不是,我绝对觉得,如果我们真的设法创造一个实际的人工智能,这是真实的思考能力,那么绝对没有人知道会因此而追随什么。
- 作为一名女性程序员/开发人员,您对性别歧视的日常体验是什么?
- 追求机械工程是一个女孩(我是班上唯一的女孩)是什么感觉? 尽管有明显的缺点,有没有任何优势?
- 人们现在对瑞士手表有什么看法?
- 为什么自闭症女性被诊断的可能性更小?
- 作为印度女人,你最喜欢什么?
当然,有不同的方法可以解决这个问题,将三个(或四个,如果我们算上第零法则)嵌入机器人法则,创建一个培育AI,无论如何。 但总的来说,看着人类,我们是多么容易出错,不同的生物如何利用他们的智力来促进自我保护,以及有意识的生命是多么难以预测,我真的不相信我们会成功创造出安全的AI。 可能,可能,如果我们有很多法律和法规来确保一切都是开放和受控制的,并且仅用于严格的限制目的,那么超级智能只用于一个目的而不是实际的广义智能,也许它会安全的。
例如,看看猫吧。 我们爱他们,他们很聪明,大多数时候他们不会主动伤害他们的人类。 但他们是否关心其他人的福祉? 如果我们创造的东西变成了超级聪明的猫呢? 在实验室里它会很棒,对大多数科学家都很有帮助和热爱。 会有那个人说,人工智能给了他毛骨悚然,似乎在寻找机会伤害他,并开始玩弄他的研究。 没有人相信他,对吗? 那个家伙总是很奇怪。 所以现在人工智能已经准备好离开实验室……大多数人都不会被认为是AI的人类,所以你去了。
不只是男人是狂妄自大的。 它是众多众生的基本组成部分,不认为别人值得他们关心或关心。 当我们从根本上低于其能力时,我们怎么能确定这个超级聪明的人会与我们保持一致? 如果它决定世界上人口的一半会变得更好呢? 如果它确定非洲真的应该有机会发光,并杀死所有与非洲竞争的人类,行业,政府等,该怎么办? 没有人知道谁会在评估过程中赢得一些定义超出我们理解范围的东西。
所以,是的,我非常关注构建超智能甚至智能机器的努力。 不是因为我不相信不可能让他们正确。 是我们人类担心我。 我们不知道我们在做什么,这是一个新领域。 制造错误的代价是巨大的。 推出一些未完全理解的东西的好处将是巨大的,暂时。 根据定义,一个真正思考的机器将具有深不可测的内在生命。 像猫,其他人类,任何想法,有感觉的存在。 不,我们不知道没有感觉会有什么想法。 我不相信它甚至可能。
很多时候,人类吓唬我。 一个超级聪明的人,他的内心生活是深不可测的,让我更加害怕。