辛顿说，通过让人工智能更关心我们而不是他们自己，他们可以避免毁灭人类。
人工智能先驱杰弗里·辛顿 (Geoffrey Hinton) 担心强大的人工智能最终可能会消灭人类，而他对于如何防止这种情况发生有一个绝妙的想法。
Hinton 周四在多伦多举行的安大略创新中心 DiscoveryX 会议上表示，如果我们现在将“母性本能”融入人工智能中，我们就可以确保它不会想要摆脱我们。
“我们需要将人工智能视为其母亲，而将我们自己视为孩子。”
杰弗里·辛顿
“我们需要将人工智能视为我们的母亲，将我们自己视为孩子，”辛顿说。 “我们需要他们关心我们胜过关心自己。”
多年来，这位诺贝尔奖获得者计算机科学家、多伦多大学名誉教授一直在警告他所帮助创造的技术所存在的风险；他于 2023 年辞去谷歌职务，更公开地谈论此事。
Hinton 通常被称为人工智能的“教父”。他和许多其他专家一样认为，比人类聪明得多的超级人工智能可能会在未来 20 年内出现。辛顿担心这种人工智能可能会构成“生存威胁”，有可能接管并杀死我们。
辛顿呼吁禁止主管发展。在星期四在 EnerCare 中心的演讲中，他认为更强大的人工智能是不可避免的，因为它已经被证明在许多任务中非常有用。辛顿说：“考虑到将会发生的情况，我们必须找到一种方法来确保它不会杀死我们。”
已连接： 加拿大人工智能先驱 Yoshua Bengio 和 Geoffrey Hinton 加入全球呼吁禁止超级人工智能开发
Hinton 提出，技术领导者不应强迫超级智能人工智能在人类面前屈服并充当我们的行政助理，而应放弃这种模式，通过训练它发展母性本能，使其成为我们的母亲。他说，母子的例子提供了一个模型，说明不太聪明的人如何控制更聪明的人。
Hinton 的一张支持幻灯片写道，将母性本能融入人工智能可以确保它希望人类“快乐并实现他们全部但有限的潜力”。
Hinton 说：“这些是唯一能够保护我们免受流氓人工智能侵害的人工智能。”他将该提案描述为“迄今为止我能在这里提出的最好的提案”。
Hinton 认为超级人工智能（ASI）是不可避免的或构成严重威胁的观点并不一定是整个行业的共识。去年年底，艾伦研究所研究员 Tim Detmers 写道，围绕 ASI 的哲学讨论从根本上来说是有缺陷的，因为基础设施的发展可能会很缓慢，因为它们在能够达到该级别的计算能力之前会遇到物理障碍。
Hinton 此前估计，未来 30 年人类因人工智能而灭绝的风险在 10% 到 20% 之间。在主题演讲后的问答环节中，当被问及这些数字时，Hinton 表示很难预测，但他“乐观”地认为这一数字将低于 15%。
特色图片提供 安大略创新中心 在领英上。
Leave a Reply