辛顿呼吁为AI植入母性天性防人类灭绝 AI教母 AI教父 李飞飞不赞同 (辛顿的贡献)

被誉为“AI教父”的杰弗里·辛顿担忧，他助力打造的这项技术或许会消灭人类，而“科技兄弟”（tech bros）在阻止这一风险方面采取了错误的方法。

辛顿是一位诺贝尔奖得主、计算机迷信家，也曾是谷歌高管。他过去曾正告称，有10%到20%的或许性会消灭人类。周二，在拉斯维加斯举行的人工自动行业会议Ai4上，他对科技公司试图确保人类在“依从的”人工自动系统面前坚持“主导位置”的做法表示怀疑。

“这行不通。它们（人工自动）会比我们聪慧得多，会有各种各样的方法绕过这些限制。”辛顿说。

辛顿正告说，未来，人工自动系统或许会像成年人用糖果行贿3岁孩子那样随意地控制人类。往年曾经出现了人工自动系统为了成功目的而甘愿诈骗、作弊和偷窃的例子。比如，为了防止被取代，一集团工自动模型试图用它在邮件中得知的一段婚外情来敲诈一名工程师。

辛顿提出了一个幽默的处置计划，不是强迫人工自动依从人类，而是在人工自动模型中植入“母性天性”，这样即使该技术变得比人类更弱小、更聪慧，“它们也会真正关心人类”。

辛顿表示，人工自动系统“假定足够自动，会很快构成两个次级目的：一个是活下去……另一个是取得更多控制权。有充沛的理由置信，任何具有能动性的人工自动都会努力活下去。”

辛顿以为，这就是为什么培育人工自动对人类的同情心很关键。

“独一好的结果”

辛顿说，他并不清楚在技术层面详细该如何成功这一点，但他强调研讨人员肯定努力于此事。

“这是独一好的结果。假定它（人工自动）不想当我的‘家长’，就会取代我。”他说，“这些超级自动且充溢关爱的人工自动‘母亲’，大少数不会想要摒弃母性天性，由于它们不心愿我们死去。”

并非一切人都认同辛顿的“人工自动母亲”计划。

因在人工自动范围的开创性任务而被誉为“人工自动教母”的李飞飞，周三在接受采访时表示，她尊重但不赞同她的老好友辛顿的观念。

“我以为这种表述形式是错误的。”李飞飞在Ai4会议的炉边说话中说，她是空间自动初创公司World Labs的结合开创人兼首席行动官。

相同，李飞飞呼吁打造“以人类为中心的人工自动，这种人工自动能保养人类的尊严和能动性”。

“在每一个层面，我们都有责任以最担任任的形式发明和经常经常使用技术。在任何时辰，都不应该要求或让任何人丢弃自己的尊严。”李飞飞说，“作为一名母亲、教育者和发明者，我坚信，仅仅由于一种工具很弱小，就更应该以人类为中心来展开人工自动，这是中心所在。”

曾耐久担任ChatGPT母公司OpenAI暂时首席行动官的埃米特·希尔表示，一些人工自动系统试图敲诈人类或绕过封锁指令，他对此并不感到惊讶。

希尔表示，与其试图将人类价值观注入人工自动系统，更明智的做法是树立人类与人工自动之间的协作相关。

人工自动的展开速度快于预期

许多专家以为，人工自动将在未来几年内抵达超级自动，也就是所谓的人工通用自动（AGI）。

辛顿说，他过去以为成功人工通用自动或许要求30到50年，但如今以为这一时辰会来得更早。“合理的推测是在5到20年之间。”他说。

虽然辛顿依然担忧人工自动或许出现疑问，但他也心愿这项技术能为医学打破铺平路途。

“我们将会看到全新的反派性药物，将会取得比如今好得多的癌症治疗方法。”他说。例如，他表示人工自动将协助医生梳理核磁共振（MRI）和计算机断层扫描（CT）出现的，并找出其中的关联。

但是，辛顿并不以为人工自动会协助人类成功永生。

当被问及假定早知道人工自动会展开得如此之快，他在职业生涯中能否会做出不同的选择时，辛顿说，他悔恨如今只专注于让人工自动发扬作用。

“我心愿自己事先也思索到了安保疑问。”他说。