发布日期：2025-04-27 浏览：97
去年，杰弗里·辛顿在深夜被电话吵醒，得知自己获得了诺贝尔物理学奖。他表示自己从未期待过获得如此高的认可。
“我曾梦想因弄清楚大脑是如何运作的而获得诺贝尔奖。但我并没有弄清楚大脑是如何运作的，却还是得奖了，”辛顿说。
这位77岁的研究人员因其在神经网络领域的开创性工作而获奖——他在1986年提出了一种预测序列中下一个词的方法——如今这已成为当今大型语言模型的基础概念。
尽管辛顿认为人工智能将彻底改变教育和医疗，并可能解决气候变化问题，但他对人工智能的快速发展越来越感到担忧。
“从情感上理解这一点的最佳方式是，我们就像有人养了一只非常可爱的老虎幼崽，”辛顿解释道。“除非你能非常确定它长大后不会想杀了你，否则你应该担心。”
这位人工智能先驱估计，人工智能最终从人类手中夺走控制权的风险在10%到20%之间。
“人们还没有明白过来，人们还没有理解即将发生的事情，”他警告说。
他的担忧与谷歌首席执行官桑达尔·皮查伊、X-AI的埃隆·马斯克和OpenAI首席执行官萨姆·奥特曼等行业领袖的担忧相呼应，他们也都表达了类似的忧虑。然而，辛顿批评这些公司为了追求利润而忽视安全。
“如果你看看大公司现在在做什么，他们正在游说以减少人工智能监管。现在已经几乎没有监管了，但他们还想进一步减少，”辛顿说。
辛顿尤其对谷歌感到失望，他曾在谷歌工作，而谷歌却改变了其在军事人工智能应用上的立场。
据辛顿说，人工智能公司应该将大量更多资源用于安全研究——“比如三分之一”的计算能力，而目前分配的比例要小得多。
哥伦比亚广播公司新闻询问了所有提及的人工智能实验室，它们的计算能力中有多少用于安全研究。没有一个给出具体数字。所有公司都表示安全很重要，他们总体上支持监管，但大多数都反对立法者迄今提出的监管措施。
在人工智能领域，辛顿的观点引人注目。他不仅是该领域的先驱之一，还因其在神经网络方面的开创性工作而获得了诺贝尔奖。他的警告提醒我们，在享受人工智能带来的便利和进步时，也要警惕潜在的风险和挑战。随着人工智能技术的不断发展，如何平衡创新与安全，将是未来需要重点关注和解决的问题。
粤公网安备44190002007368号
