陶哲轩警告：人类把思考交给 AI，危险可能很快到来

北京时间 11 月 4 日，菲尔兹奖得主、著名数学家陶哲轩（Terence Tao）近日对人类日益依赖人工智能发出警告。他担心，随着人们逐渐将思考和解决问题的过程交给 AI，人类正在失去对问题本身及其解决方案的理解，而这一趋势可能很快在现实世界中产生严重后果。 这番言论来自陶哲轩 10 月 16 日在加州大学洛杉矶分校举办的 Science x AI Summit 上的演讲。科学与人工智能研究基金会（SAIR）近日在 YouTube 发布了题为《Math 2.0》的完整演讲视频，相关片段随后在海外社交平台 X 上引发关注。 “我们正在把自己的思考委托给 AI，由它们替我们解决问题。但与此同时，我们也正在失去一种保障 —— 无法确信 AI 给出的解决方案，是否真的是我们想要的。”陶哲轩表示，“我真的非常担心，我们很快就会看到这件事在现实世界中产生的后果。这实际上是我在数学领域之外的一项担忧。” 陶哲轩指出，人工智能在数学领域取得的进展，正在改变人类解决问题的传统方式。过去，数学家为攻克复杂问题，需要长期研究、理解相关理论，并在这一过程中积累新的知识。但如今，AI 能够快速给出答案，人类却未必能够理解答案背后的推理过程。 他认为，这种变化在纯数学领域的风险相对可控，因为数学证明通常可以通过形式化工具进行验证。但当同样的方法被用于现实世界，情况就会复杂得多。 陶哲轩特别提到了电网、航空交