UED - 邓煜谈AI研究与数学的伦理界限：知识蒸馏的双重标准

邓煜，这位享有盛誉的菲尔兹奖得主及芝加哥大学数学系的教授，近日在“知识分子”“赛先生”论坛上深刻探讨了人工智能对数学研究的影响。在他看来，AI的优势在于其能触及几乎无限的知识领域，同时，AI在试错过程中的低成本也使其在探索新思路时具有独特的便利。然而，邓煜强调，无论是数学研究还是其他任何领域，人的主体地位不可被替代；AI应当视为提升研究效率的工具，而非研究者本身。

他指出，如果将AI置于研究者的角色之中，那么尽有必要遵循学术规范，尤其是当AI成功解决了一个重要的数学难题时，公开其思维过程便成为一种合理的要求。然而，那些开发AI的公司却大多选择保持沉默。他提到，关于这些AI所声称的解决方案，只有少数能提供详细的思维链，绝大多数则以“防蒸馏”为借口，拒绝透明化自己所用的方法和数据。这种情况让邓煜感到失望，他质疑道：“当你在蒸馏全人类的知识时，如何能拒绝他人对思维链的了解？难道大家只想要蒸馏你吗？实际上，人们只是希望能窥见你的研究思路。”

为了应对这种困境，邓煜建议，数学界应积极推动开源的数学模型，以确保研究者能够掌控属于自己的研究资源，而不必依赖于某些AI企业。同时，他也强调了在模型的使用过程中，必须遵循学术界的规范，包括相关数据的处理、思维链的共享及其可追溯性等必要条件。 UED

值得一提的是，邓煜与其他24位菲尔兹奖得主于9月11日联合发布了声明《人工智能在数学中的严重错位》，警告研究界面临严峻挑战。声明中指出，近年来大型语言模型在解决数学问题方面取得的进展虽然显著，但AI的商业利益与数学研究的根本目标之间其实存在着极大的错位。这种情况不仅损害了数学科学的本质，也对更广泛的科学发展甚至社会的整体运作带来了潜在的影响。

声明还提到，这些急于发布的AI解决方案往往缺乏严谨的研究与引用，进而引发署名和抄袭等伦理问题。更为重要的是，缺乏承担数学发展责任的学者使得AI生成的构思无法与数学经典相融合，关键的人类传递与协作链条也将面临断裂。邓煜对此表示忧虑，认为只有通过提升透明性和建立规范，才能真正为数学研究与AI的良性互动奠定基础。