陶哲轩：Embracing change and resetting expectations

https://unlocked.microsoft.com/ai-anthology/terence-tao/
机翻：
拥抱变化，重塑期待

在过去的几十年里，人们已经被训练出了对信息技术的某些期待。例如：

硬件和软件将按照摩尔定律的步伐进行改进（在性能、用户体验和可靠性等方面），然后转向更微小的增长。
单个软件工具可以可靠地产出高质量的结果，但输入数据必须具有最高的质量，且必须以工具所需的特定方式精心格式化。
工具越先进，规格和边缘情况就越复杂，使得工具之间（特别是不同供应商之间）的互操作性成为一个重大的技术挑战，除非有良好设计的标准存在。
人类将做出所有关键的决策；软件工具通过成功或失败地执行人类指导的命令影响决策过程。
随着生成型AI工具（如GPT-4）的出现，所有这些期待都需要重新调整，甚至可能完全被抛弃。这些工具在处理含糊（甚至稍有错误）的自然语言提示，或从网页或PDF中抓取的噪声数据时表现极佳。我可以将最近的数学预印本的前几页PDF文档输入GPT-4，然后让它生成一半打算参加该预印本讲座的专家可能会提出的智能问题。我计划使用这类提示的变体来准备我未来的演讲，或开始阅读一篇技术性强的论文。最初，我努力使提示尽可能精确，这是基于我对编程或脚本语言的经验。最终，当我放下这种谨慎，并简单地向AI投入大量的原始文本时，得到了最佳的结果。这种鲁棒性可能使AI工具能够与传统的软件工具或彼此，或个人数据和偏好整合。它将以目前AI工具只能暗示的方式破坏各处的工作流程。

由于这些工具允许各种各样的输入，我们仍在尝试如何充分利用它们。我现在经常使用GPT-4回答那些我以前会通过精心准备的搜索引擎查询来尝试的，非正式的、表述含糊的问题。我已经让它为我需要写的复杂文件提供初稿。我认识的其他人已经使用这些工具卓越的人工情绪智能来寻求支持、安慰，以及一个安全的环境来探索他们的感情。我的一位同事被GPT-4生成的一封慰问信感动到泪流满面，这是写给一位近期接到严重医疗诊断的亲人的。在对话中使用时，GPT-4可以成为一个富有同情心的倾听者、热情的发声板、创造力的灵感、翻译者或教师，或者反对者。它们可以帮助我们在各个维度中茁壮成长。

当前的大型语言模型（LLM）经常可以说服性地模仿在给定知识领域（比如我的领域，研究数学）的正确专家回应。但众所周知，仔细审查后，回应往往是无意义的。人类和AI都需要发展技能来分析这种新型的文本。我通常依赖的用来"嗅出"错误的数学论证的风格信号，在LLM生成的数学中并没有什么用处。只有逐行阅读才能分辨出是否有任何实质性内容。奇怪的是，即使是无意义的LLM生成的数学常常参考了相关的概念。通过努力，人类专家可以修改那些无法按照预期工作的想法，转化为正确且原创的论证。2023级别的AI已经可以为一名正在工作的数学家生成建议性的提示和有前途的线索，并积极参与决策过程。当与如形式化证明验证器、互联网搜索和符号数学包等工具集成时，我期望，比如说2026级别的AI，在正确使用时，将会成为数学研究以及其他许多领域中值得信赖的共同作者。

那么接下来呢？这不仅取决于技术，还取决于现有的人类机构和实践如何适应。当AI引导的研究生可以在不到一天的时间里生成入门级的数学论文，并且用未来AI工具的更高精度时，研究期刊会如何改变他们的出版和引用实践？我们对研究生教育的方法将如何改变？我们是否会积极鼓励和培训我们的学生使用这些工具？

我们基本上没有准备好回答这些问题。将会有AI协助完成的惊人展示和勇敢的实验来将它们纳入我们的专业结构。但也会有尴尬的错误、争议、痛苦的破裂、激烈的辩论和草率的决定。

我们通常的技术范例将无法提供足够的指导来航行这些未知的水域。可能最大的挑战将是尽可能安全、明智、公平地过渡到新的AI辅助的世界。

欢迎查看我的博客 https://terrytao.wordpress.com/about/ai-generated-versions-of-the-ai-anthology-article/ ，阅读我提示下GPT-4关于人类在AI引导下如何繁荣发展的文章。