摘自 Vectors of Mind —— 图片见原文。
Brian Kulis 是波士顿大学的机器学习教授（也是我以前的导师）。他还曾在工业界工作，是负责亚马逊“唤醒词”（wake word）的精英团队成员之一。我们讨论了人工智能的历史、产业界与学术界在研究中的角色，以及 AI 安全问题。他亲眼见证了自己的领域从一小群数学极客连狗和猫的图像都分类不好的冷门方向，变成了可能会把我们全都干掉的地球上最炙手可热的技术。读研时，我会在网上看一些关于 AI 毁灭人类的科幻式讨论，有时会拿去和 Brian 以及其他教授分享（我在聚会上可真是个有趣的人）。如今，这些情景已经被像 Yeshua Bengio 这样的学者认真对待。
我们大多是从一小撮在这个话题上观点鲜明、表达充分的少数派那里听到关于 AI 安全的讨论。这些人把“对 AI 安全有一套看法”当成了他们愿意在公共场合据理力争的个人标签之一。但总体而言，他们并不是那些会去回答被广泛引用的关于 AGI 及其后果的调查问卷的人。这次访谈为我们提供了一个有价值的切面，展示了一位终身教职机器学习研究者在这些问题上的思考方式。
不过，我并不想把这期节目包装成一小时的 p(doom) 聊天；我们大部分时间都在谈一些没那么奇幻的话题。以下是 ChatGPT 对这次对话的总结：
BU 的计算与数据科学学院（Faculty of Computing and Data Science at BU）：Kulis 谈到了 BU 新成立的这一学院，其重点在于计算与数据科学。这个学院促进了跨学科合作，并从不同院系招收学生。
机器学习的演变（Machine Learning’s Evolution）：我们讨论了机器学习的历史，从 20 世纪 40 年代 McCulloch 和 Pitts 提出的神经元数学模型开始。Kulis 解释了从早期模型到当前深度学习浪潮的发展过程，强调了数十年来机器学习范式的多次转变。
从专家系统到当前机器学习模型的转变（Transition from Expert Systems to Current ML Models）：Kulis 描述了从 70、80 年代盛行的专家系统到当前机器学习模型的转变。他指出，早期专家系统存在局限且非常脆弱，使其难以适用于真实世界的应用。
机器学习研究与产业界（Machine Learning Research and Industry）：对话涉及 AI 和机器学习人才在学术界与产业界之间的流动。Kulis 谈到了学术界在留住 AI 教员方面面临的挑战，因为他们往往被产业界的职位所吸引。
统计式 AI 与核方法（Statistical AI and Kernel Methods）：访谈讨论了统计式 AI，强调了其在机器学习历史中的作用。Kulis 解释了统计式 AI 中概率模型的概念，以及它在无监督学习中的优势。
学术界在机器学习研究中的角色（Academia’s Role in ML Research）：Kulis 反思了在当前机器学习研究格局下学术界的角色。他谈到学术界面临的挑战，例如由于资源限制而无法训练大型模型，以及在研究中进行长期思考的重要性。
AI 的生存风险（Existential Risks of AI）：讨论还涉及 AI 与生存风险这一话题，提到了机器学习社区内部的争论和观点，包括 Hinton 和 LeCun 等知名人物的看法。
机器学习的未来（The Future of Machine Learning）：Kulis 表达了他对机器学习各个方面的看法，包括大语言模型、强化学习、AGI 和个性化医疗。他谈到自己认为在该领域中哪些方向被高估或低估了。