来自 Vectors of Mind - 原始图像。
Brian Kulis 是波士顿大学的机器学习教授（也是我的前导师）。他还曾在业界工作，参与负责亚马逊“唤醒”词的精英团队。我们讨论了人工智能的历史、业界与学术界在研究中的角色以及人工智能安全。他见证了他的领域从一小群数学爱好者无法正确分类狗和猫的图像，发展到成为可能威胁人类生存的最热门技术。作为研究生，我曾在 sci-fi 讨论中读到关于 AI 毁灭的讨论，并有时与 Brian 和其他教授分享这些内容（我在聚会上很有趣）。现在，这些情景被 Yeshua Bengio 等人认真对待。
我们大多听到关于 AI 安全的声音来自于在该主题上有成熟观点的少数派。他们愿意在公共场合争论这个问题。但这些人大多不是那些回答 广泛引用的关于 AGI 及其后果的调查 的人。这是一个关于一位终身教授的机器学习研究者如何看待这一问题的宝贵快照。
但我不想把这描述为一个小时的关于 p(doom) 的聊天；我们大部分时间都在讨论不那么奇幻的事情。ChatGPT 对谈话的总结：
波士顿大学计算与数据科学学院：Kulis 谈到了波士顿大学新成立的这个单位，专注于计算和数据科学。该单位促进了跨学科合作和来自各个部门的学生招聘。
机器学习的演变：讨论了机器学习的历史，从 1940 年代 McCulloch 和 Pitts 的神经元数学模型开始。Kulis 解释了从早期模型到当前深度学习浪潮的进展，强调了几十年来机器学习范式的转变。
从专家系统到当前机器学习模型的过渡：Kulis 描述了从 70 和 80 年代流行的专家系统到当前机器学习模型的过渡。他指出早期的专家系统是如何受限且脆弱的，使其不适合实际应用。
机器学习研究与产业：谈话涉及 AI 和 ML 人才在学术界和产业之间的流动。Kulis 谈到了学术界在留住 AI 教职人员方面面临的挑战，这些人员往往被吸引到产业角色。
统计 AI 和核方法：采访讨论了统计 AI，强调了其在机器学习历史中的作用。Kulis 解释了统计 AI 中概率模型的概念及其在无监督学习中的优势。
学术界在机器学习研究中的角色：Kulis 反思了学术界在当前机器学习研究格局中的角色。他谈到了学术界面临的挑战，如由于资源限制无法训练大型模型，以及研究中长期思考的重要性。
AI 的生存风险：讨论还涉及 AI 和生存风险的话题，引用了 ML 社区内的辩论和意见，包括 Hinton 和 LeCun 等知名人物的观点。
机器学习的未来：Kulis 表达了他对机器学习各个方面的看法，包括大型语言模型、强化学习、AGI 和个性化医学。他对他认为在该领域被高估或低估的事物发表了看法。