From Vectors of Mind - images at original.
Брайан Кулис — профессор машинного обучения в Бостонском университете (и мой бывший научный руководитель). Он также работал в индустрии в команде, ответственной за “пробуждающее” слово Amazon. Мы обсуждаем историю ИИ, роль индустрии и академии в исследованиях и безопасность ИИ. Он наблюдал, как его область перешла от небольшой группы математиков, не способных классифицировать изображения собак и кошек, к самой горячей технологии на планете (которая может нас всех убить). Будучи аспирантом, я читал научно-фантастические обсуждения гибели от ИИ и иногда делился ими с Брайаном и другими профессорами (я был душой компании на вечеринках). Теперь эти сценарии воспринимаются всерьез такими людьми, как Йошуа Бенджио.
Мы в основном слышим о безопасности ИИ от громогласного меньшинства с хорошо развитыми взглядами на этот предмет. Люди, для которых иметь мнение об этом — одна из тех вещей, о которых они готовы спорить публично. Но это, по большому счету, не те люди, которые отвечают на широко цитируемые опросы о ИИ и его последствиях. Это ценная картина того, как один из таких опытных исследователей машинного обучения думает об этом.
Но я не хочу продавать это как часовую беседу о p(doom); мы проводим большую часть времени на менее фантастических вопросах. Резюме беседы от ChatGPT:
Факультет вычислительной техники и науки о данных в BU: Кулис рассказал о создании этого нового подразделения в BU, которое сосредоточено на вычислительной технике и науке о данных. Это подразделение способствует междисциплинарному сотрудничеству и набору студентов из различных отделений.
Эволюция машинного обучения: Обсуждалась история машинного обучения, начиная с 1940-х годов с математической модели нейронов МакКаллока и Питтса. Кулис объяснил прогрессию от ранних моделей до текущей волны глубокого обучения, подчеркивая изменения в парадигмах машинного обучения за десятилетия.
Переход от экспертных систем к текущим моделям машинного обучения: Кулис описал переход от экспертных систем, которые были распространены в 70-х и 80-х годах, к текущим моделям машинного обучения. Он отметил, как ранние экспертные системы были ограничены и хрупки, что делало их непригодными для реальных приложений.
Исследования машинного обучения и индустрия: В разговоре затрагивалось движение талантов в области ИИ и машинного обучения между академией и индустрией. Кулис говорил о вызовах, с которыми сталкивается академия в удержании преподавателей ИИ, которых часто привлекают роли в индустрии.
Статистический ИИ и методы ядра: В интервью обсуждался статистический ИИ, подчеркивая его роль в истории машинного обучения. Кулис объяснил концепцию вероятностных моделей в статистическом ИИ и их сильные стороны в обучении без учителя.
Роль академии в исследованиях машинного обучения: Кулис размышлял о роли академии в текущем ландшафте исследований машинного обучения. Он говорил о вызовах, с которыми сталкивается академия, таких как невозможность обучать большие модели из-за ограничений ресурсов, и важности долгосрочного мышления в исследованиях.
Экзистенциальные риски ИИ: Обсуждение также касалось темы ИИ и экзистенциальных рисков, с отсылками к дебатам и мнениям в сообществе машинного обучения, включая мнения таких известных фигур, как Хинтон и ЛеКун.
Будущее машинного обучения: Кулис выразил свои взгляды на различные аспекты машинного обучения, включая большие языковые модели, обучение с подкреплением, AGI и персонализированную медицину. Он высказал мнение о том, что он считает переоцененным или недооцененным в этой области.