From Vectors of Mind - images at original.
Brian Kulis est professeur d’apprentissage automatique à l’Université de Boston (et mon ancien conseiller). Il a également travaillé dans l’industrie au sein de l’équipe de choc responsable du mot de réveil d’Amazon. Nous discutons de l’histoire de l’IA, du rôle de l’industrie par rapport à celui du milieu universitaire dans la recherche, et de la sécurité de l’IA. Il a vu son domaine passer d’un petit groupe de passionnés de mathématiques échouant à classer des images de chiens et de chats à la technologie la plus en vogue de la planète (qui pourrait tous nous tuer). En tant qu’étudiant diplômé, je lisais des discussions de science-fiction sur la fin du monde causée par l’IA sur , et je les partageais parfois avec Brian et d’autres professeurs (j’étais amusant lors des soirées). Maintenant, ces scénarios sont pris au sérieux par des personnes comme Yeshua Bengio.
Nous entendons principalement parler de la sécurité de l’IA par une minorité vocale ayant des opinions bien développées sur le sujet. Des personnes qui ont fait de l’expression d’une opinion à ce sujet l’une de leurs spécialités, prêtes à en débattre en public. Mais ce ne sont, en grande partie, pas les personnes qui répondent aux enquêtes largement citées sur l’AGI et ses conséquences. C’est un instantané précieux de la façon dont un tel chercheur en apprentissage automatique titulaire y pense.
Mais je ne veux pas vendre cela comme une conversation d’une heure sur p(doom) ; nous passons la plupart du temps sur des sujets moins fantastiques. Le résumé de ChatGPT de la conversation :
Faculté d’informatique et de science des données à BU : Kulis a parlé de la création de cette nouvelle unité à BU, qui se concentre sur l’informatique et la science des données. Cette unité facilite la collaboration interdisciplinaire et le recrutement d’étudiants de diverses divisions.
Évolution de l’apprentissage automatique : L’histoire de l’apprentissage automatique, commençant dans les années 1940 avec le modèle mathématique de McCulloch et Pitts pour les neurones, a été discutée. Kulis a expliqué la progression des premiers modèles à la vague actuelle de l’apprentissage profond, soulignant les changements de paradigmes en apprentissage automatique au fil des décennies.
Transition des systèmes experts aux modèles actuels d’apprentissage automatique : Kulis a décrit la transition des systèmes experts, qui étaient répandus dans les années 70 et 80, aux modèles actuels d’apprentissage automatique. Il a noté comment les premiers systèmes experts étaient limités et fragiles, les rendant inadaptés aux applications du monde réel.
Recherche en apprentissage automatique et industrie : La conversation a abordé le mouvement des talents en IA et en apprentissage automatique entre le milieu universitaire et l’industrie. Kulis a parlé des défis auxquels le milieu universitaire est confronté pour retenir les professeurs en IA, souvent attirés par des rôles dans l’industrie.
IA statistique et méthodes à noyau : L’interview a discuté de l’IA statistique, en soulignant son rôle dans l’histoire de l’apprentissage automatique. Kulis a expliqué le concept de modèles probabilistes en IA statistique et ses forces dans l’apprentissage non supervisé.
Rôle du milieu universitaire dans la recherche en apprentissage automatique : Kulis a réfléchi au rôle du milieu universitaire dans le paysage actuel de la recherche en apprentissage automatique. Il a parlé des défis auxquels le milieu universitaire est confronté, tels que l’incapacité à former de grands modèles en raison de contraintes de ressources, et de l’importance de la réflexion à long terme dans la recherche.
Risques existentiels de l’IA : La discussion a également abordé le sujet de l’IA et des risques existentiels, avec des références aux débats et opinions au sein de la communauté de l’apprentissage automatique, y compris celles de figures notables comme Hinton et LeCun.
L’avenir de l’apprentissage automatique : Kulis a exprimé ses vues sur divers aspects de l’apprentissage automatique, y compris les grands modèles de langage, l’apprentissage par renforcement, l’AGI et la médecine personnalisée. Il a donné son avis sur ce qu’il considère comme surestimé ou sous-estimé dans le domaine.