From Vectors of Mind - imagens no original.
Brian Kulis é professor de Aprendizado de Máquina na Universidade de Boston (e meu ex-orientador). Ele também trabalhou na indústria na equipe responsável pela palavra de ativação da Amazon. Discutimos a história da IA, o papel da indústria versus a academia na pesquisa e a segurança da IA. Ele viu seu campo passar de um pequeno grupo de nerds da matemática que não conseguiam classificar imagens de cães e gatos para a tecnologia mais quente do planeta (que pode nos matar a todos). Como estudante de pós-graduação, eu lia discussões de ficção científica sobre a destruição pela IA e às vezes as compartilhava com Brian e outros professores (eu era divertido em festas). Agora, esses cenários são levados a sério por pessoas como Yeshua Bengio.
Nós geralmente ouvimos sobre a segurança da IA de uma minoria vocal com visões bem desenvolvidas sobre o assunto. Pessoas que fizeram de ter uma opinião sobre isso uma das coisas pelas quais estão dispostas a argumentar em público. Mas essas, em grande parte, não são as pessoas que respondem a pesquisas amplamente citadas sobre AGI e suas consequências. Este é um retrato valioso de como um pesquisador de ML titular pensa sobre isso.
Mas eu não quero vender isso como uma conversa de uma hora sobre p(doom) ; passamos a maior parte do tempo em assuntos menos fantásticos. Resumo da conversa pelo ChatGPT:
Faculdade de Computação e Ciência de Dados na BU: Kulis falou sobre o estabelecimento desta nova unidade na BU, que se concentra em computação e ciência de dados. Esta unidade facilita a colaboração interdisciplinar e o recrutamento de estudantes de várias divisões.
Evolução do Aprendizado de Máquina: A história do aprendizado de máquina, começando na década de 1940 com o modelo matemático de McCulloch e Pitts para neurônios, foi discutida. Kulis explicou a progressão dos modelos iniciais até a atual onda de aprendizado profundo, destacando as mudanças nos paradigmas de ML ao longo das décadas.
Transição de Sistemas Especialistas para Modelos de ML Atuais: Kulis descreveu a transição de sistemas especialistas, que eram predominantes nas décadas de 70 e 80, para os modelos atuais de aprendizado de máquina. Ele observou como os primeiros sistemas especialistas eram limitados e frágeis, tornando-os inadequados para aplicações no mundo real.
Pesquisa em Aprendizado de Máquina e Indústria: A conversa abordou o movimento de talentos de IA e ML entre a academia e a indústria. Kulis falou sobre os desafios que a academia enfrenta para reter professores de IA, que são frequentemente atraídos para funções na indústria.
IA Estatística e Métodos de Kernel: A entrevista discutiu a IA estatística, enfatizando seu papel na história do aprendizado de máquina. Kulis explicou o conceito de modelos probabilísticos na IA estatística e suas forças no aprendizado não supervisionado.
Papel da Academia na Pesquisa de ML: Kulis refletiu sobre o papel da academia no cenário atual da pesquisa em aprendizado de máquina. Ele falou sobre os desafios que a academia enfrenta, como a incapacidade de treinar grandes modelos devido a restrições de recursos, e a importância do pensamento a longo prazo na pesquisa.
Riscos Existenciais da IA: A discussão também abordou o tema da IA e os riscos existenciais, com referências a debates e opiniões dentro da comunidade de ML, incluindo as de figuras notáveis como Hinton e LeCun.
O Futuro do Aprendizado de Máquina: Kulis expressou suas opiniões sobre vários aspectos do aprendizado de máquina, incluindo grandes modelos de linguagem, aprendizado por reforço, AGI e medicina personalizada. Ele opinou sobre o que considera superestimado ou subestimado no campo.