Publicado originalmente por Vectors of Mind.
Brian Kulis é professor de aprendizado de máquina na Universidade de Boston (e meu ex-orientador). Ele também trabalhou na indústria, na equipe de elite responsável pela palavra de ativação “wake” da Amazon. Conversamos sobre a história da IA, o papel da indústria em comparação com a academia na pesquisa e a segurança da IA. Ele viu seu campo passar de um pequeno grupo de nerds da matemática incapazes de classificar imagens de cães e gatos à tecnologia mais quente do planeta (que pode matar todos nós). Quando era estudante de pós-graduação, eu lia discussões de ficção científica sobre a perdição causada pela IA no Astral Codex Ten e às vezes as compartilhava com Brian e outros professores (eu era divertido em festas). Agora, esses cenários são levados a sério por pessoas como Yeshua Bengio.
Em geral, ouvimos falar sobre segurança da IA por meio de uma minoria vocal com opiniões bem desenvolvidas sobre o assunto. Pessoas que fizeram de ter uma opinião a respeito um de seus traços distintivos e que estão dispostas a discutir sobre isso em público. Mas essas pessoas, em sua maioria, não são as que respondem a pesquisas amplamente citadas sobre a IAG e suas consequências. Este é um retrato valioso de como um pesquisador titular de aprendizado de máquina pensa sobre o assunto.
Mas não quero vender isto como uma conversa de uma hora sobre p(doom); passamos a maior parte do tempo tratando de questões menos fantásticas. O resumo da conversa feito pelo ChatGPT:
- Faculdade de Computação e Ciência de Dados da BU: Kulis falou sobre a criação dessa nova unidade na BU, voltada à computação e à ciência de dados. Essa unidade facilita a colaboração interdisciplinar e o recrutamento de estudantes de diversas divisões.
- Evolução do aprendizado de máquina: Discutiu-se a história do aprendizado de máquina, começando na década de 1940 com o modelo matemático de neurônios de McCulloch e Pitts. Kulis explicou a progressão dos primeiros modelos até a atual onda de aprendizado profundo, destacando as mudanças nos paradigmas do aprendizado de máquina ao longo das décadas.
- Transição dos sistemas especialistas para os atuais modelos de aprendizado de máquina: Kulis descreveu a transição dos sistemas especialistas, predominantes nas décadas de 1970 e 1980, para os atuais modelos de aprendizado de máquina. Observou como os primeiros sistemas especialistas eram limitados e frágeis, o que os tornava inadequados para aplicações no mundo real.
- Pesquisa em aprendizado de máquina e indústria: A conversa abordou a circulação de talentos de IA e aprendizado de máquina entre a academia e a indústria. Kulis falou sobre os desafios enfrentados pela academia para manter professores de IA, que muitas vezes são atraídos por cargos na indústria.
- IA estatística e métodos de kernel: A entrevista discutiu a IA estatística, enfatizando seu papel na história do aprendizado de máquina. Kulis explicou o conceito de modelos probabilísticos na IA estatística e seus pontos fortes no aprendizado não supervisionado.
- O papel da academia na pesquisa em aprendizado de máquina: Kulis refletiu sobre o papel da academia no cenário atual da pesquisa em aprendizado de máquina. Falou sobre os desafios enfrentados pela academia, como a incapacidade de treinar modelos de grande escala devido às limitações de recursos, e sobre a importância do pensamento de longo prazo na pesquisa.
- Riscos existenciais da IA: A discussão também abordou o tema da IA e dos riscos existenciais, com referências a debates e opiniões dentro da comunidade de aprendizado de máquina, incluindo as de figuras notáveis como Hinton e LeCun.
- O futuro do aprendizado de máquina: Kulis expressou suas opiniões sobre vários aspectos do aprendizado de máquina, incluindo grandes modelos de linguagem, aprendizado por reforço, IAG e medicina personalizada. Ele opinou sobre o que considera superestimado ou subestimado no campo.