From Vectors of Mind - imágenes en el original.
Brian Kulis es profesor de Aprendizaje Automático en la Universidad de Boston (y mi antiguo asesor). También ha trabajado en la industria en el equipo responsable de la palabra de activación de Amazon. Discutimos la historia de la IA, el papel de la industria frente a la academia en la investigación y la seguridad de la IA. Ha visto cómo su campo pasó de ser un pequeño grupo de nerds de matemáticas que no lograban clasificar imágenes de perros y gatos a la tecnología más candente del planeta (que podría matarnos a todos). Como estudiante de posgrado, leía discusiones de ciencia ficción sobre la perdición de la IA en , y a veces las compartía con Brian y otros profesores (era divertido en las fiestas). Ahora, esos escenarios son tomados en serio por personas como Yeshua Bengio.
Principalmente escuchamos sobre la seguridad de la IA de una minoría vocal con opiniones bien desarrolladas sobre el tema. Personas que han hecho de tener una opinión al respecto una de sus cosas por las que están dispuestas a argumentar en público. Pero en su mayoría, esas no son las personas que responden a encuestas ampliamente citadas sobre AGI y sus consecuencias. Este es un valioso vistazo de cómo piensa al respecto un investigador de ML con titularidad.
Pero no quiero vender esto como una charla de una hora sobre p(doom); pasamos la mayor parte del tiempo en asuntos menos fantásticos. El resumen de ChatGPT de la conversación:
Facultad de Computación y Ciencia de Datos en BU: Kulis habló sobre el establecimiento de esta nueva unidad en BU, que se centra en la computación y la ciencia de datos. Esta unidad facilita la colaboración interdisciplinaria y el reclutamiento de estudiantes de diversas divisiones.
Evolución del Aprendizaje Automático: Se discutió la historia del aprendizaje automático, comenzando en la década de 1940 con el modelo matemático de McCulloch y Pitts para las neuronas. Kulis explicó la progresión desde los primeros modelos hasta la actual ola de aprendizaje profundo, destacando los cambios en los paradigmas de ML a lo largo de las décadas.
Transición de Sistemas Expertos a Modelos Actuales de ML: Kulis describió la transición de los sistemas expertos, que prevalecieron en los años 70 y 80, a los modelos actuales de aprendizaje automático. Señaló cómo los primeros sistemas expertos eran limitados y frágiles, lo que los hacía inadecuados para aplicaciones del mundo real.
Investigación en Aprendizaje Automático e Industria: La conversación tocó el movimiento de talentos de IA y ML entre la academia y la industria. Kulis habló sobre los desafíos que enfrenta la academia para retener a los profesores de IA, quienes a menudo son atraídos por roles en la industria.
IA Estadística y Métodos de Núcleo: La entrevista discutió la IA estadística, enfatizando su papel en la historia del aprendizaje automático. Kulis explicó el concepto de modelos probabilísticos en la IA estadística y sus fortalezas en el aprendizaje no supervisado.
El Papel de la Academia en la Investigación de ML: Kulis reflexionó sobre el papel de la academia en el panorama actual de la investigación en aprendizaje automático. Habló sobre los desafíos que enfrenta la academia, como la incapacidad de entrenar grandes modelos debido a limitaciones de recursos, y la importancia del pensamiento a largo plazo en la investigación.
Riesgos Existenciales de la IA: La discusión también cubrió el tema de la IA y los riesgos existenciales, con referencias a debates y opiniones dentro de la comunidad de ML, incluyendo las de figuras notables como Hinton y LeCun.
El Futuro del Aprendizaje Automático: Kulis expresó sus opiniones sobre varios aspectos del aprendizaje automático, incluidos los grandes modelos de lenguaje, el aprendizaje por refuerzo, AGI y la medicina personalizada. Opinó sobre lo que considera sobrevalorado o subestimado en el campo.