Publicado originalmente por Vectors of Mind.
Brian Kulis es profesor de aprendizaje automático en la Universidad de Boston (y fue mi asesor). También ha trabajado en la industria, en el equipo de élite responsable de la palabra de activación de Amazon. Conversamos sobre la historia de la IA, el papel de la industria frente al ámbito académico en la investigación y la seguridad de la IA. Ha visto a su campo pasar de ser un pequeño grupo de especialistas en matemáticas que no lograban clasificar imágenes de perros y gatos a convertirse en la tecnología más candente del planeta (que podría matarnos a todos). Cuando era estudiante de posgrado, leía debates de ciencia ficción sobre la perdición causada por la IA en Astral Codex Ten y a veces los compartía con Brian y otros profesores (yo era muy divertido en las fiestas). Ahora, escenarios como esos son tomados en serio por personas como Yeshua Bengio.
La mayor parte de lo que escuchamos sobre la seguridad de la IA proviene de una minoría vocal con opiniones bien desarrolladas sobre el tema: personas que han convertido en una de sus señas de identidad el tener una opinión al respecto y estar dispuestas a discutirla públicamente. Pero, en términos generales, esas no son las personas que responden encuestas ampliamente citadas sobre la AGI y sus consecuencias. Esta es una valiosa instantánea de cómo piensa al respecto uno de esos investigadores titulares de aprendizaje automático.
Pero no quiero presentar esto como una conversación de una hora sobre p(doom); pasamos la mayor parte del tiempo tratando asuntos menos fantásticos. El resumen de ChatGPT de la conversación:
- Facultad de Computación y Ciencia de Datos de la BU: Kulis habló sobre la creación de esta nueva unidad en la BU, centrada en la computación y la ciencia de datos. Esta unidad facilita la colaboración interdisciplinaria y el reclutamiento de estudiantes de diversas divisiones.
- Evolución del aprendizaje automático: Se analizó la historia del aprendizaje automático, desde la década de 1940, con el modelo matemático de las neuronas de McCulloch y Pitts. Kulis explicó la progresión desde los primeros modelos hasta la actual ola del aprendizaje profundo, y destacó los cambios en los paradigmas del aprendizaje automático a lo largo de las décadas.
- Transición de los sistemas expertos a los modelos actuales de aprendizaje automático: Kulis describió la transición de los sistemas expertos, predominantes en las décadas de 1970 y 1980, a los modelos actuales de aprendizaje automático. Señaló que los primeros sistemas expertos eran limitados y frágiles, lo que los hacía inadecuados para aplicaciones del mundo real.
- La investigación en aprendizaje automático y la industria: La conversación abordó el movimiento de talentos de IA y aprendizaje automático entre el ámbito académico y la industria. Kulis habló de las dificultades que enfrenta el ámbito académico para retener a su personal docente especializado en IA, que a menudo se siente atraído por puestos en la industria.
- La IA estadística y los métodos de kernel: La entrevista trató sobre la IA estadística, haciendo hincapié en su papel en la historia del aprendizaje automático. Kulis explicó el concepto de los modelos probabilísticos en la IA estadística y sus fortalezas en el aprendizaje no supervisado.
- El papel del ámbito académico en la investigación sobre aprendizaje automático: Kulis reflexionó sobre el papel del ámbito académico en el panorama actual de la investigación sobre aprendizaje automático. Habló de los desafíos que enfrenta, como la imposibilidad de entrenar modelos grandes debido a las limitaciones de recursos, y de la importancia de pensar a largo plazo en la investigación.
- Los riesgos existenciales de la IA: La conversación también abordó el tema de la IA y los riesgos existenciales, con referencias a los debates y opiniones dentro de la comunidad del aprendizaje automático, incluidas las de figuras destacadas como Hinton y LeCun.
- El futuro del aprendizaje automático: Kulis expresó sus opiniones sobre diversos aspectos del aprendizaje automático, incluidos los modelos de lenguaje grandes, el aprendizaje por refuerzo, la AGI y la medicina personalizada. Expuso su opinión sobre lo que considera sobrevalorado o subestimado en el campo.