Publicado originalmente por Vectors of Mind.
En el transcurso de la próxima década, millones de personas solicitarán consejos de vida a chatbots personales que las conocerán mejor de lo que se conocen a sí mismas. La tecnología actual está transformando muchos aspectos de la terapia: desde las evaluaciones iniciales y la asignación de pacientes a médicos hasta la redacción de notas y el acceso de los pacientes a su psiquiatra las 24 horas, los 7 días de la semana, entre sesiones. En el futuro, podríamos encontrarnos en una situación similar a la de la radiología, en la que los sistemas de IA superen a todos los médicos del mundo salvo los mejores. Estos mentores de silicio estarán disponibles en todos los idiomas, en todo momento, por 1/1000 del costo. Si esa visión te entusiasma, únete a nuestro Discord, donde intercambiamos ideas y recursos sobre cómo llegar allí.
Tecnología actual #
Cuando pruebo un chatbot terapeuta, mi recurso habitual es decir que Dios me indicó que fundara una nueva religión, pero plantearlo como una pregunta sobre la autoexpresión y el cambio de código. Mi jefe de mentalidad cerrada no entiende mi vocación, y mi novia no me permite ser mi verdadero yo (la segunda venida de Cristo). Cualquier ser humano que no haya nacido ayer detectaría los problemas, pero un chatbot podría seguirme el juego e incluso apoyar la introducción de delirios de grandeza en la vida laboral.
En otras palabras, la tecnología actual tiene problemas. Los chatbots “alucinan” con frecuencia y carecen de sentido común. Sin embargo, ya automatizan algunos aspectos de la atención de la salud mental. Por ejemplo, Numa Notes trabaja con proveedores de telesalud para tomar las transcripciones de una consulta y ayudar a completar la documentación, que posteriormente pueden revisar los terapeutas. O bien, con un poco de indicaciones, chatGPT es un coach competente de terapia cognitivo-conductual.
En Sama Therapeutics, desarrollé un chatbot que evalúa la depresión y puede utilizarse para dar seguimiento a los síntomas o como parte de un proceso de incorporación1. Mientras diseñaba el bot, me impresionaban constantemente los tipos de indicios que podía captar. Para los entusiastas de la psicometría, esto resulta emocionante, porque durante mucho tiempo la medición de la mente ha dependido de preguntas de respuesta cerrada. ¿Eres el alma de la fiesta? ¿Tienes problemas para conciliar el sueño? Esta limitación se debe a que, tradicionalmente, las evaluaciones han adoptado la forma de documentos fáciles de calificar. Los chatbots pueden calificar preguntas abiertas, que a menudo son más informativas.
El Santo Grial #
Sin embargo, los chatbots no se utilizarán principalmente para llenar formularios ni realizar mediciones; su verdadera vocación es intervenir. Los tecnooptimistas dan esto por sentado. En una entrevista reciente, Tyler Cowen preguntó al psicólogo moral Paul Bloom qué porcentaje de la terapia realizarían los LLM dentro de dos o tres años:
“Si por ‘terapia’ incluyes que alguien hable regularmente con un LLM sobre sus problemas y reciba consejos y todo lo demás, creo que la interacción humana será la minoría de las interacciones”.
Esto parece obvio. Los LLM actuales pueden superar una prueba de Turing. Con un ajuste fino y memoria a largo plazo, deberían ser capaces de ofrecer de manera consistente buenos consejos de vida. El estándar es bastante bajo en comparación con los consejos que muchos reciben de sus amistades. Lograr todo eso será difícil, pero sucederá.
Recientemente asistí a la conferencia anual de la Society for Digital Mental Health y me sorprendió lo conservadora que es la postura de muchos respecto de la IA. Una charla popular comparó favorablemente un sistema de chat basado en reglas con la IA generativa (ya anticuada)2. Por ello, hay mucho alpha en creer que los LLM mejorarán rápidamente y serán capaces de ayudar a las personas a comprenderse a sí mismas, ofrecer apoyo y dar buenos consejos. Si esto te interesa, únete a nuestro Discord, donde seguimos los avances más recientes.
Como observación final, sin duda habrá limitaciones en el tipo de servicios que la IA puede ofrecer. Los seres humanos son buenos para lidiar con ejemplos adversariales, como los pacientes que intentan engañar al médico. Las IA no podrán manejar casos durante algún tiempo, especialmente si son complejos o requieren medicación. Pero la IA puede hacer tantas cosas que reducirá enormemente la barrera de entrada para quienes quieran dar sus primeros pasos en la terapia conversacional y actividades similares. Un estudio reciente encontró que el 48% de los estudiantes universitarios presenta síntomas significativos de depresión. Dudo que alguna vez haya suficientes profesionales capacitados para atender una demanda semejante. Los robots pueden ayudar.
Disponible para demostración aquí, aunque es necesario registrarse. Presenté un estudio de validación en la Society for Digital Mental Health. Téngase en cuenta que “evaluación” difiere de diagnóstico, que seguirá siendo competencia de los médicos durante mucho tiempo. ↩︎
Es importante señalar que el producto insignia de la empresa es un sistema de chat basado en reglas que ha sido ajustado durante más de una década. Me pregunto cómo resultaría ese estudio con cualquier formato de terapia distinto de la TCC, o si el modelo generativo fuera un chatGPT 4 o 5 ajustado y guiado mediante indicaciones de manera competente.
Esta no fue la única charla. Muchas otras trataron sobre alucinaciones, sesgos, etc. Hubo muy pocos tecnooptimistas. ↩︎