Él está describiendo aquí, por supuesto, la sensación trascendental de presentar una apelación ante el IRB. Tengo una predicción. El espacio de palabras es lo correcto y adecuado desde una perspectiva de procesamiento de señales, pero su adopción será impulsada tanto por la conveniencia de no estar regulado. El corolario es que el IRB será el primer organismo gubernamental en declarar a los modelos de lenguaje como sintientes.

[Imagen: Contenido visual del post original]John difundiendo la buena palabra del espacio

Preparando el camino#

Nos gustaría extraer relaciones entre constructos de modelos de lenguaje. Hacerlo de una manera que añada señal en lugar de más ruido requiere mucho trabajo de validación. Inicialmente, esto significa comparar con resultados de encuestas bien establecidos. ¿Pueden ser recuperados usando vectores de palabras? ¿Dónde fallan? Una vez que eso se ha establecido, cada artículo que termina con “se necesita más investigación” debería encontrar una manera de plantear la pregunta en el espacio de palabras.

Pasé más de un año afinando un método para extraer relaciones de personalidad de RoBERTa, el modelo de última generación en ese momento. Poco después se lanzó GPT-3 y funcionó mejor desde el principio. Que el cómputo supere al conocimiento del dominio es una lección amarga recurrente dentro de la IA. El cómputo aumenta exponencialmente. Si puedes obtener un 30% de ganancias sobre una solución general de ML usando conocimiento del dominio, también puedes simplemente esperar a que el cómputo se ponga al día y obtener los mismos resultados usando métodos generales. Encontrar formas de relacionar preguntas de psicología con modelos de PNL disponibles es, por lo tanto, un buen camino a seguir. Un nuevo modelo con un rendimiento notablemente mejor se hace público cada seis meses aproximadamente. Aquellos que validan el espacio de palabras están preparando el camino para inteligencias mayores—PaLM, GPT-7, OSCar (O ptimal S entience Car tography)—para que lluevan verdades psicológicas.

El lenguaje natural está lleno de teorías compartidas sobre el mundo. Ahora que podemos cuantificarlas, ¿no pueden usarse como evidencia?

Si encuentras esto interesante, ¡por favor comparte!

Compartir