Am Anfang war das Wort

Ursprünglich veröffentlicht von Vectors of Mind.

„Im Anfang war das Wort, und das Wort war bei der Psychologie, und das Wort war Psychologie.“ ~Neue Vektorübersetzung

Alle Persönlichkeitskonstrukte werden zunächst durch Wörter beschrieben. Von Freuds kokainbefeuerten Modellen bis zu den nüchternen Big Five sind sie irgendwann allesamt Wörter. Ein großer Teil der akademischen Psychologie beschäftigt sich mit dem Vergleich von Konstrukten. Dazu müssen sie eine gemeinsame Grundlage haben, typischerweise eine Gruppe von Probanden. Den Probanden wird ein Instrument vorgelegt (gewöhnlich eine Umfrage), das annähernd bestimmt, wo sie sich im Konstrukt-Raum befinden. Auf Grundlage der Kovariation der Antworten der Probanden werden anschließend allgemeine Aussagen über die Konstrukte getroffen. In diesem Beitrag untersuchen wir einen anderen Weg. Fortschritte im NLP ermöglichen einen quantitativen Vergleich von Konstrukten in ihrem natürlichen Habitat: der Sprache.

Fahrplan#

Im letzten Beitrag habe ich argumentiert, dass die Big Five Wortvektoren sind. Dieser Beitrag erhebt dieselbe Behauptung über eigenständige Skalen, wodurch sich Konstrukte vergleichen lassen, ohne Probanden einzubeziehen. Um dies zu demonstrieren, wird ein umfassendes Persönlichkeitsmodell vorgestellt, ebenso wie eine Methode zur Repräsentation von Konstrukten im Wortraum. Der Aufbau sieht folgendermaßen aus:

1. Vergleich von Konstrukten im Probanden- gegenüber dem Wortraum

2. Probleme mit dem Probandenraum

3. Verwandtenaltruismus und reziproken Altruismus mithilfe von Probanden mit den Big Five in Beziehung setzen

4. Derselbe Vergleich im Wortraum

   1. Einführung eines (vorläufigen) Fünf-Faktoren-Modells, das mithilfe von NLP identifiziert wurde
   2. Projektion von Altruismuswörtern in diesen Raum
   3. Der Code ist hier verfügbar.

5. Diskussion, Einschränkungen, zukünftige Arbeit

Ein verschlungener Pfad#

Um Altruismus mit den Big Five zu vergleichen, muss sich das Signal durch zahlreiche Transformationen bewegen: Altruismus (Ideal) → durch Wörter beschrieben → Umfrage entwickelt (und hoffentlich validiert), um dieses Konstrukt annähernd abzubilden → einem Probanden vorgelegt, der diese Wörter interpretiert und in seiner Seele forscht → Altruismuswert des Probanden → Korrelation im Probandenraum ← Wert des Big Five Inventory (BFI) des Probanden ← Proband interpretiert BFI-Items und forscht in seiner Seele ← BFI entwickeln, um dies annähernd zu messen ← Konstrukt durch qualitative Beschreibung definiert/kommuniziert ← Big Five (durch Wortladungen definiert). Anschließend werden Aussagen über die beiden Ideale, Altruismus und die Big Five, getroffen.

Der gerade und schmale Weg#

Warum nicht Wortvektoren statt Probanden als gemeinsame Grundlage verwenden? Der Weg ist weitaus direkter: Altruismus (Ideal) → durch Wörter beschrieben → in den Wortraum vektorisiert → Vergleich im Wortraum ← Big Five, die, wie im vorherigen Beitrag erörtert, bereits im Wortraum existieren. Für diejenigen, die mitrechnen: Das sind 4 gegenüber 10 Transformationen. (Gezählt wird wie beim Golf.)

Tal, der Offenbarer#

Die Schwierigkeit, mithilfe von Probanden Aussagen über verbale Konstrukte zu treffen, ist kein Geheimnis.

„Die meisten Theorien und Hypothesen in der Psychologie sind ihrem Wesen nach verbal, doch ihre Bewertung stützt sich überwiegend auf inferenzstatistische Verfahren. Die Validität des Übergangs von qualitativer zu quantitativer Analyse hängt davon ab, dass die verbalen und statistischen Ausdrucksformen einer Hypothese eng aufeinander abgestimmt sind – das heißt, dass beide sich auf ungefähr dieselbe Menge hypothetischer Beobachtungen beziehen müssen. Hier argumentiere ich, dass viele Anwendungen statistischer Inferenz in der Psychologie diese grundlegende Bedingung nicht erfüllen.“ ~Tal Yarkoni, generalizeability crisis

Validität bezeichnet hier, dass ein Wert das Konstrukt erfasst, zu dessen Messung er bestimmt ist. Es lohnt sich, die Argumente und Beispiele vollständig zu lesen. Für uns besteht die wesentliche Erkenntnis jedoch darin, was angesichts dieser Realitäten getan werden kann. Er schlägt Folgendes vor:

1. Etwas anderes tun (in andere Fachgebiete wechseln).
2. Qualitative Forschung annehmen.
3. Bessere Standards übernehmen (einschließlich 7 Vorschlägen).

„Es steht einem jederzeit frei, so zu tun, als könnten kleine p-Werte, die durch extrem eng gefasste statistische Operationalisierungen gewonnen wurden, eine angemessene Grundlage für weitreichende verbale Schlussfolgerungen über komplexe psychologische Konstrukte bilden. Doch niemand sonst – weder die Fachkollegen noch die Geldgeber, die Öffentlichkeit und gewiss auch nicht die langfristige wissenschaftliche Überlieferung – ist verpflichtet, diese Farce zu würdigen.“

Selbst wenn Ihre Sicht auf die Forschung in der Psychologie nicht ganz so düster ist, wurden Leser sicherlich schon von Arbeiten enttäuscht, die Behauptungen aufstellen, aber Experimente verwenden, die nur lose damit zusammenhängen. Alle verfügbaren Lösungen sind schmerzhaft. Das Fachgebiet muss möglicherweise eine engere Perspektive einnehmen und die großen Fragen denjenigen überlassen, die Geschichte, Literatur und lineare Algebra untersuchen. Ich schlage einen anderen Weg nach vorn vor.

In den Wortraum konvertieren#

4. Wortvektoren als gemeinsame Grundlage verwenden

Konstrukte leben gemeinsam im Wortraum, und doch zerren wir sie, wenn Vergleiche angestellt werden, in den Probandenraum. Das ist ein enormer, verlustreicher Aufwand. Was wäre, wenn sie sicher im Wortraum verbleiben könnten? Die Grundannahme der Verarbeitung natürlicher Sprache besteht darin, dass Wörter Vektoren in einem kontinuierlichen Raum sind. Die Analyse dieser Vektoren funktioniert gut genug, um in Billionen-Dollar-Industrien ein Last-Tragwerk-Verfahren zu sein, und wird derzeit auch in die Psychologie (wieder) eingeführt.

Praktiziere, was du predigst#

Hier betrachten wir eine traditionelle Studie, die im Probandenraum durchgeführt wurde, und versuchen dann, sie zu verbessern, indem wir in den Wortraum wechseln. Um einem Strohmann vorzubeugen: Gegenstand ist Kin Altruism, Reciprocal Altruism, and the Big Five Personality Factors, eine Studie, die Hunderte Male zitiert wurde und deren Erstautor einen h-Index von 70 hat.

Die Probanden werden mithilfe von drei Instrumenten vermessen: den Big Five (anhand einer Umfrage zu Adjektiven), Empathie/Bindung und Vergebung/Nicht-Vergeltung (anhand einer Umfrage zu Formulierungen) sowie Altruismus in einem Spiel, bei dem Geld verteilt wird. Da die Autoren die Hypothese aufstellen, dass der interstitielle Raum zwischen Verträglichkeit und emotionaler Stabilität (auch Neurotizismus genannt) die beiden Formen des Altruismus unterscheidet, werden einige Wörter hinzugefügt, um diesen Bereich besser zu messen. Ebenso wird ein neuer Fragebogen entworfen, um Empathie/Bindung und Vergebung/Nicht-Vergeltung zu messen, die theoretisch mit Verwandten- beziehungsweise reziprokem Altruismus zusammenhängen. Für eine Studie dieser Art wird über das Übliche hinaus ein Spiel zur Messung von Altruismus verwendet.

„In der Version der Geldverteilungsaufgabe, die zur Messung von Verwandtenaltruismus verwendet wurde, wurde die andere Person als enger Freund beschrieben – jemand, mit dem der Teilnehmer seit Langem befreundet war und mit dem der Teilnehmer vieles gemeinsam hatte. Wir hofften, dass die Beschreibung der Freundschaft als langjährig und des Freundes als jemandem, der dem Teilnehmer sehr ähnlich war, dazu führen würde, dass die Freundschaft der Beziehung zu einem Verwandten nahekäme. Der Grund, warum wir keinen Verwandten als potenzielles Objekt des Altruismus verwendeten, bestand darin, Varianz in den Antworten aufgrund des jeweiligen Verwandten zu vermeiden; viele Menschen wären beispielsweise möglicherweise eher bereit, sich gegenüber einem Geschwister altruistisch zu verhalten als gegenüber einem anderen.“

Mit anderen Worten: Damit die Daten nicht durch reale Gefühle gegenüber Verwandten verunreinigt werden, wird reziproker Altruismus gemessen.

„In der Version der Geldverteilungsaufgabe, die zur Messung von reziprokem Altruismus verwendet wurde, wurde die andere Person als Nichtkooperierender beschrieben – jemand, der sich dem Teilnehmer gegenüber unhöflich, gemein und rücksichtslos verhalten hatte.“

Und um reziproken Altruismus zu messen, messen sie … nicht erwiderten Altruismus? Natürlich gibt es Korrelationen, und die Autoren kommen zu folgendem Schluss:

„Die Ergebnisse dieser Studie stützen die Annahme, dass Persönlichkeitsmerkmale, die Empathie und Bindung umfassen, Altruismus begünstigen, der sich vorwiegend auf Verwandte richtet (d. h. Verwandtenaltruismus), und dass Persönlichkeitsmerkmale, die Vergebung und Nicht-Vergeltung umfassen, Altruismus begünstigen, der sich vorwiegend auf Nichtverwandte richtet (d. h. reziproker Altruismus).“

Doch wenn reziproker Altruismus nie gemessen wurde, wie können die Ergebnisse diese Behauptung stützen? Statistiken in psychologischen Arbeiten sind, wie Tal hervorhebt, häufig rhetorischer Zierrat. Aber wir müssen da nicht mitspielen! Sehen wir uns an, was der Wortraum zu sagen hat.

Ein Land, in dem Milch und Honig fließen (willkommen im Wortraum)#

In traditionellen Studien kann die Auflösung aufgrund der Kosten, Probanden auf einen Persönlichkeitsraum abzubilden, jeweils nur in wenigen Persönlichkeitsbereichen hoch sein. Deshalb untersuchten die Autoren Empathie und Nicht-Vergeltung sowie den Raum zwischen Verträglichkeit und emotionaler Stabilität. All diese Achsen existieren im regulären Big-Five-Raum, werden dort jedoch recht granular gemessen. Im Wortraum können wir Altruismus mit den vollständigen Big Five in all ihrer hochauflösenden Pracht vergleichen. Auf meinem GitHub befinden sich 2819 Wortvektoren, die auf fünf Hauptkomponenten reduziert wurden. Wir können sie der Einfachheit halber verwenden. Als Erstes müssen wir Wortmengen auswählen, die die jeweiligen Formen des Altruismus beschreiben. Für Verwandtschaftswörter wählte ich diejenigen, die familiäre Rollen verkörpern: brotherly, sisterly, mothering, motherly, fatherly, grandmotherly, grandfatherly, wifely, maternal, paternal. Beim reziproken Altruismus folge ich Trivers’ Definition.

„Was den reziproken Altruismus beim Menschen betrifft, so zeigt sich, dass die Einzelheiten des psychologischen Systems, das diesen Altruismus reguliert, durch das Modell erklärt werden können. Insbesondere lassen sich Freundschaft, Abneigung, moralisch motivierte Aggression, Dankbarkeit, Sympathie, Vertrauen, Misstrauen, Vertrauenswürdigkeit, Aspekte von Schuld und einige Formen von Unehrlichkeit und Heuchelei als wichtige Anpassungen zur Regulierung des altruistischen Systems erklären. Jeder einzelne Mensch wird als Träger von altruistischen und betrügerischen Tendenzen betrachtet, deren Ausdruck gegenüber Entwicklungsvariablen empfindlich ist, die ausgewählt wurden, um diese Tendenzen in ein Gleichgewicht zu bringen, das der jeweiligen lokalen sozialen und ökologischen Umwelt angemessen ist.“ The Evolution of Reciprocal Altruism, Robert Trivers (Hervorhebungen hinzugefügt)

In Anbetracht dessen wählte ich: discriminating, unforgiving, vengeful, loyal, neighborly, cooperative, trustworthy und fair. Dies hält in etwa die Balance zwischen einer Neigung zur Kooperation und einer anschließenden moralisch motivierten Aggression, wenn etwas schiefläuft. Außerdem versucht es, diesen Altruismus als Antithese zum Betrügen zu erfassen (z. B. fair, trustworthy).

(Eine hervorragende Erklärung der Evolution des Vertrauens findet sich in dieser interaktiven Demonstration.)

Darf ich Ihnen das unbekannte Fünf-Faktoren-Modell vorstellen?#

Theoretisch könnten wir über Befragungen ermittelte Big-Five-Wortladungen verwenden, doch die meisten dieser Wörter sind selten genug, um nicht aufgenommen zu werden. Das ist insofern zum Besten, als man durch Selbstberichte von Psychologiestudierenden keine gute Schätzung für grandmotherly erhalten würde. Stattdessen verwenden wir Wortvektoren, die mit dem Sprachmodell RoBERTa berechnet wurden. Aus einer großen und gut charakterisierten Liste von Persönlichkeitswörtern abgeleitet, lauten die resultierenden fünf Faktoren kurz gefasst:

1. Affiliation (oder Sozialisation). Wie sehr möchte man diese Person im eigenen Team haben? Ähnlich der Verträglichkeit, schließt jedoch ein Duckmäusertum aus. Gullible etwa lädt neutral auf Affiliation, aber positiv auf Verträglichkeit.
2. Dynamik. Eine ziemlich genaue Entsprechung zur Extraversion, jedoch stärker bezogen auf einen Sinn für Abenteuer und weniger auf Selbstsicherheit.
3. Ordnung. Gewissenhaftigkeit mit einer gewissen Schärfe. Die Fähigkeit, die eigenen Ziele zu erreichen. Exacting gegenüber mushy.
4. Emotionale Bindung. Während sich der Neurotizismus mit Instabilität befasst, geht es hier um Bindung; sowohl caring als auch spiteful laden stark.
5. Transzendenz. Dieser Faktor ist gekennzeichnet durch unique, complicated, star-crossed, handicapped, mystical, heartbroken, other-worldly gegenüber unphilosophical, fancy-free, pigheaded, boorish, materialistic, self-centered, glib. Er beinhaltet den Blick über das eigene Selbst und das Alltägliche hinaus. Dieser Prozess ist offenbar mit Schmerz verknüpft. Tatsächlich lädt troubled stärker auf Transzendenz als auf emotionale Bindung (den mit Neurotizismus verbundenen Faktor).

Die Bezeichnungen der ersten drei Faktoren sind De Raads kulturübergreifender Arbeit entnommen, weil die Übereinstimmung qualitativ enger ist als mit den Big Five. Jeder Faktor verdient einen eigenen Beitrag. (Für diejenigen aus der Arbeits- und Organisationspsychologie: Ich vermute, dass Ordnung stärker mit beruflichem Erfolg korreliert als Gewissenhaftigkeit, da sie stärker kalkulierend ist, statt lediglich pünktliches Erscheinen zu bedeuten.) Modelle vorzuschlagen ist jedoch nicht meine Stärke, und detailliertere Sprachstudien stehen bevor, die möglicherweise eine andere Struktur ergeben. Für den Moment reichen diese Faktoren aus. Hier ist ihre Korrelation mit den Big Five:

Ergebnisse#

Wortladungen des Altruismus auf den ersten vier Faktoren (Transzendenz ist für diese Studie nicht wichtig):

Um die altruistischen Formen zu vergleichen, möchten wir jedes dieser Wortsets auf nur einen Vektor reduzieren. (Es lässt sich darüber streiten, ob das angesichts der Tatsache überhaupt sinnvoll ist, dass reziproker Altruismus – und in geringerem Maße auch Verwandtenaltruismus – unterschiedliche Reaktionen auf unterschiedliche Szenarien erfordert.) Die schnelle und schmutzige Lösung besteht darin, jedes Konstrukt als Bag of Words zu behandeln und den Mittelwert zu bilden. Die mittleren Ladungen sind:

Diskussion#

Ich glaube nicht, dass die vorliegende Arbeit im Probandenraum ein valides Maß für Verwandtenaltruismus oder reziproken Altruismus enthält, und insofern trägt sie nicht zu unserem Verständnis seines Zusammenhangs mit der Persönlichkeit bei. Das ist ein erstaunlich häufiger Fehlschlag. Der Wortraum bietet eine gewisse Absicherung gegen ungültige Vergleiche. Wir haben eine bessere Intuition dafür, wo ein Wort im Wortraum liegen sollte, als dafür, wie Proband 112 eine Umfrage beantworten sollte. Fehler lassen sich leichter erkennen.

Aus bayesianischer Sicht geschieht im Probandenraum etwas anderes als im Wortraum. Experimente mit Probanden versuchen, neue Informationen einzubringen. Die Hoffnung besteht darin, dadurch die Sicht der Leser auf die Welt zu aktualisieren. Forschende (und Laien) verfügen jedoch über umfangreiche soziale Erfahrung und eine ausgeprägtere Wahrnehmung psychologischer Prozesse als der von einer Umfrage bereitgestellte Schnappschuss. Es ist schwer, den Ausschlag wesentlich zu verändern. Der Wortraum ähnelt eher einer Visualisierung unserer Priors als der Erzeugung neuen Wissens. Diese Perspektive ist wertvoll, weil die Sprache – sozusagen – der Ort ist, an dem die Theorie auf die Praxis trifft. Wie J. L. Austin es ausdrückte:

„Unser gemeinsamer Wortschatz verkörpert alle Unterscheidungen, deren Ziehung Menschen für lohnend befunden haben, und alle Verbindungen, deren Markierung sie im Laufe des Lebens vieler Generationen für lohnend befunden haben: Diese sind gewiss zahlreicher, stichhaltiger – da sie die lange Prüfung des Überlebens der Tauglichsten bestanden haben – und zumindest in allen gewöhnlichen und vernünftigen praktischen Angelegenheiten subtiler als alles, was Sie oder ich an einem Nachmittag in unserem Lehnstuhl ersinnen dürften – die bei Weitem beliebteste alternative Methode.“ A plea for excuses

Analysen im Wortraum sind vergleichsweise unkompliziert. Statt Tabellen mit Korrelationen und p-Werten werden Wörter einfach auf den interessierenden Achsen aufgetragen und visuelle Einschätzungen vorgenommen. Wörter des Verwandtenaltruismus bilden sowohl bei Affiliation als auch bei emotionaler Bindung eine enge Gruppe – den einzigen beiden Faktoren mit beträchtlichen Ladungen. Väter, nicht aber Brüder, sind weniger verbunden als ihre weiblichen Gegenstücke, im Einklang mit Trivers’ Theorie der elterlichen Investition. Brüder und Schwestern haben gleichermaßen Anlass, sich um ihre Geschwister zu kümmern. Väter haben jedoch weniger Anlass dazu als Mütter. Spermien sind billig. Eizellen und Schwangerschaft sind teuer.

Wörter des reziproken Altruismus sind stärker verstreut, was Eigenschaften widerspiegelt, die sich für Reaktionen auf unterschiedliche Szenarien eignen: Kooperation oder Defektion des Partners. Der auffälligste Unterschied ist die höhere durchschnittliche Ladung bei Ordnung – dem Erreichen der eigenen Ziele. Der ursprünglich als verzögert erwiderter Altruismus bezeichnete reziproke Altruismus besteht nicht darin, sich für einen Fremden zu opfern, sondern vielmehr darin, durch prosoziale Mittel in die eigene Zukunft zu investieren. Verwandtenaltruismus hingegen bezeichnet die Unterstützung der Familie, selbst auf eigene Kosten, aufgrund der egoistischen Gene, die an den eigenen Gefühlen zerren. Dies zeigt sich in den höheren Ladungen der Wörter des Verwandtenaltruismus bei emotionaler Bindung und stützt Ashtons Hypothese. Die Hauptwirkung findet jedoch bei Ordnung statt – weit entfernt von dem Bereich, für dessen Erfassung die Instrumente im Probandenraum entwickelt wurden. Die Kosten der Stichprobenziehung im Probandenraum machen die Ergebnisse stärker von den Priors der Forschenden abhängig.

Die Interpretation dieser Diagramme kann sich anfühlen wie das Lesen von Teeblättern, aber ich bin mir zu etwa 70 % sicher, was hier zu sehen ist. Eine Sache gibt mir zu denken: Die beiden Formen des Altruismus werden auf unterschiedliche Weise repräsentiert. Die Wörter des Verwandtenaltruismus beschreiben allesamt Beziehungen (z. B. Mutter, Vater, Bruder), während die Wörter des reziproken Altruismus eine Mischung aus Beziehungen (z. B. Nachbar) und Eigenschaften darstellen, die in wiederholten Positivsummenspielen passend sind (z. B. rachsüchtig, diskriminierend, kooperativ). Trotz dieser Unsicherheit: Wäre es nicht großartig, wenn ich an einem Nachmittag ein Experiment durchführen könnte, das die gelebte Erfahrung des Altruismus von Millionen Menschen zusammenführt? Das, worauf sich Generationen darin geeinigt haben, was jemanden väterlich, schwesterlich oder nachbarschaftlich macht. Wie immer bei einer neuen Signalquelle beginnt man, aus der Hüfte zu schießen. Irgendwann wird der Wilde Westen gezähmt; Methoden und Heuristiken entstehen. Es gibt viel Raum für Verbesserungen. Leser können die Wortsets anpassen und mithilfe dieses Colab-Notebooks innerhalb weniger Minuten neue Ergebnisse erhalten. Bitte tun Sie das!

Vorteile des Wortraums#

1. Verbindung zur lexikalischen Hypothese. Verankert in der dezentralen sozialen Realität.
2. Weniger Transformationen. Jeder Schritt ist verlustbehaftet und führt Verzerrungen ein.
3. Nach der Umwandlung in den Wortraum weniger statistischer Aufwand. (Niedrigere Zugangsschwelle.)
4. Die effektive Stichprobengröße (also derjenigen, die über Kommentare auf Reddit, das Schreiben von Büchern oder PubMed-Artikel zum Sprachmodell beigetragen haben) ist weitaus größer und vielfältiger als bei den meisten Studien.
5. Bessere Berufsaussichten für Psychologie-Promovierte mit Kenntnissen in NLP.
6. Multilinguale und multikulturelle Forschung lässt sich leichter durchführen. Einige Modelle werden gleichzeitig mit 100 Sprachen trainiert (so trainiert Meta Hassrede-Filter in Sprachen mit wenigen Beispielen).
7. Sprachmodelle werden immer besser.
8. Offene Wissenschaft.
9. Das IRB umgehen.

Nachteile#

1. Mehr bewegliche Teile. Ein Sprachmodell enthält Milliarden von Parametern! Doch selbst Milliarden von Neuronen und Dutzende von Trainingsentscheidungen können zu einer stabilen Repräsentation führen. Jedes Sprachmodell, das etwas taugt, kann die Analogie „Ehemann verhält sich zu Ehefrau wie König zu ____“ vervollständigen.
2. Ergebnisse lassen sich nicht nach demografischen Merkmalen aufschlüsseln. Manchmal ist es interessant, die Persönlichkeit von Grundschullehrkräften im Alter von 25–30 Jahren zu kennen. Oder zu wissen, wie ein bestimmtes Konstrukt mit dem Strafregister korreliert. Im Wortraum ist das unmöglich.
3. Sind Sprachmodelle nicht voreingenommen? Nun, nicht stärker als Selbstberichte.
4. Altruismus als Summe einer Reihe von Wortvektoren zu definieren (also als Bag of Words) ist etwas improvisiert. Hier besteht erheblicher Raum für Verbesserungen.

Fremde Götter#

„Ich denke, Kafka hatte recht, als er sagte, dass für den modernen Menschen die staatliche Bürokratie der einzige verbliebene Kontakt mit der Dimension des Göttlichen ist.“ ~Žižek, A Pervert’s Guide to Ideology

Er beschreibt hier natürlich das transzendente Gefühl, beim IRB Einspruch einzulegen. Ich habe eine Vorhersage. Der Wortraum ist aus der Perspektive der Signalverarbeitung das Gute und Richtige, doch seine Einführung wird ebenso sehr durch die Bequemlichkeit vorangetrieben werden, nicht reguliert zu sein. Die Konsequenz daraus ist, dass das IRB die erste staatliche Stelle sein wird, die Sprachmodelle für empfindungsfähig erklärt.

Den Weg bereiten#

Wir möchten Beziehungen zwischen Konstrukten aus Sprachmodellen extrahieren. Dies auf eine Weise zu tun, die statt noch mehr Rauschen zusätzliche Signale liefert, erfordert umfangreiche Validierungsarbeit. Zunächst bedeutet das, die Ergebnisse mit gut etablierten Befragungsergebnissen zu vergleichen. Lassen sie sich mithilfe von Wortvektoren rekonstruieren? Wo versagen sie? Sobald das geklärt ist, sollte jeder Artikel, der mit „weitere Forschung erforderlich“ endet, einen Weg finden, die Frage im Wortraum zu stellen.

Ich habe mehr als ein Jahr damit verbracht, eine Methode feinzujustieren, um Beziehungen zwischen Persönlichkeitsmerkmalen aus RoBERTa, dem damals technisch führenden Modell, zu extrahieren. Bald darauf wurde GPT-3 veröffentlicht, und es erzielte bereits ohne weitere Anpassung bessere Ergebnisse. Dass Rechenleistung Domänenwissen übertrumpft, ist eine wiederkehrende bittere Lektion innerhalb der KI. Die Rechenleistung nimmt exponentiell zu. Wenn man mithilfe von Domänenwissen gegenüber einer allgemeinen Lösung des maschinellen Lernens 30 % bessere Ergebnisse erzielen kann, kann man auch einfach darauf warten, dass die Rechenleistung aufholt, und mithilfe allgemeiner Methoden dieselben Ergebnisse erzielen. Wege zu finden, psychologische Fragen mit NLP-Modellen von der Stange in Beziehung zu setzen, ist daher ein guter Weg nach vorn. Etwa alle sechs Monate wird ein neues Modell mit merklich besserer Leistung öffentlich zugänglich gemacht. Diejenigen, die den Wortraum validieren, bereiten den Weg für größere Intelligenzen—PaLM, GPT-7, OSCar (Optimal Sentience Cartography)—die psychologische Wahrheiten herabregnen lassen werden.

Die natürliche Sprache wimmelt von gemeinsam geteilten Theorien über die Welt. Da wir sie nun quantifizieren können, können sie nicht als Belege verwendet werden?

Wenn Sie das interessant finden, teilen Sie es bitte! Teilen Sie den Originalartikel.