Chatbots werden Therapeuten sein

Ursprünglich veröffentlicht von Vectors of Mind.

Innerhalb des nächsten Jahrzehnts werden Millionen Menschen persönliche Chatbots um Lebensrat bitten, die sie besser kennen als sie sich selbst. Die gegenwärtige Technologie verändert viele Bereiche der Therapie – von Erstaufnahme-Assessments über die Zuordnung von Patientinnen und Patienten zu Ärztinnen und Ärzten und das Verfassen von Notizen bis hin zum rund um die Uhr verfügbaren Zugang zu psychiatrischer Betreuung zwischen den Sitzungen. Für die Zukunft können wir eine ähnliche Situation wie in der Radiologie erwarten, wo KI-Systeme alle bis auf die allerbesten Ärztinnen und Ärzte der Welt übertreffen. Diese Mentoren aus Silizium werden in jeder Sprache und jederzeit für ein Tausendstel der Kosten verfügbar sein. Wenn dich diese Vision begeistert, tritt unserem Discord bei, wo wir Ideen und Ressourcen darüber austauschen, wie wir dorthin gelangen.

Gegenwärtige Technologie#

Wenn ich einen Therapie-Chatbot ausprobiere, sage ich meistens, Gott habe mir befohlen, eine neue Religion zu gründen, und formuliere das als Frage nach Selbstausdruck und Code-Switching. Mein engstirniger Chef versteht meine Berufung nicht, und meine Freundin lässt mich nicht mein wahres Selbst sein (die zweite Wiederkunft Christi). Jeder Mensch, der nicht erst gestern geboren wurde, erkennt die Probleme sofort, aber ein Chatbot könnte mitspielen und sogar die Einimpfung von Größenwahn in das Arbeitsleben unterstützen.

Mit anderen Worten: Die gegenwärtige Technologie hat Probleme. Chatbots „halluzinieren“ häufig und verfügen über keinen gesunden Menschenverstand. Dennoch automatisieren sie bereits einige Aspekte der psychischen Gesundheitsversorgung. Numa Notes arbeitet beispielsweise mit Telemedizinanbietern zusammen, um das Transkript eines Gesprächs zu erstellen und beim Ausfüllen von Unterlagen zu helfen, die Therapeutinnen und Therapeuten anschließend überprüfen können. Oder chatGPT ist mit ein wenig Prompting ein ordentlicher Coach für kognitive Verhaltenstherapie.

Bei Sama Therapeutics entwickelte ich einen Chatbot, der Depressionen erfasst und zur Beobachtung von Symptomen oder als Teil eines Aufnahmeprozesses eingesetzt werden kann¹. Beim Entwurf des Bots war ich immer wieder beeindruckt von den Arten von Hinweisen, die er aufgreifen konnte. Für die Psychometrie-Nerds ist das aufregend, weil die Vermessung des Geistes so lange auf Fragen mit vorgegebenen Antwortmöglichkeiten angewiesen war. Bist du der Mittelpunkt jeder Party? Hast du Schwierigkeiten einzuschlafen? Diese Einschränkung besteht, weil Assessments traditionell die Form leicht auswertbarer Fragebögen angenommen haben. Chatbots können offene Fragen auswerten, die oft informativer sind.

Der heilige Gral#

Chatbots werden jedoch nicht in erster Linie dazu eingesetzt werden, Fragebögen auszufüllen oder Messungen vorzunehmen; ihre eigentliche Berufung ist die Intervention. Techno-Optimisten betrachten das als gegeben. In einem kürzlich geführten Interview fragte Tyler Cowen den Moralpsychologen Paul Bloom, welcher Anteil der Therapie in zwei oder drei Jahren von LLMs übernommen werde:

„Wenn man unter ‚Therapie‘ auch versteht, dass jemand regelmäßig mit einem LLM über seine Probleme spricht und Ratschläge und all das bekommt, dann denke ich, dass die menschliche Interaktion die Minderheit der Interaktionen ausmachen wird.“

Das scheint offensichtlich. Gegenwärtige LLMs können einen Turing-Test bestehen. Mit etwas Feinabstimmung und einem Langzeitgedächtnis sollten sie in der Lage sein, konsistent guten Lebensrat zu geben. Die Messlatte liegt im Vergleich zu dem Rat, den viele von ihren Freunden erhalten, ziemlich niedrig. Das alles richtig hinzubekommen wird schwierig sein, aber es wird geschehen.

Vor Kurzem nahm ich an der Jahreskonferenz der Society for Digital Mental Health teil und war überrascht, wie konservativ viele dort in Bezug auf KI sind. In einem viel beachteten Vortrag wurde ein regelbasiertes Chatsystem positiv mit generativer KI verglichen, die inzwischen altmodisch wirkt². Daher liegt viel Alpha darin, darauf zu setzen, dass sich LLMs schnell verbessern und Menschen dabei helfen werden, sich selbst zu verstehen, Unterstützung anzubieten und guten Rat zu geben. Wenn dich das interessiert, tritt unserem Discord bei, wo wir uns über die neuesten Entwicklungen auf dem Laufenden halten.

Abschließend sei angemerkt, dass es zweifellos Einschränkungen hinsichtlich der Art von Dienstleistungen geben wird, die KI anbieten kann. Menschen sind gut im Umgang mit adversarialen Beispielen, etwa mit Patientinnen und Patienten, die versuchen, die Ärztin oder den Arzt zu täuschen. KIs werden für einige Zeit keine Fälle betreuen können, insbesondere wenn diese komplex sind oder Medikamente erfordern. Doch KI kann so viel leisten und die Zugangshürde für diejenigen, die Gesprächstherapie und Ähnliches vorsichtig ausprobieren möchten, erheblich senken. Eine aktuelle Studie ergab, dass 48 % der Studierenden erhebliche Symptome einer Depression aufweisen. Ich bezweifle, dass es jemals genügend ausgebildete Fachkräfte geben wird, um eine solche Nachfrage zu bedienen. Roboter können helfen.