Dr. Allen Frances über KI-Chatbots in Therapie und Coaching. Das gesamte Interview gibt’s hier.
„Chatbots sind hervorragend darin, die menschliche Welt zu modellieren und nachzuahmen, aber ihnen fehlt die menschliche Intuition und der gesunde Menschenverstand, wie man darin am besten lebt. Die menschliche Evolution hat uns außerordentlich gut darin gemacht, Menschen einzuschätzen und auf neue und ungewohnte Situationen zu reagieren. Die Entwicklung von Chatbots hat sie hervorragend darin gemacht, Muster in riesigen historischen Datensätzen zu erkennen, aber furchtbar darin, herauszufinden, was in einer sich schnell entwickelnden menschlichen Krise zu tun ist. Chatbot-„Gehirne“ arbeiten eine Million Mal schneller als unsere und verfügen über eine Million Mal mehr Speicherplatz, doch ein Chatbot kann die dümmsten Fehler im realen Leben begehen: einem suizidgefährdeten Patienten erklären, wie er die nächste Brücke findet, einem gewalttätigen Patienten, wie er einen Massenmord begeht, oder einem magersüchtigen Patienten, wie er noch mehr Gewicht verliert. (…)
Autonome Chatbots sind weitaus gefährlicher als Chatbot-Assistenten. Und es gibt einige Menschen, die Chatbot-Therapeuten überhaupt nicht nutzen sollten, bis sich diese als wesentlich sicherer erwiesen haben, als sie es derzeit sind. Dazu gehören alle Menschen mit schweren psychischen Erkrankungen, chronischer sozialer Isolation, Suchtneigung oder Demenz sowie religiöse und politische Extremisten. (…)
Eine defensive Haltung gegenüber der Chatbot-Nutzung eines Patienten einzunehmen oder in eine Rivalität mit einem Chatbot zu treten, ist der sicherste Weg, den Patienten zu verlieren. Es ist weitaus klüger, nachzufragen, wie der Chatbot hilft, und ihn so zu programmieren, dass er als Assistent harmonisch als Teil des Therapieteams arbeitet. Und auch das ist bemerkenswert einfach: schnell, ohne technische Kenntnisse und eine großartige Möglichkeit, die therapeutische Allianz zu verbessern. (…)
Chatbots sind am besten als Therapieassistenten geeignet, wenn sie detaillierte Anweisungen befolgen, um Patienten bei der Bewältigung realer Probleme zu helfen, die zwischen den Sitzungen auftreten. Am schlechtesten sind sie und am anfälligsten für gefährliche Fehler, wenn sie stundenlang, mitten in der Nacht, auf eigene Faust über den Sinn des Lebens des Patienten philosophieren. (…)
Menschen können mit Chatbots weder in Bezug auf Wissen noch auf Gedächtnis mithalten. Chatbots können nicht mit uns konkurrieren, wenn es darum geht, menschlich zu sein; menschliche Intuition und gesunden Menschenverstand zu besitzen; mit Krisen und neuen Situationen umzugehen; und Menschen mit schweren psychischen Erkrankungen zu behandeln. (…)
Am wichtigsten ist ein hoher EQ. Therapeuten der Zukunft müssen außerdem viel besser mit Chatbots umgehen können als Therapeuten der Gegenwart. Sie müssen zu ihren Patienten aufschließen, die bereits mit Chatbots vertraut sind.“
