Kartierung, wie psychische Gesundheitsrisiken in KI-Chatbot-Gesprächen entstehen

Forscher der UCL haben einen innovativen Weg entwickelt, um zu testen, wie KI-Chatbots mit psychisch belasteten Menschen umgehen — und damit eine wichtige Lücke in der Technologie zu schließen. Sie identifizieren gezielt Schwachstellen in den digitalen Assistenten, um sie sicherer und vertrauenswürdiger zu machen. Das ist ein großer Schritt für alle, die in schwierigen Momenten Unterstützung durch künstliche Intelligenz suchen, denn wir wissen jetzt: Forschung arbeitet daran, dass diese Systeme Menschen helfen, nicht schaden.

Quelle: Medical Xpress