KI-basierte LLMs sicher und nutzenorientiert in der Patientenversorgung einsetzen

Auch wenn die prinzipiellen Limitationen (Halluzinationen, Auslassungen) kommerziell verfügbarer Large Language Modelle (LLMs) wie ChatGPT oder Claude in der Regel bekannt sind, nutzen Ärztinnen und Ärzte sie heute schon regelmäßig unter der Hand zur Beantwortung diagnostischer und therapeutischer Fragestellungen. Studien zufolge wenden inzwischen rund zwei Drittel der US-amerikanischen Ärzte generative künstliche Intelligenz (KI) an, und etwa jeder fünfte Arzt nutzt regelmäßig LLMs für eine zweite Einschätzung. Die Dunkelziffer und auch der Einsatz von LLMs als Primärquelle dürften deutlich höher sein. Um den Einsatz in der Klinik nutzenorientiert zu bahnen, müssen die Chancen und Risiken realistisch beurteilt werden.