Zusammenfassung
Digitale Gesundheitstechnologien haben in den letzten Jahren enorm an Bedeutung gewonnen. Hierzu zählen auch Symptom-Checker Apps, die auf Basis von Algorithmen oder künstlicher Intelligenz Nutzer:innen die Möglichkeit bieten, durch die Eingabe von Symptomen eine Analyse und Empfehlungen zum weiteren Vorgehen zu erhalten. Trotz ihrer weiten Bekanntheit zeigen Forschungsergebnisse ein gemischtes Bild bei der Genauigkeit der Ergebnisse, sodass aktuell ihr Nutzen noch eingeschränkt ist. Das interdisziplinäre Projekt CHECK.APP untersuchte ethische, rechtliche und soziale Aspekte im Zusammenhang mit Symptom-Checker Apps. Die daraus resultierenden und hier vorgestellten Empfehlungen richten sich an verschiedene Akteur:innen, einschließlich Nutzer:innen, Ärzt:innen, Entwickler:innen und öffentlicher Institutionen. Wichtig sind demnach eine kritische Haltung gegenüber Symptom-Checker Apps bei der Nutzung, die Förderung von Gesundheitskompetenz und eHealth-Literacy, sowie Transparenz, etwa hinsichtlich der Datengrundlage und der Erfahrungswerte bezüglich der Nutzung dieser Apps. Es besteht zudem ein Bedarf an verlässlichen und unabhängigen Informationsangeboten, durch die sich Nutzer:innen und Ärzt:innen über aktuelle Entwicklungen in der Digitalisierung des Gesundheitswesens informieren können. Gleichzeitig sind Entwickler:innen dazu aufgefordert, klare Vorgaben hinsichtlich Transparenz, Qualitätssicherung und Barrierefreiheit zu befolgen. Darüber hinaus wird dem Gesetzgeber empfohlen, die Freiwilligkeit der Nutzung von Symptom-Checker Apps sicherzustellen und Bedingungen zu schaffen, unter denen die Gesundheitskompetenz der Bevölkerung gestärkt wird. Dabei zeigen die vorgestellten Empfehlungen Wege auf, wie Symptom-Checker Apps verantwortungsvoll eingesetzt werden können, um den potenziellen Nutzen zu maximieren und Risiken zu minimieren.
Abstract
Definition of the problem
Digital health technologies have gained significant importance in recent years. These technologies include symptom checker apps which use algorithms or artificial intelligence to provide users with analyses and recommendations based on their symptom input. Despite their widespread recognition, research shows mixed results regarding the accuracy of these apps, thus, limiting their current utility. The interdisciplinary CHECK.APP project examined the ethical, legal, and social aspects associated with symptom checker apps.
Arguments
The resulting recommendations presented here are directed towards various stakeholders, including users, physicians, developers, and public institutions. It is crucial to adopt a critical stance towards the use of symptom checker apps, promote health literacy and eHealth literacy, and ensure transparency regarding the data basis and user experiences. Moreover, there is a need for reliable and independent information sources that allow users and physicians to stay informed about current developments in the digitalization of healthcare. At the same time, developers are encouraged to follow clear guidelines on transparency, quality assurance, and accessibility. Additionally, policymakers are recommended to ensure the voluntary use of symptom checker apps and to create conditions that strengthen the health literacy of the population.
Conclusion
The recommendations presented here outline how symptom checker apps can be used responsibly to maximize potential benefits and minimize risks.
Similar content being viewed by others
Explore related subjects
Discover the latest articles and news from researchers in related subjects, suggested using machine learning.Avoid common mistakes on your manuscript.
Hintergrund
Das Angebot an digitalen Gesundheitstechnologien ist in den letzten Jahrzehnten enorm gewachsen und zeigt das Potenzial, die Gesundheitsversorgung, die Gesundheitsforschung sowie die Ausbildung von Gesundheitspersonal nachhaltig zu verändern (Marcolino et al. 2018; Rowland et al. 2020). Die weit verbreitete Nutzung mobiler Geräte, insbesondere von Smartphones, hat mHealth-Anwendungen zu einem integralen Bestandteil des täglichen Lebens für viele Personen gemacht (Vaghefi und Tulu 2019). Insbesondere seit der COVID-19-Pandemie ist deren zunehmende Nutzung zu beobachten (Amiri et al. 2023), wobei Symptom-Checker Apps (SCAs) eine solche Anwendung darstellen. Durch die Abfrage von Symptomen in der App erstellen SCAs mithilfe von Algorithmen und Datenbanken, von denen viele auf Formen von künstlicher Intelligenz (KI) oder maschinellem Lernen basieren, eine Liste möglicher Ursachen für die Beschwerden sowie Empfehlungen (Richens et al. 2020). Die Entwickler:innen versprechen den Ratsuchenden damit, ihre „Gesundheit selbst in die Hand“ nehmen zu können und sehen in SCAs die Vorboten eines Gesundheitssystems von morgen, welches bereits „in der Hosentasche des Nutzers“ beginnt (Hirsch 2019, S. 187–197). Trotz der vielfältigen Versprechen von SCAs deuten Forschungsergebnisse jedoch darauf hin, dass deren Ergebnisse für die Entscheidungsfindung von Ratsuchenden aktuell noch häufig unzureichend sind (Abensur Vuillaume et al. 2023; Semigran et al. 2015; Wallace et al. 2022) und ihr potenzieller Nutzen daher momentan begrenzt ist (Wallace et al. 2022; Schmieding et al. 2022). Vor diesem Hintergrund untersuchte das interdisziplinäre Projekt CHECK.APP ethische, rechtliche und soziale (ELSA) Aspekte der Digitalisierung am Beispiel von SCAs. Die Vielschichtigkeit dieser Thematik wurde unter Beteiligung verschiedener Projektpartner:innen der Universität und des Universitätsklinikums Tübingen sowie der Technischen Hochschule Würzburg-Schweinfurt unter Beteilung der Universität Potsdam erarbeitet.
Methodik der einzelnen Teilstudien des Projekts und der Entwicklung der Handlungsempfehlungen
Die folgenden Empfehlungen basieren auf den einzelnen Teilen des CHECK.APP-Projekts (Wetzel et al. 2022). Dieses Projekt bestand aus verschiedenen, sich überschneidenden Teilprojekten und entsprechenden methodischen Ansätzen.
Zu Beginn wurde eine umfangreiche Literaturübersicht in Form eines Scoping Reviews nach dem methodischen Vorgehen der PRISMA-Erweiterung für Scoping Reviews (Tricco et al. 2018) zu ethischen, rechtlichen und sozialen Fragen von SCAs durchgeführt (Müller et al. 2022). Das Review verdeutlicht die Komplexität der Thematik, hebt jedoch auch zahlreiche Lücken in der aktuellen wissenschaftlichen Debatte über die ELSA von SCAs hervor. Die Ergebnisse verdeutlichen, dass bisher ein systematischer ethischer Rahmen zur Bewertung sowie eine einheitliche rechtliche Regelung von SCAs fehlen. Die gesichteten Veröffentlichungen benennen häufig Regelungslücken im Zusammenhang mit SCAs, wie zum Beispiel das geringere Regelungsniveau im Vergleich zu anderen Medizinprodukten. Die Ergebnisse der Untersuchung zeigen, dass in der Fachliteratur kein Konsens über die möglichen positiven und negativen Auswirkungen von SCAs besteht. Stattdessen werden sehr unterschiedliche Positionen vertreten, die zu vielfältigen Bewertungen dieser neuen Technologie führen. Das Review verdeutlicht außerdem, dass die Diskussionen über die ethischen, rechtlichen und sozialen Auswirkungen von SCAs oft unzureichend durch empirische Daten gestützt werden. Darüber hinaus wurde ein Scoping Review zu möglichen Auswirkungen von SCAs auf die Arbeit in Hausarztpraxen erstellt (Radionova et al. 2023).
Im CHECK.APP-Projekt wurden sowohl quantitative als auch qualitative Primärdaten erhoben. Zunächst wurde eine schriftliche Befragung durchgeführt und statistisch analysiert, um die Nutzung solcher Apps in Deutschland zu untersuchen (Wetzel et al. 34,35,a, b). Im Anschluss erfolgte eine empirische Selbstbeobachtung von SCA-Nutzer:innen in Form einer Tagebuchstudie (Wetzel et al. 2024c). Diese wurde mit qualitativen Interviews mit Nutzer:innen kombiniert, in denen fördernde und hemmende Faktoren (Müller et al. 2024) sowie der Nutzungsprozess genauer untersucht wurden (Koch et al. 2024). Begleitend wurde die Perspektive von Hausärzt:innen ebenfalls mit Hilfe einer qualitativen Interviewstudie erfasst (Preiser et al. 2024).
Die Konzeption des CHECK.APP-Projekts sah von Beginn an vor, die relevanten Perspektiven der verschiedenen beteiligten Personengruppen zu berücksichtigen: Nutzer:innen, Ärzt:innen und Expert:innen, insbesondere Entwickler:innen der einzelnen Apps. Aus diesem Grund wurden sowohl literaturbasierte als auch empirische Untersuchungen geplant, um diese Perspektiven zu erfassen. Dabei bildeten die Perspektiven nicht nur den Gegenstand der Untersuchung, sondern waren auch integraler Bestandteil des multimethodischen Forschungsprozesses.
Die im Folgenden dargestellten Empfehlungen leiten sich aus diesen Untersuchungen sowie den daraus gewonnenen Erkenntnissen ab und sind nach den jeweiligen Adressat:innen gegliedert. Aus den Empfehlungen für die einzelnen Gruppen sowie aus identifizierten Lücken im bestehenden rechtlichen Rahmen ergibt sich sowohl ein Bedarf an Regulierung als auch an der Förderung von eHealth-Literacy. Die Empfehlungen wurden mittels einer interpretativen und spezifizierenden Methode im Rahmen einer interdisziplinären Expert:innendiskussion aus dem empirischen Material und den allgemein akzeptierten vier Prinzipien der Medizinethik abgeleitet. Dabei stützt sich die Interpretation auf die normative Relevanz ethischer Grundwerte, während die Spezifikation allgemeine Normen, wie die vier Prinzipien der Medizinethik, in einen spezifischen Anwendungskontext überführt (vgl. Beauchamp und Childress 2019, S. 17).
In einem ersten Schritt identifizierten die Forschenden, die die empirischen Arbeiten durchgeführt haben, allgemeine ethische Probleme, die in den einzelnen Studien aufgezeigt wurden. Diese Probleme wurden in einer Liste zusammengefasst und nach den jeweiligen Gruppenperspektiven vorstrukturiert, wodurch ein erster spezifizierender Schritt vorgenommen wurde. Im nächsten interpretativen Schritt ordneten die Erstautorin und der Letztautor der vorliegenden Studie die identifizierten Probleme ethischen Grundwerten und den entsprechenden Prinzipien zu. Diese Zuordnung wurde anschließend vom gesamten Expert:innenteam des Projektkonsortiums diskutiert. Dabei wurde insbesondere geprüft, ob sich der „Principilism“ von Beauchamp und Childress als bewährter ethischer Ansatz der Medizinethik eignet, um die vorliegenden Probleme und die entsprechenden Empfehlungen zu strukturieren.
Es zeigte sich, dass zusätzlich zu den ethischen Problemen, die sich auf Autonomie, Wohltun, Nicht-Schaden und Gerechtigkeit beziehen, auch potenziell negative Auswirkungen auf das Vertrauensverhältnis in der Ärzt:innen-Patient:innen-Beziehung identifiziert wurden. Die vier Prinzipien von Beauchamp und Childress erwiesen sich dennoch als geeignet und hinreichend, um die weiteren Handlungsempfehlungen zu formulieren. Folgendes Beispiel soll das methodische Vorgehen veranschaulichen: Im Rahmen der empirischen Studien wurde die digitale Gesundheitskompetenz (eHealth-Literacy) untersucht, deren Ausprägung in den Ergebnissen stark variierte und teilweise unzureichend war. Eine geringe digitale Gesundheitskompetenz kann auf eine eingeschränkte Autonomie hindeuten, verstanden als Entscheidungsvermögen. Aus dem ethischen Prinzip, Autonomie zu respektieren und zu fördern, ergibt sich die Notwendigkeit, die digitale Gesundheitskompetenz gezielt zu fördern. Diese Erkenntnis führte zur Ableitung von Handlungsempfehlungen, die je nach Zielgruppe differenziert formuliert sind und Verpflichtungen zur Förderung der digitalen Gesundheitskompetenz beinhalten.
Ethischer und rechtlicher Rahmen
Zur Formulierung der Handlungsempfehlungen auf Grundlage des empirischen Materials, haben wir in der oben genannten methodischen Vorgehensweise die prinzipienorientierte Medizinethik oder „Principlism“ (Beauchamp und Childress op. 2019), als methodische Grundlage genutzt und um den Themenbereich Ärzt:innen-Patient:innen-Verhältnis ergänzt. Sämtliche empirisch identifizierten ethischen Probleme konnten entweder durch die Spezifikation eines der vier Prinzipien oder durch die Forderung, ein vertrauensvolles Ärzt:innen-Patient:innen-Verhältnis zu bewahren, adressiert werden.
Die vier Prinzipien – Autonomie, Nichtschaden, Wohltun und Gerechtigkeit – bilden einen weithin akzeptierten ethischen Rahmen für medizinethische Analysen und ethische Entscheidungsfindungen in der medizinischen Praxis. Das Prinzip der Autonomie betont den Respekt vor der Selbstbestimmung und die informierte Einwilligung der Patient:innen, in diesem Fall Nutzer:innen von SCAs. Dies umfasst auch eine Verpflichtung, entscheidungsrelevante Informationen verständlich und transparent zu kommunizieren. Das Nichtschadensprinzip fordert, dass gesundheitsbezogene Maßnahmen (wir subsumieren darunter SCAs) Schäden vermeiden. Das Prinzip des Wohltuns verlangt, dass medizinische Maßnahmen das Wohl der Patient:innen (in unserem Fall der SCA-Nutzer:innen) fördern. Aus diesen Prinzipien folgt die ethische Bedingung eines angemessenen Nutzen-Risiko-Verhältnisses medizinischer Interventionen. Das bedeutet, dass der Nutzen medizinischer Interventionen die unerwünschten Nebenwirkungen, Belastungen und Risiken überwiegen sollte. Das Prinzip der Gerechtigkeit betont schließlich eine faire Verteilung von medizinischen Ressourcen und Chancengleichheit im Gesundheitssystem.
Diese Prinzipien, die in der Medizinethik weit verbreitet und anerkannt sind, bilden die normative Grundlage für die nachfolgenden Empfehlungen und unterstützen dabei, ethische Analysen durchzuführen und Entscheidungen zu treffen. Zudem wurde auch das medizinische Professionsethos insbesondere in seiner Funktion des „antizipatorischen Systemvertrauens“ berücksichtigt, da die vorliegende Entwicklung der Digitalisierung im Gesundheitswesen ebenfalls das Ärzt:innen-Patient:innen-Verhältnis betrifft. Einige unserer empirischen Befunde deuteten auf Befürchtungen hin, dass SCAs ein vertrauensvolles Ärzt:innen-Patient:innen-Verhältnis beeinträchtigen oder zumindest belasten könnten. Dieses Verhältnis wird als Teil des sogenannten „antizipatorischen Systemvertrauens“ betrachtet, das eine notwendige Bedingung für die Durchführung medizinischer Praxis darstellt. Das einschlägige Vertrauen zu rechtfertigen, stellt eine wesentliche Funktion und damit Begründung des medizinischen Professionsethos dar. Neben medizinischer Kompetenz rechtfertigt dieses Vertrauen ethische Integrität, für die das Professionsethos eine wesentliche Orientierung leistet (vgl. Beauchamp und Childress 2019). Insofern SCAs sich auf die medizinische Praxis und das Ärzt:innen-Patient:innen-Verhältnis auswirken, sind sie ebenfalls in diesem Kontext des Professionsethos zu bewerten, was zu entsprechenden ethischen Verpflichtungen führt.
Ein Verhältnis, das diesen ethischen Verpflichtungen gerecht wird, bildet die Grundlage für eine vertrauensvolle und verantwortungsvolle medizinische Praxis. In diesem Zusammenhang sollen die einzelnen Prinzipien und die Anforderungen des Professionsethos, wie sie etwa im Genfer Gelöbnis und dem International Code of Medical Ethics festgehalten sind, respektiert und realisiert werden (Parsa-Parsi und Wiesing 2023). Dies umfasst unter anderem Pflichten zur Wahrhaftigkeit, des Respekts vor der Privatsphäre, Vertraulichkeit und Fürsorgepflichten (Beauchamp und Childress op. 2019). Da die genannten Prinzipien sowie dasProfessionsethos die Grundlage eines gerechten und verantwortungsvollen medizinischen Handelns darstellen, bilden sie auch die ethische Basis für den Einsatz von SCAs und damit für die folgenden Empfehlungen.
Das Professionsethos der Medizin kann zudem eine Vorbildfunktion für Entwickler:innen von Apps wie den SCAs haben, insbesondere wenn diese digitale Anwendungen für die Gesundheitsversorgung entwickeln (Ranisch 2021). Denn – wie sich im vorliegenden Kontext in den möglichen Auswirkungen von SCAs auf das Ärzt:innen-Patient:innen-Verhältnis gezeigt hat – für gesundheitsbezogene Leistungen und Informationen mit Hilfe von digitalen Technologien gilt aufgrund des besonderen existenziellen und persönlichen Werts der Gesundheit ebenso wie für die medizinische Praxis, dass Vertrauen eine notwendige Vorbedingung für die dauerhafte Nutzung ist. Während einige SCAs nach der europäischen Medizinprodukteverordnung als Medizinprodukte zertifiziert sind und eine CE-Kennzeichnung vorweisen können, gilt dies für andere jedoch nicht, obwohl ihre medizinische Zweckbestimmung für eine Einordnung als Medizinprodukt sprechen dürfte. Diese teils fehlende Transparenz wird als problematisch gesehen. Zudem scheinen Fragen des Datenschutzes bisher jedenfalls dann nicht ausreichend bedacht zu sein, wenn SCAs für Dritte benutzt werden. Die zuvor identifizierten ethischen Kategorien haben stets auch eine rechtliche Relevanz, wenn beispielsweise die Fragen von Autonomie und Nicht-Schaden aufgebracht werden. Die rechtliche Debatte beschränkt sich bisher allerdings weitgehend auf die Zuordnung als Medizinprodukt.
Die Empfehlungen im Einzelnen
Empfehlungen für Nutzer:innen
Die nachfolgenden Empfehlungen, die die Autonomie und Privatsphäre der Nutzer:innen betreffen, basieren vor allem auf den im CHECK.APP-Projekt erhobenen Interviewdaten. SCA-Nutzer:innen führten Tagebücher zur Beobachtung und gaben Interviews, um Nutzungsmuster und Nutzer:innenperspektiven zu erheben (Müller et al. 2024). Die Informationen aus den Tagebüchern und den Einzelinterviews veranschaulichen insbesondere die sozialen und ethischen Aspekte der SCA-Nutzung aus der Sicht der Nutzer:innen. Autonomie und selbstbestimmtes Handeln können zwar durch Informationen, die durch SCAs gewonnen werden, gestärkt werden, dabei ist es jedoch wichtig, sich der Grenzen der Apps und der Qualität dieser Informationen bewusst zu sein. Daher die grundlegende Empfehlung 1, dass SCAs medizinische Expertise nicht ersetzen können, und Empfehlung 2, sich mit dieser Technologie bei der Nutzung kritisch auseinander zu setzen. Die empirischen Untersuchungen haben zudem bestätigt, dass es wichtig für die informationelle Selbstbestimmung und die Wahrung der eigenen Privatsphäre ist, sich mit dem Datenschutz der Apps zu beschäftigen (Empfehlung 3) und gegebenenfalls. die Nutzung von eigenen Daten durch eine Weitergabe an Dritte zu vermeiden, sofern nicht gewünscht. Für eine gestärkte Autonomie ist eine gute digitale Gesundheitskompetenz (eHealth Literacy) unabdingbar (Empfehlung 4), die jedoch nur bei einem Teil der Bevölkerung in ausreichendem Maße vorliegt (Müller et al. 2022; Schaeffer et al. 2021). Die Interviewstudie ergab außerdem, dass SCAs auch zur Klärung von Symptomen Dritter (beispielsweise für Familienmitglieder) genutzt werden, die für eine solche Nutzung vorab gefragt werden sollten. Dieser Befund wurde in der einschlägigen Literatur zur Ethik von SCAs bisher nicht berücksichtigt und ist daher Gegenstand einer entsprechenden Empfehlung (Empfehlung 5).
Die deutschlandweite Umfrage in CHECK.APP erhob den Nutzungsgrad von SCAs sowie die Prädiktoren für eine SCA-Nutzung (Wetzel et al. 34,35,a, b). Patient:innen nutzen heterogene Strategien, um sich über ihre Gesundheit und Symptome zu informieren. Für manche Patient:innen sind SCAs zwar Teil dieser Strategien, aber der Nutzungsgrad von SCAs war mit 7 % geringer als erwartet (siehe auch Kopka et al. 2023). 50 % der Nicht-Nutzer:innen gaben zudem an, kein Interesse an SCAs zu haben. Als stabiler Prädiktor für die Nutzung von SCAs zeigte sich Gesundheitsangst. 52 % der SCA-Nutzer:innen erfüllten gemäß des Whiteley Index die Kriterien einer klinisch relevanten Hypochondrie (Wetzel et al. 2024a). Die folgende Empfehlung 6 in Bezug auf das Prinzip des Nicht-Schadens, die sich an die Nutzer:innen richtet und mögliche Risiken beziehungsweise negative Folgen einer SCA-Nutzung thematisiert, stützt sich im Wesentlichen auf die Ergebnisse dieser Umfrage.
Schließlich haben die Forschungen im CHECK.APP-Projekt die Annahmen thematisiert, dass sich durch die Nutzung von SCAs das Ärzt:innen-Patient:innen-Verhältnis verändern und dies auch Auswirkungen auf die Arbeit der Hausärzt:innen haben könnte. Dabei bestehen seitens der Ärzt:innen zwar Bedenken, dass sich SCAs negativ auf die eigene Arbeitslast auswirken könnten, die Nutzung von SCAs durch Patient:innen wird allerdings nicht als Besorgnis empfunden, sondern vielmehr eine offene Kommunikation über einen möglichen Gebrauch gewünscht. Daher die Empfehlung 7, offen über SCA-Nutzung zu kommunizieren, um negative Auswirkungen auf das Ärzt:innen-Patient:innen-Verhältnis zu reduzieren.
Empfehlung 1:
SCAs können medizinische Beratung und Expertise nicht ersetzen. SCAs sollten keine Diagnose ersetzen. Ebenso wenig den Austausch und die Kommunikation mit menschlichen Ansprechpartner:innen.
Empfehlung 2:
Kritische Haltung bei der Nutzung von SCAs einnehmen. Nutzer:innen sollten grundsätzlich eine kritische Haltung gegenüber SCAs einnehmen. Hierzu zählt eine Sensibilität gegenüber der Qualität der jeweiligen Angebote, der Möglichkeiten und Grenzen von SCAs sowie hinsichtlich möglicher Interessenkonflikte der herstellenden/vertreibenden Unternehmen, z. B. durch Sponsoring bestimmter Firmen. Zudem sollten sich Nutzer:innen darüber bewusst sein, dass es sich bei der Eingabe von Gesundheitsinformationen in SCAs um sensible Daten handelt.
Empfehlung 3:
Die Datenschutzbestimmungen der SCAs kennen. Um über mögliche Risiken und Schadenspotenziale bei der Nutzung informiert zu sein, sind klare Regelungen und Praktiken zur Datenschutzbestimmung der App, insbesondere in Hinblick auf die Weitergabe der Daten an Dritte, grundlegend für eine sichere Nutzung. Hierzu zählt auch die Frage, welche Informationen durch die Eingabe mit wem geteilt werden, ob eine solche Weitergabe optional ist und ob sie vermieden werden soll, gegebenenfalls indem die SCA nicht genutzt wird.
Empfehlung 4:
Die eigene digitale Gesundheitskompetenz/eHealth Literacy verbessern. Um eine eigenverantwortliche und selbstbestimmte Nutzung von SCAs zu fördern, wird empfohlen, dass sich Nutzer:innen gezielt mit dem Umgang mit (digitalen) Gesundheitsinformationen auseinandersetzen. Eine Möglichkeit besteht in der Teilnahme an Informationsangeboten zur Förderung der Gesundheitskompetenz und der Nutzung digitaler Gesundheitstechnologien. Durch diese Maßnahmen können Nutzer:innen ein besseres Verständnis für medizinische Fachbegriffe, technische Limitationen, Verfahren und den angemessenen Umgang mit SCAs erlangen.
Empfehlung 5:
Die Autonomie und Privatsphäre Dritter respektieren: Wenn Nutzer:innen beabsichtigen, SCAs für eine andere Person zu nutzen, ist es wichtig, deren Autonomie, das heißt Privatheit und Selbstbestimmung zu respektieren und die Zustimmung der betreffenden Person einzuholen. Das bedeutet, die Nutzung von SCAs für Dritte sollte nur mit ausdrücklicher Zustimmung oder im Rahmen einer gesetzlichen Vertretung und unter Berücksichtigung der Vertraulichkeit, das heißt informationeller Privatheit erfolgen. Der vertrauliche Umgang mit Daten umfasst dabei den Schutz der persönlichen Informationen und Gesundheitsdaten der betroffenen Person vor unbefugter Weitergabe oder Missbrauch.
Empfehlung 6:
Negative psychische Belastungen wie Unsicherheiten und Ängste vermeiden oder reduzieren. Als stabiler Prädiktor für die Nutzung von SCAs zeigte sich in der CHECK.APP Studie Gesundheitsangst (Wetzel et al. 2024a). Eine Studie von Kopka et al. (2023) zeigte zudem, dass Menschen mit Angststörungen öfter angaben, SCAs zu kennen und zu nutzen. Gleichzeitig hielten sie SCAs tendenziell für weniger nützlich. Eine vermehrte Nutzung von SCAs könnte negative Folgen – beispielsweise psychische Belastungen wie Unsicherheiten oder Symptomverstärkungen durch Fehleinschätzungen – haben. Im CHECK.APP-Projekt diskutierten Interviewteilnehmer:innen psychische Belastung und Symptomverstärkung durch SCA-Nutzung (Müller et al. 2024). Beispiele für psychische Belastung sind Nervosität, Ungeduld oder Angstzustände während der SCA-Anwendung (Müller et al. 2024). Mögliche negative Folgen einer Nutzung müssen noch weiter empirisch erhoben werden. Gesundheitskompetenz spielt eine zentralle Rolle dabei, wie im Nutzungsprozess mit solchen Ängsten umgegangen wird (Koch et al. 2024). Bis die Literatur hier eine klarere Differenzierung erlaubt, wird Menschen, die mit gesundheitsbezogenen Ängsten (z. B. im Rahmen einer Hypochondrie bzw. „health anxiety disorder“ (Deutsches Kollegium für Psychosomatische Medizin (DKPM) und Deutsche Gesellschaft für Psychosomatische Medizin und Ärztliche Psychotherapie e. V. (DGPM) 2018)) leben, empfohlen, sich der möglichen negativen Folgen einer Nutzung, wie einer erhöhten Unsicherheit, bewusst zu sein und sich frühzeitig professionelle Hilfe zu suchen.
Empfehlung 7:
SCA-Nutzung in der Ärzt:innen-Patient:innen-Beziehung offen kommunizieren. Für die Förderung einer guten Beziehung zwischen Ärzt:innen und Patient:innen ist eine offene und transparente Kommunikation über die Nutzung von SCAs zu empfehlen. Im CHECK.APP-Projekt äußerten Interviewteilnehmer:innen Bedenken, in der Ärzt:innen-Patient:innen-Beziehung offen über SCAs zu sprechen, sowie den Wunsch nach mehr Kooperation und Kommunikation zwischen Ärzt:innen und Patient:innen über solche Apps (Müller et al. 2024). Es sollte vermieden werden, dass die Nutzung von digitalen Technologien das Vertrauen als wesentliche Grundlage des Ärzt:innen-Patient:innen-Verhältnisses untergräbt. Für Patient:innen kann die Nutzung von SCAs grundsätzlich ein hilfreicher Ausgangspunkt und eine Unterstützung in der Vorbereitung für ein Gespräch mit Ärzt:innen sein (Müller et al. 2024). Die Ergebnisse von SCAs sollten jedoch auch hier insbesondere im Hinblick auf ihre Zuverlässigkeit im Vergleich zu medizinischen Beurteilungen kritisch betrachtet werden, (Semigran et al. 2015; Wallace et al. 2022; Schmieding et al. 2022).
Ärzt:innen
In einem zweiten Scoping Review wurde aus arbeitsmedizinischer Sicht der Einfluss von SCAs auf die Arbeit von Hausärzt:innen herausgearbeitet (Radionova et al. 2023). Neben positiven (insbesondere Empowerment) und negativen Aspekten in Bezug auf die Nutzer:innen selbst, ergab sich aus der Literaturübersicht, dass SCAs möglicherweise die Ärzt:innen-Patient:innen-Beziehung stören und die Arbeitsinhalte von Hausärzt:innen (negativ) beeinflussen können. Je nach Umgang der Nutzer:innen mit den Empfehlungen der SCAs kann es zu einer Zunahme aber auch Reduktion der Arbeitsbelastung von Hausärzt:innen kommen. Grundsätzlich scheinen SCAs das Potenzial zu haben, die Arbeit von Hausärzt:innen zu verändern und zukünftig einen Einfluss auf das Gesundheitssystem zu haben. Aus dem Review wurde der Bedarf nach empirischer Forschung zum möglichen Einfluss von SCAs oder von anderen auf künstlicher Intelligenz oder Algorithmen basierenden digitalen Werkzeugen für medizinische Laien auf die Arbeit von Hausärzt:innen deutlich, da die zum Zeitpunkt des Reviews vorhandene Literatur überwiegend Erwartungen abbildete und keine empirischen Ergebnisse zu den tatsächlichen Erfahrungen von Hausärzt:innen beinhaltete.
Entsprechend wurden qualitative semi-strukturierte Einzelinterviews mit Hausärzt:innen zu ihren Erfahrungen, Perspektiven und Selbstbildern durchgeführt (Radionova et al. 2022). Die Interviews zeigen, dass SCAs den Hausärzt:innen kaum bekannt sind und im Ärzt:innen-Patient:innen-Gespräch gegenwärtig eine untergeordnete Rolle einnehmen. Ärzt:innen lehnen SCAs als Tool zur „Selbstdiagnose“ für Patient:innen mit Verweis auf ärztliche Expertise ab. Sie erkennen Potenziale von SCAs lediglich in einer vorläufigen Einschätzung der Dringlichkeit zur Versorgung von Patient:innen an, die jedoch von den Hausärzt:innen überprüft werden sollte. Die nachfolgenden Empfehlungen, die sich speziell an Ärzt:innen richten, basieren insbesondere auf diesen Forschungsergebnissen. Eine grundlegende Empfehlung (Nr. 8) besteht darin, sich mit SCAs und verwandten Technologien der Digitalisierung im Gesundheitswesen vertraut zu machen und die entsprechenden Entwicklungen zu verfolgen. So können mögliche Auswirkungen, wie zusätzliche Belastungen auf die eigene ärztliche Tätigkeit (Empfehlung 9) sowie auf Patient:innen (Empfehlung 10), besser erkannt und bewusst in der eigenen Arbeit berücksichtigt werden. Diese Empfehlungen leiten sich aus unterschiedlichen Aspekten des Professionsethos ab, wie sie etwa im Genfer Gelöbnis formuliert sind, das unter anderem auch einen Abschnitt enthält, auf die eigene Gesundheit zu achten (vgl. https://www.wma.net/policies-post/wma-declaration-of-geneva/, zugegriffen: 13. Mai 2024).
Empfehlung 8:
Wissen über aktuelle Entwicklungen der Digitalisierung im Gesundheitswesen erwerben. Ärzt:innen sollten sich über neue digitale Technologien im Gesundheitswesen informieren und weiterbilden, um deren Chancen und Risiken beurteilen zu können (Wissenschaftsrat 2022). Ärzt:innen sollten unter anderem in der Lage sein, Patient:innen bezüglich vertrauenswürdiger digitaler Quellen für Gesundheitsinformationen zu beraten.
Empfehlung 9:
Vorkehrungen gegen erhöhte eigene arbeitsbedingte Belastungen treffen. Obwohl zu den Zielen der Nutzung von SCAs gehört, zu einer effizienteren Gesundheitsversorgung und einer Entlastung von Ärzt:innen beizutragen, könnten auch gegenteilige, unerwünschte Effekte auftauchen. So könnte es sein, dass Anfragen, die aufgrund der App-Nutzung ausgelöst werden, von Ärzt:innen während Pausen beantwortet werden. Sofern Ärzt:innen SCAs als relevant für ihren Arbeitsalltag einordnen, sollten sie zugeschnitten auf ihre Praxis reflektieren, wie sie die Informationsübermittlung und das Feedback sinnvoll in ihre Arbeitsabläufe und die Praxisorganisation integrieren können (Tsarouha et al. 2020). Denkbar sind etwa Formate analog zu Akutsprechstunden, also reservierte Zeitfenster für eine Rückmeldung an die Patient:innen, wie mit einem Ergebnis aus einer SCA umzugehen ist. Fehlbelastungen könnten unter anderem dadurch entstehen, wenn Ärzt:innen ihre oftmals ohnehin knappen Pausenzeiten nutzen, um „en passant“ Rückmeldung zu geben (Preiser et al. 2021).
Empfehlung 10:
Patient:innen über Risiken aufklären können. Ärzt:innen sollten über mögliche negative Folgen informieren können, die durch die Anwendung von SCAs auftreten könnten, wie zum Beispiel erhöhte Gesundheitsangst, und auf mögliche Entwicklungen in dieser Richtung bei Patient:innen achten (vgl. auch Empfehlung 5).
Entwickler:innen
Die bisherigen ethischen Überlegungen und Empfehlungen bedingen gleichzeitig auch Empfehlungen an Entwickler:innen, um eine selbstbestimmte Anwendung von SCAs zu fördern, den Nutzen zu maximieren und Risiken zu minimieren sowie möglichst vielen Nutzer:innen einen Zugang zu ermöglichen. Wie oben erläutert, lässt sich argumentieren, dass für die hier relevanten Entwickler:innen ähnliche ethische Anforderungen gelten wie für andere im Gesundheitswesen tätige Akteur:innen. Die Empfehlungen 11–14 orientieren sich dabei an denjenigen, die für andere beteiligte Gruppen formuliert wurden. Ergänzend wird in Empfehlung 15 betont, Barrieren zu beseitigen, um eine möglichst breite Nutzung der entwickelten Produkte oder Systeme zu ermöglichen.
Empfehlung 11:
Eine selbstbestimmte Nutzung durch Transparenz ermöglichen (zu Empfehlung 2): Um eine Qualitätseinschätzung von SCAs zu ermöglichen und die Entscheidungsfindung verantwortungsvoll zu unterstützen, stellen sich unterschiedliche Anforderungen der Transparenz an digitale Gesundheitsanwendungen. Denn trotz zum Teil gegebener Akkuratheit in der Symptomeinschätzung kann gerade die Opazität von komplexen KI-Systemen ihre Nachvollziehbarkeit verunmöglichen und damit die Vertrauenswürdigkeit entsprechender Systeme untergraben. Demzufolge umfasst der Einsatz von SCAs die Forderung nach Transparenz, die die Einordnung der entsprechenden Symptome durch die App für Nutzende und Behandler:innen mit nachvollziehbaren Gründen belegt. Transparenz ist allerdings nicht nur hinsichtlich der Algorithmen gefordert. Um die Anwendung von SCAs zu verbessern, ist ebenso grundlegend, dass Nutzer:innen über Möglichkeiten, Risiken und Limitationen der jeweiligen SCAs aufgeklärt werden. Dies umfasst auch Transparenz in Bezug auf die Angabe, ob eine SCA als Medizinprodukt einer Risikoklasse angehört und falls ja, welcher. Wichtige Angaben zur Transparenz von SCAs betreffen ferner die herstellenden Unternehmen und deren bisherige Erfahrungen beziehungsweise die Auskunft über einen möglichen (fehlenden) Nutzennachweis der SCAs. Die Informationen, die eine größere Transparenz bewirken sollen, sollten durch aussagekräftige Zertifikate nachvollziehbar sein. Interessenkonflikte sollten deutlich gemacht werden. Durch eine solche Kennzeichnung wird eine angemessene Einschätzung der potenziellen Risiken einer SCA ermöglicht und gewährleistet. Zusätzlich wird empfohlen, darauf hinzuweisen, dass SCAs nur als Orientierungshilfe bei Beschwerden dienen können. Dazu gehört auch der explizite Hinweis, dass SCAs keine ärztliche Beratung oder Diagnose ersetzen können, sondern lediglich Empfehlungen und damit Orientierung bieten.
Empfehlung 12 (zu Empfehlung 3):
Über Datenschutz zugänglich informieren, einschließlich einer möglichen Nutzung für Dritte. Es sollten klare Hinweise zum Datenschutz und zum Schutz der Privatsphäre gegeben werden, um die Risikoeinschätzung, aber auch das Vertrauen der Nutzer:innen zu stärken. Im Hinblick auf die Nutzungsmöglichkeit nicht nur für die eigene Gesundheit, sondern um Auskünfte über die Gesundheit anderer Personen zu erhalten, sollten unterschiedliche Zugangswege mit Datenschutz- und Einwilligungshinweisen berücksichtigt werden. Beispiele aus den CHECK.APP Interviews zeigen, dass die Verwendung von SCAs für Dritte ein komplexes datenschutzrechtliches Thema darstellt, das noch stärker diskutiert werden sollte (Müller et al. 2024).
Empfehlung 13:
Die Informationsgrundlage für eine verbesserte Gesundheitskompetenz und eHealth-Literacy verbessern (zu Empfehlung 4): Bei der Entwicklung von SCAs sollte die Aufnahme von Verweisen auf öffentlich geprüfte und bereitgestellte Informationsquellen als Möglichkeit zur Förderung der Gesundheitskompetenz in Betracht gezogen werden. Zusätzlich könnten diese auch integriert werden, um den Nutzer:innen eine umfassendere Wissensgrundlage zu bieten.
Empfehlung 14:
Auswirkungen auf den Arbeitsalltag von Ärzt:innen und deren Bedürfnisse bei der Entwicklung berücksichtigen. Entwickler:innen sollten die im Abschnitt zu Ärzt:innen formulierten Erkenntnisse und Empfehlungen (8, 9 und 10) berücksichtigen.
Empfehlung 15:
SCAs sollten barrierearm gestaltet werden. Um einen gerechten Zugang für unterschiedliche Nutzer:innen zu gewährleisten, sollten SCAs barrierearm entwickelt werden. Dazu gehört die Möglichkeit, die Anwendung in Leichter Sprache oder mit Vorlesefunktion nutzen und Symptome per Spracherkennung eingeben zu können. Darüber hinaus sollten weitere barrierefreie Funktionen implementiert werden, um Menschen mit unterschiedlichen Fähigkeiten eine uneingeschränkte Nutzung zu ermöglichen. Dies kann z. B. die Unterstützung von Screenreadern, die Anpassung von Schriftgrößen oder Farbkontrasten oder die Nutzung von Tastaturbefehlen sein. In den CHECK.APP Interviews gaben zum Beispiel einige Teilnehmer:innen an, die Kommunikation mit SCAs sei zu technisch und textlastig (Müller et al. 2024). Grundsätzlich sollten die Benutzeroberfläche und die Informationen in den SCAs klar und verständlich gestaltet sein, um eine inklusive Nutzung mit einfacher Navigation und Anwendung für alle Nutzer:innen zu ermöglichen.
Regulierungsbedarfe
Bevor SCAs breiter im Gesundheitswesen eingeführt werden, sollte zuerst auf Verbesserungen hingearbeitet werden, da gegenwärtig die Qualität und Ergebnissicherheit bei SCAs sehr unterschiedlich sind und die Nutzung auf unterschiedliche Bedenken stößt. In Bezug auf mögliche Risiken, auch mit Blick auf den Datenschutz der sensiblen Gesundheitsdaten, kann eine sicherere Nutzung durch die Orientierung an jenen SCAs unterstützt werden, die von verlässlichen öffentlichen Institutionen analysiert, eingeordnet und gegebenenfalls empfohlen werden, was allerdings eine entsprechende Regulierung auf verschiedenen Ebenen erforderlich machen würde.
Schließlich sollte bei der Einführung im Gesundheitswesen ebenfalls mittels begleitender Forschung berücksichtigt werden, ob sich oben erwähnte Befürchtungen zu einer übermäßigen Nutzung von Ressourcen und einer nicht gerechtfertigten weiteren Belastung von Ärzt:innen durch SCAs bewahrheiten, um unerwünschten Effekten entsprechend gegenzusteuern.
Die vorausgegangenen Empfehlungen verweisen auf korrespondierende Verpflichtungen von unabhängigen öffentlichen Institutionen, beispielsweise qualitativ hochwertige Informationen für bestimmte Gruppen bereitzustellen. Wünschenswert sind außerdem Maßnahmen, die dazu geeignet sind, die (digitale) Gesundheitskompetenz von Nutzer:innen zu steigern sowie Informationsangebote zu generieren, die es Ärzt:innen ermöglichen, auf schnelle und übersichtliche Weise einen aktuellen Wissensstand zu SCAs (und anderen ähnlichen Anwendungen) zu erhalten.
Empfehlung 16 (zu Empfehlung 2 und 6):
Die Qualität von SCAs sichern und entsprechende Informationen bereitstellen. SCAs sollten vergleichbar zu ähnlichen Technologien und im Verhältnis zu den Risiken der Nutzung geprüft werden und einen entsprechen Qualitätsnachweis erhalten. Dabei ist es zu empfehlen, dass Regulierungsbehörden Richtlinien zur Überprüfung und damit zur Sicherstellung von vertrauenswürdigen Informationen vorgeben. Darüber hinaus ist neben der Datensicherheit auch die Gewährleistung der Barrierefreiheit bei der Nutzung öffentlich empfohlener Anwendungen ein Qualitätskriterium. Das bedeutet, dass derartige SCAs für Menschen mit unterschiedlichen Fähigkeiten und Bedürfnissen zugänglich und uneingeschränkt nutzbar sein sollten.
Empfehlung 17:
(Digitale) Gesundheitskompetenz stärken (zu Empfehlung 4). Durch die Förderung von (digitaler) Gesundheitskompetenz können Nutzer:innen SCAs besser verstehen, kritisch bewerten und die bereitgestellten Informationen angemessen nutzen und somit in deren Anwendung gestärkt werden. Für eine flächendeckende Nutzung von digitalen Gesundheitsanwendungen sollten Maßnahmen zur gezielten Förderung von digitaler Gesundheitskompetenz (oder „eHealth Literacy“) ergriffen werden. Dies kann Angebote in Schulen durch die Integration entsprechender Inhalte in den Lehrplan ebenso umfassen wie Schulungen in Volkshochschulen und anderen öffentlichen Bildungsangeboten. Auch Krankenkassen können eine zentrale Ressource für die Verbreitung von Informationsmaterialien und Schulungsprogrammen sein, um die digitale Gesundheitskompetenz in der Bevölkerung zu stärken. Darüber hinaus sollten Informationen über SCAs und allgemeine Gesundheitsthemen auf vertrauenswürdigen Websites, aber auch als physisches Informationsmaterial zur Verfügung gestellt werden. So wird die Voraussetzung geschaffen, Nutzer:innen dabei zu unterstützen, informierte Entscheidungen zu treffen und die Qualität der angebotenen Apps besser einschätzen zu können.
Empfehlung 18:
Informationsangebote für Ärzt:innen erstellen (zu Empfehlung 8). Es fällt zwar nicht in die Zuständigkeit von (Haus‑)Ärzt:innen, Patient:innen in der Nutzung von SCAs zu schulen, Informationsmaterialien für Ärzt:innen könnten jedoch hilfreich sein, um einen Überblick über die Vor- und Nachteile von SCAs zu erhalten und damit eine Basis dafür zu schaffen, diese Informationen an Patient:innen weiterzugeben bzw. darauf vorbereitet zu sein, wenn die eigenen Patient:innen entsprechende Technologien nutzen.
Empfehlung 19 (zu Empfehlungen 8 und 9):
Auswirkungen der Nutzung von SCAs im Gesundheitswesen beobachten. Die Interviews in CHECK.APP ergaben, dass die Nutzung von SCAs zu einer erhöhten Inanspruchnahme von medizinischen Leistungen und dabei auch zu einer Überversorgung führen könnte. Das Risiko einer Überversorgung besteht beispielsweise, wenn Ärzt:innen aus Vorsichts- oder Sicherheitsgründen zusätzliche Untersuchungen oder Behandlungen veranlassen oder durchführen. Ob es zu solchen Entwicklungen kommt, sollte durch fortdauernde einschlägige empirische Studien untersucht werden. Gleichzeitig sollte untersucht werden, wie diese Entwicklungen vermieden werden könnten. Um zusätzlichen Belastungen entgegenzuwirken, beispielsweise ein erhöhtes Aufkommen von Patient:innen in der Praxis aufgrund von SCA-Empfehlungen, wünschen sich Ärzt:innen im Falle der SCA-Nutzung durch Patient:innen die Möglichkeit, die Eingaben in die SCAs und die Ergebnisse einsehen zu können (Radionova et al. 2023). Diese Möglichkeit soll Ärzt:innen dabei unterstützen, den Nutzer:innen auf digitalem Weg mitzuteilen, ob sie in die Praxis kommen sollen (oder nicht).
Empfehlung 20:
Die Nutzung von SCAs freiwillig belassen. Da derzeit teilweise sowohl seitens der Patient:innen wie auch der Ärzt:innen Bedenken gegen die Nutzung von SCAs bestehen, sollte diese freiwillig bleiben. Auch vor dem Hintergrund der derzeit unzureichenden Qualität (Abensur Vuillaume et al. 2023; Semigran et al. 2015; Wallace et al. 2022; Schmieding et al. 2022) von SCAs sollten Krankenkassen beziehungsweise private Krankenversicherungen zurückhaltend bei der aktiven Förderung, Empfehlung oder flächendeckenden Integration von SCAs in die Versorgungspraxis sein. Sollten SCA beispielsweise in vorklinischen Prozessen zur Triagierung oder Terminfindung eingesetzt werden, muss immer die Möglichkeit gegeben sein, eine:n menschliche:n Ansprechpartner:in kontaktieren zu können.
Diskussion
Die im Rahmen des CHECK.APP-Projekts entwickelten Empfehlungen sind wichtig, da in der Fachliteratur bisher kein Konsens über die Auswirkungen und somit Bewertung von SCAs besteht und ein ethischer Rahmen zur Bewertung sowie eine einheitliche rechtliche Zuordnung von SCAs bisher fehlen. Die Empfehlungen können dazu beitragen, diese Lücke zu verkleinern, und bieten sowohl Nutzer:innen, Entwickler:innen, Gesundheitspersonal als auch Entscheidungsträger:innen Orientierung. Zum Beispiel können sie dabei helfen, App-Ergebnisse kritisch zu bewerten, und so dazu beitragen, Missverständnisse zu reduzieren. Neben der Orientierung und Aufklärung können die Empfehlungen auch dazu beitragen, die betroffenen Gruppen für Grenzen der Technologie zu sensibilisieren, etwa indem die Empfehlungen klarstellen, dass SCAs nur unterstützende Tools sind und keine ärztliche Diagnose ersetzen können. Da die Empfehlungen wissenschaftlich fundiert sind und die Vorteile und Grenzen von SCA klar benennen, können die Empfehlungen Nutzer:innen und Gesundheitspersonal ermutigen, sich weiter über diese Tools zu informieren und diese gegebenenfalls ergänzend einzusetzen. Insgesamt bringen die Empfehlungen das Potenzial mit sich, den Umgang mit Gesundheitsapps wie SCAs zu verbessern, wobei die Wirkung von Empfehlungen letztlich aber auch immer davon abhängt, ob und wie diese umgesetzt werden.
Die Empfehlungen könnten auf unterschiedlichen Wegen implementiert werden; zum Beispiel über die Einbindung in Online-Informationsquellen, aber auch als physisches Informationsmaterial. Eine Integration in Informationsangebote und Schulungen sowie eine Verbreitung über beispielsweise Krankenkassen und Arztpraxen wäre ebenfalls denkbar. Die Implementierung könnte von Forschungsprojekten begleitet werden, um zu analysieren und zu verstehen, welche Hürden in Bezug auf die Nutzung und Akzeptanz von solchen Empfehlungen bestehen und wie diese gegebenenfalls überwunden werden könnten. Die Konzeption des CHECK.APP-Projekts sah von Beginn an vor, die verschiedenen Perspektiven der beteiligten Personengruppen (Nutzer:innen, Ärzt:innen und Expert:innen, insbesondere Entwickler:innen) zu berücksichtigen. Dies sollte auch in weiterer Forschung beachtet werden: So könnte zum Beispiel untersucht werden, wie die Empfehlungen aus der Sicht der Nutzer:innenn weiterentwickelt werden könnten, welche Herausforderungen Entwickler:innen bei der Umsetzung der Empfehlungen sehen und welche politischen Rahmenbedingungen notwendig wären, um die Empfehlungen effektiv umzusetzen. Langzeitstudien könnten zudem untersuchen, wie nachhaltig die vorgeschlagenen Empfehlungen sind und ob eine langfristige Evaluation gegebenenfalls weitere (oder andere) Empfehlungen ergeben würde.
Hierbei gilt es auch die zeitliche Dimension von Technologieentwicklung mitzudenken. Zukünftige technologische Entwicklungen könnten die Relevanz und auch den Inhalt der Empfehlungen beeinflussen. Große Sprachmodelle wie ChatGPT spielen mittlerweile mit Blick auf Symptomanalysen auch eine Rolle und könnten traditionelle Technologien zur Symptomprüfung in Zukunft vielleicht ersetzen. Eine unbeaufsichtigte Nutzung von ChatGPT etwa durch Patient:innen zur Selbstdiagnose und -triage wird jedoch nicht empfohlen, solange die Genauigkeit der Triage nicht akkurat und eine umfassende klinische Bewertung noch nicht vorgenommen wurde (Fraser et al. 2023). Eine laufende Weiterentwicklung und Anpassung der Empfehlungen wären vor diesem Hintergrund nötig.
Das CHECK.APP-Projekt konnte aufzeigen, dass die Diskussionen über die ethischen, rechtlichen und sozialen Auswirkungen von SCAs oft nur unzureichend durch empirische Daten gestützt werden (Müller et al. 2022). In weiteren Studien wurde zudem das Fehlen von „real-world data“ in den Debatten um SCAs kritisiert (Fraser et al. 2022; Miller et al. 2020; Meyer et al. 2020). Diese Kritik legt nahe, dass die bestehenden Debatten möglicherweise zu abstrakt geführt werden und die verschiedenen Perspektiven der Betroffenen nicht ausreichend berücksichtigen. Ein zentrales Ziel des CHECK.APP-Projekts war daher, die Pluralität der Erfahrungen sichtbar zu machen. Dabei ergibt sich eine spannende Herausforderung: Die Balance zwischen der Abbildung von Vielfalt und der Entwicklung allgemeiner Empfehlungen erfordert Kompromisse, um beiden Ansprüchen gerecht zu werden. Trotz dieser Schwierigkeit tragen die formulierten Empfehlungen dazu bei, eine identifizierte Lücke in der Literatur zu schließen, und leisten einen weiteren Beitrag zur Diskussion über Gesundheitsapps und die Digitalisierung im Gesundheitswesen.
Gleichzeitig sind noch viele Fragestellungen offengeblieben und sollten in weiteren Studien untersucht werden. Ein wesentliches Element für die Empfehlungen ist zum Beispiel die Qualität von SCAs. Ob SCAs für Patient:innen und Gesundheitssysteme empfohlen werden sollten, hängt auch stark von der Genauigkeit der Diagnose und Triage von SCAs, von den Auswirkungen von SCAs auf das Verhalten der Patient:innen bei der Suche nach medizinischer Versorgung sowie von der Sicherheit und Angemessenheit dieser Entscheidungen ab. Empirische Studien (Semigran et al. 2015; Schmieding et al. 2022; Fraser et al. 2023; Hill et al. 2020) und Richtlinien für die Bewertung von Symptom-Checkern liegen bereits vor (Fraser et al. 2018), müssen aber noch weiterentwickelt werden. Ein weiterer wichtiger Baustein innerhalb der Empfehlungen spielt auch die (e)health Literacy. Zukünftige Forschung sollte deshalb die Rolle der (e)health Literacy im Kontext von Gesundheitsapps wie SCAs weiter untersuchen.
Allgemeine Empfehlungen zu formulieren ist auch deshalb schwierig, weil bei der Bewertung technologischer Entwicklungen immer auch der individuelle, soziale und kulturelle Kontext miteinbezogen werden muss. Allgemeine Empfehlungen können der „Situiertheit“ einer App, aber auch den sozial-strukturellen Prozessen im Hintergrund nur schwer gerecht werden. Mittlerweile gibt es in der ethischen Literatur mehr und mehr Diskussion über die systemischen und strukturellen Aspekte bei der Nutzung digitaler Gesundheitstechnologien (Sauerborn et al. 2022; Brewer et al. 2020). Allerdings sind diese Debatten nicht mit den spezifischen Anforderungen von SCAs verknüpft, was beispielsweise bedeutet, dass die Bewertung des Inhalts und die Funktionen von SCAs durch die Linse sozial-struktureller Dimensionen noch aussteht.
Es wäre interessant zu sehen, wie die Empfehlungen im internationalen Vergleich abschneiden. Momentan gibt es nahezu nur Empfehlungen der Hersteller:innen sowie Empfehlungen auf öffentlichen, zum Großteil nicht wissenschaftlichen, Blogs. Aktuelle Forschungsprojekte (etwa AkuSym an der Charité) sowie Forschung zur Akkuratheit und Qualität von SCAs (Fraser et al. 2023; Schmieding et al. 2022; Hill et al. 2020; Abensur Vuillaume et al. 2023; Semigran et al. 2015) liegen zwar vor, allerdings existieren momentan (nach unserem besten Wissensstand) keine empirisch fundierten Empfehlungen zum konkreten Umgang mit SCAs, die spezifische Empfehlungen für die verschiedenen betroffenen Personengruppen formulieren.
Limitationen
Trotz der Stärken des CHECK.APP-Projekts, insbesondere der empirischen Basis der Empfehlungen sowie der Integration verschiedener Perspektiven und methodischer Ansätze, sind einige Limitationen zu berücksichtigen, die die Übertragbarkeit und Generalisierbarkeit der Empfehlungen einschränken. Ein zentraler methodologischer Aspekt ist das Fehlen spezifischer Ansätze, um Empfehlungen systematisch aus empirischen Daten abzuleiten. Die Überführung der Ergebnisse aus qualitativen und quantitativen Ansätzen in praxisrelevante Handlungsempfehlungen stellte eine große Herausforderung im Projekt dar. Gleichzeitig bietet dieses Fehlen Potenzial für zukünftige Forschung. Insbesondere könnten strukturierte Anleitungen entwickelt werden, um den Transfer empirischer Erkenntnisse in anwendungsbezogene Empfehlungen zu erleichtern.
Darüber hinaus war die Stichprobengröße in den qualitativen und quantitativen Teilen unserer Studie begrenzt. Die befragten Personen waren zum Beispiel überwiegend deutschsprachig und weiß, was die Anwendbarkeit der Ergebnisse auf andere Zielgruppen einschränkt. Der Fokus unserer Studie auf den deutschen Kontext könnte zudem die Generalisierbarkeit der Ergebnisse einschränken, insbesondere in Ländern mit anderen Gesundheitssystemen oder digitaler Infrastruktur. Es bleibt offen, inwieweit die Empfehlungen in internationalen Kontexten relevant sind. Diese Einschränkung legt nahe, dass zukünftige Studien diversere Stichproben einbeziehen sollten, um eine breitere Perspektive auf die Nutzung von SCAs zu erhalten.
Zudem werden nicht alle SCAs, die in Online-Stores frei verfügbar sind, in der wissenschaftlichen Forschung berücksichtigt. Dies erschwert die Kontextualisierung unserer Ergebnisse und zeigt auf, dass der Forschungsstand in diesem Bereich noch Lücken aufweist. Ein weiterer Aspekt ist unsere Konzentration auf die App „Ada“. Zwar ist diese eine der bekanntesten SCAs, doch bleibt unklar, ob andere Apps zu anderen Ergebnissen geführt hätten. Dies wirft die Frage auf, ob die getroffenen Empfehlungen auch für andere SCAs gelten können.
Schließlich wurde die Studie während der COVID-19-Pandemie durchgeführt, was den Kontext der Ergebnisse beeinflusst haben könnte. Die Pandemie hat sowohl die Nutzung als auch die Wahrnehmung von digitalen Gesundheitsanwendungen signifikant geprägt, was sich auf die gewonnenen Erkenntnisse auswirken könnte. Nachpandemische Untersuchungen könnten zeigen, ob sich die Nutzungsmuster und die Akzeptanz von SCAs langfristig verändern. Insgesamt zeigen diese Limitationen auf, dass unsere Empfehlungen ein wertvoller erster Schritt sind, der jedoch durch weitere Forschung validiert und erweitert werden sollte.
Fazit
Die aus dem CHECK.APP-Projekt ableitbaren Empfehlungen unterstreichen die Wichtigkeit einer umfassenden Vorgehensweise, um den vielschichtigen Chancen und Herausforderungen von SCAs angemessen zu begegnen. Diese können als bedeutende Grundlage für eine verantwortungsvolle Nutzung von SCAs und die Gestaltung eines zukunftsweisenden Rahmens für diese Technologien betrachtet werden. Trotz der derzeit ungenügenden Qualität (Abensur Vuillaume et al. 2023; Semigran et al. 2015; Wallace et al. 2022; Schmieding et al. 2022) von SCAs ist eine zukünftige Integration in die allgemeine Gesundheitsversorgung denkbar. Damit besteht grundsätzlich die Möglichkeit, dass SCAs langfristig zu einem festen Bestandteil der Routineversorgung werden, wobei dies eine grundlegende und umfassende Weiterentwicklung voraussetzt. Um mögliche Auswirkungen von SCAs zu erfassen, sollten entsprechend unabhängige Forschungsprojekte initiiert werden, die kontinuierlich die potenziellen Vorteile und Risiken dieser Anwendungen untersuchen. Eine regelmäßige Evaluation ermöglicht dabei das frühzeitige Erkennen von Problembereichen und die Umsetzung geeigneter Maßnahmen. Demzufolge ist die Berücksichtigung von ELSA zentral, um eine verantwortungsvolle Anwendung im Gesundheitskontext zu gewährleisten.
Literatur
Abensur Vuillaume L, Turpinier J, Cipolat L, Arnaud-Dépil-Duval, Dumontier T, Peschanski N, Kieffer Y, Barbat B, Riquier T, Dinot V, Galland J (2023) Exploratory study: Evaluation of a symptom checker effectiveness for providing a diagnosis and evaluating the situation emergency compared to emergency physicians using simulated and standardized patients. PLoS ONE 18:e277568. https://doi.org/10.1371/journal.pone.0277568
Amiri P, Nadri H, Bahaadinbeigy K (2023) Facilitators and barriers of mHealth interventions during the Covid-19 pandemic: systematic review. BMC Health Serv Res 23:1176. https://doi.org/10.1186/s12913-023-10171-w
Beauchamp TL, Childress JF (2019) Principles of biomedical ethics, 8. Aufl. Oxford University Press, New York, Oxford
Brewer LC, Fortuna KL, Jones C, Walker R, Hayes SN, Patten CA, Cooper LA (2020) Back to the future: achieving health equity through health informatics and digital health. JMIR Mhealth Uhealth 8(1):e14512. https://doi.org/10.2196/14512
Deutsches Kollegium für Psychosomatische Medizin (DKPM), Deutsche Gesellschaft für Psychosomatische Medizin und Ärztliche Psychotherapie e. V. (DGPM) (2018) S3 Leitlinie Funktionelle Körperbeschwerden (AWMF-Reg.Nr. 051-001)
Fraser H, Coiera E, Wong D (2018) Safety of patient-facing digital symptom checkers. Lancet 392(10161):2263–2264. https://doi.org/10.1016/S0140-6736(18)32819-8
Fraser H, Crossland D, Bacher I, Ranney M, Madsen T, Hilliard R (2023) Comparison of diagnostic and triage accuracy of Ada Health and WebMD symptom checkers, ChatGPT, and physicians for patients in an emergency department: clinical data analysis study. JMIR Mhealth Uhealth 11:e49995. https://doi.org/10.2196/49995
Fraser HSF, Cohan G, Koehler C, Anderson J, Lawrence A, Pateña J et al (2022) Evaluation of diagnostic and triage accuracy and usability of a symptom checker in an emergency department: observational study. JMIR Mhealth Uhealth 10(9):e38364. https://doi.org/10.2196/38364
Hill MG, Sim M, Mills B (2020) The quality of diagnosis and triage advice provided by free online symptom checkers and apps in Australia. Med J Aust 212(11):514–519. https://doi.org/10.5694/mja2.50600
Hirsch MC (2019) Künstliche Intelligenz in Anamnese und Diagnose. Ein Bericht am Beispiel von Ada. In: Böttinger E, zu Putlitz J (Hrsg) Die Zukunft der Medizin. Disruptive Innovationen revolutionieren Medizin und Gesundheit. Medizinisch Wissenschaftliche Verlagsgesellschaft, S 187–197
Koch R, Steffen M‑T, Wetzel A‑J, Preiser C, Klemmt M, Ehni H‑J, Mueller R, Joos S (2024) An interface between ehealth, health literacy and health-related behavior: Qualitative interview study on laypersons experiences with a mobile symptom checker app https://doi.org/10.2196/preprints.60647 (Preprint)
Kopka M, Scatturin L, Napierala H, Fürstenau D, Feufel MA, Balzer F, Schmieding ML (2023) Characteristics of users and nonusers of symptom checkers in Germany: cross-sectional survey study. J Med Internet Res 25:e46231. https://doi.org/10.2196/46231
Marcolino MS, Oliveira JAQ, D’Agostino M, Ribeiro AL, Alkmim MBM, Novillo-Ortiz D (2018) The impact of mhealth interventions: systematic review of systematic reviews. JMIR Mhealth Uhealth 6:e23. https://doi.org/10.2196/mhealth.8873
Meyer AND, Giardina TD, Spitzmueller C, Shahid U, Scott TMT, Singh H (2020) Patient perspectives on the usefulness of an artificial intelligence-assisted symptom checker: cross-sectional survey study. J Med Internet Res 22(1):e14679. https://doi.org/10.2196/14679
Miller S, Gilbert S, Virani V, Wicks P (2020) Patients’ utilization and perception of an artificial intelligence-based symptom assessment and advice technology in a British primary care waiting room: exploratory pilot study. JMIR Hum Factors 7(3):e19713. https://doi.org/10.2196/19713
Müller R, Klemmt M, Ehni H‑J, Henking T, Kuhnmünch A, Preiser C, Koch R, Ranisch R (2022) Ethical, legal, and social aspects of symptom checker applications: a scoping review. Med Health Care Philos 25:737–755. https://doi.org/10.1007/s11019-022-10114-y
Müller R, Klemmt M, Koch R, Ehni H‑J, Henking T, Langmann E, Wiesing U, Ranisch R (2024) “That’s just Future Medicine”—a qualitative study on users’ experiences of symptom checker apps. BMC Med Ethics 25:17. https://doi.org/10.1186/s12910-024-01011-5
Parsa-Parsi R, Wiesing U (2023) Internationaler Medizinethik-Kodex: Weltweite Identität hergestellt. Dtsch Arztbl 120:A1020–1022
Preiser C, Tsarouha E, Weltermann B, Junne F, Seifried-Dübon T, Hartmann S et al (2021) Psychosocial demands and resources for working time organization in GP practices. Results from a team-based ethnographic study in Germany. J Occup Med Toxicol 16(1):47. https://doi.org/10.1186/s12995-021-00336-w
Preiser C, Radionova N, Ög E, Koch R, Klemmt M, Müller R et al (2024) The doctors, their patients, and the symptom checker app: qualitative interview study with general practitioners in Germany. JMIR Hum Factors 11:e57360. https://doi.org/10.2196/57360
Radionova N, Ög E, Rieger M, Preiser C (2022) Symptom Checker im Arbeitsalltag von Hausärztinnen. Ergebnisse aus qualitativen Interviews mit Hausärztinnen. In: 21. Deutscher Kongress für Versorgungsforschung (DKVF). German Medical Science GMS Publishing House, https://doi.org/10.3205/22DKVF171
Radionova N, Ög E, Wetzel AJ, Rieger MA, Preiser C (2023) Impacts of symptom checkers for laypersons’ self-diagnosis on physicians in primary care: scoping review. J Med Internet Res 25:e39219. https://doi.org/10.2196/39219
Ranisch R (2021) Consultation with Doctor Twitter: consent fatigue, and the role of developers in digital medical ethics. Am J Bioeth 21(7):24–25. https://doi.org/10.1080/15265161.2021.1926595
Richens JG, Lee CM, Johri S (2020) Improving the accuracy of medical diagnosis with causal machine learning. Nat Commun 11(1):3923. https://doi.org/10.1038/s41467-020-17419-7
Rowland SP, Fitzgerald JE, Holme T, Powell J, McGregor A (2020) What is the clinical value of mHealth for patients? NPJ Digit Med 3:4. https://doi.org/10.1038/s41746-019-0206-x
Sauerborn E, Eisenhut K, Ganguli-Mitra A, Wild V (2022) Digitally supported public health interventions through the lens of structural injustice: the case of mobile apps responding to violence against women and girls. bioethics 36(1):71–76. https://doi.org/10.1111/bioe.12965
Schaeffer D, Berens EM, Gille S, Griese L, Klinger J, Sombre S et al (2021) Gesundheitskompetenz der Bevölkerung in Deutschland vor und während der Corona-Pandemie: Ergebnisse des HLS-GER 2. Universität Bielefeld, Bielefeld
Schmieding ML, Kopka M, Schmidt K, Schulz-Niethammer S, Balzer F, Feufel MA (2022) Triage accuracy of symptom checker apps: 5‑year follow-up evaluation. J Med Internet Res 24(5):e31810. https://doi.org/10.2196/31810
Semigran HL, Linder JA, Gidengil C, Mehrotra A (2015) Evaluation of symptom checkers for self diagnosis and triage: audit study. BMJ 351:h3480. https://doi.org/10.1136/bmj.h3480
Tricco AC, Lillie E, Zarin W, O’Brien KK, Colquhoun H, Levac D et al (2018) PRISMA extension for scoping reviews (PRISMA-ScR): checklist and explanation. Ann Intern Med 169(7):467–473. https://doi.org/10.7326/M18-0850
Tsarouha E, Preiser C, Weltermann B, Junne F, Seifried-Dübon T, Stuber F et al (2020) Work-related psychosocial demands and resources in general practice teams in Germany: a team-based ethnography. Int J Environ Res Public Health 17(19):e17197114. https://doi.org/10.3390/ijerph17197114
Vaghefi I, Tulu B (2019) The continued use of mobile health apps: insights from a longitudinal study. JMIR Mhealth Uhealth 7:e12983. https://doi.org/10.2196/12983
Wallace W, Chan C, Chidambaram S, Hanna L, Iqbal FM, Acharya A, Normahani P, Ashrafian H, Markar SR, Sounderajah V, Darzi A (2022) The diagnostic and triage accuracy of digital and online symptom checker tools: a systematic review. NPJ Digit Med 5:118. https://doi.org/10.1038/s41746-022-00667-w
Wetzel AJ, Koch R, Preiser C, Müller R, Klemmt M, Ranisch R, Ehni HJ, Wiesing U, Rieger MA, Henking T, Joos S (2022) Ethical, legal, and social implications of symptom checker apps in primary health care (CHECK.APP): protocol for an interdisciplinary mixed methods study. JMIR Res Protoc 11:e34026. https://doi.org/10.2196/34026
Wetzel AJ, Klemmt M, Müller R, Rieger MA, Joos S, Koch R (2024a) Only the anxious ones? Identifying characteristics of symptom checker app users: a cross-sectional survey. BMC Med Inform Decis Mak 24:21. https://doi.org/10.1186/s12911-024-02430-5
Wetzel AJ, Koch R, Koch N, Klemmt M, Müller R, Preiser C, Rieger M, Rösel I, Ranisch R, Ehni HJ, Joos S (2024b) ‘Better see a doctor?’ Status quo of symptom checker apps in Germany: a cross-sectional survey with a mixed-methods design (CHECK.APP). Digit Health 10:20552076241231555. https://doi.org/10.1177/20552076241231555
Wetzel AJ, Preiser C, Müller R, Joos S, Koch R, Henking T, Haumann H (2024c) Unveiling usage patterns and explaining usage of symptom checker apps: explorative longitudinal mixed methods study. J Med Internet Res 26:e55161. https://doi.org/10.2196/55161
Wissenschaftsrat (2022) Digitalisierung und Datennutzung für Gesundheitsforschung und Versorgung – Positionen und Empfehlungen https://doi.org/10.57674/bxkz-8407 (Positionspapier)
Förderung
Das Projekt ist Teil des gemeinsamen Forschungsprojekts „CHECK.APP“ und wird vollständig vom Bundesministerium für Bildung und Forschung finanziert (Förderkennzeichen 01GP1907A). Der Geldgeber hatte keinen Einfluss auf die Gestaltung der Studie, die Datenerhebung, -analyse, -interpretation und das Verfassen des Manuskripts. Das Institut für Arbeitsmedizin, Sozialmedizin und Versorgungsforschung, Universitätsklinikum Tübingen, erhält eine institutionelle Förderung durch den Verband der Metall- und Elektroindustrie Baden-Württemberg e. V. (Südwestmetall). Die fördernden Institutionen hatten keinen Einfluss auf die Entwicklung der Fragestellungen, die Auswahl der Methodiken, die Durchführung der Studien und deren Auswertung sowie die vorliegende Darstellung.
Funding
Open Access funding enabled and organized by Projekt DEAL.
Author information
Authors and Affiliations
Corresponding author
Ethics declarations
Interessenkonflikt
U. Wiesing ist Mitglied des Beirats der Zeitschrift „Ethik in der Medizin“. E. Langmann, T. Henking, S. Joos, M. Klemmt, R. Müller, C. Preiser, R. Ranisch, R. Koch, M.A. Rieger, A.-J. Wetzel und H.-J. Ehni geben an, dass kein Interessenkonflikt besteht.
Ethische Standards
Für diesen Beitrag wurden von den Autor/-innen keine Studien an Menschen oder Tieren durchgeführt. Für die aufgeführten Studien gelten die jeweils dort angegebenen ethischen Richtlinien.
Additional information
Hinweis des Verlags
Der Verlag bleibt in Hinblick auf geografische Zuordnungen und Gebietsbezeichnungen in veröffentlichten Karten und Institutsadressen neutral.
Rights and permissions
Open Access Dieser Artikel wird unter der Creative Commons Namensnennung 4.0 International Lizenz veröffentlicht, welche die Nutzung, Vervielfältigung, Bearbeitung, Verbreitung und Wiedergabe in jeglichem Medium und Format erlaubt, sofern Sie den/die ursprünglichen Autor(en) und die Quelle ordnungsgemäß nennen, einen Link zur Creative Commons Lizenz beifügen und angeben, ob Änderungen vorgenommen wurden. Die in diesem Artikel enthaltenen Bilder und sonstiges Drittmaterial unterliegen ebenfalls der genannten Creative Commons Lizenz, sofern sich aus der Abbildungslegende nichts anderes ergibt. Sofern das betreffende Material nicht unter der genannten Creative Commons Lizenz steht und die betreffende Handlung nicht nach gesetzlichen Vorschriften erlaubt ist, ist für die oben aufgeführten Weiterverwendungen des Materials die Einwilligung des jeweiligen Rechteinhabers einzuholen. Weitere Details zur Lizenz entnehmen Sie bitte der Lizenzinformation auf http://creativecommons.org/licenses/by/4.0/deed.de.
About this article
Cite this article
Langmann, E., Henking, T., Joos, S. et al. Handlungsempfehlungen zum Einsatz von Symptom-Checker-Apps im Gesundheitskontext – basierend auf den Ergebnissen aus dem Projekt CHECK.APP. Ethik Med 37, 91–111 (2025). https://doi.org/10.1007/s00481-025-00851-y
Received:
Accepted:
Published:
Issue Date:
DOI: https://doi.org/10.1007/s00481-025-00851-y