Pub Date : 2023-04-17DOI: 10.1007/s00481-023-00763-9
Susanne Beck, Michelle Faber, Simon Gerndt
Zusammenfassung Die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz und Robotik stellen nicht nur die Ethik, sondern auch das Recht vor neue Herausforderungen, gerade im Bereich der Medizin und Pflege. Grundsätzlich hat der Einsatz von KI dabei das Potenzial, sowohl die Heilbehandlungen als auch den adäquaten Umgang im Rahmen der Pflege zu erleichtern, wenn nicht sogar zu verbessern. Verwaltungsaufgaben, die Überwachung von Vitalfunktionen und deren Parameter sowie die Untersuchung von Gewebeproben etwa könnten autonom ablaufen. In Diagnostik und Therapie können Systeme die behandelnde Ärztin unterstützen. Intelligente Betten ermöglichen eine Frühmobilisierung der Patient:innen bei gleichzeitig geringerem Personalaufwand. Gleichwohl birgt der Einsatz der Systeme rechtliche Herausforderungen. So besteht das Risiko einer Verletzung der beteiligten Personen. Im Gegensatz zu herkömmlichen Technologien „leidet“ KI unter der „Black-Box-Problematik“: Die von den Systemen generierten Ergebnisse sind nicht mehr vollständig vorhersehbar und nachvollziehbar. Der Einsatz birgt unbekannte und unkalkulierbare Risiken, was sich insbesondere auf die zivilrechtliche Haftung und strafrechtliche Verantwortung auswirkt. Wem die Entscheidungen der Systeme normativ zuzurechnen sind, ist eine Kernfrage des juristischen Diskurses. Die aus praktikabilitätsgründen naheliegende Wahl, dem letztentscheidenden Menschen das Verhalten eines KI-Systems zuzurechnen, überzeugt nicht in allen Fällen, sondern degradiert ihn häufig zum symbolischen Haftungsknecht und legt ihm einseitig die Risiken der Technologien auf. Weiterhin ergeben sich im Bereich der Medizin und Pflege Fragen hinsichtlich der Zulassung von KI-Systemen, da die Maschinen während der Nutzung weiterlernen und so ihren strukturellen Aufbau kontinuierlich verändern. Es ist daher angebracht, sich frühzeitig mit dem Konfliktpotential aus ethischer und rechtlicher Sicht auseinander zu setzen, um einer potenziellen gesellschaftlichen Angst vor derartigen Systemen vorzubeugen und einen praxisgerechten Handlungsrahmen zu schaffen.
{"title":"Legal aspects of the use of artificial intelligence and robotics in medicine and care","authors":"Susanne Beck, Michelle Faber, Simon Gerndt","doi":"10.1007/s00481-023-00763-9","DOIUrl":"https://doi.org/10.1007/s00481-023-00763-9","url":null,"abstract":"Zusammenfassung Die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz und Robotik stellen nicht nur die Ethik, sondern auch das Recht vor neue Herausforderungen, gerade im Bereich der Medizin und Pflege. Grundsätzlich hat der Einsatz von KI dabei das Potenzial, sowohl die Heilbehandlungen als auch den adäquaten Umgang im Rahmen der Pflege zu erleichtern, wenn nicht sogar zu verbessern. Verwaltungsaufgaben, die Überwachung von Vitalfunktionen und deren Parameter sowie die Untersuchung von Gewebeproben etwa könnten autonom ablaufen. In Diagnostik und Therapie können Systeme die behandelnde Ärztin unterstützen. Intelligente Betten ermöglichen eine Frühmobilisierung der Patient:innen bei gleichzeitig geringerem Personalaufwand. Gleichwohl birgt der Einsatz der Systeme rechtliche Herausforderungen. So besteht das Risiko einer Verletzung der beteiligten Personen. Im Gegensatz zu herkömmlichen Technologien „leidet“ KI unter der „Black-Box-Problematik“: Die von den Systemen generierten Ergebnisse sind nicht mehr vollständig vorhersehbar und nachvollziehbar. Der Einsatz birgt unbekannte und unkalkulierbare Risiken, was sich insbesondere auf die zivilrechtliche Haftung und strafrechtliche Verantwortung auswirkt. Wem die Entscheidungen der Systeme normativ zuzurechnen sind, ist eine Kernfrage des juristischen Diskurses. Die aus praktikabilitätsgründen naheliegende Wahl, dem letztentscheidenden Menschen das Verhalten eines KI-Systems zuzurechnen, überzeugt nicht in allen Fällen, sondern degradiert ihn häufig zum symbolischen Haftungsknecht und legt ihm einseitig die Risiken der Technologien auf. Weiterhin ergeben sich im Bereich der Medizin und Pflege Fragen hinsichtlich der Zulassung von KI-Systemen, da die Maschinen während der Nutzung weiterlernen und so ihren strukturellen Aufbau kontinuierlich verändern. Es ist daher angebracht, sich frühzeitig mit dem Konfliktpotential aus ethischer und rechtlicher Sicht auseinander zu setzen, um einer potenziellen gesellschaftlichen Angst vor derartigen Systemen vorzubeugen und einen praxisgerechten Handlungsrahmen zu schaffen.","PeriodicalId":53156,"journal":{"name":"Ethik in Der Medizin","volume":null,"pages":null},"PeriodicalIF":0.0,"publicationDate":"2023-04-17","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"136021554","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":4,"RegionCategory":"哲学","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
Pub Date : 2023-04-03DOI: 10.1007/s00481-023-00761-x
Frank Ursin, Felix Lindner, Timo Ropinski, Sabine Salloch, Cristian Timmermann
Abstract Definition of the problem The umbrella term “explicability” refers to the reduction of opacity of artificial intelligence (AI) systems. These efforts are challenging for medical AI applications because higher accuracy often comes at the cost of increased opacity. This entails ethical tensions because physicians and patients desire to trace how results are produced without compromising the performance of AI systems. The centrality of explicability within the informed consent process for medical AI systems compels an ethical reflection on the trade-offs. Which levels of explicability are needed to obtain informed consent when utilizing medical AI? Arguments We proceed in five steps: First, we map the terms commonly associated with explicability as described in the ethics and computer science literature, i.e., disclosure, intelligibility, interpretability, and explainability. Second, we conduct a conceptual analysis of the ethical requirements for explicability when it comes to informed consent. Third, we distinguish hurdles for explicability in terms of epistemic and explanatory opacity. Fourth, this then allows to conclude the level of explicability physicians must reach and what patients can expect. In a final step, we show how the identified levels of explicability can technically be met from the perspective of computer science. Throughout our work, we take diagnostic AI systems in radiology as an example. Conclusion We determined four levels of explicability that need to be distinguished for ethically defensible informed consent processes and showed how developers of medical AI can technically meet these requirements.
{"title":"Ebenen der Explizierbarkeit für medizinische künstliche Intelligenz: Was brauchen wir normativ und was können wir technisch erreichen?","authors":"Frank Ursin, Felix Lindner, Timo Ropinski, Sabine Salloch, Cristian Timmermann","doi":"10.1007/s00481-023-00761-x","DOIUrl":"https://doi.org/10.1007/s00481-023-00761-x","url":null,"abstract":"Abstract Definition of the problem The umbrella term “explicability” refers to the reduction of opacity of artificial intelligence (AI) systems. These efforts are challenging for medical AI applications because higher accuracy often comes at the cost of increased opacity. This entails ethical tensions because physicians and patients desire to trace how results are produced without compromising the performance of AI systems. The centrality of explicability within the informed consent process for medical AI systems compels an ethical reflection on the trade-offs. Which levels of explicability are needed to obtain informed consent when utilizing medical AI? Arguments We proceed in five steps: First, we map the terms commonly associated with explicability as described in the ethics and computer science literature, i.e., disclosure, intelligibility, interpretability, and explainability. Second, we conduct a conceptual analysis of the ethical requirements for explicability when it comes to informed consent. Third, we distinguish hurdles for explicability in terms of epistemic and explanatory opacity. Fourth, this then allows to conclude the level of explicability physicians must reach and what patients can expect. In a final step, we show how the identified levels of explicability can technically be met from the perspective of computer science. Throughout our work, we take diagnostic AI systems in radiology as an example. Conclusion We determined four levels of explicability that need to be distinguished for ethically defensible informed consent processes and showed how developers of medical AI can technically meet these requirements.","PeriodicalId":53156,"journal":{"name":"Ethik in Der Medizin","volume":null,"pages":null},"PeriodicalIF":0.0,"publicationDate":"2023-04-03","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"136328776","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":4,"RegionCategory":"哲学","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
Pub Date : 2023-03-28DOI: 10.1007/s00481-023-00754-w
Monika Bobbert, Marianne Rabe
Zusammenfassung Digitale Programme unterstützen mittlerweile sowohl die Erhebung des Pflegebedarfs und die Pflegeplanung als auch die Dokumentation der geleisteten Pflege. Neben Verbesserungen ergeben sich jedoch auch Spannungen zwischen der Verrichtungsorientierung und Standardisierung der digitalen Systeme und dem Fürsorgeethos der Pflege. Daher sind digitale Systeme sowohl aus pflegefachlicher als auch aus pflegeethischer Sicht zu beleuchten, um Chancen und Risiken aufzuzeigen. Pflegeverständnis und Pflegeziele werden in digitalen Programmen nicht explizit gemacht. Bedingt durch die mangelnde Transparenz können sich professionell Pflegende mit gegebenenfalls anderen Pflegeverständnissen nicht dazu verhalten und von den Gepflegten auch keine angemessene Zustimmung zu Pflegemaßnahmen und -zielen einholen. Die Analyse einiger gängiger Programme zeigt, dass digitale Systeme zur somatischen Verkürzung der Pflege tendieren. So werden derzeit Ziele und Maßnahmen zur Kommunikation, Beziehungsgestaltung und Begleitung in Phasen von Krankheit und Sterben kaum abgebildet. In der Einführung digitaler Systeme liegt im Grunde die Chance eines Neubeginns, da sie durch digitale Normierungen zu stärkerer Patientenorientierung und Partizipation beitragen könnten. Es sollte zugleich jedoch die Partizipation der Betroffenen gewährleistet und die Transparenz und Veränderbarkeit der Systeme gewährleistet sein.
{"title":"Ethical issues on digital care planning and care documentation","authors":"Monika Bobbert, Marianne Rabe","doi":"10.1007/s00481-023-00754-w","DOIUrl":"https://doi.org/10.1007/s00481-023-00754-w","url":null,"abstract":"Zusammenfassung Digitale Programme unterstützen mittlerweile sowohl die Erhebung des Pflegebedarfs und die Pflegeplanung als auch die Dokumentation der geleisteten Pflege. Neben Verbesserungen ergeben sich jedoch auch Spannungen zwischen der Verrichtungsorientierung und Standardisierung der digitalen Systeme und dem Fürsorgeethos der Pflege. Daher sind digitale Systeme sowohl aus pflegefachlicher als auch aus pflegeethischer Sicht zu beleuchten, um Chancen und Risiken aufzuzeigen. Pflegeverständnis und Pflegeziele werden in digitalen Programmen nicht explizit gemacht. Bedingt durch die mangelnde Transparenz können sich professionell Pflegende mit gegebenenfalls anderen Pflegeverständnissen nicht dazu verhalten und von den Gepflegten auch keine angemessene Zustimmung zu Pflegemaßnahmen und -zielen einholen. Die Analyse einiger gängiger Programme zeigt, dass digitale Systeme zur somatischen Verkürzung der Pflege tendieren. So werden derzeit Ziele und Maßnahmen zur Kommunikation, Beziehungsgestaltung und Begleitung in Phasen von Krankheit und Sterben kaum abgebildet. In der Einführung digitaler Systeme liegt im Grunde die Chance eines Neubeginns, da sie durch digitale Normierungen zu stärkerer Patientenorientierung und Partizipation beitragen könnten. Es sollte zugleich jedoch die Partizipation der Betroffenen gewährleistet und die Transparenz und Veränderbarkeit der Systeme gewährleistet sein.","PeriodicalId":53156,"journal":{"name":"Ethik in Der Medizin","volume":null,"pages":null},"PeriodicalIF":0.0,"publicationDate":"2023-03-28","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"135676174","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":4,"RegionCategory":"哲学","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
Pub Date : 2023-03-16DOI: 10.1007/s00481-023-00756-8
Franziska Sonnauer, A. Frewer
{"title":"Trojan technology in the living room?","authors":"Franziska Sonnauer, A. Frewer","doi":"10.1007/s00481-023-00756-8","DOIUrl":"https://doi.org/10.1007/s00481-023-00756-8","url":null,"abstract":"","PeriodicalId":53156,"journal":{"name":"Ethik in Der Medizin","volume":null,"pages":null},"PeriodicalIF":0.6,"publicationDate":"2023-03-16","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"42626727","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":4,"RegionCategory":"哲学","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
Pub Date : 2023-03-10DOI: 10.1007/s00481-023-00758-6
A. Westermair, C. Wetterauer, J. Schürmann, Manuel Trachsel
{"title":"Kommentar I zum Fall: „Seelische Notlage und später Schwangerschaftsabbruch“","authors":"A. Westermair, C. Wetterauer, J. Schürmann, Manuel Trachsel","doi":"10.1007/s00481-023-00758-6","DOIUrl":"https://doi.org/10.1007/s00481-023-00758-6","url":null,"abstract":"","PeriodicalId":53156,"journal":{"name":"Ethik in Der Medizin","volume":null,"pages":null},"PeriodicalIF":0.6,"publicationDate":"2023-03-10","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"47691494","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":4,"RegionCategory":"哲学","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
Pub Date : 2023-03-10DOI: 10.1007/s00481-023-00759-5
D. Schmitz
{"title":"Kommentar II zum Fall: „Seelische Notlage und später Schwangerschaftsabbruch“","authors":"D. Schmitz","doi":"10.1007/s00481-023-00759-5","DOIUrl":"https://doi.org/10.1007/s00481-023-00759-5","url":null,"abstract":"","PeriodicalId":53156,"journal":{"name":"Ethik in Der Medizin","volume":null,"pages":null},"PeriodicalIF":0.6,"publicationDate":"2023-03-10","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"48086316","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":4,"RegionCategory":"哲学","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
Pub Date : 2023-03-10DOI: 10.1007/s00481-023-00757-7
{"title":"Seelische Notlage und später Schwangerschaftsabbruch","authors":"","doi":"10.1007/s00481-023-00757-7","DOIUrl":"https://doi.org/10.1007/s00481-023-00757-7","url":null,"abstract":"","PeriodicalId":53156,"journal":{"name":"Ethik in Der Medizin","volume":null,"pages":null},"PeriodicalIF":0.6,"publicationDate":"2023-03-10","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"42308626","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":4,"RegionCategory":"哲学","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
Pub Date : 2023-03-01DOI: 10.1007/s00481-023-00755-9
Anna-Henrikje Seidlein, F. Rave, A. Rogge, K. Woellert, C. Hack
{"title":"Ethik-Fortbildungen als Element der Klinischen Ethikarbeit: Ein Überblick über Formate und weitere strukturierende Elemente","authors":"Anna-Henrikje Seidlein, F. Rave, A. Rogge, K. Woellert, C. Hack","doi":"10.1007/s00481-023-00755-9","DOIUrl":"https://doi.org/10.1007/s00481-023-00755-9","url":null,"abstract":"","PeriodicalId":53156,"journal":{"name":"Ethik in Der Medizin","volume":null,"pages":null},"PeriodicalIF":0.6,"publicationDate":"2023-03-01","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"44850416","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":4,"RegionCategory":"哲学","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
Pub Date : 2023-02-27DOI: 10.1007/s00481-023-00753-x
Lena Stange, Eike Buhr
{"title":"Henrike Voß (2022) Was bindet Menschen mit Demenz an das Leben? Eine erweiterte Perspektive auf Advance Care Planning","authors":"Lena Stange, Eike Buhr","doi":"10.1007/s00481-023-00753-x","DOIUrl":"https://doi.org/10.1007/s00481-023-00753-x","url":null,"abstract":"","PeriodicalId":53156,"journal":{"name":"Ethik in Der Medizin","volume":null,"pages":null},"PeriodicalIF":0.6,"publicationDate":"2023-02-27","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"46157203","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":4,"RegionCategory":"哲学","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
Pub Date : 2023-02-24DOI: 10.1007/s00481-023-00749-7
C. Wiesemann, Mark Schweda
{"title":"Medizin und die Zeitstruktur guten Lebens","authors":"C. Wiesemann, Mark Schweda","doi":"10.1007/s00481-023-00749-7","DOIUrl":"https://doi.org/10.1007/s00481-023-00749-7","url":null,"abstract":"","PeriodicalId":53156,"journal":{"name":"Ethik in Der Medizin","volume":null,"pages":null},"PeriodicalIF":0.6,"publicationDate":"2023-02-24","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"43670959","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":4,"RegionCategory":"哲学","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
京公网安备 11010802042870号
京ICP备2023020795号-1
扫码关注我们
求助内容：
应助结果提醒方式：