18.03.2024 | Künstliche Intelligenz | Informationstechnologie und Management
Ethik und künstliche Intelligenz
verfasst von:
Elmar Kotter, Daniel Pinto dos Santos
Erschienen in:
Die Radiologie
Einloggen, um Zugang zu erhalten
Zusammenfassung
Die Einführung von Systemen mit künstlicher Intelligenz (KI) in die Radiologie verspricht, die Effizienz zu steigern sowie die Diagnosegenauigkeit zu verbessern, ist jedoch gleichzeitig mit ethischen Fragestellungen verbunden. Diese umfassen u. a. den Umgang mit Datenschutz, die zukünftige Rolle von Radiologen, die Verantwortlichkeit im Umgang mit KI-Systemen, sowie die Vermeidung von Bias in KI-Systemen. Zur Vermeidung von Datenbias ist es nötig, die zum Training verwendeten Datensätze sehr sorgfältig und repräsentativ zusammenzustellen. Entsprechend stellt der bald in Kraft tretende Europäische AI Act hier besonders hohe Anforderungen an die zum Training von medizinischer KI verwendeten Datensätze. Kognitives Bias tritt auf, wenn Radiologen bei der Verwendung von KI-Systemen ein zu hohes Vertrauen in die von der KI gelieferten Ergebnisse setzen („overreliance“). Bislang werden diagnostische KI-Systeme fast ausschließlich als Second-look-Systeme eingesetzt. Falls diagnostische KI-Systeme in der Radiologie zukünftig im Sinne einer Effizienzsteigerung als First-look-Systeme oder sogar als autonome Systeme eingesetzt werden, stellt sich die Frage nach der Verantwortlichkeit, vergleichbar mit dem autonomen Fahren. Auch würde ein solcher Einsatz von KI die Rolle der Radiologen stark verändern.