Vertrauen Sie Künstlicher Intelligenz?
In Zeiten von ChatGPT wird in der Gesellschaft zunehmend über die Vertrauenswürdigkeit von KI diskutiert. Gerade in der Medizintechnik spielt Vertrauen in KI eine sehr wichtige Rolle. Hier geht es um medizinische Unterstützung und nicht darum, ob man einem KI-generierten Textbeitrag Glauben schenken soll. Ein Arzt durchläuft eine jahrelange, äußerst anspruchsvolle Ausbildung unter der Betreuung erfahrener Ärzte und muss sich an vielen Patienten bewähren, bevor er selbstständig behandeln darf. Mit dem wachsenden Potenzial von KI wachsen auch die Einsatzmöglichkeiten KI-gestützter Anwendungen in der Medizintechnik. Diese übernehmen mehr und mehr Aufgaben, die bisher von Menschen ausgeführt wurden.
Aus technischer Sicht erhöht sich dadurch der Entwicklungsaufwand für KI, um den ständig wachsenden Anforderungen gerecht zu werden. Das ist ein logischer Schritt, denn kein Patient möchte von einem Arzt behandelt werden, der kaum Erfahrung mit echten Patienten hat. Für die KI gelten die gleichen Grundsätze. In der Regel steigt die Leistung der KI mit der Anzahl der Trainingsdaten. Gleichzeitig müssen die Auswirkungen einer möglichen Fehldiagnose durch eine KI Berücksichtigung finden. Dies muss bei der Entwicklung entsprechend beachtet werden, um das Risiko eines möglichen Schadens so weit wie möglich zu minimieren. Dies sind nur einige der aktuellen Anforderungen an die KI-Entwicklung, um die Vertrauenswürdigkeit einer KI-Anwendung auf ein für Arzt und Patient akzeptables Niveau zu bringen.
Bei Chimaera setzen wir uns kontinuierlich mit den neuesten Standards in der KI-Entwicklung auseinander und helfen unseren Kunden dabei, innovative KI-basierte Produkte mit hoher Akzeptanz zu entwickeln. Wir bieten individuelle Softwaredienstleistungen für die medizinische und industrielle Bildgebung. Unsere Experten nutzen die neuesten KI- und Machine-Learning-Technologien, um beispielsweise die quantitative Analyse von Bilddaten zu automatisieren oder Bildinformationen für die CAD-Planung zu extrahieren. Transparente Lösungen nach guter wissenschaftlicher Praxis sind für uns selbstverständlich.
Jana Kade vom Lehrstuhl für IT-Management der FAU analysiert in ihrer Bachelorarbeit den Status quo der Vertrauenswürdigkeit von KI-Anwendungen in einem Unternehmen der Medizinbranche vor dem Hintergrund aktueller EU-Anforderungen und Richtlinien. Dazu befragte sie unseren Geschäftsführer Dr.-Ing. Marcus Prümmer und Dr.-Ing. Nina Ebel aus unserem Vertriebsteam KI-Systeme.
Es hat uns Spaß gemacht, mit Jana über die Herausforderungen und Grenzen der KI zu diskutieren, und wir freuen uns über ihre erfolgreiche Abschlussarbeit. Chimaera unterstützt junge Wissenschaftler:innen und kooperiert eng mit der FAU Erlangen-Nürnberg.
Dr.-Ing. Marcus Prümmer, CEO der Chimaera GmbH
Leitlinien der Europäischen Kommission für vertrauenswürdige KI
- Vorrang für menschliches Handeln und Überwachung
KI-Systeme sollten gerechten Gesellschaften dienen, indem sie das menschliche Handeln unterstützen und die Grundrechte wahren. Unter keinen Umständen sollten sie die menschliche Autonomie einschränken, begrenzen oder fehlleiten. - Technische Robustheit und Sicherheit
Vertrauenswürdige KI erfordert Algorithmen, die sicher, zuverlässig und robust genug sind, um Fehler oder Unstimmigkeiten in allen Phasen des Lebenszyklus des KI-Systems zu bewältigen. - Datenschutz und Data Governance
Die Bürgerinnen und Bürger sollten die volle Kontrolle über ihre eigenen Daten behalten, und die sie betreffenden Daten sollten nicht dazu verwendet werden, ihnen zu schaden oder sie zu diskriminieren. - Transparenz
Die Rückverfolgbarkeit von KI-Systemen muss gewährleistet sein. - Vielfalt, Nicht-Diskriminierung und Fairness
KI-Systeme sollten das gesamte Spektrum menschlicher Fähigkeiten, Fertigkeiten und Anforderungen berücksichtigen und Barrierefreiheit gewährleisten. - Soziales und ökologisches Wohlergehen
KI-Systeme sollten zur Förderung eines positiven sozialen Wandels, der Nachhaltigkeit und des Umweltschutzes eingesetzt werden. - Rechenschaftspflicht
Es sollten Mechanismen eingerichtet werden, die die Verantwortung und Rechenschaftspflicht für KI-Systeme und ihre Ergebnisse sicherstellen.
Aspekte der Vertrauenswürdigkeit von KI bei Chimaera
Die Vertrauenswürdigkeit von KI sollte auf einem risikobasierten Ansatz beruhen. Zunächst einmal ist die Datenqualität für die Entwicklung zuverlässiger KI-Anwendungen von wesentlicher Bedeutung. Die Leistung der KI hängt vollständig davon ab und wirkt sich direkt auf die Zuverlässigkeit sowie die Nichtdiskriminierung der Ergebnisse aus. Chimaera hat einen internen Qualitätsprozess entwickelt, um eine ausgewogene und repräsentative Datenauswahl zu gewährleisten. Weitere Maßstäbe für vertrauenswürdige KI sind die Reproduzierbarkeit und Genauigkeit der Ergebnisse sowie die Robustheit des Systems gegenüber äußeren Einflüssen. Abgerundet wird das Ganze durch die Transparenz der angewandten Methoden. Wenn die Blackbox-Natur der KI verständlich gemacht wird, kann der Nutzer dem System vertrauen.
Jana Kade fasst zusammen: „Wenn es gelingt, alle Komponenten der Vertrauenswürdigkeit für KI zu erfüllen, kann sich das Verhältnis zwischen Mensch und KI grundlegend verbessern und harmonisieren. Ist hier erst einmal das „Eis gebrochen“, steht einer innovativen Zusammenarbeit und der fortschreitenden Weiterentwicklung von künstlicher Intelligenz auf der einen und Mensch auf der anderen Seite nichts mehr im Wege."
Auf einen Blick
State-of-the-Art von vertrauenswürdiger künstlicher Intelligenz – basierend auf einer qualitativen Analyse der Chimaera GmbH
(State-of-the-art of trustworthy artificial Intelligence – based on a qualitative analysis of Chimaera GmbH)
Bachelorarbeit von Jana Kade
Chair of IT Management (Prof. Dr. Michael Amberg)
School of Business, Economics and Society at Friedrich-Alexander-Universität Erlangen-Nürnberg