Fraunhofer-Institut für Digitale Medizin MEVISInstitutsmitteilung
The Box
Ausstellungseröffnung The BOX mit Podiumsdiskussion zum Thema „Transformative Räume: Wissenschaft-Kunst-Residenzen“ am Freitag, 5. April 2024, 18:00-20:00, Informatics Forum und Inspace Gallery im Rahmen des Edinburgh Science Festivals
Die potenziellen Vorteile des Einsatzes von KI-Technologie im Gesundheitswesen sind enorm. Doch es gibt wichtige praktische, technologische und rechtliche Implikationen, die zum Schutz der Patienten berücksichtigt werden müssen. The BOX ist eine interaktive Installation, die den „Black Box“-Aspekt der KI-Technologie erforscht und die Frage stellt: Wenn wir die KI mit unvollständigen oder verzerrten Daten füttern – können wir dann erwarten, dass sie vernünftige Vorschläge macht?
Im November besuchte die schottische Künstlerin, Wissenschaftlerin und Medizinerin Fiona Smith Fraunhofer MEVIS in Bremen, um im Rahmen des Residenzprogramms „STEAM Imaging V“ eine interaktive Kunstinstallation zu entwickeln. Mit dem Thema „Holding the ‘Digital’ in Medicine to Account“ wollen die Beteiligten über die Versprechen neuer technologischer Entwicklungen und datengesteuerter Werkzeuge hinausblicken. Ziel ist zudem angehenden Studierenden zu helfen, ein kritisches Verständnis von KI-gesteuerten Anwendungen im Gesundheitssektor zu gewinnen, die auch zunehmend die Interaktion aller Beteiligten im Prozess der Entwicklung durchdringt.
Nun ist The BOX fertig und ist vom 5. April bis zum 19. April in der Inspace Gallery im Rahmen des renommierten Edinburgh Science Festival zu erleben. Das Kunstwerk lädt das Publikum ein, in eine Patientenrolle zu schlüpfen und die Reaktion einer KI auf medizinische Daten hautnah zu erleben. Dadurch beleuchtet Fiona Smith auf interaktive und spielerische Weise essenzielle Fragen, die der Einsatz künstlicher Intelligenz in der medizinischen Diagnostik mit sich bringt.
KI-Algorithmen finden sich heute in vielen Bereichen des Alltags. Auch in der Medizin halten sie nach und nach Einzug: KI-Programme erkennen Muster in Röntgenbildern, die auf Erkrankungen hinweisen oder unterstützen die Suche nach Wirkstoffkandidaten für neue Medikamente. Doch gerade im Gesundheitsbereich stellen sich zahlreiche rechtliche und ethische Fragen: Was macht eine KI mit medizinischen Daten, also sensiblen Informationen über einen Menschen? Wie wird verhindert, dass ein Algorithmus einseitig trainiert wird, sodass er verzerrte und diskriminierende Ergebnisse ausspuckt und problematische Therapieentscheidungen getroffen werden? Und auf welche Weise lässt sich gewährleisten, dass Fachleute wie Laien nachvollziehen können, wie eine KI zu ihren Entscheidungen kommt?
Diesen Aspekten widmete sich Smith im Rahmen des Residenzprogramms „STEAM Imaging V. Die junge Schottin promoviert an der Universität Edinburgh zu einem KI-Thema, zugleich ist sie als Ärztin und Künstlerin tätig. Sie hatte sich mit der Idee für eine interaktive Installation namens The BOX beworben, bei der das Publikum eine KI mit Daten füttern und anschließend beobachten kann, wie die Maschine reagiert.
Im November 2023 verbrachte Smith zwei Wochen bei Fraunhofer MEVIS in Bremen, um sich mit den MEVIS-Fachleuten auszutauschen: „Es war eine interessante Mischung aus Mathematik, Physik, Kunst, Philosophie, Medizin und Softwareentwicklung“, schwärmt sie. „Wir hatten bemerkenswerte Arbeitsgespräche, die auch beim Mittagessen. weitergingen“ Unter anderem dachten die Beteiligten gemeinsam darüber nach, wie sich mit künstlerischen Mitteln vermitteln lässt, dass es, wenn ein Algorithmus eine Entscheidung treffen muss, durchaus Unsicherheiten geben kann. Diese Entscheidungsgrenzen können sich auf subtile Weise ändern, und sogar ins Willkürliche kippen, auch wenn sich die KI dabei sicher gibt.
Integraler Bestandteil des Residenzprogramms ist ein STEAM-Workshop für Schüler:innen in Bremen und Edinburgh, den die Künstler gemeinsam mit den MEVIS-Fachleuten ausrichtet. „Es waren zwei intensive Tage in Bremen, aber es war fantastisch“, erzählt die Künstlerin. „Die Jugendlichen haben unsere Gedanken etwa über die Regulierung und die Ethik von Künstlicher Intelligenz schnell aufgegriffen.“ Unter anderem konnten die Teilnehmenden selbst in die Rolle einer KI schlüpfen, die Hautkrebs diagnostiziert. Dieses Rollenspiel förderte das Verständnis, wie wichtig repräsentative Datensätze für das Trainieren von AI sind. Zudem wurde deutlich, dass die Modelle Schwächen zeigen, wenn spätere Testdaten allzu sehr von den Trainingsdaten abweichen – die Software kann keine Dinge vorhersagen, die es zuvor nicht gesehen hat. „Die Diskussionen mit den Jugendlichen haben mir geholfen, das Konzept für meine Installation zu schärfen“, sagt Smith. „Mir wurde klar, dass KI-Modelle bei jungen Menschen eine zum Teil fast mythische Präsenz haben, sie jedoch gleichzeitig davor zurückschrecken, wenn sie sich vorstellen, selbst von einer KI behandelt zu werden .“
Zurück in Edinburgh aktualisierte Fiona Smith ihr Konzept. Sie diskutierte und entwickelte das Design mit Fraunhofer MEVIS, dem Produktionsteam von Inspace, sowie mit spezialisierten Technikern des Institute for Design Informatics und der Universität Edinburgh. „Es wurde ziemlich schnell ziemlich groß“, betont Smith. „Am Ende kam eine Kombination aus mehreren interaktiven Skulpturen heraus, inklusive eines aufwändigen Lichtdesigns“.
Und was erwartet die Menschen in der Inspace Gallerie? „The BOX lädt die Leute ein, eine Art futuristische Klinik für Handchirurgie zu betreten“, beschreibt Smith. „Sie können in die Rolle von Patienten schlüpfen, die sich auf eine ungewöhnliche Untersuchung einlassen.“ Ihre Hände werden gescannt, die Anlage spuckt ein kodiertes Testergebnis aus. Anschließend finden sich die Leute als eine Art Datenpunkt in der Box wieder, in der ein KI-Algorithmus eine Entscheidung über die Behandlung trifft.
„Dadurch möchte ich die Barrieren der Black Box niederreißen und vermitteln, wie komplex die Algorithmen und die dahintersteckende Mathematik sind“, erläutert Fiona Smith. Wichtig ist etwa, dass eine KI nur dann brauchbare Resultate liefern kann, wenn sie zuvor mit hochqualitativen Daten gefüttert wurde. Für Smith sollten diese Trainingsdaten jene Teile der Bevölkerung repräsentieren, für das Modell bestimmt ist. Und sie sollten auf faire und ethische Weise und unter Einhaltung der gesetzlichen Bestimmungen erhoben werden. „Meine Hoffnung ist, dass meine Installation bei den Menschen Fragen aufwirft und sie kritisch darüber nachdenken lässt, wenn sie etwas über KI-Modelle und deren Regulierung hören“, sagt Smith – und lacht: „Aber natürlich sollen die Leute auch Spaß haben, wenn sie sich auf The BOX einlassen.“
STEAM Imaging V ist eine Kreator-Residenz des Fraunhofer-Instituts für Digitale Medizin MEVIS in Bremen, Deutschland, in Zusammenarbeit mit der International Fraunhofer Talent School Bremen, dem Schulzentrum Walle in Bremen und dem Institute for Design Informatics an der University of Edinburgh in Großbritannien. Unterstützt wird sie von der Ars Electronica im österreichischen Linz.
Material