AI Perspectives: Wann vertrauen wir der KI blind?

Wir stehen an der Schwelle zur nächsten IT-Evolution: dem Einsatz von Künstlicher Intelligenz

KI betrifft nicht nur die Arbeit bei DESY und anderen Forschungsinstitutionen der Helmholtz-Gemeinschaft, sondern wird unsere Gesellschaft nachhaltig beeinflussen. Gemeinsam mit Expert:innen aus Naturwissenschaft, Technik, Philosophie, Musik und Kunst wollten wir daher der Frage nachgehen: Wann werden wir der KI trauen können? Denn, wie kommt die KI eigentlich zu einer Entscheidung? Und auf welchen Mechanismen beruht diese Entscheidung? Was ist, wenn die Maschine mit unbemerkten Verzerrungen trainiert wird? Dabei entstanden zwei Veranstaltungsformate: eines für KI-Expert:innen und eines für die Öffentlichkeit.

Stuhlkreis im Autoscooter — erster AI Perspectives-Expert:innenaustausch fand an einem ungewöhnlichen Ort statt

Zwei Konferenzen — ein gemeinsamer Tag. Das war der Auftakt der gemeinsamen “Unconference” der Helmholtz AI Conference und der Helmholtz Imaging Conference am 14. Juli 2023 auf dem Gelände der Kuppel Hamburg. Nur einen Katzensprung vom DESY-Nebeneingang entfernt, erstreckt sich dort ein weitläufiges Eventgelände das irgend etwas zwischen Zirkus und Jahrmarkt darstellt. Inmitten alter Karussells fand unser interdisziplinärer Expert:innen-Workshop auf der Fahrbahn eines Autoscooters statt.
Für alle, die es nicht wissen: eine “Unconference” ist ein Konferenzformat, bei dem die Teilnehmer:innen und nicht die Veranstalter:innen die Themen setzen, über die sie reden wollen. Für unser Vorhaben eines interdisziplinären Workshops zum Thema Explainabel AI (XAI) war das der perfekte Rahmen und die besondere Location beflügelte unsere Diskussion.
 

“Hier höre ich zum ersten Mal das Thema Angst. Das gibt es in meiner science bubble nicht.”

Für die Initator:innen von AI Perspectives, bestehend aus Katja Kroschewski, Miriam Huckschlag und Klaus Ehret von DESY, Knut Sander und Katharina Kriegel von Helmholtz Imaging sowie dem Theaterregisseur Jari Niesner war es wichtig, unterschiedliche Denk- und Arbeitsweisen an einen Tisch zu bringen, um sich den Thema XAI möglichst vielfältig zu nähern, sich gegenseitig zu inspirieren und von einander zu lernen.

Vor welchen Herausforderungen steht beispielsweise der Kreativsektor, wenn KI nun Bilder malt und Songs komponiert. Wie kann XAI dabei helfen, Transparenz zu schaffen? Zwei der Workshop-Teilnehmern:innen, der Musiker Gregory Beller und die Künstlerin Anissa Tavara, integrieren KI bereits in ihre künstlerischen Arbeiten. Und doch schwebt auch Angst mit vor den unbekannten Folgen der KI. Wie verändert KI etwa die Wahrnehmung von Kunst und Künstler:innen, vom kreativen Schaffensprozess und vom Begriff des Eigentums?

Ein anderer Teilnehmer, Software-Ingenieur Lukas Klein vom Deutschen Krebsforschungszentrum Heidelberg, meinte dazu: “Hier höre ich zum ersten Mal das Thema Angst. Das gibt es in meiner science bubble nicht. Klar, sind die großen Diskussionen wie das Statement of AI Risk bekannt, aber die Forscherinnen und Forscher sind momentan von der Begeisterung getragen, dass so viele hilfreiche Anwendungen möglich sind, z.B. Radiologie, Wetter- und Klimavorhersagen.“

Braucht eine KI Werte? Interdisziplinäre Zusammenarbeit als Schlüssel für eine sichere Zukunft mit KI

Für die Workshop-Teilnehmer:innen war klar, dass die größte Herausforderung darin bestehe, KI-Programme erklärbar, transparent und sicher vor Missbrauch zu machen. Dies erfordere die Zusammenarbeit verschiedener Disziplinen, wie der Philosophie, Mathematik, Neurowissenschaft und Psychologie. Eine reale Gefahr entstehe beispielsweise, wenn KI selbst Entscheidungen trifft, ohne dass die Konsequenzen hinterfragt werden. “Es gibt ganze Forschungsbereiche, die sich mit der Einführung von Werten in KI befassen”, weiß der Philosoph Timo Freiesleben von der Universität Tübingen. Noch ist der Weg dahin lang und viele Fragen unbeantwortet.
 

"Wie viel Verantwortung gebe ich ab?"

Nach einem diskussionsreichen Nachmittag bei sommerlichen Temperaturen, ging es am Abend im DESY-Hörsaal bei einer Panel-Diskussion für die Öffentlichkeit interdisziplinär weiter. Die Frage „Wie viel Verantwortung gebe ich ab?“, stellte Edgar Weckert, DESY-Direktor für Forschung mit Photonen, gleich in seiner Begrüßungsrede in den Raum. DESYanerin Judith Katzy vom Leitungsausschuss Helmholtz AI wies in ihrer Eröffnung auf die fantastischen Machine Learning Methoden hin, „die früher schlicht undenkbar waren. Wir können mit KI in der Forschung Probleme viel schneller adressieren.“ Die Moderation des Abends übernahm Regisseur Jari Niesner. Mit auf dem Panel saßen der Musiker Gregory Beller, der Philosoph Timo Freiesleben, der Software-Experte Lukas Klein, die DESY-Physikerin Isabell Melzer-Pellmann und der IT-Spezialist Peter Steinbach.

“KI kann sich gut erinnern — Menschen können gut generalisieren“

Lukas Klein vom Deutschen Krebsforschungszentrum in Heidelberg fasste eine seiner Erkenntnisse so zusammen: „KI ist stark bei Anwendungen, die viel Wissen und Gedächtnis erfordern. Die KI vergisst nichts und kann schnell alles abrufen. KI kann sich also gut erinnern — Menschen sind im Generalisieren gut. Denn, sehe ich ein mir unbekanntes Tier mit Säbelzähnen, weiß ich: Gefahr! Wir wissen aber noch nicht genau, wie das Gehirn das macht.“ Die Demokratisierung der KI hielten alle Dikussionsteilnehmer:innen für einen entscheidenden Faktor, damit möglichst viele Leute an erklärbarer, verständlicher KI-Software arbeiten und davon partizipieren können. ”Wir sollten uns nicht darauf verlassen müssen, dass eine Firma sagt, doch doch, das ist schon alles ordentlich trainiert worden. Zum Glück schlägt Open Source sowieso die Konzerne. Das mussten die Konzerne selber feststellen — mehr Leute sind einfach schneller,“ resümiert Peter Steinbach und fand unter Applaus des Publikums gelungene Schlussworte.

Du findest die Aufzeichnung des Abends auch auf dem DESY-YouTube-Kanal.
 

🤖 Wir freuen uns auf mehr!