Faire, gute KI? - Marc Hauer, Tobias Krafft

Software Testing - Qualität, Testautomatisierung & Agilität

KI-Anwendungen auf gesellschaftliche Werte trainieren

"Wenn man sich die Fairness-Debatte rund um Künstliche Intelligenz mal anschaut, wurde in einem ganz spannenden Papier von Kleinberg festgestellt, das, was wir so objektiv Fairness nennen, sich teilweise widerspricht" - Marc Hauer, Tobias Krafft

Künstliche Intelligenz soll den Menschen unterstützen. Ob das nun in der Fabrik beim Schrauben zählen ist, oder ob sie dem Chefarzt bei einer komplizierten OP assistiert. Doch diese unterschiedlichen Einsatzbereiche haben enorm unterschiedliche Anforderungen an die KI. Die ethischen Grundsätze sind auch weltweit unterschiedlich. Also was heißt denn eigentlich Fairness? Und wo beginnt Diskriminierung und Gerechtigkeit? Die KI soll schon nach unseren Werten handeln, dafür muss sie trainiert werden- doch vorher muss man diese Werte definieren.

Marc Hauer ist wissenschaftlicher Mitarbeiter am Algorithm Accountability Lab der RPTU Kaiserslautern, spezialisiert auf die Gestaltung verantwortungsvoller KI-Systeme. Er leitet den DIN SPEC Arbeitskreis "Fairness von KI in Finanzdienstleistungen" und ist freiberuflich als Fachreferent und Berater im Bereich Algorithmen und KI tätig.

Tobias D. Krafft ist Doktorand im Bereich "Algorithm Accountability" an der TU Kaiserslautern und Geschäftsführer der Trusted AI GmbH, fokussiert auf Blackbox-Analysen und KI-Regulierung. Er leitet die DIN-Arbeitsgruppe „Ethik/Responsible AI“ und erhielt 2017 den Weizenbaumpreis für seine Forschungen im gesellschaftlichen Kontext von KI. Zudem engagiert er sich in der Gesellschaft für Informatik für den Studiengang Sozioinformatik.

Themen im Podcast:

• Was heißt "faire KI" und wie misst man "fair"?
• Tobias und Marcs Adaption des Assurance Case Framework auf das Testen von KI-Systemen
• Richtlinien für die KI
• Transparenz der Risikobewertungen
• Was Marc und Tobias sich in der Zukunft wünschen

Kontakt zu Marc:

• LinkedIn: https://swt.fm/7679

Kontakt zu Tobias:

• LinkedIn: https://swt.fm/nmwh

Weitere, im Podcast erwähnte Links auf der Folgen-Website

• Website: https://www.software-testing.fm
• YouTube: https://swt.fm/pyou

Danke an die Community-Partner des Podcasts:

• Alliance for Qualification: https://swt.fm/a4q
• ASQF: https://swt.fm/asqf
• Austrian Testing Board: https://swt.fm/atb
• dpunkt.verlag: https://swt.fm/dpv
• German Testing Board: https://swt.fm/gtb
• German Testing Day: https://swt.fm/gtd
• GI Fachgruppe TAV: https://swt.fm/tav
• HANSER Verlag: https://swt.fm/chv
• iSQI GmbH: https://swt.fm/isqi
• oop: https://swt.fm/oop
• QS-TAG: https://swt.fm/qst
• SIGS-DATACOM: https://swt.fm/sigs
• skillsclub: https://swt.fm/sc
• Software Quality Days: https://swt.fm/swqd
• Swiss Testing Board: https://swt.fm/stb

Credits:

• Sound: https://swt.fm/krz
• Grafik: https://swt.fm/kdb

Chapters

1. Willkommen (00:00:00)

2. Fairness in KI: Herausforderungen und Ansätze (00:01:03)

3. Assurance Case Framework für Fairness (00:05:15)

4. Die Bedeutung von Transparenz (00:16:26)