W12: Wer entscheidet hier eigentlich? Human-Centered AI zwischen Automatisierung und Verantwortung
Informationsverarbeitung hin zu Systemen, die eigenständig Entscheidungen vorbereiten oder ausführen. Von Sprachassistenten über medizinische Anwendungen bis hin zu KI-Agenten greifen technische Systeme immer stärker in menschliche Entscheidungsprozesse ein. Damit stellt sich eine zentrale Frage: Welche Entscheidungen sollten Maschinen übernehmen – und welche müssen bewusst beim Menschen bleiben?
Anhand realer Beispiele aus Hörtechnik, Sprach-KI und KI-Agenten beleuchtet der Workshop technische, gesellschaftliche und gestalterische Herausforderungen moderner KI-Systeme. Die Teilnehmerinnen lernen Konzepte des Human-Centered AI Designs kennen und analysieren, wie Entscheidungsprozesse zwischen Mensch und Maschine sinnvoll aufgeteilt werden können.
Im Mittelpunkt stehen Verantwortung, Transparenz, Nachvollziehbarkeit und Teilhabe. An konkreten Anwendungsfällen wird diskutiert, welche Informationen ein KI-System für faire Entscheidungen benötigt, wie Fehlentscheidungen entstehen und welche Rolle Human-in-the-Loop-Konzepte für vertrauenswürdige Systeme spielen.In interaktiven Übungen entwickeln die Teilnehmerinnen Kriterien für technische Systeme, die Menschen unterstützen, ohne sie zu bevormunden. Der Workshop zeigt, dass die Qualität von KI-Systemen nicht allein von Algorithmen abhängt, sondern wesentlich von den Entscheidungen derjenigen, die diese Systeme entwickeln.
Der Workshop richtet sich an Ingenieurinnen und Naturwissenschaftlerinnen aller Fachrichtungen.
Die Referentin: Dipl.-Inf. Peggy Sylopp
Peggy Sylopp ist Diplom-Informatikerin, Gründerin und Geschäftsführerin des Fraunhofer-Spin-offs sincEARe UG in Berlin. Sie entwickelt KI-basierte Systeme für Audioverarbeitung, Sprachkommunikation und personalisierte Mensch-Maschine-Interaktion.
Als Projektleiterin verantwortete sie das vom Bundesministerium für Bildung und Forschung geförderte Forschungsprojekt AIHearS, das gemeinsam mit Fraunhofer IDMT und Charité Berlin adaptive Verfahren zur auditiven Personalisierung und Hörunterstützung entwickelte. Dabei lag ihr Fokus auf der Überführung von Machine-Learning-Verfahren in reale Anwendungen unter den technischen und praktischen Randbedingungen von Nutzerinnen und Nutzern.
Ihre Arbeit bewegt sich an der Schnittstelle von Künstlicher Intelligenz, Human-Centered Design, Audio Engineering und Produktentwicklung. Neben technischen Fragestellungen beschäftigt sie sich mit den gesellschaftlichen Auswirkungen von KI-Systemen sowie der Frage, wie technologische Innovationen transparent, nachvollziehbar und menschenzentriert gestaltet werden können.
