Zuverlässige und vertrauenswürdige KI-Systeme basieren auf hochwertiger Datenqualität. Ein besonders herausfordernder Aspekt sind dabei verzerrte Datensätze, die bestehende gesellschaftliche Ungleichheiten, Vorurteile und Muster widerspiegeln können. Verwaltungen befinden sich dabei in einem vermeintlichen Dilemma: Einerseits werden KI-Systeme häufig mit (teilweise) verzerrten Datensätzen trainiert, andererseits besteht eine besondere Verantwortung, faire und inklusive Ergebnisse zu gewährleisten. Ein Beispiel dafür ist die fehlende Repräsentanz von Menschen mit Seh-Behinderungen in historischen Datensätzen, da diese Menschen lange keinen Zugang zu digitalen Inhalten hatten.

Die Session beleuchtet die Herausforderungen der Datenqualität für KI-Systeme aus verschiedenen Perspektiven. Dabei stehen folgende Fragestellungen im Mittelpunkt: Wie entstehen Verzerrungen in Datensätzen und welche Auswirkungen haben sie auf KI-Systeme? Welche Methoden existieren, um die Datenqualität zu verbessern und Verzerrungen zu reduzieren? Und wie kann das Bewusstsein für die Problematik verzerrter Datensätze in der Verwaltung gestärkt werden?