Relevanz hochwertiger Daten für KI

Der Einsatz von künstlicher Intelligenz in kritischen Bereichen erfordert Daten von höchster Qualität. Wenn KI mit fehlerhaften oder verzerrten Daten trainiert wird, entstehen unvermeidlich Probleme. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat daher mit dem Leitfaden QUAIDAL ein Werkzeug entwickelt, das gezielt die Qualität von Trainingsdaten bewertet und verbessert. Dieser praxisorientierte Leitfaden bietet Entwicklern und Betreibern von KI-Systemen eine konkrete Unterstützung, um regulatorische Anforderungen technisch korrekt umzusetzen. Der Leitfaden vereinfacht die abstrakten Vorgaben der EU-KI-Verordnung, indem er sie in klare Kriterien, Bausteine und Methoden übersetzt.

Umfangreiche Qualitätsmaßnahmen

QUAIDAL beinhaltet zehn Hauptkriterien, die durch 143 Metriken und Maßnahmen ergänzt werden. Diese decken den kompletten Datenzyklus ab, von der Datenwahl und -bereinigung über das Prüfen auf Verzerrungen bis hin zu Datenschutz und Governance. Besonders Entwickler von Hochrisiko-KI-Systemen profitieren davon, da sie gezielt die für ihr Projekt passenden Qualitätsmaßnahmen auswählen und deren Umsetzung dokumentieren können. Durch das modulare Konzept des Leitfadens bleibt er anpassungsfähig und erweiterbar, um auf neue Technologien oder Anforderungen zu reagieren. Zusätzlich stellt das BSI maschinenlesbare Versionen und Beispielcodes auf GitHub zur Verfügung, um die Entwicklung vertrauenswürdiger KI zu fördern.

Bedeutung qualitativ hochwertiger Daten

Laut der Präsidentin des BSI, Claudia Plattner, ist die Zuverlässigkeit und Sicherheit von KI-Systemen nur mit qualitativ hochwertigen Trainingsdaten gewährleistet. Entwickler und Organisationen sind daher aufgefordert, ihre eigenen Ideen und Erfahrungen in die Weiterentwicklung des Leitfadens einzubringen.

Datenschutzprobleme bei DeepSeek

In einem anderen Kontext hat die Berliner Datenschutzbeauftragte Maßnahmen gegen die KI-Anwendung DeepSeek ergriffen. Wegen schwerwiegender Datenschutzverletzungen, die durch Datenübertragungen nach China begangen wurden, liegt der Fall nun bei großen Technologiekonzernen wie Apple und Google. Diese Entwicklungen könnten dazu führen, dass die App bald aus den deutschen App-Stores entfernt wird.

Kritische Studie zu KI-Denkfähigkeiten

Eine aktuelle Untersuchung von Apple-Forschern stellt die bisherigen Annahmen über die Denkfähigkeiten moderner KI-Systeme in Frage. Die Studie legt offen, dass führende “Reasoning-Modelle” bei neuartigen Problemen versagen und wohl eher komplexe Muster erkennen als echtes logisches Schlussfolgern zu betreiben.

Verpflichtende KI-Schulungen für Unternehmen

Ab Februar 2025 sind Unternehmen in der Europäischen Union gesetzlich verpflichtet, ihre Mitarbeiter im Umgang mit KI auszubilden. Die G DATA academy hat hierfür ein E-Learning-Programm entwickelt, das kompakt über die wesentlichen Grundlagen sowie die neuen gesetzlichen Anforderungen informiert.