Der Einsatz von künstlicher Intelligenz in kritischen Bereichen erfordert Daten von höchster Qualität. Wenn KI mit fehlerhaften oder verzerrten Daten trainiert wird, entstehen unvermeidlich Probleme. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat daher mit dem Leitfaden QUAIDAL ein Werkzeug entwickelt, das gezielt die Qualität von Trainingsdaten bewertet und verbessert. Dieser praxisorientierte Leitfaden bietet Entwicklern und Betreibern von KI-Systemen eine konkrete Unterstützung, um regulatorische Anforderungen technisch korrekt umzusetzen. Der Leitfaden vereinfacht die abstrakten Vorgaben der EU-KI-Verordnung, indem er sie in klare Kriterien, Bausteine und Methoden übersetzt.
QUAIDAL beinhaltet zehn Hauptkriterien, die durch 143 Metriken und Maßnahmen ergänzt werden. Diese decken den kompletten Datenzyklus ab, von der Datenwahl und -bereinigung über das Prüfen auf Verzerrungen bis hin zu Datenschutz und Governance. Besonders Entwickler von Hochrisiko-KI-Systemen profitieren davon, da sie gezielt die für ihr Projekt passenden Qualitätsmaßnahmen auswählen und deren Umsetzung dokumentieren können. Durch das modulare Konzept des Leitfadens bleibt er anpassungsfähig und erweiterbar, um auf neue Technologien oder Anforderungen zu reagieren. Zusätzlich stellt das BSI maschinenlesbare Versionen und Beispielcodes auf GitHub zur Verfügung, um die Entwicklung vertrauenswürdiger KI zu fördern.
Laut der Präsidentin des BSI, Claudia Plattner, ist die Zuverlässigkeit und Sicherheit von KI-Systemen nur mit qualitativ hochwertigen Trainingsdaten gewährleistet. Entwickler und Organisationen sind daher aufgefordert, ihre eigenen Ideen und Erfahrungen in die Weiterentwicklung des Leitfadens einzubringen.
In einem anderen Kontext hat die Berliner Datenschutzbeauftragte Maßnahmen gegen die KI-Anwendung DeepSeek ergriffen. Wegen schwerwiegender Datenschutzverletzungen, die durch Datenübertragungen nach China begangen wurden, liegt der Fall nun bei großen Technologiekonzernen wie Apple und Google. Diese Entwicklungen könnten dazu führen, dass die App bald aus den deutschen App-Stores entfernt wird.
Eine aktuelle Untersuchung von Apple-Forschern stellt die bisherigen Annahmen über die Denkfähigkeiten moderner KI-Systeme in Frage. Die Studie legt offen, dass führende „Reasoning-Modelle“ bei neuartigen Problemen versagen und wohl eher komplexe Muster erkennen als echtes logisches Schlussfolgern zu betreiben.
Ab Februar 2025 sind Unternehmen in der Europäischen Union gesetzlich verpflichtet, ihre Mitarbeiter im Umgang mit KI auszubilden. Die G DATA academy hat hierfür ein E-Learning-Programm entwickelt, das kompakt über die wesentlichen Grundlagen sowie die neuen gesetzlichen Anforderungen informiert.
Vernetzte Geräte können im Alltag praktisch sein – im Netzwerk sorgen sie aber immer wieder für Überraschungen. Ein besonders kurioses Beispiel: Eine smarte Kaffeemaschine soll innerhalb von gut zehn Tagen rund ein Terabyte Datenverkehr produziert und damit einen WLAN-Access-Point an seine Grenzen gebracht haben. Der Fall zeigt, warum Admins auch scheinbar harmlose IoT-Geräte nicht aus […]
Mit FRITZ!OS 8.50 rollt AVM ein größeres Firmware-Update für die FRITZ!Box aus. Im Fokus stehen vor allem mehr Sicherheit im Heimnetz, bessere Stabilität sowie neue Funktionen rund um Smart Home und Komfort. Den Start macht die FRITZ!Box 7690; weitere aktuelle FRITZ!Box- und FRITZ!Repeater-Modelle sollen in den kommenden Wochen folgen. Wer Auto-Updates aktiviert hat, bekommt die […]
Viele IT-Teams stehen KI-Agenten skeptisch gegenüber: Lieber wird die Technik komplett blockiert, als ein unkalkulierbares Sicherheitsrisiko in Kauf zu nehmen. Genau hier setzt OpenClaw Enterprise an. Die OpenClaw Foundation hat eine quelloffene Plattform vorgestellt, die dauerhaft laufende KI-Agenten in sensiblen Unternehmensumgebungen beherrschbar machen soll – mit klaren Leitplanken, Governance und nachvollziehbaren Audits, ohne Agenten im […]
Ihre Daten liegen in der Cloud – aber wissen Sie auch, wer mitliest, mitentscheidet und im Krisenfall den Zugriff steuert? Warum echte Datensouveränität mit der Architektur beginnt und nicht mit dem Anbieter.
Ein Cyberangriff auf die Berliner Zertifizierungsgesellschaft GUTcert sorgt derzeit für erhebliche Unruhe – nicht nur bei den direkt betroffenen Kunden, sondern potenziell auch in weiten Teilen der deutschen Energiebranche. Nach bisherigen Angaben sollen dabei rund 640 GByte an Daten abgeflossen sein, darunter offenbar auch Informationen mit Bezug zu kritischer Infrastruktur. Was bisher über den Angriff […]
Ein aktuelles Sicherheitsupdate für Windows 11 sorgt in einigen Unternehmen für erhebliche Probleme: Nach der Installation von KB5124008 (Build 26200.9445) verlieren domänengebundene Windows-Clients offenbar ihre Vertrauensstellung zur Active-Directory-Domäne. Die Folge: Nutzer können sich am betroffenen Rechner nicht mehr anmelden, obwohl Benutzername und Kennwort korrekt sind. Ein Administrator hat das Verhalten in der Microsoft-Community beschrieben, reproduziert […]
powered by Borlabs Cookie