Der Einsatz von künstlicher Intelligenz in kritischen Bereichen erfordert Daten von höchster Qualität. Wenn KI mit fehlerhaften oder verzerrten Daten trainiert wird, entstehen unvermeidlich Probleme. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat daher mit dem Leitfaden QUAIDAL ein Werkzeug entwickelt, das gezielt die Qualität von Trainingsdaten bewertet und verbessert. Dieser praxisorientierte Leitfaden bietet Entwicklern und Betreibern von KI-Systemen eine konkrete Unterstützung, um regulatorische Anforderungen technisch korrekt umzusetzen. Der Leitfaden vereinfacht die abstrakten Vorgaben der EU-KI-Verordnung, indem er sie in klare Kriterien, Bausteine und Methoden übersetzt.
Umfangreiche Qualitätsmaßnahmen
QUAIDAL beinhaltet zehn Hauptkriterien, die durch 143 Metriken und Maßnahmen ergänzt werden. Diese decken den kompletten Datenzyklus ab, von der Datenwahl und -bereinigung über das Prüfen auf Verzerrungen bis hin zu Datenschutz und Governance. Besonders Entwickler von Hochrisiko-KI-Systemen profitieren davon, da sie gezielt die für ihr Projekt passenden Qualitätsmaßnahmen auswählen und deren Umsetzung dokumentieren können. Durch das modulare Konzept des Leitfadens bleibt er anpassungsfähig und erweiterbar, um auf neue Technologien oder Anforderungen zu reagieren. Zusätzlich stellt das BSI maschinenlesbare Versionen und Beispielcodes auf GitHub zur Verfügung, um die Entwicklung vertrauenswürdiger KI zu fördern.
Bedeutung qualitativ hochwertiger Daten
Laut der Präsidentin des BSI, Claudia Plattner, ist die Zuverlässigkeit und Sicherheit von KI-Systemen nur mit qualitativ hochwertigen Trainingsdaten gewährleistet. Entwickler und Organisationen sind daher aufgefordert, ihre eigenen Ideen und Erfahrungen in die Weiterentwicklung des Leitfadens einzubringen.
Datenschutzprobleme bei DeepSeek
In einem anderen Kontext hat die Berliner Datenschutzbeauftragte Maßnahmen gegen die KI-Anwendung DeepSeek ergriffen. Wegen schwerwiegender Datenschutzverletzungen, die durch Datenübertragungen nach China begangen wurden, liegt der Fall nun bei großen Technologiekonzernen wie Apple und Google. Diese Entwicklungen könnten dazu führen, dass die App bald aus den deutschen App-Stores entfernt wird.
Kritische Studie zu KI-Denkfähigkeiten
Eine aktuelle Untersuchung von Apple-Forschern stellt die bisherigen Annahmen über die Denkfähigkeiten moderner KI-Systeme in Frage. Die Studie legt offen, dass führende “Reasoning-Modelle” bei neuartigen Problemen versagen und wohl eher komplexe Muster erkennen als echtes logisches Schlussfolgern zu betreiben.
Verpflichtende KI-Schulungen für Unternehmen
Ab Februar 2025 sind Unternehmen in der Europäischen Union gesetzlich verpflichtet, ihre Mitarbeiter im Umgang mit KI auszubilden. Die G DATA academy hat hierfür ein E-Learning-Programm entwickelt, das kompakt über die wesentlichen Grundlagen sowie die neuen gesetzlichen Anforderungen informiert.
Das Projekt “QCMobility | Schienenverkehr” der DLR-Quantencomputing-Initiative untersucht, wie Quantencomputer helfen können, Planungsprobleme im Bahnverkehr effizienter zu lösen. Ziel ist es, Störungen besser zu managen, Verspätungen zu reduzieren und stabilere Fahrpläne zu entwickeln. Erstmals werden quantenbasierte Algorithmen systematisch in realen Situationen angewandt, um kurzfristige Umplanungen bei Streckensperrungen oder langfristige Trassen- und Fahrplanoptimierungen zu unterstützen.
Über ein Jahr nach der Entdeckung der Hintertür in XZ-Utils gibt es immer noch Sicherheitsbedenken. Kompromittierte Versionen sind weiterhin über öffentliche Docker-Images zugänglich. Neue Untersuchungen zeigen, dass die Schwachstelle in über 35 Docker-Images fortbesteht, darunter viele Debian-Varianten. Sicherheitsexperten betonen die Bedeutung der kontinuierlichen Kontrolle älterer Basis-Images, um die Lieferkette zu schützen. Es wird empfohlen, kompromittierte Images rigoroser zu entfernen und Sicherheitsmaßnahmen wie automatisierte Erkennungsmethoden und Signaturprüfungen zu implementieren.
Eine jüngste Untersuchung von Malwarebytes hat aufschlussreiche Unterschiede im Sicherheitsverhalten von iPhone- und Android-Nutzern offenbart. Während viele Android-Nutzer auf Schutzmaßnahmen wie Sicherheitssoftware und individuelle Passwörter setzen, verlassen sich zahlreiche iPhone-Besitzer hauptsächlich auf die in ihre Geräte integrierten Sicherheitsfunktionen, was nicht immer ohne Folgen bleibt. In der Studie gaben 53 Prozent der iPhone-Nutzer an, bereits Opfer von Onlinebetrug geworden zu sein, während dies bei Android-Nutzern 48 Prozent waren. Von den 1300 weltweit von Malwarebytes befragten Personen nutzen lediglich 21 Prozent der iPhone-Nutzer eine Sicherheits-App, bei Android-Nutzern sind es immerhin 29 Prozent. Auch bei der Verwendung individueller Passwörter liegen Android-Nutzer mit 41 Prozent vor den iPhone-Nutzern, von denen nur 35 Prozent individuelle Passwörter verwenden.
Perplexity hat mit “Comet” einen einzigartigen Webbrowser entwickelt, der auf KI-gestützte Suchprozesse spezialisiert ist. Comet agiert als automatisierter Rechercheassistent für große Sprachmodelle und ermöglicht es KI-Modellen, effizient im Internet zu suchen und fundierte Antworten zu generieren. Der Browser navigiert selbstständig auf relevanten Internetseiten und extrahiert notwendige Informationen. Aktuell ist Comet nur für Abonnenten der Perplexity Max-Stufe verfügbar, soll jedoch im Sommer auch für die Warteliste zugänglich sein.
Google hat ein Projekt namens “OSS Rebuild” gestartet, um die Sicherheit von Open-Source-Software zu verbessern. Es ermöglicht die reproduzierbare Erstellung von Softwarepaketen, um Transparenz zu erhöhen und Angriffe auf Abhängigkeiten zu erschweren. Besonders fokussiert es sich auf Pakete aus PyPI, npm und Crates.io. Das Tool prüft, ob Software-Artefakte ihrer Quellcode-Historie entsprechen, was unerwünschte Veränderungen wie Backdoors aufdeckt. Gleichzeitig verspricht es eine Entlastung für Maintainer, indem es die Notwendigkeit komplexer Sicherheits-Pipelines reduziert. OSS Rebuild ist über eine Kommandozeilen-Toolschnittstelle zugänglich.
Im Beitrag “Ransomware 2025 – Warum Familienunternehmen im Visier stehen” analysiert Der Windows Papst, weshalb gerade mittelständische und familiengeführte Betriebe zunehmend zur Zielscheibe von Cyberangriffen werden. Der Artikel beleuchtet aktuelle Entwicklungen, Angriffsmuster und gibt Tipps zur Abwehr. Besonders relevant für Unternehmen mit sensiblen Daten und begrenzten IT-Ressourcen. 👉 Zum Originalartikel auf der-windows-papst.de Ransomware 2025: […]
Datenschutzeinstellungen
Wir benötigen Ihre Zustimmung, bevor Sie unsere Website weiter besuchen können.Wenn Sie unter 16 Jahre alt sind und Ihre Zustimmung zu freiwilligen Diensten geben möchten, müssen Sie Ihre Erziehungsberechtigten um Erlaubnis bitten.Wir verwenden Cookies und andere Technologien auf unserer Website. Einige von ihnen sind essenziell, während andere uns helfen, diese Website und Ihre Erfahrung zu verbessern.Personenbezogene Daten können verarbeitet werden (z. B. IP-Adressen), z. B. für personalisierte Anzeigen und Inhalte oder Anzeigen- und Inhaltsmessung.Weitere Informationen über die Verwendung Ihrer Daten finden Sie in unserer Datenschutzerklärung.Sie können Ihre Auswahl jederzeit unter Einstellungen widerrufen oder anpassen.
Wenn Sie unter 16 Jahre alt sind und Ihre Zustimmung zu freiwilligen Diensten geben möchten, müssen Sie Ihre Erziehungsberechtigten um Erlaubnis bitten.Wir verwenden Cookies und andere Technologien auf unserer Website. Einige von ihnen sind essenziell, während andere uns helfen, diese Website und Ihre Erfahrung zu verbessern.Personenbezogene Daten können verarbeitet werden (z. B. IP-Adressen), z. B. für personalisierte Anzeigen und Inhalte oder Anzeigen- und Inhaltsmessung.Weitere Informationen über die Verwendung Ihrer Daten finden Sie in unserer Datenschutzerklärung.Hier finden Sie eine Übersicht über alle verwendeten Cookies. Sie können Ihre Einwilligung zu ganzen Kategorien geben oder sich weitere Informationen anzeigen lassen und so nur bestimmte Cookies auswählen.