Immer mehr Menschen betreiben KI-Modelle auf eigener Hardware. Das ist praktisch, spart Kosten und bringt Unabhängigkeit von großen Plattformen. Problematisch wird es allerdings, wenn solche Systeme ohne Schutzmechanismen direkt aus dem Internet erreichbar sind. Eine aktuelle Untersuchung zeigt: Weltweit sind sehr viele selbst gehostete KI-Instanzen öffentlich zugänglich – teils mit Funktionen, die weit über „nur Text generieren“ hinausgehen. Das kann erhebliche Folgen für Datenschutz, Missbrauch und Governance haben.
Ein Forschungsbericht von SentinelLABS in Zusammenarbeit mit dem Cybersicherheitsunternehmen Censys beleuchtet die Größenordnung offener KI-Infrastrukturen. Demnach sind weltweit mehr als 175.000 Instanzen des Open-Source-Frameworks Ollama über das Internet erreichbar – häufig ohne Zugangsbeschränkungen und ohne erkennbares Sicherheits-Monitoring.
Damit entstehen KI-Systeme, die außerhalb der üblichen Schutzmechanismen zentraler Plattformen betrieben werden. In der Summe ergibt sich eine neue, schwer regulierbare Schicht verteilter KI-Rechenleistung, die im Zweifel von Dritten mitgenutzt oder missbraucht werden kann.
Die Forscher haben über knapp zehn Monate hinweg öffentlich erreichbare Ollama-Hosts untersucht und dabei mehr als 7,2 Millionen Beobachtungen in 130 Ländern dokumentiert. Dabei zeigt sich ein typisches Muster: Viele Instanzen sind nur kurzzeitig online, gleichzeitig gibt es jedoch einen stabilen Kern von rund 23.000 dauerhaft erreichbaren Systemen, der einen Großteil der Aktivität ausmacht.
Gerade diese ständig verfügbaren Instanzen sind aus Sicherheitssicht besonders kritisch. Laut Bericht bieten viele von ihnen Funktionen wie „Tool Calling“ – also die Fähigkeit, externe Tools oder Dienste anzusprechen und in bestimmten Setups sogar Code auszuführen. Das erweitert die Einsatzmöglichkeiten, vergrößert aber auch die potenzielle Angriffsfläche erheblich.
Obwohl die Infrastruktur weltweit verteilt ist, wirkt sie technisch überraschend einheitlich. Ein großer Teil der Systeme setzt auf dieselben Modellfamilien und identische Quantisierungsformate, besonders häufig auf das verbreitete Format „Q4_K_M“.
Diese Standardisierung ist einerseits praktisch, weil sie die Nutzung auf handelsüblicher Hardware erleichtert. Andererseits kann sie das Ökosystem anfälliger machen: Wenn Angreifer eine typische Schwachstelle oder einen häufigen Fehlkonfigurations-Blueprint identifizieren, lässt sich so etwas leichter in die Breite ausnutzen.
Ein weiterer Aspekt: Ein erheblicher Anteil der untersuchten Instanzen steht offenbar nicht in großen Cloud- oder Enterprise-Umgebungen, sondern in Heimnetzen oder bei kleineren Hosting-Anbietern. Das erschwert die Zuordnung und die Kontaktaufnahme, wenn es zu Missbrauch kommt.
Zugleich werden dadurch gängige Sicherheits- und Governance-Mechanismen umgangen, die man von Plattformanbietern kennt – etwa strukturierte Abuse-Prozesse, standardisierte Sperrmechanismen oder zentral durchgesetzte Sicherheitsvorgaben.
Die Studie warnt vor einer wachsenden Bedrohung durch ungeschützte, automatisierungsfähige KI-Endpunkte. Denkbare Szenarien reichen von Prompt-Injection und Identitätsverschleierung bis hin zur Zweckentfremdung der Rechenleistung, etwa für Spam- oder Desinformationskampagnen. Der entscheidende Punkt: Solche Aktivitäten müssten künftig nicht mehr über wenige zentrale Plattformen laufen, sondern könnten dezentral über viele Einzelinstanzen stattfinden – deutlich schwerer zu erkennen und nachzuverfolgen.
Die klare Empfehlung daraus: Wer lokale KI-Systeme betreibt, sollte sie sicherheitstechnisch wie klassische Server behandeln. Dazu gehören unter anderem Zugriffskontrollen, Monitoring, saubere Exponierung (oder besser gar keine direkte Internetfreigabe) sowie klar definierte Zuständigkeiten für Betrieb und Incident Response.
Erst wirkt es wie ein kurzer Ausfall – bis klar wird: Es ist ein KI-gestützter Angriff. Warum diese Attacken sich wie Alltag anfühlen und was Sie jetzt tun können, um schneller zu erkennen und handlungsfähig zu bleiben.
Fachkräfte in der Softwareentwicklung zu finden, ist heute alles andere als einfach. Recruiting-Prozesse ziehen sich oft über Wochen oder sogar Monate – und selbst dann ist nicht garantiert, dass am Ende der passende Kandidat gefunden wird. Genau deshalb haben wir uns eine spannende Frage gestellt: Was wäre, wenn wir einen neuen Mitarbeiter einfach selbst erschaffen? […]
Wenn IT nur „funktioniert“, fehlt die Richtung – und Entscheidungen werden teuer. Der Beitrag zeigt, wie KMU mit klaren Leitplanken, Roadmap und BSI-Grundschutz aus Betrieb echten Geschäftsnutzen machen.
Veraltete WLAN-Technik ist in vielen Unternehmen ein unterschätztes Risiko: Sicherheitslücken durch alte Verschlüsselungsstandards, unkontrollierte Gastzugänge und End-of-Life-Hardware ohne Updates können den laufenden Betrieb gefährden – während der Bedarf durch mehr Endgeräte, mehr Cloud-Anwendungen und mehr KI-Nutzung stetig weiter wächst. Wir von woelke it-solution aus Paderborn bieten Unternehmen deshalb eine professionelle WLAN-Analyse an: von der Vor-Ort-Ausleuchtung […]
Updates, Tickets, Sicherheitslücken: IT-Betrieb wird schnell zur Dauerbaustelle und bremst Entscheidungen aus. Managed Services schaffen Entlastung, klare Zuständigkeiten und eine IT, die stabil, sicher und planbar läuft.
Mit der europäischen NIS-2-Richtlinie steigen die Anforderungen an die Informations- und Cybersicherheit für viele Unternehmen deutlich. Während einige Organisationen bereits unter die neuen Regelungen fallen, stellt sich für viele andere zunächst die Frage: Sind wir überhaupt betroffen? Der IT Quality Circle (ITQC) bietet Unternehmen Unterstützung bei der Einordnung der gesetzlichen Anforderungen und begleitet sie auf […]
powered by Borlabs Cookie