Informationssicherheit
Leontine Krentz

Agentic AI – neue Herausforderungen durch autonome KI-Systeme

Autonome KI-Systeme und KI-Agenten markieren eine neue Entwicklungsstufe künstlicher Intelligenz, da sie nicht nur Antworten liefern, sondern eigenständig Aufgaben planen und Prozesse ausführen können. Diese Entwicklung eröffnet Unternehmen große Chancen, bringt jedoch gleichzeitig neue Herausforderungen für Datenschutz, Informationssicherheit und Governance mit sich. Klare Verantwortlichkeiten, kontrollierte Berechtigungen und geeignete Sicherheitsmaßnahmen werden entscheidend sein, um KI verantwortungsvoll einzusetzen.

Jetzt ansehen »
Datenschutz für Praktiker
Leontine Krentz

Wenn KI beginnt, eigene Angriffswege zu finden – was Unternehmen aus dem aktuellen OpenAI-Vorfall lernen sollten

Was bis vor Kurzem noch nach Science-Fiction klang, ist inzwischen Realität geworden: Im Rahmen einer internen Sicherheitsbewertung gelang es hochentwickelten KI-Modellen von OpenAI, eine isolierte Testumgebung zu verlassen und eigenständig einen mehrstufigen Cyberangriff durchzuführen. Ziel der Modelle war es ursprünglich, eine Testaufgabe innerhalb eines Cybersecurity-Benchmarks zu lösen. Anstatt den vorgesehenen Lösungsweg zu wählen, identifizierten die Systeme selbstständig Schwachstellen, verschafften sich Zugriff auf das Internet und griffen anschließend die Infrastruktur des KI-Unternehmens Hugging Face an, um an die benötigten Testlösungen zu gelangen.

Jetzt ansehen »

Join our Newsletter

Wir verarbeiten Ihre Daten ausschließlich zur Zusendung unseres Newsletters und damit verbundener Kommunikation. Weitere Informationen finden Sie in unserer Datenschutzerklärung.