EMAS-KI (Cyberforensik)
Mit dem Verbundprojekt „EMAS-KI (Entwicklung forensischer Methoden zur rechtssicheren Auditierung von Systemen mit Künstlicher Intelligenz)“ beteiligt sich die Universität zu Köln unter der Leitung von Prof. Dr. Dr. Frauke Rostalski und Dr. Erik Weiss an dem zukunftsweisenden Forschungsprogramm „Forensik intelligenter Systeme (FIS)“ der Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur). Projektpartner sind das Fraunhofer-Institut für Angewandte und Integrierte Sicherheit (AISEC), das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme (IAIS), das Institut für Internet-Sicherheit – if(is) und Atos. Das Projekt verfolgt die Entwicklung forensischer Methoden zur Aufklärung von – u.U. strafbaren – Manipulationen an KI-Systemen sowie die Erarbeitung von Anforderungen zur rechtlich zulässigen Erhebung und Verwertung von Beweismitteln, die auf diese Weise gewonnen werden. Im Fokus der rechtlichen Betrachtung stehen das Straf- und Strafverfahrensrecht, wobei auch datenschutzrechtliche sowie Anforderungen der KI-Verordnung adressiert werden. Gegenstand der Untersuchung sind kontinuierlich lernende und sich in Teilen damit selbst überschreibende Systeme, deren spezielle Architektur und stetige Entwicklung sie für Manipulationsversuche anfälliger machen als statische Systeme. Ziel des rechtswissenschaftlichen Teilprojekts ist es, Kriterien für die gerichtsfeste Anwendung cyberforensischer Methoden zu entwickeln, ggf. bestehende Regelungslücken aufzudecken sowie geeignete Anpassungsvorschläge zu unterbreiten.
Hier finden Sie weitere Informationen:
