Prof. Dr. Dr. Frauke Rostalski ist Teil eines interdisziplinären Forscherteams der Universitäten Bonn und Köln sowie des Fraunhofer IAIS. Dieses Team entwickelt im Rahmen der Kompetenzplattform KI.NRW einen Prüfkatalog, der die sachkundige und neutrale Bewertung von KI ermöglicht. Ziel ist es dabei, anhand einer Zertifizierung für KI-Anwendungen die technische Zuverlässigkeit und einen verantwortungsvollen Umgang mit der Technologie zu gewährleisten.

Im Rahmen des Forschungsprojektes ist Prof. Dr. Dr. Frauke Rostalski verantwortlich für den gesamten Bereich „Recht“.

-> mehr dazu

***Whitepaper***

Das Team stellt seinen interdisziplinären Ansatz in einem Whitepaper für die Zertifizierung von KI-Anwendungen vor und erläutert die identifizierten Handlungsfelder aus philosophischer, ethischer, rechtlicher und techno­logi­scher Sicht.

Die Publikation bildet die Grundlage für die weitere Entwicklung der KI-Zertifizierung.

-> Whitepaper (DE)
-> Whitepaper (EN)

Workshop „KI-Risiken systematisch bewerten“

Am 16.9.2021 hat das rechtswissenschaftliche Team der Universität zu Köln am vom DIN durchgeführten Online-Workshop „KI-Risiken systematisch bewerten“ teilgenommen. Dr. Erik Weiss referierte hier zum risikobasierten Kategorisierungsansatz des KI-Verordnungsentwurfs der Europäischen Kommission. Zusätzlich wurde eine Breakout-Session für die Teilnehmer*innen des Workshops gestaltet und durchgeführt, bei der zwei ausgewählte Use Cases rechtlich analysiert wurden. Nähere Informationen zum Programm des Workshops finden Sie unter folgendem Link.

Die Projekthomepage ist online. Unter www.zertifizierte-ki.de finden Sie aktuelle und weiterführende Informationen zum Projekt und den Partnern.

Workshop „Ansätze zur Prüfung von KI-Systemen“

Am 23.06.2021 richtete der DIN e.V. zusammen mit dem Fraunhofer IAIS und dem BSI einen virtuellen Workshop zu den Ansätzen von KI-Prüfungen aus. Im ersten Teil des Workshops stellten die drei Kernpartner vergangene und aktuelle Projekte und bestehende Ansätze vor. Am Nachmittag berichteten zwei assoziierte Partner aus der Unternehmenspraxis. Zum einen ging es um die bereits implementierte interne Überwachung der im Unternehmen angewandten KI-Systeme und die Herausforderungen für die Compliance-Abteilungen. Zum anderen wurde die Versicherbarkeit von KI-Risiken beleuchtet. 

Das vollständige Programm finden Sie hier.

Projektstart „Zertifizierte KI“

Das Projektteam am Lehrstuhl hat seine Arbeit aufgenommen. Dr. Erik Weiss (Projektleiter), Jakob Feldkamp und Teresa Ruberg werden in den nächsten Jahren die rechtlichen Implikationen von KI-Anwendungen untersuchen. Im Projekt „Zertifizierte KI“ sollen in einem interdisziplinären Austausch die Grundprinzipien für einen technisch zuverlässigen, ethisch verantwortungsvollen und sich im Rahmen des rechtlich Zulässigen bewegenden Einsatz von KI-Anwendungen entwickelt werden. Ziel ist es, Prüfverfahren für eine praxistaugliche Zertifizierung zu erarbeiten.

Mit einem virtuellen Kick-Off am 07.05.2021 startete das Projekt in die erste Phase. Dort nahmen neben den Kernpartnern (Fraunhofer IAIS, BSI, DIN e.V., Universität Bonn, RWTH Aachen, Universität zu Köln) auch die assoziierten Partner aus Wirtschaft und Forschung teil. Neben einer generellen Vorstellung des Projekts ging es auch um einen ersten Austausch. In den von den Kernpartnern gestalteten Break-Out-Sessions wurden einzelne Aspekte der Zertifizierung erläutert und in kleiner Runde diskutiert.

In den kommenden Monaten werden in einem ersten Schritt bestehende Use Cases im Bereich der Künstlichen Intelligenz recherchiert und im Hinblick auf tangierte Rechtsprinzipien analysiert. Das Projektteam am Lehrstuhl von Frau Prof. Rostalski steht dabei in engem Austausch mit den Kolleg*innen des Philosophie-Teams von der Uni Bonn (Lehrstuhl von Herrn Prof. Gabriel).

Weiterhin ist ein Workshop im Herbst in Planung.

Digitalstrategie & Digitalkonferenz 2019

Die Digitalkonferenz.NRW 2019 fand am 22.11.2019 in Düsseldorf statt.
-> Programm
 

Im Rahmen der Tagung "Verbraucherschutz digital: Faire Spielregeln für Künstliche Intelligenz" hat Frau Rostalski einen Vortrag zur vertrauenswürdigen Nutzung von Künstlicher Intelligenz gehalten.
-> Tagungsprogramm
 

Prof. Dr. Andreas Pinkwart, Minister für Wirtschaft, Innovation, Digitalisierung und Energie des Landes Nordrhein-Westfalen hat am 23.08.2019 zur Diskussion "Digitale Chancen von KI - Anwendungen mitgestalten" in Bonn eingeladen. Hierbei hat Frau Rostalski als Expertin das Thema Künstliche Intelligenz aus der Perspektive Recht beleuchtet.
-> Programm