anacision | Künstliche Intelligenz – Status Quo der rechtlichen Lage

Künstliche Intelligenz (KI) ist ein Schlagwort wie viele andere und wird im Moment ziemlich gehypt. Doch was steckt eigentlich hinter diesem Begriff? In unserer Blogreihe "Künstliche Intelligenz" beschäftigen wir uns unter anderem mit Versprechen und Mythen der KI. Wir erfahren, wie KI eigentlich definiert wird und widmen uns ihren Herausforderungen und Anwendungsbeispielen. In diesem Zusatzartikel zeigen wir auf, was bisher in der EU und Deutschland in der Gesetzgebung im Bereich Künstliche Intelligenz passiert ist. Wenn Sie wissen möchten, was alles in den Rahmen eines "KI-Gesetzes" fallen kann, erfahren Sie mehr in unserem zugehörigen Blogartikel.

In der EU ist bisher Folgendes passiert:

• Das Future of Life Institute hat 2017 die KI-Leitsätze von Asilomar veröffentlicht, in denen unter anderem Transparenz, geteilter Wohlstand, menschliche Kontrolle und kein Umsturz als ethische Werte gelten. Sie formulieren als Forschungsziel, eine „nützliche und wohltätige Intelligenz zu erschaffen“.
• Die Europäische Gruppe für Ethik der Naturwissenschaften und der Neuen Technologien (EGE) hat im März 2018 eine Erklärung zu KI, Robotik und autonomen Systemen herausgebracht. Damit möchte sie den Prozess weiterbringen, der den „ethischen und rechtlichen Rahmen für die Konstruktion, Produktion, Verwendung und Steuerung von künstlicher Intelligenz, Robotik und ‚autonomen‘ Systemen“ diskutiert. Zudem enthält die Erklärung einen Katalog ethischer Grundsätze bestehend auf den Werten und Rechten der EU. Dieser geht nicht nur auf Rechtsstaatlichkeit und Datenschutz ein, sondern auch auf die Würde des Menschen und die Nachhaltigkeit.
• Die Expertengruppe „AI HLEG“ der EU für KI  hat Ende 2018 die Ethik-Leitlinien für eine vertrauenswürdige KI erarbeitet, die gerade in der Pilotphase stecken. Anforderungen sind zum Beispiel Nichtdiskriminierung, Sicherheit, Transparenz, Robustheit, Wahrung der Privatsphäre und menschlichen Autonomie (keine Fremdbestimmung) sowie Nachvollziehbarkeit und Aufklärung, Rückverfolgbarkeit, Transparenz und Beachtung der Diversität.

• Die EU überlegt gerade, sogenannte Datenräume einzuführen, sodass Datenaustausch über Grenzen innerhalb der EU einfacher ist. Natürlich passiert dies in Übereinstimmung mit der Datenschutz-Grundverordnung (DSGVO). 
• Artikel 22 der Datenschutzgrundverordnung besagt, dass nicht rein automatisiert Entscheidungen über Menschen getroffen werden dürfen, mit Ausnahme von drei Gründen. Erstens, sie stimmen ausdrücklich zu, oder zweitens, falls es eine mit EU-Recht vereinbare nationale gesetzliche Norm gibt, oder drittens, wenn es für den Abschluss oder die Erfüllung eines Vertrages notwendig ist.

Deutschland

Da Deutschland Teil der EU ist, gelten natürlich auch deren Regelungen. In Deutschland enthält das Bundesdatenschutzgesetz (BDSG) und die Datenschutz-Grundverordnung (DSGVO) Regelungen zur Verarbeitung personenbezogener Daten. Folgende Ergebnispapiere und Stellungnahmen der Bundesregierung und verwandten Organisationen wurden erstellt:

• Deutschland hat im Juli 2018 ein Papier zu den Eckpunkten der Bundesregierung für eine Strategie Künstliche Intelligenz herausgegeben. Eines der formulierten Ziele ist eine „verantwortungsvolle und gemeinwohlorientierte Nutzung von KI“ auf Basis von „Werten wie der Unantastbarkeit der Menschenwürde, der Achtung der Privatsphäre und des Gleichheitsgrundsatzes“ (Nichtdiskriminierung). Die Entwicklung von KI solle „menschenzentriert“ sein und wesentliche Ziele seien „Sicherheit, Effizienz und Nachhaltigkeit“. Man will „EntwicklerInnen wie NutzerInnen „für die ethischen und rechtlichen Grenzen […] sensibilisieren“ und sehen, ob man neue Gesetze schaffen muss.
• Im November 2018 hat die Bundesregierung die Strategie Künstliche Intelligenz vorgestellt. Diese basiert auf den obigen Eckpunkten und setzt Ziele wie Interessen. Unter anderem will sie folgende Dinge angehen: Internationale Standards setzen, mehr Transparenz, Nachvollziehbarkeit und Überprüfbarkeit schaffen, KI mehr bei Verwaltungsprozessen, in der Gesundheitsbranche und der Landwirtschaft wie Lebensmittelkette einsetzen, KI als festen Bestandteil von Lehrinhalten etablieren, Leuchtturmprojekte unterstützten, ein Observatorium für Künstliche Intelligenz einrichten und Zukunftszentren in Ostdeutschland bauen, Aufklärung über KI in Unternehmen fördern und eine Kommunikationsstrategie zu KI aufsetzen.
• Eine Landkarte mit interessanten KI-Anwendungen in Deutschland wurde erstellt.
• Im April 2019 hat die Plattform Industrie 4.0 (Bundesministerium für Wirtschaft und Energie BMWi) das Ergebnispapier Künstliche Intelligenz und Recht im Kontext von Industrie 4.0 herausgebracht, was die rechtliche Seite in Bezug auf die Industrie analysiert. Hier stehen auch Infos zur Rechtspersönlichkeit.
• Ebenfalls im April 2019 hat die Konferenz der unabhängigen Datenschutzbehörden des Bundes und der Länder (DSK) die Hambacher Erklärung zur Künstlichen Intelligenz veröffentlicht. Diese enthält sieben datenschutzrechtliche Anforderungen an KI: (1) „KI darf Menschen nicht zum Objekt machen“, (2) Zweckbindungsgebot und Rechtsgebundenheit, (3) Transzparenz, Nachvollziehbarkeit und Erklärbarkeit, (4) Nichtdiskriminierung, (5) Datenminimierung, (6) „KI braucht Verantwortlichkeit“ und (7) „KI benötigt technische und organisatorische Standards“. Schlussendlich wird noch festgestellt, dass feste Regularien („Steuerung“) notwendig sind.

Der Begriff der Künstlichen Intelligenz ist noch in der Findungsphase. Daher spiegelt diese Blogreihe unsere Sichtweise wider und erhebt keinen Anspruch auf Vollständigkeit. In den nächsten Blogbeiträgen stellen wir Einsatzbeispiele für künstliche Intelligenz im Mittelstand vor und wagen einen Ausblick in die Zukunft.