A23 Künstliche Intelligenz - Der Menschen im Mittelpunkt (2020)

Aus Beschlussdatenbank der SPD Schleswig-Holstein
Zur Navigation springen Zur Suche springen
Gremium: Landesparteirat
Sitzung: Landesparteiratssitzung, August 2020
Bezeichnung: A23
Antragsteller: Kreisverband Flensburg


Beschluss: Angenommen

Künstliche Intelligenz (KI) ist das Zusammenwirken von Technologien, Daten, Algorithmen und Rechenleistung (vgl. Weißbuch der Europäischen Kommission, 2020). Große Mengen von Daten werden genutzt und mit Hilfe von Algorithmen analysiert, um zielorientiert Muster zu ermitteln (z.B. Objekte zu erkennen). Beim maschinellen Lernen – einer Untergruppe der KI – werden Algorithmen trainiert, d.h. diese verändern sich während des Einsatzes (z.B. „lernen“ Algorithmen aus einer Vielzahl von Bildern eine Kuh aus unterschiedlichen Perspektiven zu erkennen).

Im gerade veröffentlichten Weißbuch der Europäischen Kommission (2020) steht im Fazit (S. 30):

KI ist eine strategische Technologie („Schlüsseltechnologie“), die viele Vorteile für Bürgerinnen und Bürger, für Unternehmen und die Gesellschaft insgesamt bietet, sofern sie auf den Menschen ausgerichtet, ethisch und nachhaltig ist und die Grundrechte und -werte achtet.

KI entwickelt sich sehr schnell und wird nachhaltig unser Leben verändern in der Produktion, im Gesundheitswesen, in der Landwirtschaft, beim Klimaschutz, bei der Sicherheit u.v.m. KI wirkt in allen gesellschaftlichen Bereichen und ist im gemeinwohlorientierten Sinne ein öffentliches Gut; die Anwendung von KI bedarf der öffentlichen Kontrolle.

KI birgt eine Reihe von Risiken z.B. durch undurchsichtige Entscheidungen, Gefährdungen des Persönlichkeits- und Datenschutzes oder die Nutzung für kriminelle Zwecke.

In Schleswig-Holstein (SH) werden gerade einmal knapp 15 Mio € für KI von Seiten des Landes bereitgestellt, während andere Bundesländer Hunderte Millionen oder andere Länder gar Milliarden für die Entwicklung von KI ausgeben. Will SH hier eine Rolle spielen, dann müssen Schwerpunkte (KI in der Gesundheit in Lübeck?) gesetzt und diese deutlich besser finanziert werden. Es müssen zusätzliche Professuren für KI geschaffen werden und dabei insbesondere auch Fragen der sozialen Folgen und der Ethik der KI berücksichtigt werden.

Ziel muss auch sein, mehr Mittel der Europäischen Union für Schleswig-Holstein zu gewinnen. Ein besonderes Augenmerk sollten hier die KMUs haben. Die EU schlägt vor, dass mindestens ein nationales Innovationszentrum KMU sich auf KI spezialisiert. Auch wenn die Konkurrenz in Deutschland groß ist, sollte SH sich hier mit besonderen Anstrengungen bewerben.

Wenn sich KI am Menschen orientiert bzw. der Mensch im Mittelpunkt steht, dann muss gelten (siehe auch das Weißbuch der EU-Kommission, S. 25):

Es muss transparent bleiben und werden, wann, wo und wie eine Person mit maschinellen „Entscheidungen“ konfrontiert ist. Die Menschen müssen klar und deutlich darauf hingewiesen werden, wenn sie mit einem KI-System interagieren, und nicht mit einem Menschen.

Es muss genau aufgezeichnet und damit überprüfbar werden, welche Datensätze und Algorithmen für das Training und die Erprobung von KI-Anwendungen verwendet werden. Hierzu gehört auch die Frage, nach welchen Kriterien Datensätze ausgewählt werden.

Die jeweilige Funktionsweise von KI und die Ergebnisse müssen in verständlicher Weise erklärbar sein.

Die Anwendung von KI darf bestimmte Nutzer*innen nicht diskriminieren.

Im Weißbuch der EU-Kommission ist klar formuliert, dass KI die menschliche Autonomie nicht aushöhlen darf, die „menschliche Aufsicht“ auf jeden Fall erhalten bleibt u.a. durch:

  • Ergebnisse des KI-Systems werden erst dann wirksam, wenn sie zuvor von einem Menschen überprüft und validiert wurden (z. B. kann die Ablehnung eines Antrags auf Sozialleistungen nur durch einen Menschen erfolgen);
  • die Ergebnisse des KI-Systems werden sofort wirksam, aber menschliches Eingreifen wird in einem späteren Schritt sichergestellt (z. B. kann die Ablehnung eines Antrags auf eine Kreditkarte von einem KI-System bearbeitet werden, doch muss später eine Überprüfung durch den Menschen möglich sein);
  • ein KI-System kann jederzeit überwacht werden und ein Mensch kann während seines Betriebs in Echtzeit eingreifen und das System ggf. deaktivieren (z. B. verfügt ein fahrerloses Fahrzeug über eine Stopptaste oder einen Mechanismus, der aktiviert werden kann, wenn ein Mensch feststellt, dass der Fahrbetrieb nicht sicher ist);
  • es muss schon beim Entwurf eines KI-Systems sichergestellt werden, dass für den Betrieb des KI-Systems Einschränkungen auferlegt werden (z. B. muss ein fahrerloses Fahrzeug unter bestimmten Bedingungen bei geringer Sicht den Betrieb einstellen, da in diesem Fall die Sensoren möglicherweise weniger zuverlässig sind, oder es muss unter allen Umständen einen vorgegebenen Abstand vom vorausfahrenden Fahrzeug einhalten).

Wir lehnen den Einsatz von KI-Anwendungen für die Zwecke der biometrischen Fernidentifikation („Gesichtserkennung“, Erkennung einer Person durch Mimik und Gestik) und anderer in die Privatsphäre eingreifender Überwachungstechnologien ab.

Auch für Schleswig-Holstein brauchen wir einen „Aktionsplan digitale Bildung“, denn die genannten (nachhaltigen) Veränderungen bei Arbeit und Gesellschaft können nur durch eine deutlich bessere und ausgeweitete Aus-, Fort- und Weiterbildung geschafft werden.

Es bedarf mehr Anstrengungen an und Unterstützung für die Hochschulen, um Studierende und Wissenschaftler*innen für KI zu gewinnen. Hierzu gehören auch (Master-)Studiengänge für KI.