Enquete-Kommission „Künstliche Intelligenz“ legt Abschlussbericht vor

2020-11-13

Künstliche Intelligenz birgt riesige Chancen für die Zukunft, aber auch Gefahren. Zwei Jahre lang hat sich eine Expertenkommission des deutschen Bundestages,  38 Mitglieder, je zur Hälfte Politiker und Politikerinnen und eingeladene sachverständige Mitglieder, mit dem Thema befasst. Zielsetzung war es, „den staatlichen Handlungsbedarf auf nationaler, europäischer und internationaler Ebene zu identifizieren und zu beschreiben, um einerseits die Chancen der KI wirtschaftlich und gesellschaftlich nutzbar zu machen und ihre Risiken zu minimieren.“

Am 3. November 2020 hat nun die Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ des Deutschen Bundestags ihren 794 Seiten starken Abschlussbericht vorgelegt.

Zehn übergreifende Themen wurden behandelt:

1.     Begriffsklärung Künstliche Intelligen

2.     KI und Daten

3.     KI und Umgang mit Bias/Diskriminierung

4.     KI und Umgang mit Risiko

5.     KI und Recht

6.     Ethische Perspektiven auf KI

7.     KI und Gesellschaft

8.     KI und ökologische Nachhaltigkeit

9.     KI und Forschung

10.  KI und SARS-CoV-2

Die in diesem Bericht zusammengetragenen Erkenntnisse sind vielschichtig und facettenreich. Sie reichen von lesenswerten fachlich fundierten Beiträgen der Experten zum Stand der Technik über Allgemeinplätze, bis hin zu Science Fiction. Sie repräsentieren damit das weltanschauliche und politische Meinungsspektrum unserer Bundestagsabgeordneten sowie die gegenwärtigen Machtverhältnisse im deutschen Bundestag. Bei den Sachstandsbeschreibungen und Handlungsempfehlungen („man sollte“, man müsste“), aber auch bei den Sondervoten, kommt der mangelhafte Ausbau der digitalen Infrastruktur in Deutschland sowie der Rückstand der öffentlichen Verwaltung bezüglich Digitalisierung im europäischen Ländervergleich zum Vorschein. Man muss aber der gesamten Übung zugute halten, dass durch die Arbeit dieser Enquete Kommission das Bewusstsein über die weitreichenden technischen und gesellschaftlichen Folgen bei den teilnehmenden Abgeordneten gewachsen ist.

Folgende Passagen sind es wert hervorgehoben zu werden:

Die Enquete-Kommission hat einen gesellschaftlichen Reflexionsbedarf in Bezug auf die Wirkung von KI-Systemen festgehalten, direkte Auswirkungen des Einsatzes von KI-Systemen auf das Zusammenleben und die Diskurse darüber dargestellt und die Möglichkeiten einer nachhaltigen und wohlstandsorientierten politischen Gestaltung der Chancen und Auswirkungen von KI-Systemen beleuchtet.

Die Enquete-Kommission hat sich in ihren Debatten am Leitbild einer menschenzentrierten KI orientiert. Das bedeutet, dass KI-Anwendungen vorrangig auf das Wohl und die Würde der Menschen ausgerichtet sein und einen gesellschaftlichen Nutzen bringen sollten. Dabei ist zu beachten, dass der Einsatz von KI-Systemen die Selbstbestimmung des Menschen als Handelnden und seine Entscheidungsfreiheiten wahrt und möglicherweise sogar stärkt. Die Enquete-Kommission ist zuversichtlich, dass mit dieser Prämisse das positive Potenzial von KI-Anwendungen ausgeschöpft und das Vertrauen der Anwenderinnen und Anwender bei der Verwendung von KI-Systemen am besten begründet und gestärkt werden kann. Dieses Vertrauen ist grundlegender Schlüssel für die gesellschaftliche Akzeptanz und den wirtschaftlichen Erfolg dieser Technologie. Und dieser Erfolg wiederum ist der Schlüssel dafür, dies als KI europäischer Prägung zu etablieren, eine zukunftsfähige Volkswirtschaft sicherzustellen und nicht von KI, der andere Wertegrundhaltungen zu Grunde liegen, geprägt zu werden.

Ein interdisziplinärer Dialog zwischen den unterschiedlichen Akteuren und der Gesellschaft ist notwendig, um die Potenziale rund um KI zu heben, mögliche Risiken frühzeitig zu erkennen und der Komplexität der Materie gerecht zu werden. Dafür ist es notwendig, dass Aus- und Weiterbildung zu KI breit angelegt sind, um diesen interdisziplinären Dialog zu ermöglichen. Auch trägt Aufklärung dazu bei, Befürchtungen und Wünsche bezüglich der KI-getriebenen gesellschaftlichen Entwicklung frühzeitig aufzunehmen und ein realistischeres Bild der Möglichkeiten und Gefahren des Einsatzes von KI-Systemen zu zeichnen.

Nicht alle Mitglieder der Kommission sind mit dem Ergebnis zufrieden.

Bereits vor Veröffentlichung kündigte der Sachverständige Florian Butollo an, sich zu enthalten, dem Abschlussbericht also seine Zustimmung zu verweigern. Butollo ist Soziologe, arbeitet beim Weizenbaum-Institut in Berlin zum Verhältnis von technischem Wandel und den Veränderungen der Arbeitswelt.  Auf Twitter hatte er den Bericht als unzureichend bemängelt und kritisiert, dass der Staat nur reaktiv reagiert und dass es eher um Verwertungsmöglichkeiten, als um gesellschaftliche Debatten ging.
„Die Governance von KI im Interesse des Gemeinwohls erfordert einen Ausbau konkreter Instrumente und Regulierungsmöglichkeiten. Der EKKI-Bericht bleibt diesbezüglich unverbindlich. Eine verpasste Chance für eine zukunftsorientierte KI-Gestaltung!“

Butollo sagt: „Wenn wir eine Kommission haben, die sich damit auseinandersetzt, wie eine epochale Technologie im Sinne gesellschaftlicher Verantwortung gestaltet werden kann,  dann müssen genau diese Fragen rein: Die Frage der Monopolisierung, die Frage der ökologischen Trendwende, die Frage des sozialen Ausgleichs. Und das sind keine Themen, die jenseits der Technologie liegen sollen, sondern die eben unmittelbar damit verknüpft sind, wie sie entwickelt, eingesetzt und verwertet wird.“

Eine weitere Sachverständige in der Enquete-Kommission war Katharina Zweig, Professorin an der Technischen Universität (TU) Kaiserslautern und Leiterin des Algorithm Accountability Lab. Sie sieht in dem Abschlussbericht kein Versagen, sondern das natürliche Ergebnis der Arbeitsweise: „Der Prozess war demokratischer Natur. Das heißt, alle Texte wurden dem Plenum vorgelegt und konnten an dieser Stelle auch immer mit Änderungsanträgen verändert werden. Aber wenn sich eine Mehrheit dafür findet, die Änderungen nicht mitzutragen oder mitzutragen, dann werden natürlich Minderheitenmeinung  nicht berücksichtigt.“ Insofern ist die Enthaltung von Butollo einfach ein Ergebnis der demokratischen Arbeitsweise der Kommission.

Auch das Enquete-Mitglied Alexander Filipović, Medienethiker an der Hochschule für Philosophie München sieht das ähnlich:„Es ist kein wissenschaftliches Gremium, sondern letztlich ein politisches. Da finde ich auch gut, dass Florian Butollo dann sagt: Ich kann das jetzt nicht mittragen. Ich hätte es gerne anders gemacht und kann das nicht in der Weise unterstützen.“
Aber gut, er hatte auch mit abgestimmt und hat sich eingebracht und auch durch seine Arbeit geprägt. Also steckt eine Menge Butollo drin – wie von jedem anderen in diesem Text. Von daher würde ich das nicht so dramatisch sehen.“

Mit der inhaltlichen Arbeit war Butollo sogar zufrieden. Doch durch den demokratischen Prozess und die Zusammensetzung des Gremiums von Expertinnen und Experten mit Politikerinnen und Politikern sei der Bericht ein politischer und kein wissenschaftlicher.
„Dieser Bericht wirkt nach innen und nach außen. Einfach durch die Tatsache, dass die Abgeordneten selber Teil dieses Prozesses sind und dann innerhalb der Fraktion auch diejenigen sein werden, die zum großen Teil konsultiert werden“, erklärt Butollo. „Also das ist eine Funktion, die eine Enquete-Kommission einnimmt. Wir kennen jetzt die Debatten, wir kennen auch die Differenzen und die Gestaltungsfelder.“

Zum Bericht der Enquete Kommission
https://dip21.bundestag.de/dip21/btd/19/237/1923700.pdf

---