GS - GS 2023-10-28 In a recent short paper, world-leading AI scientists and governance experts from the US, China, EU, UK, and other countries have highlighted that rapid AI progress will pose societal-scale risks. Along with their benefits, today’s AIs already pose a wide array of harms. Tomorrow’s systems will be far more powerful as AI labs […]

GS - GS – 2023-04-05 Die Ankündigung von GPT4 durch OpenAI im März 2023 hat viel Unruhe über die Wirkungen dieser Technologie verursacht, zumal gleichzeitig Forscher von Microsoft ein Papier veröffentlicht haben, in dem sie über erste „Funken von genereller Intelligenz“ berichten. https://arxiv.org/abs/2303.12712 Das Future of Life Institute, eine gemeinnützige Organisation, die sich für die Verringerung der […]

GS - 2022-01-14 Sarah Engel is managing consultant and team lead for trustworthy AI at IBM. She advises her clients on innovation projects around artificial intelligence. Gerhard Schimpf (GS): Sarah, thank you so much for agreeing to an interview for our ongoing blog about Being Human with Algorithms. You may want to introduce yourself and give us […]

GS - 2021-07-07 Welcome to Nomadland: Online retailing giant Amazon’s Flex contract drivers say their jobs are at the mercy of software that can unfairly rate their performance. Algorithms mine data on performance patterns and assign drivers routes, or deactivate them, with little human feedback. One source says the Flex algorithms do not account for human nature, […]

GS - 2021-03-09 German standardization roadmap on AI presented. Artificial intelligence has already become an indispensable part of the digital world. But it is also clear that a technology will only be used successfully across the board if society accepts it. Although companies are increasingly recognizing the opportunities offered by AI, the general public is sometimes opposed […]

GS - 2021-03-07 Deutsche Normungsroadmap vorgestellt. Künstliche Intelligenz ist aus der digitalen Welt bereits nicht mehr wegzudenken. Doch klar ist auch: Eine Technologie wird flächendeckend erst dann erfolgreich zum Einsatz kommen, wenn die Gesellschaft sie akzeptiert. Unternehmen erkennen zwar zunehmend die Chancen durch KI – in der Bevölkerung stößt Künstliche Intelligenz jedoch aufgrund mangelnden Vertrauens und ethischer […]

GS - 2020-11-13 Künstliche Intelligenz birgt riesige Chancen für die Zukunft, aber auch Gefahren. Zwei Jahre lang hat sich eine Expertenkommission des deutschen Bundestages,  38 Mitglieder, je zur Hälfte Politiker und Politikerinnen und eingeladene sachverständige Mitglieder, mit dem Thema befasst. Zielsetzung war es, „den staatlichen Handlungsbedarf auf nationaler, europäischer und internationaler Ebene zu identifizieren und zu beschreiben, […]

GS - 2020-10-28 “Life in the automated society: How automated decision-making systems became mainstream, and what to do about it.” Today, Oct 28th 2020, the Bertelsmann Stiftung released an extensive report on the deployment of Automated Decision-Making (ADM) systems in the EU. For the report they investigated 16 EU countries, 40+ people were involved, with 30+ researchers […]

GS - 2020-06-09 Die Zeitschrift The Verge berichtet: IBM wird keine allgemeine Gesichtserkennungs- oder Analysesoftware mehr anbieten, sagte IBM-CEO Arvind Krishna heute in einem Brief an den Kongress. Das Unternehmen werde die Technologie auch nicht mehr entwickeln oder erforschen, so IBM gegenüber The Verge. Krishna richtete den Brief an Sens. Cory Booker (D-NJ) und Kamala Harris (D-CA) […]

GS - 2020-03-11 The European Parliament: Panel for the Future of Science and Technology has released a new study on AI. This study deals with the ethical implications and moral questions that arise from the development and implementation of artificial intelligence (AI) technologies. It also reviews the guidelines and frameworks that countries and regions around the world […]

mop - Wir sprechen darüber, dass die Dystopie vieler Literatur gerade Realität ist. Ass. jur. Axel Honsdorf leistet als Geschäftsführer von BayFrance einen entscheidenden Beitrag zur Bayerisch-Französischen Zusammenarbeit in Forschung und Lehre. Unter folgenden Links können Sie das Gesamtinterview sowie die Detail-Features abrufen: Corona – Special mit Axel Honsdorf (BayFrance, TUM) (2020-03-23, DE) Ein weiteres Corona-Special. Diesmal […]

mop - Wir sprechen über die aktuell massive Einschränkung unserer Rechte. Ass. jur. Axel Honsdorf leistet als Geschäftsführer von BayFrance einen entscheidenden Beitrag zur Bayerisch-Französischen Zusammenarbeit in Forschung und Lehre. Unter folgenden Links können Sie das Gesamtinterview sowie die Detail-Features abrufen: Corona – Special mit Axel Honsdorf (BayFrance, TUM) (2020-03-23, DE) Ein weiteres Corona-Special. Diesmal mit Axel […]

GS - 2020-05-08 The Council of Europe today called on its 47 member States to take a precautionary approach to the development and use of algorithmic systems and adopt legislation, policies and practices that fully respect human rights. In a Recommendation on the human rights impacts of algorithmic systems, the Council of Europe’s Committee of Ministers issued a set […]

mop - Ass. jur. Axel Honsdorf leistet als Geschäftsführer von BayFrance einen entscheidenden Beitrag zur Bayerisch-Französischen Zusammenarbeit in Forschung und Lehre. Im Interview sprechen wir über das Verhindern von Corona-Traumata Konferenzvoyeurismus die Welt nach der Krise Management mit neuen Tools Digitale Lehre plötzlich geht es doch Umweltschutz Bewegungsdrang die Einschränkung unserer Freiheitsrechte und gute Aussichten für Informatiker. […]

GS - 2020-02-29 Yesterday, the Vatican’s “Rome Call for AI Ethics” was signed with media attention, see the Twitter Tag: @call_rome The text, a kind of call to develop and use artificial intelligence in a morally responsible (“ethical”) way, lists 6 principles: 1. transparency, 2. inclusion, 3. responsibility, 4. impartiality, 5. reliability, 6. security and privacy. The text […]

GS - 2020-02-29 Gestern wurde medienwirksam der “Rome Call for AI Ethics” des Vatikans unterschrieben. Der Text, eine Art Aufruf, Künstliche Intelligenz moralisch verantwortlich (“ethisch”) zu entwickeln und zu nutzen, zählt 6 Prinzipien auf: 1. Transparenz, 2. Inklusion, 3. Verantwortung, 4. Unvoreingenommenheit, 5. Verlässlichkeit, 6. Sicherheit und Privatsphäre. Der Text der Deklaration findet sich unter  

GS - 2020-02-19 The European Commission is publishing its grand vision for Europe’s digital future today. There are three documents setting the stage for economic development and regulation to preserve European values in a globalized world. The first document, “Shaping Europe’s digital future,” is the Commission’s road map for digital policy. The Commission is aiming about revamping competition […]

GS - Thomas Matzner ist freiberuflicher Business Analyst und den Mitgliedern des German Chapter oft he ACM als ehemaliger Chairman bekannt. Gerhard Schimpf hat ihn über sein neues Buch – Informatikethik – befragt. Gerhard Schimpf (GS):Thomas, im Januar erschien dein Buch “Informatikethik”. Was hat dich als Informatiker motiviert, dich in ein so komplexes Thema einzuarbeiten und eine […]

GS - Haben Sie auch das Gefühl, dass irgendwas mit der Art, wie Facebook, Google und die anderen Giganten uns als Bürger und User behandeln, falsch ist? Harvard-Professorin Shoshana Zuboff hat diesem Gefühl nach jahrelanger Recherche einen Namen gegeben: Überwachungskapitalismus. Den Schleier, wie dieses Geschäftsmodell, das auf rücksichtslosem heimlichen Datensammeln beruht, hat Facebook mit einer Funktion gelüftet, […]

mop - In this episode we discuss about privacy, responsibility, law enforcement, and many more highly interesting aspects of the digital transformation. Enjoy! Christian Thiel (https://www.christianthiel.com) and Dominik Golle are responsible fot the topic platform “Verbraucherbelange in der Digitalisierung” (https://zentrum-digitalisierung.bayern/verbraucherbelange ) at the zd.b (center for digitization Bavaria https://zentrum-digitalisierung.bayern/). In his PhD, Christian Thiel taught machine learning […]

GS - 2019-12-12 Yesterday the European Commission President Ursula von der Leyen launchds her effort to upend just about every policy area in the EU to make the bloc climate neutral by 2050. “This is Europe’s man on the moon moment,” von der Leyen said at the European Commission before presenting her flagship Green Deal policy to […]

GS - 2019-11-26 Zu Beginn der jetzigen Regierungsarbeit der Bundesregierung wurde im Koalitionsvertrag die Einsetzung einer Datenethikkommissionbeschlossen. Der Druck auf die Kommission war gewaltig. Als die Bundesregierung sie vor einem Jahr mit dem Auftrag zurück ließ, die „ethischen Leitplanken“ zu definieren „für den Schutz des Einzelnen, die Wahrung des gesellschaftlichen Zusammenlebens und die Sicherung und Förderung des […]

GS - 2019-11-22 Recently, Facebook CEO Mark Zuckerberg announced his vision for the future of the company at the annual Developer Conference. The Group’s products provide the infrastructure for core democratic functions such as freedom of expression, news distribution and access to information. Our societies are increasingly shaped by how Zuckerberg and a small elite of Silicon […]

GS - 2019-07-29 This book written by Amy Webb is about Artificial Intelligence and how the “Big Nine”, in her words how the American giants Google plus MAFIA (Microsoft, Amazon, Facebook, IBM, and Apple) together with their Chinese Opponents, the BAT (Baidu, ALIBABA, and Tencent) are shaping the world with their technology and how they could warp […]

GS - 2019-07-10 After San Francisco has banned face recognition, here is hope for privacy also in Europe. Europe’s privacy watchdogs are looking to beef up restrictions for the use of facial recognition in a move that will affect how governments and big tech companies use this technology. Data protection agencies will discuss new guidelines this week […]

GS - 4.7.2019 Bei unserem Symposium Mensch-Sein mit Algorithmen haben wir im vergangenen Jahr das interdisziplinäre Zusammenspiel von Informatik, Ingenieurwissenschaften, Kunst, Philosophie und Recht beleuchtet. Insbesondere Fragestellungen der Philosophie und der Ethik (Prof. Filipovic´) und des Rechts (Prof. Boehm) im Zusammenhang mit aktuellen Entwicklungen waren von besonderer Bedeutung, weil diese in den Betrachtungen der Informatiker nicht oft […]

GS - 05-28-2019 There is hardly an international body that does not currently deal with the subject of Artificial Intelligence (AI). Whether at the EU level, in the G7 or G20 – groups of states around the world are struggling to find the political framework for technology. Less attention has been paid to the work of the […]

GS - 2019-05-10 One of the topics discussed during our symposium Being Human with Algorithms were the effects of decision making algorithms on interpersonal relationships and especially on the workplace. A recent report by the revealed practices used by Amazon. Amazon’s demanding culture of worker productivity has been revealed in multiple investigations. But a new report indicates […]

GS - AI and Ethics is currently a hot topic. On what basis regulation should take place and on what criteria should be applied is an open question. The international debate between science, industry, and policy makers reaches the civil society. ACM Europe has issued a white paper about ADM (automated decision making systems). https://europe.acm.org/binaries/content/assets/public-policy/ie-euacm-adm-report-2018.pdf New ethics […]

GS - Regeln für die Gestaltung algorithmischer Systeme Im Rahmen unseres Symposiums Mensch-Sein mit Algorithmen haben wir uns mit der Wirkung algorithmischer Systeme auseinandergesetzt, die zunehmend routinemäßig in unserem Alltag eingesetzt werden und Entscheidungen treffen. Bei der Mächtigkeit dieser Systeme ist nicht gewährleistet, dass deren Anwendung auf Dauer nicht unser gewachsenes Sozial- und Rechtssystem unterminiert. Mit diesen […]

mop - Die so genannte Digitale Transformation ist allgegenwärtig und unumkehrbar. Sie betrifft alle Bevölkerungsschichten und Lebensbereiche. Der zentrale Begriff “Algorithmus” wird dabei in letzter Zeit oftmals reduziert auf eine negative konnotierte Interaktion zwischen Mensch und Maschine. Eigentlich ist ein Algorithmus aber etwas neutrales, eine Berechnungsvorschrift wie sie Menschen seit vielen Jahrhunderten anwenden. Zur Förderung des Dialogs […]

mop - The so-called Digital Transformation is omnipresent and irreversible. It affects all strata of the population and all areas of life. The central term “algorithm” has recently been reduced to a negative connoted interaction between man and machine. Actually, an algorithm is something neutral, a calculation rule that humans have been using for many centuries. To […]

GS - The Future of Life Institute ist eine ehrenamtlich geführte Forschungs- und Kontaktorganisation in der Region Boston, die sich zum Ziel gesetzt hat Forschungsinitiativen anzustoßen, um die die existenzielle Risiken der Menschheit, insbesondere das existenzielle Risiko der fortgeschrittenen künstlichen Intelligenz (KI) zu mindern. Aktuell hat dieses Institut die KI-Leitsätze der Asilomar Konferenz veröffentlicht, einschließlich der Unterzeichner, […]

GS -   MIT Physics Professor Max Tegmark has written an enthralling page turner about where we stand in the field of AI and where we could end up if we let things go uncontrolled. Tegmark is one of the founders of The Future of Life Institute, a volunteer-run research and outreach organization in the Boston area […]

mop - Achim Killer ist Journalist für die ARD und befasst sich insbesondere mit Themen der IT Sicherheit. Marc-Oliver Pahl (mop): Mensch sein mit Algorithmen, heute mit Achim Killer, Journalist der ARD Mop: Lieber Herr Killer, es freut mich sehr, dass Sie heute da sind und zum Thema Mensch-Sein mit Algorithmen das Interview mit mir machen. Vielleicht […]

mop - Dear reader, the Digital Transformation is unstoppable. We interact with algorithms every day – voluntarily and involuntarily. Sometimes this is good for us, sometimes it is not. In each case we cannot escape this reality. Not only in our [0] blog [1] but also in the real world [2] we want to shape the Digital Transformation […]

GS - Was dürfen Algorithmen und was nicht? Welche Qualitätsstandards müssen sie erfüllen? Zu welchen Zwecken dürfen sie eingesetzt werden? Unter welchen Kriterien? Wichtige Fragen, zu denen es bisher kein einheitliches Bild gibt. Auf Europäischer Ebene hat zuletzt EUACM, das Policy Committee des ACM Europe Councils ein White Paper mit Empfehlungen vorgelegt: „When Computers Decide: European Recommendations […]

mop - Wann haben Sie das letzte Mal mit einem Algorithmus zusammen gearbeitet? Welch’ seltsame Frage mögen Sie jetzt denken. Dann wird Sie die Antwort vielleicht erstaunen: Sie arbeiten gerade jetzt, da Sie diesen Text lesen oder hören, mit vielen Algorithmen zusammen. Von der Formung meiner Gedanken hin zu den geschriebenen oder vorgelesenen Worten, die Sie gerade […]

GS -   Ich erinnere mich noch lebhaft an einen Flug von Johannesburg nach Kapstadt. Nach der Landung meldete sich der Kapitän: „Meine Damen und Herren, Sie sind soeben Zeuge einer automatischen Landung unseres Flugzeugs geworden.“ Mir war unwohl. Hätte ich diesen Flug genommen, wenn man mir beim Check-in gesagt hätte, dass wir heute automatisch landen werden? […]

GS - In Toronto on May 16th, a coalition of human rights and technology groups released a new declaration on machine learning standards, calling on both governments and tech companies to ensure that algorithms respect basic principles of equality and non-discrimination. Called The Toronto Declaration (Ref 1), the document focuses on the obligation to prevent machine learning […]

GS -   Am 16.5.2018 veröffentlichte in Toronto eine Koalition von Menschenrechts- und Technologiegruppen eine neue Erklärung zu Standards des maschinellen Lernens. Darin werden Regierungen und Technologieunternehmen aufgefordert, dafür zu sorgen, dass die zur Anwendung gelangenden Algorithmen die Grundprinzipien der Gleichheit und Nichtdiskriminierung respektieren. Das Dokument mit dem Titel The Toronto Declaration (Deklaration von Toronto) (Ref 1) […]

GS - On the occasion of the “AI for Humanity” conference at the Collège de France, on March 29th 2018 the President of the French Republic presented France’s ambitions and strategy with regard to artificial intelligence. Development of artificial intelligence (AI) is a priority that the President of the Republic confirmed very early on by entrusting Cédric […]

RS - Towards the end of the Middle Ages, there was an academic dispute between the then leading faculties theology and philosophy. Which one of the two was more important based on their origin and should be leading? Who should be mistress and who should be servant? Theology claimed leadership. After some considerations, the philosophers came back […]

EOW - Nach der Bundestagswahl am 24. September 2017 hatten zunächst Union, FDP und Grüne Sondierungsgespräche geführt. Diese Gespräche zur sog. „Jamaika-Koalition“ wurden allerdings bald für  gescheitert erklärt. Darauf begannen die Sondierungs- und dann Koalitionsgespräche zur „GroKo“ (= Große Koalition zwischen CDU/CSU und SPD). Diese Gespräche mündeten schließlich am 7. Februar 2018 in den Koalitionsvertrag mit dem Titel […]

EOW -   Am 5. Februar 2017 veröffentlichte die Bitkom ihre Empfehlungen für den verantwortlichen Einsatz von Künstlicher Intelligenz und automatisierten Entscheidungen.  Diese Empfehlungen appellieren an die Verantwortung aller Akteure in Wirtschaft, Politik und Gesellschaft, sich der ethischen und datenökologischen Verantwortung in Bezug auf nachhaltiges Datenwirtschaften bewusst werden. Um das notwendige Vertrauen in die technischen Fortschritte und den gesellschaftlichen […]

GS -   The question whether intelligent decision making algorithms produce fair and unbiased results is widely discussed by researchers. It seems that the bias is not contained in the algorithm itself but in the data used to train the algorithm. Viewed in the context these algorithms are being used, they pose starting points for sophisticated ethical […]

GS -   In anschaulicher Weise hat die Wissenschaftsredaktion von 3sat die aktuelle Situation dargestellt, die sich aus der Kombination von Big Date mit intelligenten Algorithmen ergibt. Das alles ist bereits Alltag und nur möglich, weil unser Verhalten fortwährend beobachtet, protokolliert, fortgeschrieben, zusammengeführt und ausgewertet wird. Unser Surf-Verhalten, Sensoren, intelligente Kameras, unsere Smartphones, liefern Tag für Tag mehrere […]

EOW - Von Ernst O. Wilhelm. Auf der Basis einer im November veröffentlichten Umfrage, in der knapp über 1.000 Bundesbürger telefonisch befragt wurden, kommt die Bitkom zu dem Schluss, dass die Bundesbürger in allen Lebensbereichen grundsätzlich große Chancen beim Einsatz von Künstlicher Intelligenz (KI) sehen wie z.B. in der Verkehrssteuerung, bei der Übertragung körperlich belastende Tätigkeiten, bei der […]

mop - Mensch-Sein mit Algorithmen – Being Human with Algorithms Die digitale Transformation verheißt neue Geschäftsmodelle, weiter steigende Gewinne und zahlreiche Erleichterungen im Alltag. Dem stehen Ängste,Warnungen und ethisch begründete Befürchtungen gegenüber, dass Algorithmen missbraucht werden, sich verselbständigen und nicht mehr kontrolliert werden können. Mensch-Sein, Algorithmen und Verantwortung Noch vor Kurzem überraschten uns Datensammlungen in bis dahin […]

mop - Being Human with Algorithms – Mensch-Sein mit Algorithmen The digital transformation promises new business models, increasing profits, and numerous simplifications in our everyday lives. Besides the many opportunities there are also challenges that must be taken seriously. Those challenges are typically non-technical, concerning social implications of living with algorithms. Fears that were described in science […]