(Live Blogging) Talk zur Datenstrategie und ihrer Umsetzung in Unternehmen im Hinblick auf Ethik mit:

• Judith Bellaiche, Kantonsrätin und Mitglied der WAK
• Marcel Blattner, Chief Data Scientist tamedia digital
• Marc Holitscher, National Technology Officer Microsoft Schweiz
• Nicolas Passadelis, Head of Data Governance und interner Datenschutzbeauftragter Swisscom

Lässt sich Ethik in Software programmieren?

Marcel Blatter sagt: „Er findet es etwas vermessen. Aber Methoden und Konzepte kontrahieren, ist schon machbar. Man kann die aber nicht einfach auf verschiedene Kontexte übertragen. Die Systeme können nicht Entscheidungen treffen, wenn ein Misstand festgestellt wird. Sie können aber auf einen Misstand hinweisen. Es braucht immer noch den Mensch, die Aktion abzuleiten.“ Er sieht das als eine gefährliche Entwicklung, weil man in die Falle tritt, dass ein Tool ethische Probleme löst. Verantwortung wird auf Technologie übertragen.

Es liegt Judith am Herzen, dass  Datenstrategien und Ethical Officiers entstehen (bisschen politisches Intro, kann ich nicht wiedergeben) Sie fragt: „Wieso sollten wir Ethik automatisieren, wer hat was davon?“ Sie sieht als Beobachterin technologische Experimente, die rassistische Tendenzen haben, das kann so nicht sein. Ihrer Meinung nach, bedarf Ethik einer sehr tiefgründigen Auseinandersetzung und einer Einzelfall-Beurteilung. Automatische künstliche Ethik ist für sie nur wünschenswert, wenn der Mensch etwas davon hat. Davon sieht sie uns noch weit entfernt.

Automatisierte Ethik? Podiumsteilnehmer meinen, dass es schwer ist, so komplexen Themen zu digitalisieren. Ich denke, das wird machbar und ebenso fehlbar, wie wir Menschen. (Es zählt nicht, was heute geht) #shift2019 Wichtiger ist, wer hat die Macht? Technik oder Mensch?

Microsoft hat 6 Prinzipien. Dazu zählen Robustheit, Sicherheit und Transparenz, die schon automatisiert sind (Microsoft hat einen internen Prüfprozess). Mark sagt: „Wir müssen zukunftsgerichtet denken; wie kann AI eingesetzt werden und ist sie kompatibel mit den 6 Prinzipien?“ Gesichtserkennung kann negative Effekte haben, beispielsweise, wenn das Publikum gescannt wird und mit politischen Daten verknüpft wird. Betont werden aber auch keine durchgängig automatischen Entscheidungen. Es braucht immer eine menschliche Entscheidung (kontextabhängig). Mark und Microsoft denken nicht, dass sich alles mit Software abdecken lässt. Fairness kann aber über Erklärbarkeit gelöst werden (Datalabeling, Herkunft, ggf. Verzerrungen gleich berücksichtigen…)

Microsoft setzt auf einen Prozessansatz. Sie gehen davon aus, dass ein Prinzip von Ethik, nämlich Fairness, über Erklärbarkeit gelöst werden kann. Ansonsten gibt es keine durchgängig automatischen Entscheidungen, sondern Menschen dazwischen.

Nicolas von Swisscom meint: „Datenkultur ist bei uns entscheiden. Wir setzen nicht auf Prozessprozesse (mit Checkpoint) sondern wir möchten, dass der Umgang der Daten in die DNA der Mitarbeiter einfliesst. Alle sollen gut damit umgehen können.“

Meine Frage bleibt hier leider offen: Wie wollt ihr das sicherstellen, Swisscom? Menschen sind fehlbar

Sinngemässe Antwort von ihm dazu, die mir persönlich nicht reicht: „Da hat man klassische Compliance Massnahmen. Wir müssen die Leute an den Punkt bringen, wo sie beim Betrieb eines Systems wissen, was möglich ist und was nicht. Das ist im Interesse der Kunden und der einzelnen Person. Unsere Mitarbeiter (18’000) wollen wir fit machen.“

Swisscom fährt einen Kulturansatz – alle 18’000 Mitarbeitenden tragen Verantwortung

Wer ist verantwortlich am Ende?

Auch darauf hab ich keine Antwort bekommen. Oder sie nicht richtig verstanden.

Marcel sagt: „Wenn man Fairness abstrakt abbilden möchte benutzt man dafür mathematische Prinzipien. Diese haben statistisch gesehen Löcher. Das Konzept Fairness ist noch nicht abstrahiert.“

Zur Datenstrategie bei tamedia meint er: „75 – 80% generieren mindestens einen Punkt pro Tag in der Daten Pipeline.“ Gesetzliche Bestimmungen setzen auf die Dokumentation in den einzelnen Prozessen. Wenn bei tamedia ein Modell gebaut wird, ist von der Datensammlung bis zur Auslieferung alles dokumentiert, besonders bei der Übergabe in den nächsten Prozess (Model Cards). Intern finden Konferenzen zu diesen Themen statt.

tamedia setzt auf Transparenz und Menschen bei wichtigen Entscheidungen

Die Politik hat schlicht keine Datenstrategie und ist total überfordert. Es ist ein anderes Mass wie in den Unternehmen, man ist regelrecht gelähmt. Nicht aber im Bund, den Gemeinden und den Kantonen (SG startet langsam). Es wird von allen gewünscht, das die Politik sich dem Thema endlich annimmt.

Mein Fazit: Die technologieaffinen Firmen machen vorwärts und stellen sich mehr Fragen, als man von aussen annimmt. Alle Podiumsteilnehmer sind sich bewusst, dass einzelne Aspekte der Ethik abgebildet werden können. Diese Abbildung ist aber noch nicht fehlerfrei und es braucht dringend Menschen bei wichtigen Entscheidungen oder Einschätzungen. Lasst mich bitte nicht darüber reden, wo die Politik in der Schweiz steht.