Blick von unten auf zwei Füße auf einem Glasdach

Der Mensch im Mittelpunkt: Ethisches Softwaredesign

but im trying to be good

„Welche Konsequenzen haben mein Handeln und meine Entscheidungen?“

In einer Welt, in der unserem Handeln überwiegend wirtschaftlichen Interessen zugrunde liegen, rückt diese Frage häufig in den Hintergrund. Im beruflichen Alltag der meisten Menschen haben Effizienz und Umsätze Priorität. Auch in der Softwareentwicklung und im User Experience Design agieren wir natürlich unter anderem nach wirtschaftlichen Maßstäben.

Doch mögliche langfristige Auswirkungen und Worst-Case-Szenarien, die bestimmte Entscheidungen nach sich ziehen, können Nutzende, Unternehmen oder die Gesellschaft betreffen und sollten daher nicht einfach ignoriert werden.

Mit diesem Blogpost wollen wir das Bewusstsein für die möglichen Konsequenzen unserer Handlungen schärfen. Dafür begeben wir uns auf eine kleine Reise ins Jahr 1973 und schauen uns am Beispiel des Ford Pinto an, welche Folgen es haben kann, wenn wichtige Fragen gar nicht erst gestellt werden.

 

Woman sitting on couch and reading a quote on a white wall saying "Everything is Fine."

 

Der Fall des Ford Pinto

1973 brachte Ford den Pinto auf den Markt mit dem Ziel, Kleinwagen japanischer Hersteller in den Schatten zu stellen. Das Auto wurde in nur 25 Monaten entwickelt, war aufgrund spezieller Bauteile aus Aluminium besonders leicht und der Preis erschwinglich, die Verkaufszahlen waren in den ersten Jahren sehr gut. Nach einiger Zeit jedoch wurden Fälle bekannt, bei denen das Auto nach Auffahrunfällen in Flammen aufging. Teilweise wurde das Heck dabei so stark verformt, dass die Insassen keine Möglichkeit hatten die Türen zu öffnen, um dem Feuer zu entkommen. Ursache für diese tragischen Unfälle, die mindestens 180 Personen das Leben kosteten, war das Design und die Platzierung des Tanks. Dieser lag frei hinter den Hinterrädern und wurde bei einem Unfall durch andere Bauteile durchbohrt, sodass Benzin austrat. Kam dieses mit nur einem Funken in Berührung, fing das Auto Feuer. Um genügend Platz für den Kofferraum zu gewährleisten, wurde sich bewusst dagegen entschieden, den Tank über der Achse einzubauen.

Diese Beispiel soll nicht dazu dienen, um aus den Konstruktionsfehlern des Pintos zu lernen. Vielmehr stehen die Prozesse und Überlegungen im Vordergrund, die zu einer Produktion führten, obwohl die Sicherheitsrisiken bekannt waren.

Berichten zufolge sorgte sich Ford in erster Linie um Gewinne und Umsätze während das Thema Sicherheit bei Produktbesprechungen und geäußerte Bedenken der zuständigen Ingenieur*innen ignoriert wurden. Crash-Tests mit Prototypen zeigten: Nur bei modifizierten Varianten mit einem extra Einbauteil für nur wenige Dollar konnten die Sicherheitsstandards eingehalten werden.

 

Grey-haired man closes door while saying "Best News is, none of this is suspicious"

 

Was kostet ein Menschenleben?

In einer Kosten-Nutzen-Analyse sollte die wirtschaftliche Vertretbarkeit dieser lebensrettenden Reparaturmaßnahme berechnet werden. Dafür wurden die Kosten des Umbaus den Kosten gegenübergestellt, die bei einem Nicht-Handeln entstünden. Ford stellte dazu nicht nur Schätzungen für die Anzahl von tödlichen Unfällen und solchen mit ernsthaften Verbrennungen an, sondern auch darüber, wie viel ein Menschenleben wert ist. Variablen wie emotionale Kosten, Leid oder Vertrauen in die Marke wurden dabei jedoch nicht berücksichtigt. Auch die Not der Mitarbeitenden, die durch das Wissen über die Risiken in eine schwierige Lage gebracht wurden, erhielten in diesem Zusammenhang keine Aufmerksamkeit.

Eine Reparatur war Fords Berechnungen zufolge letztendendes kostspieliger und wurde daher nicht durchgeführt. Eine Aufklärung der möglichen Problematik für die Kundschaft fand nicht statt. Auch nach der Entdeckung eines weitaus günstigeren zusätzlichen Bauteils hielt Ford an der Entscheidung fest und betrieb zu allem Übel sogar Lobbyarbeit gegen ein Gesetz zur Automobilsicherheit.

Am Ende gingen die Rechnungen von Ford jedoch nicht auf – die Gerichtskosten einzelner Verfahren erwiesen sich als weitaus höher und die Fahrzeuge mussten zurückgerufen werden. Der Skandal wurde öffentlich und bescherte Ford neben den Mehrkosten aufgrund der Fehlentscheidungen einen immensen Image-Schaden. Mit höheren ethischen Standards und dem Ansporn nach besseren Lösungen hätte Ford nicht nur Geld sparen, sondern auch seinen Ruf retten können – und letztendlich auch Menschenleben.

 

Wege zur Entscheidungsfindung

Ford hatte beim Pinto eine klassische Kosten-Nutzen-Analyse aufgestellt und diese als Entscheidungsgrundlage verwendet, obwohl essentielle Faktoren dabei nicht berücksichtigt wurden.

Welche Überlegungen hätten Ford zu einer anderen Entscheidung führen können?

Da wir uns heute dem Thema Konsequenzen widmen, lassen wir die üblichen wirtschaftswissenschaftlichen Entscheidungshilfen für einen Moment außer Acht und betrachten einmal das „Große Ganze“. Entsprechend der Kosten-Nutzen-Analyse von Ford kann eine getroffene Entscheidung dann als gut bezeichnet werden, wenn sie den Nutzen für diejenigen maximiert, um deren Interesse es geht. Ford berücksichtigte hier wohl vor allem die Interessen des Unternehmens als solches – auf der Einnahmen-/Ausgabenseite handelte es sich also um die richtige Entscheidung.

Wie wir bereits festgestellt haben, gibt es jedoch noch weitere Gruppen, die ein Interesse an den Entscheidungen von Ford haben. Dazu zählen beispielsweise die Mitarbeitenden von Ford, ebenso wie potentielle und tatsächliche Käufer von Ford-Fahrzeugen. Zusätzliche Kostenfaktoren, wie ein Vertrauensverlust in die Marke „Ford“, sowie Unzufriedenheit bei den Mitarbeiten (was wiederum zu geringerer Produktivität oder Kündigung führen kann) wurden nicht mit in die Berechnungen einbezogen. Durch eine erweitere Sichtweise hätte man an dieser Stelle bereits zu einer anderen Entscheidung kommen können.

Tritt man noch einen Schritt zurück und betrachtet nicht nur, welche Konsequenzen diese Entscheidung für die direkten Stakeholder hat, sondern welche gesamtgesellschaftlichen Konsequenzen bestimmte Geschäftsentscheidungen haben können, so kann man auch zu folgender Frage kommen:

„Möchte ich in einer Welt leben, in der alle Unternehmen ähnliche Geschäftspraktiken pflegen?“

Mit dieser Frage begeben wir uns in das philosophische Territorium von Immanuel Kant und des kategorischen Imperativs. Ohne einen konkreten Blick auf Konsequenzen, Kosten und Nutzen zu werfen, spielen wir also ein Gedankenexperiment: Wenn jedes Unternehmen ähnliche Geschäftspraktiken pflegt, dann muss ich davon ausgehen, dass auch jede*r irgendwann in einem Fahrzeug sitzen kann, dessen Sicherheitslücken zwar intern bekannt, aber nicht nach außen kommuniziert werden. Bin ich bereit, dieses Risiko einzugehen?

Wir stellen fest: Je nach Standpunkt und Betrachtungsweise kann die Bewertung der Entscheidung Fords, die notwendigen Anpassungen am Pinto nicht vorzunehmen, also ganz anders ausfallen.

 

Die richtigen Fragen stellen

Das Beispiel Ford Pinto soll zeigen, dass es für Entscheidungen im unternehmerischen Kontext nicht immer reicht, nur auf die naheliegendsten Zahlen zu schauen – auch ethische und moralische Fragen spielen zunehmend eine Rolle. Das gilt umso mehr, je stärker unsere Gesellschaft durch große (Technologie-)Unternehmen und Organisationen geprägt wird und je mehr Technik und interaktive Systeme Bestandteil unseres Alltags wird – in Form von Wearables, die unseren Gesundheitszustand überwachen, Smartphones, die uns mit Familie, Freund*innen und dem Rest der Welt verbinden, oder eines immer intelligenter werdenden Zuhauses, das uns abends begrüßt, indem es uns das Licht einschaltet.

Gerade aufgrund dieser zunehmenden Bedeutung von Technik in unserem Leben reicht es nicht aus an kritischen Punkten zu fragen: „Sollen wir es tun?“ oder „Lohnt es sich?“. Ein menschzentrierter Gestaltungsprozess, der die Frage nach dem gesellschaftlichen Mehrwert weiter in den Mittelpunkt rückt, hilft bei der Gestaltung und Entwicklung interaktiver Systeme, die auf eine breite Akzeptanz treffen.

„Gibt es eine bessere Lösung?“ ist eine Frage, die hier noch besser zu einer guten Antwort führen kann. Denn meistens existieren Alternativen – wenn man rechtzeitig danach sucht.

 

Quellen

Quelle GIFs:
https://giphy.com/nbc/shows/the-good-place

Inhaltliche Grundlage:
Shariat, Jonathan: Tragic Design

Back to Blog

Related Articles

C# Unit Testing Quick Tip: Verify that a call is awaited

Wer testgetrieben entwickelt und somit nur dann einen Produktivcode schreibt, wenn ein Test rot...

Erstes Usability Testessen 2019 — Pizza, „Party“ und Projekte

Unsere neuen Büroräume nehmen gerade Form an, da wurde uns BRICKMAKERS eine besondere Ehre zu...

Nutzerfreundlichkeit: Die Relevanz von Usability Tests

Am Beispiel eines Portals für Betreiber von E-Bike Ladestationen.
v