Die Verheissung ist verlockend: Prozesse, die sich selbst steuern. Entscheidungen, die in Millisekunden getroffen werden. Eine Effizienz, von der wir vor zehn Jahren nur träumen konnten. Die Automatisierung von Geschäftsprozessen durch moderne ERP-Systeme ist einer der grössten Hebel zur Steigerung der Produktivität. Wir können heute auf Knopfdruck Kreditlimiten für Kunden festlegen, Lieferanten basierend auf Performance-Daten auswählen oder Bewerber automatisiert vorselektieren.
Doch bei allem Jubel über die Effizienz übersehen wir oft eine leise, aber entscheidende Frage: Ist das auch immer richtig? Was passiert, wenn der Algorithmus, dem wir die Entscheidung überlassen, falsch liegt? Oder schlimmer: Was, wenn er systematisch diskriminiert?
Dies ist kein Beitrag über die technischen Möglichkeiten der Automatisierung. Es ist ein nachdenklicher Beitrag über ihre Grenzen. Es ist ein Plädoyer für eine neue Art von Verantwortung im digitalen Zeitalter – die Verantwortung für die Entscheidungen, die wir an unsere Systeme delegieren.
Die unsichtbare Voreingenommenheit im Code
Wir neigen dazu, Algorithmen für objektiv zu halten. Sie basieren auf Daten und Logik, nicht auf menschlichen Emotionen oder Vorurteilen. Doch das ist ein gefährlicher Irrglaube. Algorithmen sind immer nur so gut und so fair wie die Daten, mit denen sie trainiert wurden, und die Logik, die ihnen von Menschen einprogrammiert wurde.
Dieses Phänomen nennt sich “Algorithmic Bias” – die algorithmische Voreingenommenheit. Betrachten wir ein paar Beispiele aus dem ERP-Umfeld:
- Automatisierte Kreditlimit-Vergabe: Das System lernt aus den historischen Zahlungsdaten. Wenn in der Vergangenheit Kunden aus bestimmten Postleitzahlgebieten (mit vielleicht höherem Migrationsanteil) tendenziell schlechter eingestuft wurden, wird der Algorithmus dieses Muster lernen und fortsetzen. Er diskriminiert nicht aus Absicht, sondern weil er ein historisches Vorurteil in den Daten reproduziert.
- Automatisierte Lieferantenauswahl: Ein Algorithmus, der nur auf den Preis optimiert ist, wird konsequent den billigsten Anbieter auswählen. Aspekte wie lokale Wertschöpfung, soziale Standards oder ökologische Nachhaltigkeit ignoriert er, wenn sie nicht explizit als Entscheidungskriterium einprogrammiert wurden. Das Ergebnis ist eine effiziente, aber vielleicht unethische oder kurzsichtige Entscheidung.
- Automatisierte Bewerber-Vorselektion: Ein System, das aus den Lebensläufen der bisherigen (überwiegend männlichen) erfolgreichen Mitarbeiter lernt, könnte fälschlicherweise zu dem Schluss kommen, dass männliche Bewerber grundsätzlich besser geeignet sind. Es diskriminiert Frauen, ohne dass dies beabsichtigt war.
Das Problem ist: Diese Entscheidungen passieren im Verborgenen, tausendfach am Tag. Sie sind schnell, effizient und scheinbar objektiv. Doch sie können reale, negative Auswirkungen auf Menschen und die Gesellschaft haben.
Die Grenzen der Automatisierung: Wo der Mensch unersetzlich bleibt
Bedeutet das, wir sollten auf Automatisierung verzichten? Nein, das wäre ein Rückschritt. Aber wir müssen lernen, die Grenzen zu erkennen und die menschliche Aufsicht dort zu stärken, wo sie unersetzlich ist.
Es gibt eine einfache Faustregel, um zu entscheiden, welche Prozesse vollständig automatisiert werden können und welche eine menschliche Kontrolle benötigen:
| Prozess-Typ | Automatisierungs-Grad | Beispiel |
| Transaktional & repetitiv | Hoch (Vollautomatisierung) | Eine Rechnung basierend auf einem Lieferschein erstellen. Den Lagerbestand bei einer Entnahme aktualisieren. |
| Taktisch & regelbasiert | Mittel (Teilautomatisierung mit Aufsicht) | Einen Produktionsauftrag basierend auf dem Lagerbestand vorschlagen. Eine Mahnung für eine überfällige Rechnung generieren. |
| Strategisch & kontextabhängig | Niedrig (Menschliche Entscheidung mit System-Unterstützung) | Einen langjährigen, aber aktuell unrentablen Kunden kündigen. Einen Lieferanten wechseln. Einen Mitarbeiter einstellen. |
Je mehr eine Entscheidung von Kontext, Erfahrung, Empathie und ethischer Abwägung abhängt, desto gefährlicher ist es, sie vollständig einem Algorithmus zu überlassen. Das ERP-System kann uns perfekte Daten und brillante Vorschläge liefern, aber die finale, wertbasierte Entscheidung muss in vielen Fällen ein Mensch treffen.
Verantwortungsvolle Automatisierung: Ein 4-Punkte-Plan
Wie können wir die Vorteile der Automatisierung nutzen, ohne unsere ethische Verantwortung abzugeben? Es erfordert einen bewussten und proaktiven Ansatz:
- Transparenz schaffen (Explainable AI): Verlangen Sie von Ihrem ERP-Partner, dass automatisierte Entscheidungen nachvollziehbar sind. Warum hat das System diesen Kunden herabgestuft? Welche Datenpunkte wurden für diese Entscheidung herangezogen? Wenn ein System eine “Black Box” ist, dürfen Sie ihm keine wichtigen Entscheidungen anvertrauen.
- “Human-in-the-Loop”-Prinzip etablieren: Bauen Sie bewusste Kontrollpunkte ein. Bei kritischen Entscheidungen (z.B. Kreditlimit über 50’000 CHF) muss ein Mensch die vorgeschlagene Entscheidung prüfen und freigeben. Der Mensch bleibt im Fahrersitz, der Autopilot assistiert nur.
- Regelmässige Überprüfung der Algorithmen: Überprüfen Sie Ihre automatisierten Regeln und Algorithmen regelmässig auf unbeabsichtigte Voreingenommenheit. Analysieren Sie die Ergebnisse. Führt die automatisierte Lieferantenauswahl zu einer Monokultur? Werden bestimmte Kundengruppen systematisch benachteiligt?
- Ethische Leitplanken definieren: Führen Sie im Unternehmen eine Diskussion darüber, welche Entscheidungen Sie niemals vollständig automatisieren wollen. Definieren Sie ethische Leitplanken für den Einsatz von KI und Automatisierung. Diese Diskussion ist keine IT-Frage, sondern eine Führungsaufgabe.
Fazit: Effizienz mit Gewissen
Die Automatisierung von Geschäftsprozessen ist eine der grössten Chancen unserer Zeit. Aber mit grosser Macht kommt grosse Verantwortung. Die Vorstellung, wir könnten die Verantwortung für unsere Entscheidungen einfach an ein ERP-System delegieren, ist naiv und gefährlich.
Ein moderner, verantwortungsvoller ERP-Partner wie redPoint liefert Ihnen nicht nur die technischen Werkzeuge zur Automatisierung. Wir verstehen uns auch als Ihr Sparringspartner in der Diskussion, wo Automatisierung sinnvoll ist und wo die menschliche Urteilskraft unersetzlich bleibt. Wir helfen Ihnen, eine Automatisierungsstrategie zu entwickeln, die nicht nur auf Effizienz, sondern auch auf Fairness, Transparenz und unternehmerischer Verantwortung basiert.
Denn das Ziel ist nicht, ein Unternehmen zu schaffen, das vollautomatisch läuft. Das Ziel ist, ein besseres Unternehmen zu schaffen – effizienter, aber auch fairer und menschlicher.
Erfolgreiches ERP-Projekt
Mit der Checkliste von redPoint starten Sie optimal in ein erfolgreiches ERP-Projekt.
Jetzt herunterladen
