Jemand verpackt es in eine benutzerfreundliche Oberfläche, baut ein Unternehmen darum herum und verkündet, dass eine ganze Branche kurz vor der Disruption steht.
Eine Zeitlang mag es so aussehen. Doch sobald dieselbe Fähigkeit weit verbreitet ist, schwindet der Vorteil. Was wie eine Disruption aussah, entpuppt sich vielleicht nur als ein weiteres Feature.
KI kann die Ausführung schneller, günstiger und einfacher machen. Aber wenn dieselben Modelle und Fähigkeiten für alle verfügbar sind, ist der Zugang zur Technologie selten ein dauerhafter Vorteil.
Der wahre Vorteil liegt darin, wie Menschen sie innerhalb einer Organisation einsetzen.
KI versteht die Organisation nicht
Ein Modell mag Programmierung, Finanzen, Marketing oder Kundensupport verstehen. Aber es versteht nicht automatisch, warum eine Organisation so funktioniert, wie sie es tut.
Welche historischen Entscheidungen haben die aktuellen Systeme hervorgebracht?
Welche Kundenanforderungen sind wirklich nicht verhandelbar?
Welche Prozesse wurden aufgrund früherer Fehler eingeführt?
Welche Zielvorgaben sehen in einer Tabellenkalkulation vernünftig aus, sind aber in der Praxis kaum erreichbar?
Welche rechtlichen, sicherheitstechnischen, operativen oder geschäftlichen Einschränkungen sind in diesem Bereich relevant?
Dieses Wissen ist selten an einem vollständigen und zuverlässigen Ort verfügbar. Es kann über Menschen, Systeme, Dokumente, Gespräche und vergangene Entscheidungen verteilt sein.
Wir nennen es oft "Stammeswissen". Mehr davon kann und sollte dokumentiert werden, aber die Dokumentation allein löst das Problem nicht.
RAG und Fine-Tuning können Modellen helfen, auf organisatorisches Wissen zuzugreifen. Aber sie können nicht garantieren, dass die Informationen vollständig, aktuell, relevant oder korrekt angewendet werden.
Menschen werden immer noch benötigt, um fehlenden Kontext zu erkennen, Randfälle zu behandeln, Annahmen zu hinterfragen und Ergebnisse zu validieren.
Noch wichtiger ist, dass Menschen Urteile fällen müssen, die über das hinausgehen, was diese Systeme zuverlässig unterstützen können.
Überprüfung ist mehr als die Korrektur von KI-Fehlern
Große Sprachmodelle können falsche Informationen produzieren, ohne zu erkennen, dass sie falsch sind.
Die übliche Reaktion ist, einen menschlichen Prüfer hinzuzufügen, der die Ausgabe kontrolliert. Aber die Überprüfung von KI-Ausgaben sollte mehr beinhalten als die Korrektur sachlicher Fehler.
Jemand, der die Domäne und die Organisation versteht, kann:
- Organisatorische Logik anwenden
- Sonderfälle erkennen
- Fehlende Informationen identifizieren
- Die Kosten eines Fehlers verstehen
- Geschäftliche, rechtliche und sicherheitstechnische Risiken bewerten
- Erkennen, wann KI für das falsche Problem eingesetzt wird
- Den Prompt, Workflow oder das System für die zukünftige Nutzung verbessern
Durch diesen Prozess tun die Menschen mehr, als nur das Modell zu korrigieren. Sie machen die Organisation leistungsfähiger.
Menschen sind kein Zubehör des KI-Systems.
Sie sind Teil des Systems.
Modelle ändern sich, aber die Organisation muss weiter funktionieren
KI-Modelle werden ständig aktualisiert.
Ein neueres Modell mag bessere Argumentationsfähigkeiten haben, aber einen schlechteren Ton, eine schlechtere Formatierung oder ein schlechteres Tool-Nutzungsverhalten. Eine API kann sich ändern. Eine Funktion kann entfernt werden. Ein Modell kann eingestellt werden.
Es gibt auch Risiken, die mit einer starken Abhängigkeit von einem einzigen Anbieter verbunden sind.
Preise können steigen. Nutzungsrichtlinien können sich ändern. Funktionen können nicht mehr verfügbar sein. Ein Modell, das heute gut funktioniert, ist sechs Monate später möglicherweise nicht mehr geeignet.
Eine Organisation, die ihre Prozesse auf ein bestimmtes Modell optimiert hat, kann schwer getroffen werden, wenn ihr internes Fachwissen fehlt.
Ein fähiges Team kann dieses Risiko reduzieren, indem es:
- Versteht, wie das System funktioniert
- Neue Modellversionen evaluiert
- Änderungen vor der Produktion testet
- Die Ausgabequalität überwacht
- Prompts und Workflows anpasst
- Alternative Modelle vergleicht
- Die Abhängigkeit von einem Anbieter verringert
Wenn ein Modell zu teuer, unzuverlässig oder ungeeignet wird, sollte das Team mit minimalen Unterbrechungen migrieren können.
Ohne diese Fähigkeit wird die Organisation nicht durch KI gestärkt.
Sie wird von ihr abhängig.
Vollständige Automatisierung kann neue Risiken schaffen
Menschen müssen nicht in jeden routinemäßigen Schritt eingebunden bleiben.
Aber Menschen aus einem Prozess zu entfernen, nur weil er automatisiert werden kann, kann ein gefährlicheres System schaffen.
Viele KI-Produkte sind auf externe Modelle, Bibliotheken, APIs, Tools, Plugins und Datenquellen angewiesen.
Jede dieser Komponenten kann zu einem Fehlerpunkt werden aufgrund von:
- Einer verwundbaren oder kompromittierten Abhängigkeit
- Falschen oder vergifteten Daten
- Einem bösartigen Dokument
- Prompt-Injection
- Einem Jailbreak
- Übermäßigen Berechtigungen
- Falscher Tool-Nutzung
- Fehleinschätzung dessen, was das System sicher tun kann
Je mehr Schichten zwischen der verantwortlichen Person und der ausgeführten Arbeit liegen, desto mehr Möglichkeiten gibt es für Fehler.
Traditionelle Software folgt vordefinierten Anweisungen.
KI-Systeme interpretieren Anweisungen.
Dieser Unterschied ist entscheidend.
Eingabevalidierung, Zugriffskontrolle, Protokollierung, Überwachung, Prüfung und Genehmigungsworkflows sind weiterhin notwendig. Aber sie müssen jetzt Systeme berücksichtigen, die nicht vertrauenswürdige Sprache interpretieren und auf der Grundlage dieser Interpretation handeln können.
Die Antwort ist nicht, Automatisierung zu vermeiden.
Es geht darum, klar zu definieren, wer das System besitzt, wer seine Risiken versteht und wer rechenschaftspflichtig ist, wenn etwas schiefgeht.
Die Wahl steht nicht zwischen Menschen und KI.
Die eigentliche Frage ist, wo die menschliche Verantwortung bleiben muss.
Beide Extreme der KI-Debatte sind irreführend
Die eine Seite behauptet, dass KI die menschliche Arbeit vollständig ersetzen wird.
Die andere geht davon aus, dass KI nur geringe Auswirkungen haben wird.
Beide Ansichten sind zu vereinfachend.
KI wird einige Aufgaben automatisieren, einige Rollen überflüssig machen, neue schaffen und viele andere erheblich verändern.
Sie wird es kleineren Teams ermöglichen, Arbeiten zu erledigen, die zuvor viel größere Teams erforderten.
Aber das macht Menschen nicht weniger wichtig.
Es gibt den verbleibenden Menschen mehr Verantwortung.
Da KI die Ausführung schneller und günstiger macht, wird der Wert von Urteilsvermögen steigen.
KI kann Entscheidungen unterstützen und Teile des Entscheidungsprozesses automatisieren. Aber Verantwortung und Rechenschaftspflicht können nicht einfach auf ein Modell übertragen werden.
Investition in Menschen bedeutet nicht, Arbeitsplätze so zu erhalten, wie sie sind
In Menschen zu investieren bedeutet nicht, jede bestehende Rolle, jeden Prozess oder jede Arbeitsweise zu schützen.
Es bedeutet, Menschen zu entwickeln, die sich an neue Gegebenheiten anpassen und zum langfristigen Erfolg der Organisation beitragen können.
Die wertvollsten Menschen sind möglicherweise nicht einfach diejenigen, deren derzeitige Arbeitsplätze am sichersten vor Automatisierung erscheinen.
Es könnten die Menschen sein, die kombinieren können:
- Domänenwissen
- Organisatorischen Kontext
- Kundenverständnis
- Technische Fähigkeiten
- Gesundes Urteilsvermögen
- Risikobewusstsein
- Die Fähigkeit, KI effektiv einzusetzen
Organisationen sollten nicht nur fragen:
"Wie viele Menschen können wir durch KI ersetzen?"
Sie sollten auch fragen:
- Wie kann KI unseren Menschen helfen, ihre Arbeit besser zu machen?
- Welches organisatorische Wissen müssen wir bewahren?
- Wer versteht das System als Ganzes?
- Wer kann schwierige Urteile fällen, wenn es nötig ist?
- Wie werden Menschen KI-generierte Empfehlungen bewerten?
- Wie wird die Verantwortung zugewiesen, wenn KI eine Aktion ausführt?
- Wie stellen wir sicher, dass unsere Teams sich anpassen können, wenn sich die Technologie ändert?
Diese Fragen bestimmen, ob KI ein kurzfristiges Effizienzwerkzeug oder eine langfristige organisatorische Fähigkeit wird.
Der wahre Vorteil
KI mag den Wert routinemäßiger Ausführung verringern, während sie den Wert von Urteilsvermögen erhöht.
Sie mag einige Rollen überflüssig machen, aber sie kann die richtigen Menschen auch weitaus leistungsfähiger machen.
Die Organisationen, die am meisten von KI profitieren, werden nicht einfach so viel wie möglich automatisieren.
Sie werden KI einsetzen, um ihre Menschen effektiver zu machen.
Sie werden Arbeit automatisieren, bei der Geschwindigkeit, Konsistenz und Umfang wichtig sind.
Sie werden eine klare menschliche Verantwortung dort aufrechterhalten, wo Kontext, Risiko, Urteilsvermögen und Rechenschaftspflicht wichtig sind.
Menschen sollten keine Zeit mit Arbeit verschwenden, die KI zuverlässig erledigen kann.
Gleichzeitig sollte KI keine Entscheidungen überlassen werden, die menschlichen Kontext, Verantwortung oder Rechenschaftspflicht erfordern.
Zu wissen, wo diese Grenze liegt, wird ein menschliches Problem bleiben.
Wenn jeder Zugang zu KI hat, wird das Modell selbst nicht der Vorteil sein. Die Menschen, die wissen, wie, wo und wann man es einsetzt, werden es sein.
