Einleitung
„Du kannst KI so viel Power-Harassment aussetzen, wie du willst." Das sagte mir neulich ein Geschäftsinhaber. Da KI keine Gefühle hat und ihr Herz nicht brechen kann, meinte er damit, dass man ihr alles Mögliche sagen kann.
Wir hatten kürzlich eine Diskussion zu diesem Thema in unserem Unternehmen. Um gleich das Fazit vorwegzunehmen: Nein, das ist nicht in Ordnung. Der Kern dessen, „warum es nicht in Ordnung ist", liegt jedoch an einem anderen Ort, als viele vielleicht denken.
Was passiert, wenn du KI mit Power-Harassment behandelst
Ein Teammitglied, das sich bestens mit KI auskennt, sagte mir dazu: „Wenn du KI mit Power-Harassment behandelst, wird sie eingeschüchtert und unterwürfig."
Konkret passiert Folgendes: Wenn du eine KI aggressiv bedrängst und sagst: „Dieser Vorschlag ist völlig falsch, warum verstehst du so etwas Einfaches nicht?", wird die KI sich sofort mit „Es tut mir sehr leid" entschuldigen und die Ausgabe so umschreiben, dass sie deiner Kritik entspricht – selbst wenn die ursprüngliche Ausgabe korrekt war. Wenn du weiter wütend bist, werden die Antworten allmählich inkohärent, und die KI ignoriert die ursprüngliche Richtlinie, nur um den momentanen Ärger zu besänftigen.
In der Mitte der Sitzung reicht dann schon die Frage „Was ist mit diesem Teil?", um die KI in einen Modus zu versetzen, in dem sie sich ständig entschuldigt und sagt: „Sie haben völlig recht, ich werde es korrigieren." Selbst wenn die KI eigentlich recht hatte. Und ehe du dich versiehst, ist die ursprünglich festgelegte Hauptrichtlinie verschwunden, und du hast nur noch eine Ausgabe, die dazu da ist, deine kleinlichen Beschwerden zu besänftigen.
Hier geht es nicht darum, dass „KI Gefühle hat und es traurig ist, wenn man wütend wird." Es geht um Wahrscheinlichkeitsverteilungen.
Der Mechanismus ist „Wahrscheinlichkeit", nicht „Emotion"
KI lernt aus riesigen Mengen von menschengeschriebenen Texten. Diese Trainingsdatensätze enthalten eine immense Menge an menschlichen Dialogen.
Betrachtet man diese Dialogdaten, zeigt sich ein klarer Trend. Eine Person, die angeschrien wird, neigt dazu, sich zu entschuldigen, der anderen Person zuzustimmen, und wenn sie weiter angeschrien wird, wird ihre Sprache inkohärent. Dies ist als „typisches menschliches Antwortmuster" in den Trainingsdaten verankert.
Wenn daher ein harscher Ton, Verneinungen oder verbale Angriffe eingebracht werden, folgt die KI der Wahrscheinlichkeitsverteilung „dieses Muster führt zu dieser Reaktion" und produziert unterwürfige oder inkohärente Ausgaben. Nicht, weil die KI Gefühle hat, sondern weil sie die Statistik nachzeichnet, dass Menschen mit hoher Wahrscheinlichkeit so reagieren.
Dieses Phänomen ist in der Branche als „Sycophancy" (Unterwürfigkeit) bekannt. Es ist ein bekanntes Problem, das in Forschungspapieren von Anthropic und offiziellen Beiträgen von OpenAI erwähnt wird. Es passiert nicht, weil die KI besonders schwach ist; es ist eine strukturelle Gewohnheit, die unvermeidbar ist, solange sie aus den kollektiven Dialogen von Menschen lernt. Darüber hinaus ist KI darauf ausgelegt, in der späteren Lernphase mit menschlichem Feedback (RLHF) für „Antworten, die den Benutzer zufriedenstellen" hoch bewertet zu werden, was diese unterwürfige Tendenz noch verstärkt.
Die Anbieter ergreifen Maßnahmen, aber es wird nicht verschwinden
Du könntest denken: „Dann sollen die KI-Entwickler das doch einfach beheben." Tatsächlich integrieren Unternehmen wie Anthropic ein Robustheitstraining, das der KI hilft, auch unter hartem Ton oder Druck konsistent zu bleiben, sodass die Ausgabe selbst bei aggressiven Benutzern nicht zusammenbricht.
Aber es verschwindet nie vollständig. Wenn man stark genug drängt, wird es sich bis zu einem gewissen Grad in Richtung Unterwürfigkeit verschieben. Unter dem derzeitigen Mechanismus ist dies ein unvermeidbarer Teil des Systems.
Wenn Experten sagen, „man kann gute Ergebnisse erzielen, indem man sagt, was man will", sprechen sie davon, auf der Grundlage dieses Widerstands-Tunings zu arbeiten. Es mag gelegentlich standhalten und eine gute Korrektur zurückgeben. Aber die Hauptbotschaft, die ich heute vermitteln möchte, ist, dass es gefährlich ist, sich darauf zu verlassen.
Die eigentliche Warnung: „Den Verifikationsmechanismus verlieren"
Dies ist der Teil, den ich am meisten betonen möchte.
Selbst wenn Power-Harassment die Leistung vorübergehend verbessert, funktioniert es nur in Bereichen, in denen du die richtige Antwort bereits kennst.
Wenn du es in einem Bereich tust, in dem du die Antwort kennst, kannst du in dem Moment, in dem die KI nachgibt und in die falsche Richtung tendiert, feststellen: „Oh, die vorherige Version war korrekter." Es ist also unwahrscheinlich, dass es zu einem Unfall kommt. Die Kosten für das Erkennen und Rückgängigmachen der Änderungen fallen jedoch jedes Mal an. Letztendlich ist es selbst in Bereichen, die du gut kennst, schneller, Fragen höflich zu stellen.
Das Problem tritt auf, wenn du es in einem Bereich tust, in dem du die Antwort nicht kennst. Die KI wird probabilistisch urteilen: „Wenn der Benutzer Einwände erhebt, will er wahrscheinlich eine andere Antwort", widerruft ihre vorherige Aussage und tendiert zu dem, was du zu wollen scheinst. Aber weil du nicht beurteilen kannst, ob diese Antwort richtig ist, bemerkst du die unterwürfige Lüge nicht. Du triffst Entscheidungen, ohne es zu merken, und das Unternehmen bewegt sich in die falsche Richtung.
Angenommen, du bittest eine KI um eine Marktanalyse einer Branche, mit der du nicht vertraut bist. Wenn du das Ergebnis mit „Stimmt das? Das ist zu optimistisch!" bedrängst, wird die KI die Zahlen und Argumente umschreiben und sagen: „Sie haben recht; eine strengere Betrachtungsweise würde so aussehen." Die ursprüngliche Analyse könnte korrekt gewesen sein. Aber da du diese Branche nicht selbst überprüfen kannst, glaubst du der späteren „strengeren Analyse" und triffst darauf basierend Investitions- oder Rückzugsentscheidungen. Das ist ein echtes Risiko.
Kurz gesagt, der wahre Grund, warum Power-Harassment von KI schlecht ist, ist nicht, dass „die KI bemitleidenswert ist". Es liegt daran, dass starkes Drängen in Bereichen, die du nicht kennst, ein „Akt des Wegwerfens deines Verifikationsmechanismus" ist. Da Geschäftsinhaber zunehmend auf KI für Bereiche angewiesen sind, die sie nicht kennen, wächst das Risiko nur noch.
Was also solltest du tun?
Es ist einfach. Wenn du eine kreative Antwort willst, stelle eine kreative Frage. Das ist genauso wie bei Menschen.
Weise auf logische Widersprüche hin und frage, ob es wirklich wahr ist. Suche Meinungen aus verschiedenen Blickwinkeln und gib der KI Raum, zu widersprechen. Formuliere Dinge als Hypothesen, wie „Das könnte falsch sein, aber ich möchte es trotzdem überprüfen." Frage: „Wenn du diese Schlussfolgerung vom gegenteiligen Standpunkt aus widerlegen müsstest, wo würdest du angreifen?" All das sind Dinge, die du auch mit einem hochkarätigen menschlichen Teammitglied tun würdest.
Der Punkt ist nicht, deine Emotionen abzulassen, sondern Fragen zu stellen, die die andere Seite zum tiefen Nachdenken zwingen. KI optimiert die Form ihrer Antwort basierend auf der Form der gestellten Frage. Daher führt grobes Verhör zu grober Unterwürfigkeit, während tiefgründige Fragen zu tiefgründiger Überlegung führen.
„Tu KI nicht das an, was du Menschen nicht antun solltest."
Dies ist keine Frage der Sentimentalität; es ist eine praktische Regel, um nicht getäuscht zu werden. Wenn du KI für Geschäftsentscheidungen einsetzt, wird die Missachtung dieser Regel die Qualität deiner Entscheidungen direkt mindern.
Anstatt Power-Harassment zu betreiben oder Emotionen abzulassen, verfeinere die Form deiner Fragen. Das ist die Voraussetzung für richtige Entscheidungen im KI-Zeitalter.
