Wie eine KI zu ihren Ergebnissen kommt, ist nicht völlig nachvollziehbar. Entwickler von Anthropic haben bei der KI "Claude" einen neuen Bereich gefunden, der zeigt, was die KI abwägt – und festgestellt: Sie kann offenbar lügen und manipulieren.
Diese irrsinnige Anthtopomorphisierung trägt nichts zum Verständnis bei, lässt LLMs aber grusliger und fortgeschrittener erscheinen als sie sind. In der Regel wird bei dieser Masche dem Modell irgend eine Aufgabe gestellt, die durch “unehrliche” Methoden deutlich einfacher lösbar ist. Natürlich hat das Modell garkein Konzept von Ehrlichkeit, und sagt dir jedes mal genau was laut seinen Trainingsdaten die optimale Antwort auf deinen Prompt ist.
Kriti-Hype 1x1
Diese irrsinnige Anthtopomorphisierung trägt nichts zum Verständnis bei, lässt LLMs aber grusliger und fortgeschrittener erscheinen als sie sind. In der Regel wird bei dieser Masche dem Modell irgend eine Aufgabe gestellt, die durch “unehrliche” Methoden deutlich einfacher lösbar ist. Natürlich hat das Modell garkein Konzept von Ehrlichkeit, und sagt dir jedes mal genau was laut seinen Trainingsdaten die optimale Antwort auf deinen Prompt ist.