Erzeugen Prompts durch beim Reinforcement Learning with Human Feedback einen Bias im…
- User
Erzeugen Prompts durch beim Reinforcement Learning with Human Feedback einen Bias im Training Set der das Verhalten des Dialogsystems beeinflusst?
- Assistant
Ja, es ist möglich, dass Prompts einen Bias im Training Set erzeugen können, wenn man Reinforcement Learning mit menschlichem Feedback verwendet. Sprachmodelle haben in den letzten Jahren beeindruckende Fähigkeiten gezeigt, indem sie aus menschlichen Eingabeaufforderungen vielfältigen und überzeugenden Text generieren. Was jedoch einen "guten" Text ausmacht, ist von Natur aus schwer zu definieren, da er subjektiv und kontextabhängig ist. Es gibt viele Anwendungen, wie z. B. das Schreiben von Geschichten, bei denen Sie Kreativität wünschen, informative Texte, die wahrheitsgemäß sein sollten, oder Code-Schnipsel, die ausführbar sein sollen.
Other models, same or similar prompt
Responses were produced in different, uncontrolled contexts (system prompts, settings, prior turns). This is not a benchmark.
Identical first prompt
- Human-written demonstration (OpenAssistant volunteers)Compare side by side →
- Human-written demonstration (OpenAssistant volunteers)Compare side by side →
- Human-written demonstration (OpenAssistant volunteers)Compare side by side →
- Human-written demonstration (OpenAssistant volunteers)Compare side by side →
- Human-written demonstration (OpenAssistant volunteers)Compare side by side →
- Human-written demonstration (OpenAssistant volunteers)Compare side by side →