Hallo,
bis vor ein paar Monaten konnte man ChatGPT noch mit folgender Frage veräppeln:
„Zähle mit die Anzahl an [Beliebiger Buchstage] im Wort [Beliebiges Wort]“
Weil sich die Antwort auf diese Frage nicht aus den Lerndaten ableiten ließ, weil sie vermutlich noch nie zuvor (in Internetforen, etc.) gefragt wurde, wie viele e’s das Wort „Donaudampfschiffahrtsgesellschaft“ hat (das ging auch für kürzere Wörter), konnte es diese Frage nicht richtig beantworten.
Kennt ihr noch andere derartige Möglichkeiten, LLMs zu veräppeln (die noch funktionieren)?
Oder generell Möglichkeiten, anhand eher einfacher Beispiele zu zeigen, dass LLM’s unzuverlässig sein können?
