bis vor ein paar Monaten konnte man ChatGPT noch mit folgender Frage veräppeln:
„Zähle mit die Anzahl an [Beliebiger Buchstage] im Wort [Beliebiges Wort]“
Weil sich die Antwort auf diese Frage nicht aus den Lerndaten ableiten ließ, weil sie vermutlich noch nie zuvor (in Internetforen, etc.) gefragt wurde, wie viele e’s das Wort „Donaudampfschiffahrtsgesellschaft“ hat (das ging auch für kürzere Wörter), konnte es diese Frage nicht richtig beantworten.
Kennt ihr noch andere derartige Möglichkeiten, LLMs zu veräppeln (die noch funktionieren)?
Oder generell Möglichkeiten, anhand eher einfacher Beispiele zu zeigen, dass LLM’s unzuverlässig sein können?
Man könnte die KI die Reden eines bekannteren amerikanischen Präsidenten übersetzen lassen. Allerdings hätte man damit auch mit komplett analogen Mitteln (also ohne automatisierte technische Mittel aller Art) ein Problem…
ChatJPT kam neulich an Grenzen, als ich von einem Verein der 2. Bundesliga wissen wollte, wie viele Punkte er in den letzten Jahren an einem bestimmten Spieltag hatte. Die KI fand nur Ergebnisse vom Spieltag davor und vermutete, dass der Verein 1, 2, 3 oder 4 Punkte mehr hat. Dass eine Mannschaft in einem Spiel weder 2 noch 4 Punkte bekommen kann, wusste sie also nicht. Auch nach meiner Hilfestellung kam sie nicht weiter.
Also da im Sportbereich geht bestimmt noch einiges!
Ich würde da nach Personen fragen, die man selbst gut kennt, die es aber nicht bis zu einem Wikipedia-Eintrag geschafft haben. Beispielsweise meinen kommunalpolitisch tätigen verstorbenen Vater.
