Hi Philipp 
Der ASCII-Wert 27 steht für ESC. Damit werden sog. Escape-Sequenzen eingeleitet, die eine bestimmte Bedeutung haben (z.B. Farbwechsel für alle folgenden Zeichen). Die sehen etwa aus wie „ESC[27;“. Da du deine Datei im Textmodus geöffnest hast, versucht fgetc() beim ASCII-Wert 27 eine Escape-Sequenz zu finden. Da bei dir aber da 27,28,29,30, … gespeichert ist, kann fgetc() keine sinnvolle Escape-Sequenz finden. Der Rückgabewert ist dann undefiniert.
Wenn du deine Datei im Binärmodus öffnest, also:
FILE \*ausgabe= fopen("C:\\Dateien\\out2.txt","r+b");
dann hast du ein Problem gelöst. „r+b“ bedeutet dabei „read write binary“. Du kannst auch „w+b“ nehmen. Der Unterschied ist, dass beim ersten eine existierende Datei nicht überschrieben wird, beim zweiten aber schon.
Dein zweites Problem ist, dass der maximale Wert eines unsigned char gleich 255 ist und nicht 265.
Viele Grüße
Stefan.