Ohne jetzt die entsprechenden Paragraphen auswendig zu kennen (IANAL =) ) würde ich mal folgendes sagen: Prinzipiell dürfte das BGB den Verbraucher (also die Privatperson) schützen und diese durch den Mangel nicht schlechter dastehen lassen.
Das bedeutet also der Händler müsste die Kosten übernehmen müssen.
(Natürlich vorausgesetzt es handelt sich um einen Sachmangel im Sinne der Gewährleistung.)
Soweit ich mich entsinnen kann ist da bei der Sachmangelhaftung auch kein Hinweis, wie es sich da rechtlich verhält.
Allerdings kann sich da auch in den letzten beiden Jahren etwas zum Thema getan haben (ich bin da nicht auf dem aktuellen Stand, also berichtigt mich bitte, wenn ich falsch liege!)
Die andere Seite ist natürlich: Wenn der Käufer sich noch innerhalb der 2 Wochen ab Zugang des Artikels befindet und der Kaufvertrag im Sinne des allgemein so genannten Fernabsatzgesetzes stattgefunden hat und die Kaufsumme 40 Euro überschritten hat und die Zustellung versandkostenfrei war, dann tritt einfach vom kaufvertrag zurück - der Händler muss dann die Portokosten tragen.
Wenn das alles erledigt ist, dann kaufe einfach nochmal den gleichen Artikel (beim selben Händler oder einem der auch versandkostenfrei liefert!).