ich weiss nicht, wie intensiv Du Dich mit der Materie beschäftigen willst. Es gibt (natürlich) ein interessantes Open-Source Projekt in dem Bereich. Du findest nähere Informationen unter
Auf der Seite http://www.videolan.org/links.html findedst Du für den Anfang genügend Verweise bezüglich der technischen Einzelheiten. Da die Software obendrein (wie bei Open Source üblich) komplett als Quellcode für genauere Studien zur Verfügung steht, solltest Du damit schon sehr viel weiter kommen.
Bestimmt kann Dir jemand aus der dort ebenfalls vorhandenen Mailingliste gute Literaturhinweise geben.