Probleme beim Transcodieren mit PS3 Media Server

Hallo zusammen, ich habe mich vor kurzem dazu entschlossen meinen in die Jahre gekommenen Sony LCD Tv ins Schlafzimmer zu verbannen und hab mir nen Samsung UE46ES7090 geleistet. Fand dies nach längerer Recherche optimal da ich hiermit gleich meinen Labo110 Mediaplayer aus dem Wohnzimmer verbannen wollte. Habe mir vorher schon einige Beiträge zum Tema DLNA durchgelesen und mich entschieden dies mit dem PS3 Media Server zu realisieren. Da ich schon einen Eigenbau Server habe war dies die beste Lösung. Leider funktioniert trotz vieler versuche das Transcodieren nicht. Auch alle Tips die ich bei der Suche in google und Foren gefunden habe brachten keinen erfolg. Filme die der Player im Tv ohne Transcodieren abspielen kann funktionieren, nur eben Filme nicht die Transcodiert werden müssen. Versuche nun schon 3 Tage alle erdenklichen Einstellungen aus aber ohne Erfolg. Noch ein par Infos zur Hardware
Prozesser AMD X2 2.8 GHz
4 GB Ram
Windows Home Server 2011
Fritz Box 6360
Gigabit Switch und Gigabit NIC
Auf dem TV erscheint entweder die Meldung "Netzwerkverbindung überprüfen" oder "Dateiformat wird nicht unterstütz". Hat irgendwer hierfür eine Lösung?