Het toendertijd dubbel omgrachte complex wordt al vermeld in 1350 als Wickrader grootleen van Valkenburg. Het was toen in handen van Hendrik van Nieuwenhagen. Rond 1400 was het goed in bezit van de familie Huyn van Amstenrade. Vervolgens ging het over aan de Maastrichtse jonkers Passart, die het vererfden aan de familie Van Strijthagen.
Het complex bestaat uit een rechthoekig herenhuis en een hoeve in onregelmatige U-vorm. In 1547 werd Ulrich van Blitterswijk, genaamd Passart, de nieuwe heer van het goed. Uit de muurankers blijkt dat deze familie in 1612 verbouwingen aan het complex heeft laten uitvoeren. In de komende twee eeuwen volgde nog een aantal families elkaar op als bezitter van Passart-Nieuwenhagen. In 1839 koopt Jean Baptist graaf de Marchant et d’Ansembourg, eigenaar van kasteel Amstenrade, kasteel en hoeve. De windvaan met de letter ‘A’ herinnert nog aan deze familie. Zij zou tot de tweede helft van de 20e eeuw de eigenaar van Passart-Nieuwenhagen blijven.
Het herenhuis, dat ten zuiden van het voorplein ligt, stamt uit de 17e eeuw en is opgetrokken uit baksteen en onregelmatige, grof gehakte blokken zandsteen. In 1679 werden huis en kapel door brand verwoest. Kasteel en voorburcht werden in de volgende jaren hersteld. Rond 1840 werden de beide hoektorens gesloopt en werd de brug vervangen door een oprit. De grachten werden vermoedelijk in die tijd gedempt. Het herenhuis werd in de 18e eeuw ingrijpend verbouwd en kreeg in die tijd onder andere hardstenen segmentboogvensters. In het tweede kwart van de 19e eeuw werd het huis verhoogd. Na de Tweede Wereldoorlog was in het kasteel een tijdlang een jeugdcentrum gehuisvest. Vanaf 1993 is het in opdracht van voormalige Woningstichting De Voorzorg, nu Vincio Wonen genaamd, geschikt gemaakt als opvang voor dak- en thuislozen.