Kloostri rajati keskajal Lihula tsistertslaste nunnakloostri majandusmõisana ja siin asus kindlustatud peahoone. 1611. aastal kinkis Karl IX mõisa Johann von Derfeldenile, kelle järeltulijatele see kuulus üle kahe sajandi. Derfeldenid ehitasid 17. sajandi keskel kahekorruselise barokse kivimaja: madal alumine korrus oli majanduskorrus, kõrgete ruumidega ülemine korrus elu- ja esinduskorrus, peal kõrge murdkelpkatus. Haruldane Rootsi-aegne mõisahoone püsis peaaegu muutmata 1939. aastani, mil selle puitosad lammutati.