El jardín tiene su origen en el siglo XVIII, cuando ya se cultivaban plantas ornamentales, frutales y especies forestales. La estructura del jardín actual se creó en 1870, cuando heredan el castillo los Marqueses de la Vega de Armijo y lo trasforman en residencia de verano. En esta época se construye la capilla de San Caetano y se plantan en el jardín que rodea al castillo numerosos ejemplares de especies de árboles exóticos.
En 1902 la propiedad fue heredada por la Marquesa de Ayerbe que en su libro “Apuntes históricos sobre Soutomaior” menciona las especies arbóreas que crecían en el parque (cedro del Líbano, eucalipto, pinos, palmeras, naranjos, camelias, magnolias ...).
En 1935 lo compra Eugenio Carlos de Hostos y Ayala que restaura la propiedad y amplía el jardín. Tras su muerte, sus hijos continúan ampliando la superficie forestal, pero entre los años 70 y 80, parte del bosque se vende a la industria maderera.
En
1982, el Castillo fue adquirido por la Diputación de Pontevedra que tras realizar una gran labor de restauración y recuperación del parque, lo abrió al público. Actualmente cuenta con
25 hectáreas, dedicadas a viñedo, bosque autóctono, frutales y parque botánico. Este parque, considerado de los más importantes de Galicia, reúne más de cien variedades de
camelias y árboles de los cinco continentes, con algunos ejemplares incluidos en el “Catálogo de árboles monumentales de Galicia”.
Durante el Congreso Internacional de Camelia celebrado en China en febrero de 2012, el Castillo de Soutomaior fue nombrado
Jardín de Excelencia Internacional por la Sociedad Internacional de la Camelia. Además, pertenece a un circuito de jardines (
Ruta de la camelia de Galicia), de gran interés turístico, histórico y artístico.
En la actualidad, se dedica a fines culturales: talleres educativos, exposiciones temporales, visitas guiadas, sesiones fotográficas, reuniones y celebraciones de otros eventos. Además en el parque hay un hotel, un restaurante, una cafetería y una sala de banquetes.