Jusqu'à la Révolution, celui-ci fût l'apanage d'une seule famille, celle des LEMAISTRE. Il fût le siège d'une Seigneurie féodale. Il était entouré de douves, seul un pont levis en permettait l'accès.
Les membres de cette famille de Chevalerie bretonne se mirent au service des Ducs de Bretagne. A la bataille d'AURAY, en 1364, Alain LEMAISTRE est dans le camp des MONTFORT, il commande une compagnie de lanciers.
Pierre LEMAISTRE se rallie à Françoise de DINAN, Baronne de CHATEAUBRIANT, pour la résistance à l'annexion de la Bretagne. Isaïe LEMAISTRE se fait tuer au service de Rois protestants contre la Ligue. Son frère Guillaume adhère aux idées de la Réforme et devient l'un des patrons de l'Eglise réformée de SION. Grand ami du Roi Henri IV, celui-ci le choisit pour le représenter aux conférences qui se tiennent au Château du GRAND-FOUGERAY pour traiter de la paix avec MERCOEUR et préparer l'Edit de NANTES.
François-Marie LEMAISTRE devient évêque de CLERMONT-FERRAND en 1742. En son temps, le château fut augmenté de toute la partie Est.En 1857, la Garrelaye devient propriété de Frédéric HAY DE SLADE. Il était le descendant d'une très ancienne et illustre famille de chevalerie d'origine Irlandaise, avant de devenir française en 1698.En 1926, le Comte Henri HAY DE SLADE hérite de la GARRELAYE. En 1914, il devient officier de chasseurs à cheval, et en 1916, il passe à l'aviation de chasse. Il abat 18 appareils ennemis, ce qui lui valut 17 citations dont 15 à l'ordre de l'armée, il est fait Grand Officier de la Légion d'Honneur et devient Maire de DERVAL en 1937. Son fils Serge lui succède à la GARRELAYE.