In 1574 schreef de Gentse kroniekschrijver Marcus van Vaenewijck: In dit hof of paleis zijn er driehonderd kamers die allemaal beschikken over een eigen haard en die kunnen worden afgesloten. Het heeft een toren, ook ‘glazen toren’ genoemd, omdat het dak helemaal van glas zou zijn geweest. Het hof heeft zes prachtige poorten, waarvan vier bekroond met een toren. In één van deze torens staat een eenvoudig houten wieg waarin de grote keizer Karel V als baby heeft gelegen en bevindt zich de kamer waarin hij geboren werd.
Het grafelijke hof werd met veel kunst verfraait en opgesmukt om te imponeren bij het huwelijk van Margaretha van Male met de Bourgondische hertog Filips de Stoute op 19 juni 1369 te Gent. Door dit huwelijk kwam Vlaanderen in handen van de Bourgondische hertogen die het Hof ten Walle als hun residentie zullen beschouwen. Filips de Stoute bouwde het Prinsenhof verder uit tot een aangenaam verblijf met een kapel, paardenstallen, gebouwen voor de hofhouding, een hoofdpoort, een middenpoort en de zuidpoort.
In de 15de en 16de eeuw werden belangrijke gebouwen aangepast of bijgebouwd. Ze waren gegroepeerd rond een binnenhof en met brede grachten omgeven.
Tegen de Sint-Widokapel werd een grote langwerpige hal aangebouwd. En hoog boven de gebouwen van het opperhof rees een belvédèretoren. Hij stond symbool voor de macht, het imago en de status van de bewoners.
Men plande ook een dubbele galerij en een aanpalend hoog opgetrokken vrouwenkwartier in renaissancevormen.
Tegen de hal kwamen zes parallelle vleugels die een groot aantal kamers bevatten.
Een zeshoekig tuineilandje lag afgezonderd in een verbreed gedeelte van de gracht. Rust en ontspanning werd gezocht in de omringende siertuinen en op de schietbaan die uiterst links afgebeeld is. Twee ophaalbruggen zorgden voor de toegankelijkheid ervan vanuit het paleis. Een derde, vaste brug verzekerde de verbinding van de hertogelijke woning met een ruim voorplein.
Om het Hof ten Walle te kunnen verdedigen en geschikt te maken voor bewoning werd het opperhof omringd door een slotgracht. Deze wal stond tot in verbinding met de westelijk gelegen Begijnengracht en de Lieve die ten noorden van het Prinsenhof lag en via het rabot aan Sanderwalle buiten de stadsvesten en verder in noordoostelijke richting naar Wondelgem liep. Het waterpeil in de wallen rond het paleis werd geregeld binnen de vesten met een klein sas in de Lieve. Aan de noordzijde van het kerneiland en nabij de Donkere Poort lag er nog een visvijver die in verbinding stond met de Lieve.
Meestal vermeldt men hertog Filips de Goede als dé grote bouwheer van het Gentse Prinsenhof. Maar ook andere leden van de hertogelijke familie, die in de Gentse residentie verbleven lieten bouwen en verbouwen: Isabelle van Portugal, Karel de Stoute, Margaretha van York, Maria van Bourgondië, ook Filips de Schone, Karel V, Margaretha van Oostenrijk en Margaretha van Hongarije drukten hun stempel op het bouwkundig patrimonium van het Prinsenhof.
In 1477 werd in het Prinsenhof het huwelijk ingezegend van Maria van Bourgondië met Maximiliaan van Oostenrijk. Zoals algemeen bekend zag de latere Karel V hier op 25 februari 1500 het levenslicht. Ook aartshertogen Albrecht en Isabella verbleven hier in het begin van de 17de eeuw.
Afbeelding onder: Aula Principis Gandavi’ in Flandria Illustrata, Antonius Sanderus, 1641