Anciennement, le Square Palfyn était un étang, le Durrebroeck, qui collectait les eaux du versant s’étendant jusqu’à la chaussée romaine. Il donnait naissance au Heyselbeek qui longeait la rue du Heysel jusqu’à la Place St-Lambert où il alimentait un moulin, le slagmolen, après avoir récupéré les eaux d’un ruisselet venant du steenpoel (parc d’Ossegem). Il bifurquait alors au Sud pour alimenter l’étang du Square Clémentine et se jetait dans le Molenbeek à hauteur du Square Léopold. L’étang a été comblé après 1958.
La Fontaine de Neptune (dessin : architecte Charles Beyaert ; réalisation : sculpteur E. Fierens) qui se trouve en bordure de l’avenue Houba date de 1866. Elle a été érigée initialement Porte de Namur en l’honneur de Charles de Brouckère. Derrière, se trouve une autre sculpture, Le Semeur de Mathieu Desmaré. (source : La Région de Bruxelles-Capitale, in collection Histoire et Patrimoine des Communes de Belgique, Racine, 2008 – p.535)
La fontaine a été démontée en 1957 lors du réaménagement de la Porte de Namur dans le cadre des travaux de l’Expo 1958. Elle a été entreposée jusqu’en 1978 et sa réinstallation au Square Palfijn. Les attributs des deux divinités marines ont disparu lors du démontage-entreposage. Le sommet du monument (ensemble de 3 putti) est l’œuvre de P.-L. Dunion. (source : Les fontaines racontent Bruxelles, Fabien De Roose, Racine, p. 97)