A Múzeum körút 18. szám alatt található lakásában ravatalozták fel a holttestet, majd a temetés napján a takarékpénztári palota előcsarnokában. Itt Hauszmann Alajos és családja is elhelyezte a koszorúját. Innen hatfogatú gyászkocsi vitte a koporsót a Kerepesi úti temetőbe, az utcán nagy sokaság figyelte a néma gyászmenetet. Az Ybl család amúgy kettős gyászt ült, hiszen a nagy építész halála előtt két nappal halt meg Frölich Gusztáv, akinek lánya Ybl Miklós fiának, Félixnek volt a felesége.
Ybl halála után sok építész pályázott és lobbizott a megüresedett helyre.
Ferenc József végül márciusban adott megbízatást Hauszmannak,
aki azonnal munkához látott. Természetesen nem feledkezett el a nagy elődjéről, akiről a következőképpen emlékezett az építészek egyik budapesti fórumán:
„Ybl mesterünk egy nagy alkotásának folytatásával bíztak meg, érzem gyöngeségemet és csak a munka iránti lelkesedés ád erőt, hogy a folytatást megkisértsem. Az a kimagasló művészi pozíció, melyen ő állott, egyhamar egyikünk sem érheti el (…). Voltak Ybl-nek, mint embernek is oly kiváló tulajdonságai, melyek szintén példaként állnak előttünk, s melyeket nemcsak követnünk, de elérnünk is lehet és elérnünk is kell.”