Ráth azonban ezt követően sem adta fel az álmait: két évvel később Józsefvárosban már ő nyerte a választást, és így bekerült a fővárosi testületbe. Ekkortájt már ügyészként dolgozott – később sokan a szemére vetették, hogy vád alá helyeztette a Magyar Újság szerkesztőjét, akinek az volt a bűne, hogy megjelentetett egy levelet az emigrációban élő Kossuth Lajostól.
1873-ban megválasztották az egyesített Budapest első főpolgármesterének. (Érdekes statisztikai adat, hogy a fővárosnak akkoriban csupán 300 ezer lakója volt.) Ráth hamar magához ragadta a kormányrudat, határozott volt, a város pedig fejlődésnek indult, ami nem tetszett az ellenzéknek. Többféle módon is igyekeztek kikezdeni a főpolgármestert, egyebek közt azt terjesztették, hogy a város ügyeit valójában nem ő, hanem Kammermayer Károly polgármester viszi, Ráth pedig főleg csak reprezentál. A Pesti Hírlap meg is jegyezte 1884-ben: „Valamint az égen, úgy a fővárosban két világító test van. Az egyik Kammermayer, aki éjjel világít, amikor a világosság hasznos dolog, a másik Ráth Károly, aki nappal világít, csakúgy a parádé végett.”
Ráth megválasztásakor a Pesti Napló a következőképpen fogalmazta meg kívánalmait: