A mai szemmel talán meglepő módon természettudományos kérdésekkel is gyakran foglalkozó Nyugat folyóirat idézett nekrológja Szily Kálmánt kutatóként csak röviden méltatta, tudásátadó tehetségét viszont annál nagyobbra értékelte: „Fizikai kutatásainak eredményeit jelentékenyebb tudományos munkák nem jelzik, de mint tanár nagy hatással volt hallgatóira és a magyar mérnökök ezrei gondolnak hálával vissza mindig világos és mély tanításaira.” Trócsányi Zoltán, a búcsúztató cikk szerzője a tudományszervező Szilyt így méltatta: „Mint a közművelődés lelkes apostola a nagy közönség számára Természettudományi Közlönyt alapított, amelynek programja közérdekű természettudományi kérdések népszerű formában való ismertetése volt.” Ez az 1869-ben alapított közlöny a mai Természet Világa folyóirat elődje. Európában ugyanabban az évben az angolok indítottak ilyen folyóiratot, a Nature-t. A Nature nemzetközi hírű tudományos első közlő szaklappá vált, a Természettudományi Közlöny, majd a Természet Világa megmaradt a tudományterületek közötti információcserét segítő, természettudományos ismeretterjesztő folyóiratnak.
A fizikai és mérnöki tudományoktól mindinkább eltávolodó Szily igazi hivatását a tudományszervezés mellett a nyelvészetben találta meg. Felismerte ugyanis, hogy az 1868-ban elfogadott közoktatási törvény sikeréhez a természettudományok területén hiányoznak a nyelvi alapok. Mert szépen hangzottak ugyan Eötvös Józsefnek az Országgyűlésben elmondott szavai a törvénnyel kapcsolatban – „részemről meg vagyok győződve, hogy azon percben, melyben Magyarország művelt osztályai át lesznek hatva azon kötelességtől, hogy azokat, akik műveltségben még nem részesültek, magokhoz emeljék, azon percben a népnevelés ügye haladni fog óriási lépésekkel” –, a magyar nyelv még nem állt készen arra, hogy a korszerű tudományos ismereteket sokaknak közvetíteni tudja.
A Szily Kálmán elődjének tekinthető Bugát Pál orvos és nyelvújító, valamint tudósköre munkássága sokat tett ugyan a tudományos kifejezések magyar nyelvbe való átültetéséért, a nyelvújítás korában megalkotott kifejezések között sok olyan akadt, amely már idegenül csengett az 1800-as évek második felében. Ezért aztán Szily kritikai vizsgálat alá vetette a tudományos nyelvalkotás kifejezéseit, s összeállította A magyar nyelvujítás szótárát. Ennek révén gyakorlatilag megrostálta a szavakat, s kiválogatta azokat a kifejezéseket, amelyek mind a mai napig életképesek. Bugát Pál orvosi nyelvújítási szavai közül például legalább öt tucat szakszót vett fel a szótárába. Így maradt meg a mindennapi használatban például a csipesz a csípni való eszközből, a gyógyszer a bonyolult orvoslani való szer kifejezésből vagy a műtét, felváltva a nyakatekert műveglés szót.
A fizikus Szily Kálmán a pályája végére egészen átalakult bölcsésszé, filológussá. A Nyugat szerzője ezt így idézte fel: „Mint az Akadémia főkönyvtárnoka a legideálisabb könyvtárnok volt. Bárki fordult is hozzá tanácsért, útbaigazításért, Szily Kálmán a legnagyobb örömmel állott rendelkezésére. Nem túlozok, ha azt mondom, hogy fiatal kutatóknak, akiket »uramöcsém«-nek szólított, egy-egy adat megkeresése érdekében heteken át bújta a könyveket és az utolsó évtizedek tudományos műveiben sokszor olvashatjuk csillag alatt: »Szily Kálmán szíves közléséből van tudomásom a fenti adatról«.” Kell annál nagyobb tudományos megbecsülés, mint ha valakinek a szóbeli közlését forrásmegjelölésként használják?
A régi magyar nemesi családok történetével, családfakutatással, genealógiával szinte már csak kedvtelésből foglalkozott. De – Gombocz Zoltán neves nyelvésznek a Magyar Nyelvtudományi Társaság közgyűlésén elmondott emlékbeszéde alapján – az eredetileg műszaki végzettségű Szily érdeklődése egészen a középkori nyelvemlékeink, a magyar vonatkozású kódexek összehasonlító elemzéséig kiterjedt.