Az értéksemlegesség hamis álcája mellett a nemzetközi irodalom ismertet konkrét módszertani hiányosságokat is, amelyek általánosságban jellemzik ezeket a mutatókat. Egyfelől, amikor egy index olyan elvont alapelvekkel, fogalmakkal operál, mint a demokrácia vagy a versenyképesség, akkor eleve nincs elfogadott definíció arra vonatkozólag, hogy mik ezen elvont fogalmak empirikusan mérhető jellemzői. Így a mérési szempontok kiválasztása már eleve önkényes és értékítéletet foglal magában. Ennél még nagyobb probléma, hogy az egyes mutatókat készítő intézmények miképpen választják ki a méréshez használt adatokat. A szelekció során is jelentkezhet ugyanis előítéletesség. Különösen igaz ez azokra az esetekre, amikor nem konkrét mérésen alapuló, esetleg nyilvánosan elérhető adatok alapján dolgozik egy-egy intézet, hanem szakértői vélemények és értékelések – menthetetlenül szubjektív – szempontjai mentén alakul ki egy-egy mérőszám. Még nagyobb probléma, hogy a meglévő adatokat milyen módszerek szerint aggregálják. Az eltérő aggregációs módszereknek köszönhetően extrém esetekben az is megtörténhet, hogy az elméletileg ugyanazt mérő, sőt, nagyjából ugyanolyan adatokkal is operáló nemzetközi mutató teljesen más eredményt hoz ki ugyanazon ország esetében. Másrészt – állapítja meg a szakirodalom – az aggregálás során keveredhetnek az objektív és szubjektív adatok, ezzel gyengítve a kész mutatószám objektivitását és hitelességét.
Mivel a Századvég által is elemzett Nations in Transit és a Freedom in the World módszertana nagyban hasonlít egymásra, érdemes ide idézni a Századvég tanulmánya által az előbbiről tett megállapításokat. A legszembetűnőbb körülmény, hogy egy-egy országról, így a Magyarországról szóló jelentést is egyetlen személy (!!!) készítette el. Ezt a jelentést ugyan felülvizsgálhatja egy bíráló bizottság, azonban ilyen felülvizsgálatnak nincs nyoma. A 2016-os jelentés – amely értelemszerűen a 2015-ös évet elemezte – ezen túlmenően főleg baloldali magyar sajtóban megjelent cikkek alapján értékelte a magyar demokrácia állapotát.
Az egy szem szerző a felhasznált sajtóhivatkozások segítségével összeállt helyzetkép alapján értékelte Magyarországot, amely értékelését konkrét pontokra, tehát mérőszámokra váltja. Itt jól tetten érhetőek az indexekkel kapcsolatos általános kritikák. Egyfelől a Freedom House demokráciafogalma finoman szólva sem egzakt, másrészt akárhogy szépítjük, mégis csak arról van szó, hogy egyetlen szakértő szubjektív megítélése alapján áll össze a jelentés. (Arról nem is beszélve, hogy még tárgyi tévedés is szerepel a 2016-os jelentésben: a szerző által elemzett „tömeges bevándorlás okozta veszélyhelyzet” elnevezése valójában „tömeges bevándorlás okozta válsághelyzet”.)
Most térjünk rá az aktuális jelentés vizsgálatára! Nem segíti az átláthatóságot, hogy a Freedom in the World módszertana kevésbé részletesen érhető el a Freedom House honlapján, mint a Nations in Transit indexé. Az külön furcsaság, hogy magában a jelentés hivatalos PDF-változatában a módszertanra mutató link hibásan szerepel, azonban kisebb keresgélés után a szervezet honlapján megtalálható a leírás (lentebb részletesen elemezzük). A végül nehezen megtalálható módszertan azonban – ha lehet ezt mondani – még a Nations in Transit módszertanánál is kevésbé követhető. Itt is egy szakértői stáb állítja össze a jelentést, amely vélemény alapján az egyes országok megkapják pontszámaikat. Azonban, szemben a Nations in Transit jelentéssel, itt nem tudható, hogy ki írta az egyes országokról szóló jelentést, és kik a tagjai a felülvizsgálatot végző bizottságoknak.
Ezen cikk megírásakor ráadásul a Magyarországról szóló részletes jelentés még nem érhető el, csak a puszta pontszámok vannak feltüntetve a vonatkozó honlapon. Összehasonlításképpen érdemes megnézni az Egyesült Államokról szóló jelentést, amely viszont már elérhető. Itt is elég súlyosak a hiányosságok. Nem ismerhető meg a jelentés szerzője és nem találhatóak bennük hivatkozások sem, amelyek alapján legalább megközelítőleg megállapítható lenne, hogy milyen események alapján értékelik a szerző(k) az országban zajló folyamatokat.