OTKA-vita: hogyan mérjük a tudósok teljesítményét?

2020. szeptember 24. 10:59

Hogyan lehet mérni a tudósok teljesítményét? Mekkora súlya van az objektív és a szubjektív értékeléseknek? Van erre tökéletes módszer? És bele lehet-e nyúlni bármilyen indokkal a rangsorokba? A tudományos életben nagy vitákat kiváltó OTKA-ügy kapcsán két kutató álláspontjait ütköztettük. Riportunk!

2020. szeptember 24. 10:59
null
Konopás Noémi
Konopás Noémi

Az elmúlt napok vitái nyomán sokan megismerhették az OTKA jelentését: az Országos Tudományos Kutatási Alapprogramok olyan intézmény, amely kiemelkedő felfedező kutatásokat (alapkutatásokat) támogat közpénzből pályázati rendszerben, hazai és külföldi bírálók bevonásával.

Annak oka, hogy a kifejezés most a köztudatba került, az, hogy az idei OTKA-pályázat augusztus végi eredményhirdetésekor az Innovációs és Technológiai Minisztérium (ITM), illetve a minisztérium alá tartozó Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal (NKFIH)

megváltoztatta a szakmai zsűrik és kuratóriumok által felállított rangsort.

Palkovics László innovációs és technológiai miniszter azt mondta, a felülbírálatra azért volt szükség, mert azok a kutatók, akik így bekerültek a támogatottak közé, „pozitív irányba mozdították el a támogatottak körét”, azaz a felülbírálatot követően jobb tudományos mutatókkal rendelkező kutatók is bekerültek a nyertesek közé. A miniszter szerint az elmúlt több mint harminc évben az OTKA döntéseket meghozó mindenkori vezetésnek nem volt érdemi eszköz a kezében arra, hogy a kollégiumi döntéseket objektív kontroll alá vesse.

Palkovics úgy véli, az OTKA rendszer a mindenkori kutatók, pályázók felett megkérdőjelezhetetlen hatalommal is rendelkezett, a döntések harmadik fél általi felülvizsgálatára nem nyílt valódi lehetőség, a források elosztásának módja pedig érdemi kontroll nélkül zajlott. Bár az ITM beavatkozása minimális volt – csak néhány esetben változtatták meg a szakértői és kuratóriumi rangsort –, mégis a lépés nagy felháborodást váltott ki a tudomány számos képviselője részéről,

akik a szakmai autonómiájukat féltik a politikai jellegű beavatkozástól. 

Az ellentét azonban nem csak a politika és a tudomány nevezett képviselői között feszült: volt olyan kutató is, aki alapvetően az OTKA jelenlegi bírálati rendszerével sem értett egyet, és szabályos kommentcsatákba bonyolódott kutatótársaival a Facebookon.

Nem mindegy, mire költik el a közpénzt

A miniszter azon véleményével, miszerint kell, hogy legyen kontroll a pályázati rendszer felett, az eddigi rendszerrel kritikus Demeter Márton kommunikációkutató is egyetért. Mint a Mandinernek kifejti, „a miniszter igenis mondhatja, hogy szeretné, ha átlátható lenne a pályázati rendszer, mert nagyon nem mindegy, hogy kik és milyen eredményű kutatásokra költik el a közpénzt”.

Demeter szerint a kutatóintézeteket és az egyetemeket ugyanis csak a nemzetközi publikációk alapján ítélik meg a nemzetközi rangsorokon. Tehát, ha már közpénzből fizeti az állam ezeket az alapkutatásokat, akkor legalább szülessenek belőle olyan magasabb presztízsű kutatások, amik képesek előrébb vinni a magyar intézeteket ezeken a ranglistákon. Demeter Márton úgy látja: az alapkutatásokból akkor lesz előnye az országnak, ha a Q1-es (a nemzetközileg jegyzett folyóiratok első negyedébe tartozó folyóiratokban megjelenő) cikkek tudnak a támogatásból születni, hiszen

„az államnak érdeke, hogy a közpénz valahogy visszahulljon az országra”.

Ez pedig akkor tud bekövetkezni, ha jobb minősítést kapnak az egyetemei és kutatóintézetei – ami pedig akkor teljesül, ha jó cikkek születnek. Az egyetemi rangsorokon való jobb helyezés nemcsak presztízs az államnak és az állampolgároknak, hanem komoly gazdasági érdek is fűződik ehhez, ugyanis egy jól pozícionált egyetemre külső támogatású kutatásokat és nemzetközi hallgatókat lehet vonzani, ami igen jövedelmező.  

Ez nem holmi piaci verseny

Ezzel az állásponttal nem ért egyet Ropolyi László tudományfilozófus. Mint lapunknak kifejti: a közpénzekkel támogatott tudományos munka célja nem valamiféle nemzetközi versenyben való nemzeti előrejutás, ugyanis nem piaci versengésről van itt szó.

Ropolyi ugyanis

úgy tartja, hogy a tudomány művelése minden kulturált államban alapvető társadalmi funkciókat tölt be;

meghatározó módon járul hozzá az adott ország kultúrájának, oktatásának, gazdaságának, az élet minőségének színvonalához. „A politikai közösség elsődleges érdeke az, hogy lehetőleg minden tudományterületen lehetőleg színvonalas kutatások folyjanak. A közpénzen végzett kutatások témáit és támogatásait éppen ezért célszerűtlen és értelmetlen a nemzetközi publikációs piac kérészéletű értékítéleteinek teljesen kiszolgáltatni” – mondja. Szerinte hasznosabb és eredményesebb a tudományt művelők autonóm szervezetei döntésére hagyatkozni, hiszen ezek a szervezetek képesek differenciált, tartalmi és érdemi értékelésre.

Bürokratikus bizottság döntsön?

Demeter Márton a rendszer feletti kontroll szükségességével egyetért, ugyanakkor hozzáteszi: semmiképpen nem fogadható el, hogy a politika nyúljon bele az egyébként szerinte is átláthatatlan rendszerbe. Úgy véli, ezt a feladatot egy, az akadémiai közegbeli beágyazottságoktól teljesen távoli bürokratikus bizottság látná el a legjobban, olyan tagokkal, akik nem ismerik a pályázót, így még véletlenül sem fordulhatna elő, hogy bárkit is előnyben részesítsenek ne adj’ Isten, pusztán elfogultságból.

Egy ilyen bürokratikus bizottság nem látná a pályázót,

adatbázisokból keresné ki a pályázatot benyújtó kutató korábbi tevékenységét, arra pedig adna egy pontszámot. Nem véletlen, hogy Spanyolországban és Nagy-Britanniában is az akadémiai közegtől távol eső, teljesen más intézmény tagjai értékelik a kutatási tevékenységet végzőket, a pályázatoknál pedig szigorú, előre rögzített, paraméterezett és transzparens bírálati folyamatról van szó, ahol ezek betartását nem csak a pályázókon, de adott esetben az őket értékelő zsűrin is számon lehet kérni. Demeter szerint a rendszer még akkor is sokkal tisztességesebb volna, ha szubjektív szempontokat kizárva, akár egy szoftverrel rangsorolnák a pályázókat. 

„A gondolkodás szabadsága minden tudományos tevékenység alapja”

Ropolyi László szerint viszont rosszabb lenne, ha szoftverrel rangsorolnának, hiszen

„nem lehetséges és így nem is célszerű a szubjektív szempontok kizárására törekedni”.

Amit ő működőképesnek tart, az nem más, minthogy „minél többféle szubjektív értékelés összevetése, mérlegelése, egyszerűen szólva a pályázatok tartalmáról való elemző gondolkodás”.

„Ez szabad emberi munka és a tudománnyal foglalkozók számára egyáltalán nem szokatlan tevékenység. A gondolkodás szabadsága minden tudományos tevékenység alapja” – hangsúlyozza Ropolyi. Nem ért egyet az elfogultsággal kapcsolatos kritikákkal, hiszen a pályázatok bírálóinak legalább tíz témakörben – érdekkonfliktus, alá-fölérendeltség, családi kapcsolatok, más pályázatokban való munkakapcsolatok – nyilatkozniuk kell, hogy pártatlan értékelésüknek nincsen akadálya. 

Demeter Márton azt vallja: egy-egy szakma olyan kicsi itthon, hogy ha a Ropolyi által említett nyilatkozatot komolyan vennénk, akkor vagy nem lehetne bírálót találni, vagy csak olyat, aki egyáltalán nem ért az adott területhez. Szerinte ezt az Egyesült Államokban – ahol több ezer egyetem vagy főiskola van – meg lehet csinálni, de itthon nem, hiszen

egy-egy szűk tudományterület pár tucat egymást ismerő emberből áll csupán.

Szerinte ezt egyedül úgy lehetne tisztességesen csinálni, ha mind a pályázati anyag, mind a bírálat nyilvános lenne, a bíráló személyével együtt. Szerinte sokkal hangsúlyosabban jelennének meg a bírálók szubjektív ítéletétől teljesen mentes, objektív és a nemzetközi sztenderdeknek is megfelelő tudományértékelési szempontok – tipikusan azok a tudománymetriai mutatók, amelyeket egyébként a minisztérium által javasolt szoftver (tudománymetria.com) teljesen elfogadható módon érvényesít.

Nincs transzparens kritériumrendszer és számonkérés sem

Demeter Márton szerint az OTKA-rendszer nem csak, hogy teljesen átláthatatlanul működik, hanem

egész egyszerűen nincs transzparens kritériumrendszer,

ami alapján a pályázatokat elbírálják. Mint kifejti, tudomása szerint a pénzek felett diszponáló zsűri két szempontot vesz figyelembe a pályázatok elbírálásánál. Az egyik az úgynevezett tudománymetria, vagyis a jelentkező korábbi tudományos teljesítménye, a másik pedig a pályázat megvalósíthatósága. Csakhogy Demeter úgy látja, egyszerűen nem igaz, hogy ezek alapján a kritériumok alapján ítélnék oda a pályázati támogatást, hiszen ha ez így lenne, akkor az ő pályázatát sem az utolsó, hanem az első helyre kellett volna rangsorolnia a bizottságnak, ugyanis Demeter a maga tudományterületén rendelkezik Magyarországon a legtöbb, összesen tizenhat darab Q1-es minősítésű cikkel. Demeter egyébként nemcsak cikkei, hanem – a korosztályra paraméterezett rangsorban – a minisztérium által javasolt szoftver, a tudománymetria.com, illetve a nemzetközi életben használt SciVal is az első helyre rangsorolja.

Demeter úgy látja, az idén nem nyert pályázata megfelelt a másik elbírálási szempontnak – a pályázat megvalósíthatóságának is – hiszen, ha egy évben tíz sikeres projektet képes végrehajtani, akkor a tizenegyediket is jó eséllyel fogja kivitelezni. „A tavalyi és az idei nyertesek között is találtam olyanokat, akiknek egyetlen nemzetközileg is értékelhető publikációja sincs” – fakad ki. Arra a felvetésünkre, miszerint, hogy ha az elején nem kap a kezdő kutató támogatást, akkor mégis hogyan bizonyítson, azt feleli, „közpénzt ne adjunk a semmire, előtte bizonyítson a pályázó, hogy képes magas minőségű produkciót felmutatni”. Ezt ő is elérte közpénz nélkül úgy, hogy az elmúlt öt évnyi kutatásait teljesen ingyen csinálta. A kezdő kutatók, ha elég motiváltak, csatlakozhatnak témavezetőjük kutatásához is, így lehetőség nyílik nemcsak tapasztalatszerzésre és minőségi publikáció megjelentetésére is. „Nekem is van olyan doktoranduszom, akinek négy darab Q1-es cikke is van, velem együtt írta azokat. Ha valaki hasonló utat választ, mire kijön a doktori képzésből, rögtön mehet OTKA-ra pályázni” – teszi hozzá.

„A tudomány fejlődését gátló támogatási elv”

Ropolyi László arról beszél: nem csak a tudománymetria és a pályázat megvalósíthatósága dönt az elbírálásnál, hanem „lényegében ugyanolyan súllyal” veszi figyelembe a zsűri a tervezett kutatási témát, a témavezető kutató kompetenciáját –publikációinak, idézettségének, a témában való jártasságának –, a kutatásban részt vevő többi kutató kompetenciáját, valamint a kutatók más pályázatokban való részvételét, továbbá a kutatáshoz kért támogatás mértékének realitását és a kutatáshoz kapcsolódó esetleges kockázatok és etikai problémákat. Úgy véli, a pályázatok helyett a pályázók rangsorolása, mondjuk tudománymetriai adataik használatával lehetséges lenne, de szerinte lényegében értelmetlen, hiszen

„egyetlen tudományos munkás értékét – amiként egyetlen ember értékét – se lehet egy vagy két valós számmal megjeleníteni”. 

Ropolyi szerint az is eléggé nyilvánvaló, hogy ha kutatási támogatásokat kizárólag azoknak juttatnánk, akik már eddig is kiváló teljesítményt nyújtottak, akkor – amellett, hogy egy ilyen rendszert természetesen gyakorlatilag és elméletileg is lehetetlen volna működtetni – valójában a tudomány fejlődését határozottan gátló tudománytámogatási elvvel kísérleteznénk. Szerinte pedig éppen ezért jó lesz odafigyelnünk: „a tudományos kiválóság harcos képviselőinek efféle automatizmusokat proponáló javaslatai vajon nem a tudomány fejlődésének tudatos vagy öntudatlan korlátozását és saját domináns pozícióik örökkévalóságát szolgálják-e”.

Demeter Márton elmondja: igenis lehetséges lenne olyan kutatás-támogatási rendszert alkotni, ahol olyanok kapnának támogatást, akik felmutattak már teljesítményt. Ezen alapul az úgynevezett ERC vagy a MSCA bírálói rendszer, ahol nagyon objektív mutatók alapján kell a bírálatokat megírni. Úgy véli, a kiválóság alapú támogatás nem hátráltat semmit, sőt,

ha nem mérjük a kiválóságot, akkor teljesen szubjektív és érdekvezérelt módon lehet csak döntéseket hozni.

„A tudományt a teljesítmény nélküli emberek viszik előre? Aligha. Biztosan vannak csodák, de az empirikus kutatások szerint teljesítmény előzetes produktumból lesz, nem a semmiből” – hangsúlyozza. Úgy látja, hogy akik a tudománymetria, az objektív értékelési kritériumok mellett harcolnak, azok többnyire éppen, hogy nincsenek erős pozícióban, mivel ez tipikusan az a fiatalabb generáció, akiknek elege van „az old boys club alapon kiosztott pályázati támogatásokból, és abból, hogy nincs számukra semmilyen biztosíték arra, hogy nemzetközi szinten is kiváló eredményeik alapján itthon pályázati pénzt nyerhetnek”.

Demeter szerint nem csak, hogy nincs pontosan meghatározott kritériumrendszer az elbírálásnál, de számonkérés sincs a kimenetekről sem. Ez azt jelenti, hogy az OTKA-t nyert pályázónak akkor sem kell tartania retorziótól – legyen az akár a pályázaton nyert összeg visszafizetése vagy a pályázó egy időre történő kizárása a pályázásból –, ha minősíthetetlen cikket publikál az alapkutatást követően. Úgy látja, ez nagyon nincs rendben, ugyanis annak, aki közpénzt kap alapkutatásra, vállalnia kellene, hogy meghatározott időn belül meghatározott minősített cikket publikál; ha pedig ez nem valósul meg, vagy fizesse vissza a támogatási összeget, vagy zárják ki egy időre a rendszerből. Véleménye szerint akkor lesz pozitív változás a rendszerben, ha lesz egy kritikus tömeg, aki névvel felvállalja az egyet nem értését; csakhogy sokan tartanak attól, ha így tesznek, eláshatják tudományos előmenetelüket Magyarországon, így inkább maradnak a névtelen dohogásnál – ami szerinte nem elég. 

Összesen 127 komment

A kommentek nem szerkesztett tartalmak, tartalmuk a szerzőjük álláspontját tükrözi. Mielőtt hozzászólna, kérjük, olvassa el a kommentszabályzatot.
Sorrend:
vorosful
2020. szeptember 25. 13:03
bolcsbagoly "Csak tudnám, hogy a matekosoknak mitől van ekkora egojuk!" Ez speciel ertheto (es szinte megbocsathato). A matematikus egesz eleteben onmagaval foglalkozik (azaz a sajat maga altal kitalalt axiomakkal es gondolkodasi szabalyokkal - amelyek persze gyakran megfelelnek valami realis problemanak, de ez egyaltalan nem kovetelmeny). A biologus, kemikus, fizikus meg, ha nagyon elszall, allandoan megkapja a pofont az anyatermeszettol...
vorosful
2020. szeptember 24. 19:06
Palinkas urugyen. Hogy mennyire atpolitizalodott a tudomany - es nem, kedves baloldaliak, nem a NER-tol, hanem sajat muveloitol, evtizedek ota - arra legyen eleg ennyi: Amikor Palinkas jott, a tudosok elsopro tobbsege (termeszettudomanyban is) felreverte a harangot: "Jon Palinkas, vege a tudomanynak!" Amikor Palinkas ment, a tudosok elsopro tobbsege (termeszettudomanyban is) felreverte a harangot: "Megy Palinkas, vege a tudomanynak!" Es a ketto kozott - vagy a masodik ajvekolas utan - egyrol se tudok, aki azt mondta volna: "hm, tevedtem, legkozelebb talan bolcsebb lesz nem mindent azonnal elore tudni es holtbiztosan kijelenteni" Biztos, hogy a NER is politizal, de ti, kedves tudosok, tizszer intenzivebben.
Palepoli
2020. szeptember 24. 16:56
Sok évvel ezelőtt voltam tagja OTKA zsűrinek. Aki azt állítja, hogy objektívek az OTKA döntések, az aljas. Úgy lehetne mondani, hogy a nagyon szarok nem kapnak támogatást, de a középső és felső mezőnyből a bírálóktól és a zsűri hangulatától függ, hogy ki lesz a befutó.
bölcsbagoly
2020. szeptember 24. 16:38
Ropolyi véleménye teljesen elfogadhatatlan, látszik, hogy milyen eszmei szemszögből közeliti meg a kérdést, mig a Demeteré nagy részben megfelelő. Egy dologban nem értek vele egyet, a Q1-es publikálások értékelésében! Egyrészt az ilyen kiadványokba ma már komoly pénzt fizetve lehet csak tanulmányt közölni (ld. az Elsevier kiadványokat, amelyeket előfizetve csak csomagban kaphatsz meg, szintén jókora összegért, ezért is mondta le az előfizetéseket számos nemcsak hazai, hanem pl. amerikai egyetem, kutatóintézet is). Másrészt, pont ezekben nem hozhatsz le olyasmit, ami szembe megy a mainstream felfogással. Az anonim (de nem fizetett) bírálók ugyanis elkaszálják.
Jelenleg csak a hozzászólások egy kis részét látja. Hozzászóláshoz és a további kommentek megtekintéséhez lépjen be, vagy regisztráljon!