VI. Pál pápa halála után, 1978. augusztus 26-án, a konklávé második napján választották meg a katolikus egyház fejévé. A sorban 262. pápa legfőbb pásztori szolgálatát I. János Pál néven 1978. szeptember 3-án kezdte meg. Mindössze harminchárom napos uralkodás után, 1978. szeptember 28-án halt meg dolgozószobájában. A hagyományokra hivatkozva holttestét nem boncolták fel, és már másnap örök nyugalomra helyezték a Szent Péter Bazilika grottájában. A kiadott hivatalos közlemény szerint halálát szívinfarktus okozta.
I. János Pál halálának körülményeivel kapcsolatban ma is folynak a találgatások: mondják, hogy megmérgezték, mert szándékában állt felszámolni a vatikáni korrupciót, le akarta törni a bíborosok hatalmát, nyilvánosságra kívánta hozni a vatikáni bankbotrányban érintett főpapok nevét (ez utóbbi témával foglalkozott a Keresztapa című filmtrilógia harmadik része is).
Ő volt az első pápa, aki kettős nevet választott magának két elődje, XXIII. János és VI. Pál pápák tiszteletére, és ugyancsak elsőként adta az I. sorszámot nevéhez (ez addig mindig utólag, megkülönböztetésül került a név elé). Eltörölte a pápai tiarával való megkoronázást, szakított az uralkodói többessel, egyes szám első személyben beszélt. Közvetlen személyisége, derűs lénye miatt a köznyelv „mosolygós pápának” nevezte, temetési szertartásán a zuhogó eső ellenére több mint egymillióan vettek részt. Utódának a lengyel Karol Wojtylát választották meg, aki elődje iránti tiszteletből II. János Pál néven kezdte meg uralkodását.