1928년 황해남도 재령군에서 태어난 정 전 총리는 서울대 사범대 교육학과 교수로 지내다가 1988년 12월부터 2년간 문교부(현 교육부) 장관을 역임했다. 이후 1991~1992년 국무총리 서리를 거쳐 국무총리로 임명됐다.
정 전 총리는 1990년 12월까지 문교부 장관으로 2년간 재임하면서 전국교직원노동조합(전교조) 사태에 강경히 대응한 것으로 유명하다. 당시 그는 전교조 결성에 참여한 교사 1500여명을 해직·파면 조치했다. 1991년 전교조 관련자 강력처벌의 여파로 후일 국무총리 서리에 임명됐을 때 한국외국어대학교에서 마지막 강의를 하던 중 대학생들로부터 계란과 밀가루는 물론 오물 세례를 받았다. 이 사건을 계기로 대대적인 공안정국이 조성되기도 했다.
총리 재직 중에는 3차례 평양을 다녀왔다. 그는 1991~1992년 남북고위급회담 한국 측 수석대표로 북한 평양시를 방문해 김일성과 면담했다. 그 결과로 남북기본합의서가 체결됐다. 1992년 10월 7일 총리직에서 사퇴한 정 전 총리는 그해 말 민주자유당 대통령선거대책위원장에 임명돼 제14대 대통령직 인수위원회 위원장을 맡기도 했다.
1995년에는 보수 진영을 대표해 민선 1기 서울시장 선거에 출마했으나 조순 전 부총리에게 밀려 낙선했다. 이후 현실 정치와는 다소 거리를 두는 삶을 살았다. 1997년부터 2000년까지 대한적십자사 총재를 지냈다. 한국카운슬러협회 회장을 비롯해 한국교육학회 회장, 서울대 명예교수, 2002 오송국제바이오엑스포 조직위원회 조직위원 등을 역임했다.
그는 모든 공직에서 물러난 뒤로 '종북세력 청산'을 요구하는 단체의 고문으로 활동하는 등 보수 성향의 원로 교육학자들과 활동해 왔다. 정 전 총리의 빈소는 서울아산병원 장례식장 35호실에 마련됐다. 발인은 14일 오전 8시다.