평안북도 용천에서 독립운동가인 아버지 김득하와 어머니 장득룡 사이에서 2남 1녀 중 막내로 태어났다. 아버지 김득하는 1920년 평안북도 의주에 본거지를 둔 항일 무장 단체인 보합단에서 활동하던 중 1922년 체포되어 경성지방법원에서 실형을 선고받고 옥고를 치렀으며, 건국훈장 애족장을 추서받았다. 1946년 월남한 후 대다수 독립운동가의 후손들처럼 어려운 가정 형편 가운데 고학으로 학교를 마쳤다.형은 한국전쟁에서 전사하였으며 어머니는 소천할 때까지 큰아들의 생환을 기다리고 있었다.

연세대학교 철학과 58학번으로 남산 밑 해방촌에서 신촌까지 걸어서 학교를 다녔고, 졸업 후 당시 힘들게 그 명맥을 유지하고 있던 IVF(한국기독학생회)의 간사가 되었다. IVF가 정말 어렵던 시절을 함께한 아내 임신숙과의 사이에 2남 1녀를 두었는데, 세 자녀 모두 장성하여 목사와 사모, 그리고 간사로 살고 있는 것을 가장 큰 기쁨으로 여긴다.

총신대 신학대학원(M. Div)과 연세대 교육대학원(M. Ed.)을 졸업하고 루이지애나 침례신학교에서 박사학위(D. D.)를 받았으며 옥인교회에서 1977년부터 2006년까지 29년간 담임목사로 사역하였다. 서울신학교 학장을 역임하였으며 1999년 IFES 세계총회(World Assembly) 대회장으로 섬긴 바 있다. 지금까지 <생각하는 그리스도인을 위하여>, <한국기독청년학생운동사>를 저술하였다.