김언겸의 본관은 김해이다. 대대로 고양에 살면서 곤궁함을 견디어 내며 유학을 업으로 삼았다. 천성이 지극히 효성스러웠는데, 어머니가 서울에 있으면서 병으로 죽자 언겸이 그 관을 모시고 돌아와 고향 선산에 장사지내려 하였다. 상여가 신원에 당도하였을 때 상여의 수레바퀴가 부러지고 말았는데 언겸이 어찌할 바를 몰라 길 옆에서 슬피 울었다. 인근 마을의주민들이 다투어 와서 도와주어 길 옆의 높은 곳에 임시로 장사지내고 곧 선산으로 이장하려 하였는데, 집안 형편이 어려워 언겸이 친히 잔디와 흙을 져다가 묘역을 만들었다. 이때 나라의 능을 개수하는 일로 어떤 지관이 지나다가 돌아보고 말하였다.
"이 새 무덤을 누가 잡았는지 모르지만, 참으로 길지이다"
언겸이 그 말을 듣고 뒤따라가서 절을 하고 사정을 말하는데, 말할 적마다 눈물이 같이 떨어졌다. 지사가 측은히 여기며 말하였다.
"산의 형세를 두루 살펴보니, 왼쪽의 청룡과 오른쪽의 백호가 너무 가깝고 명당이 좁아서 비록 대지는 아니다. 그러나 산의 형세가 멀리 뻗어나서 격국이 절로 이루어졌으니, 금방(과거)에 급제하는 귀인이 두 대를 연달아 나올 것이다"
이어서 김언겸의 성명과 족계를 묻고 감탄하며 말하였다.
"상주는 효성이 있는 사람이오. 나는 젊을 때부터 산을 보아서 이 길을 지나간 것이 몇 번인지 모르건만, 10보 안에 이런 좋은 묘지가 있는 줄 몰랐으니, 참으로 인력으로 이룰 수 있는 일이 아니오. 절대로 이장하지 마시오"
김언겸이 그 지사의 말을 따라 영구히 안장하였다. 장사지낸 지 3년 뒤에 언겸이 과연 과거에 급제하여 여러 고을의 수령을 지냈다. 그의 아들 현성은 호가 남창인데, 문과에 올라 벼슬이 동지돈령부사에 이르렀다. 김현성은 관리로서 몸가짐을 청고하게 하여 얼음과 황경나무처럼 맑다는 명성이 있었으나 백성들을 잘살게 하지는 못하였다. 마침 어느 고을의 수령이 되었는데, 한 유생이 글로 그를 조롱하였다.
"백성을 자식처럼 사랑하였으나 온 고을이 못살아 원망하였으며, 조금도 재물을 범하지 않았으나 관의 창고가 텅비게 되었다" 김현성이 그 말을 듣고 크게 웃으며 말하였다.