호는 애산(愛山). 대구 출생. 할아버지는 성리학자였으며, 아버지는 한말 애국계몽운동단체였던 자강회(自彊會)와 대한협회의 중심 인물이었다.

대구의 달동의숙(達東義塾)과 경북실업보습학교(慶北實業補習學校)를 졸업하였다.

1912년 일본에 가서 세이소쿠중학교(正則中學校)와 메이지대학(明治大學) 법학부를 졸업하고, 다시 대학원과정인 일본대학 고등전공과(高等專攻科)에서 수학하였다. 대학을 마치고 일시 귀국하였으나, 1919년 3·1운동이 일어나자 변호사의 꿈을 안고 다시 일본으로 건너가, 1922년 일본변호사시험에 합격하였다.

서울에서 변호사업을 개업한 뒤 처음 변론을 맡은 사건이 의열단사건(義烈團事件)이었다. 당시 몇 안 되는 우리 나라 변호사 중 허헌(許憲)·김병로(金炳魯) 등과 함께 이 사건을 변론하였는데, 이를 계기로 항일독립투쟁사에 남을 만한 굵직굵직한 사건에는 거의 빠짐없이 관여하였다.

수원고농사건(水原高農事件) 변호때에는 법정불온변론문제로 변호사정직처분을 받기도 하였으며, 언론탄압반대연설회 등으로 여러 차례 유치장신세를 지다가 마침내 조선어학회사건 때에는 투옥되어 4년 가까이 옥고를 치르기까지 하였다.

그가 맡았던 큰 사건 중에는 의열단사건·광주학생사건·안창호사건·수양동우회사건, 각종 필화 및 설화사건, 수원고농사건, 6·10만세사건·경성제대학생사건·만보산사건(萬寶山事件) 등이 있다.

광복이 되자 한국민주당 창당에 깊숙이 관여하여 당최고위원격인 총무의 한 사람으로 정치활동을 벌이다가 군정청이 임명하는 수석대법관(首席大法官)으로 자리를 옮기면서 당을 떠났다.

계속해서 군정하에서 검찰총장직을 맡았고, 그 자리에 있으면서 건국 후의 헌법과 정부조직법의 모체가 된 법안을 초안, 제헌국회의 헌법기초위원회에 참고자료로 제출하기도 하였다. 정부수립과 함께 초대 법무장관이 되어 많은 업적을 남겼으나 이승만 대통령과 뜻이 맞지 않자 물러났다.

그 뒤 5·16군사정변 때까지 민의원과 참의원을 지냈으며, 민주공화당정권 때에는 야당의 원로정치인으로 야당통합을 위하여 많은 노력을 기울였다. 유언을 통하여 살던 집을 포함한 전재산을 한글학회에 기증하였다. 장례는 사회장으로 치러졌다.