荷蘭漢學家高羅佩的名著《大唐狄公案》，描述狄仁杰在州縣及京都為官斷案，與民除害的傳奇經歷。此書的影響很大，把狄仁杰描寫為斷案如神的神探。狄仁杰因此被稱為古代中國的福爾摩斯。電視劇連續劇《神探狄仁杰》里，狄仁杰更是婦孺皆知的破案高手。狄仁杰真的是神探嗎？他之所以被傳為神探，主要有以下幾點原因。

首先，早年的狄仁杰是神童。因為他早年超眾的才華，神奇的表現，以后做了司法官員，負責破案斷獄，也就帶有神奇的色彩了。有兩個著名的故事，為他的神奇增加了色彩。一是小小年紀就敢于拒絕接受前來破案的縣吏的查問。狄仁杰還是兒童時，有一次，狄家門人被害，縣吏來調查，眾人都去接受查問，只有仁杰始終在屋內讀書，沒有理會外面的吵鬧，也就沒有出去回話。縣吏來責問他，他卻說：“書卷之中，圣人備在。我尚不能與之接對，怎么會有空去理會你們這些俗吏？你們又怎么能責備我？”登時把縣吏噎得說不出話來。二是進京趕考途中以高超的醫術治療了一例疑難病癥。有記載說，狄仁杰頗精醫藥，尤其擅長針術。顯慶年間，他進京趕考，路過華州，遇到一富家為少年兒子的疑難病癥在路上懸賞。狄仁杰通過針灸，當場把病治好了。神奇之極。

其次，狄仁杰有著豐富的地方和中央工作經歷，基本和司法訴訟有關。上元二年（675年），因為在并州法曹任上的出色表現，狄仁杰調至大理寺，擔任大理丞，開始了他的京官生涯。十幾年的法曹經歷，讓狄仁杰很快從六個寺丞中脫穎而出。大理寺積壓舊案非常多，仁杰上任以來，不避繁重，年內便審結一萬七千人，決獄允當，并無一人稱冤申訴。不過，解決這些案件，需要的更多是公正和勤政，而并非各種破案技巧。

在大理丞任上，狄仁杰辦得最出名的案件，是儀鳳三年（678年）“權善才誤砍昭陵柏樹案”。這年九月，守衛唐太宗昭陵的左威衛大將軍權善才誤砍了昭陵上的柏樹，被人告發。高宗大為震驚，悲泣不自勝，便將善才和同時守衛的左監門衛中郎將范懷義下獄，命大理寺嚴加懲處。大理寺奏稱依律法應將其免官除名。高宗要求將善才等處死。大理寺上下，只有狄仁杰執奏不可，認為權、范二人罪不至死。高宗臉色一沉，說：“善才砍我父皇陵上柏木，陷我于不孝。我知道卿是好法官，但這次卻一定要將此二人處死不可。”大理卿張文瓘趕緊示意仁杰，讓他退下，不要硬撐。仁杰不為所動，引經據典，斷然反對，他說：“今日陛下因為昭陵的一棵柏木殺此二人，千載之后，人們又會如何評論陛下呢？這才是臣不敢奉詔的原因。”結果是高宗只得免去權、范二人的死罪，依準大理寺所奏。也就是說，在正史中，對狄仁杰斷案如何神奇，并沒有正面描述。就如權善才一案中，史家稱頌的并非狄仁杰的斷案能力，而是他執法公允，能夠直言進諫。