Dort spielen auch seine Kriminalromane. Seit er für seinen Debütroman "Tief unterm Laub" 1996 mit dem Förderpreis des Eifel-Literaturfestivals ausgezeichnet wurde, veröffentlicht der fleißige Autor pro Jahr einen Roman, gibt zahlreiche Kurzgeschichtenbände heraus und hat sich darüber hinaus als Veranstalter der Krimi-Erlebniswochenenden "Blutspur" einen Namen gemacht. Im Jahr 2002 erhielt Kramp den Kulturpreis des Kreises Euskirchen. Ziemlich berühmt geworden ist mittlerweile sein skurriler Antiheld Herbie Feldmann, der durch eine Laune der Natur mit seinem unsichtbaren Begleiter Julius gesegnet ist. Auch in seinem neuesten Roman "Hart an der Grenze" stürzt Kramp sein amüsantes Duo wieder in mörderische Ermittlungen.