Creció en una "muy de clase trabajadora, casi pobre" familia judía. Su madre se trasladó desde Hungría a los EE.UU. en 1956. Krumholtz comenzó su carrera actuando a la edad de trece años cuando siguió a sus amigos a una audición para Broadway para actuar en Conversations with My Father (1992). Aunque él no esperaba llegar a la parte, y ni siquiera la atención, ganó el papel de los menores frente a Charlie Judd Hirsch, Tony Shalhoub, y Jason Biggs(también haciendo su debut en Broadway). Poco después de su carrera en Broadway, Krumholtz co-protagonizó en dos largometrajes, Life With Mikey (1993) frente a Michael J. Fox y Addams Family Values (1993) frente a Christina Ricci Por su papel en Mikey, David fue nominado para un Young Artist Award. A pesar de su trabajo en estas dos películas le recibió atención crítica, David es probablemente más conocido por los niños y los jóvenes-a-corazón como el sarcástico jefe elfo Bernard de The Santa Clause (1994) y su secuela en 2002 The Santa Clause 2: The Mrs Clause, sino también para controversias contractuales no pudo ser parte de The Santa Clause 3: The Escape Clause. En 1994, Krumholtz co-protagonizó su primera serie de televisión, Monty, con Henry Winkler. El show sólo duró unos pocos episodios. A lo largo del camino, tuvo la oportunidad de trabajar con Jason Bateman(Chicago Sons, 1997), Tom Selleck(The Closer, 1998), Jon Cryer ((The Trouble with Normal, 2000), y Rob Lowe(The Lyon's Den, 2003). En 2005, él finalmente encontró el éxito con la serie de televisión NUMB3RS en CBS, ahora renovado para una cuarta temporada (confirmada por CBS). Junto con sus papeles protagónicos en la televisión, Krumholtz hecho memorable invitada en ER, Ley y Orden, No Declarado, Con Suerte, y Freaks and Geeks.