Durante su niñez asistió a una escuela de tipo progresiva y fue educado bajo la Fe bahá'í, de la cual su padre era miembro. La adolescencia de Mark transcurrió en Virginia Beach, Virginia, donde su familia se trasladó por motivos laborales. Allí se graduó en el instituto llamado First Colonial High School. Luego se mudó con su familia a San Diego, California, para más tarde trasladarse a Los Ángeles. En esta ciudad se inscribió en clases de interpretación en el Conservatorio Stella Adler y co-fundó la compañía teatral Orpheus, en la que escribía guiones, dirigía y protagonizaba numerosos personajes. A partir de este momento pasaría los siguientes nueve años de su vida trabajando como barman. Ruffalo inició su carrera como actor de teatro y debutó con un rol en la obra Avenue A, en el teatro "The Cast", ubicado en Los Ángeles. Su debut cinematográfico fue en la película de suspenso titulada Mirror, Mirror 2: Raven Dance en 1994. Tres años más tarde, su participación en la obra Betrayal by Everyone le permitió ganarse la aprobación de la crítica. Pero el mundo teatral no le ayudaba a subsistir económicamente, por lo que tuvo que dedicarse a la labor de barman, y esto además le incitó a realizar varias audiciones en todo tipo de papeles. Ruffalo tuvo pequeños papeles en películas como The Dentist (1996), la comedia de crimen Safe Men y la película de la guerra civil, exaltada por la crítica Ride with the Devil (1999), del director Ang Lee. Sin embargo, la suerte llamó a su puerta cuando Ruffalo estaba a punto de dejarlo todo. Ruffalo convenció al director Kenneth Lonergan para que le realizara una audición para la obra teatral This Is Our Youth, y obtuvo el papel. Más tarde Ruffalo persuadiría a Lonergan para que le tome en cuenta en su primer filme de cine independiente, titulado You Can Count on Me, y consiguió el rol del hermano problemático de Laura Linney, llamado Terry. La película de Lonergan obtuvo dos nominaciones al premio Oscar en el año 2000 por mejor actriz y mejor director. Ruffalo recibió críticas favorables por su actuación en la película, y hasta llegó a ser comparado con el actor Marlon Brando, mereciéndole varios premios por su interpretación como el de mejor actor en el Festival Internacional de Cine de Montreal y La Asociación Crítica de Filmes de Los Ángeles. El éxito conseguido le permitió realizar pápeles más importantes, como en la película XX/XY (2002), además en el filme de la directora Isabel Coixet titulado My Life Without Me (2003) junto a la actriz Sarah Polley, también en la película dirigida por Jane Campion, llamada In the Cut (2003) junto a Meg Ryan igualmente en el filme del director Michel Gondry, Eternal Sunshine of the Spotless Mind (2004), y en la película basada en las novelas cortas de Andre Dubus titulada We Don’t Leve Here Anymore (2004). Del mismo modo apareció en el papel opuesto a Tom Cruisecomo detective de homicidio en la película de crimen y suspenso del director Michael Mann titulada Collateral (2004). Recientemente, Ruffalo ha aparecido como protagonista en comedias románticas como View From the Top (2002), 13 Going On 30 (2004), Just Like Heaven (2005) y Rumor Has It (2005).[4] En 2006, Ruffalo actuó en la obra teatral del director Clifor Odets titulada Awake and Sing! en el teatro “Belasco” de Nueva York, y por el cual fue nominado a un Premio Tony como mejor actor en una obra teatral. En el año 2007 actuó en el filme Zodiac como un inspector de homicidio del departamento de policía de San Francisco llamado Dave Toschi, y quien investiga como localizar y atrapar al asesino del zodiaco durante el periodo de 1969 a 1970. En octubre del 2007, Ruffalo interpretó el papel de Dwight Arno, un abogado divorciado que accidentalmente atropella a un niño y huye, en la película Reservation Road del director Terry George basada en la novela de John Burnham Schwartz. En el año 2002, Ruffalo fue diagnosticado con un Tumor cerebral, y se le practicó una cirugía, que resultó en un periodo de parálisis parcial del rostro, a pesar que se descubrió que su tumor era benigno. Él se recuperó del parálisis y volvió a tener un buen estado de salud, permitiéndole retomar su carrera cinematográfica y llevar una vida activa. Ruffalo está casado con la actriz Sunrise Coigney de ascendencia francesa desde junio 2000, y tiene tres hijos: un niño llamado Keene (2001), y dos niñas llamadas Bella (2005) y Odette (2007). El 4 de octubre de 2006 hizo una aparición en un programa televisivo de noticias diarias llamado Democracy Now! y habló en contra de la guerra de Iraq, el Acta Militar de Comisiones del 2006, la tortura, y de la administración del presidente George W. Bush. Además anunció que formaría parte de la protesta The World Can’t Wait en la ciudad de Nueva York, el 5 de octubre de 2006. En octubre de 2007, Ruffalo criticó el Informe de la Comisión 11 de septiembre y lo denominó como “completamente ilegítimo” y pidió que se reabriera la investigación. Declaró “Vi adonde llegaron, y yo estoy desconcertado. Mi primera reacción es que los edificios no se caen de esa manera”, Ruffalo también contribuyó en la campaña presidencial del candidato demócrata Mike Gravel en 2008. También reprochó el Movimiento por la verdad del 11-S, diciendo que “Hay mucha información que ha sido expuesta por el movimiento de la verdad del 11-S, y es tan extensa que algunas personas dan más importancia a aspectos sensacionalistas que no se relacionan correctamente con la historia para desacreditar el movimiento”.