Si estás empezando y quieres saber que es de verdad lo que hacen tus programas, entonces sí, usa Linux. Pero tienes que saber que el proceso desde que escibes el código hasta que tienes el ejecutable es mucho mas complicado en Linux que en Windows (aunque si vas a usar un entorno de desarrollo en Linux es básicamente lo mismo que en Windows).

En líneas generales, creo que lo mejor que puedes hacer es aprender lo básico de la programación en Windows o Linux pero con un entorno de desarrollo que te haga la vida más fácil, y una vez que sepas algunas cosas básicas, entonces ponte a programar con Vi y a compilar realizando tú todo el proceso, así aprenderás lo que se esconde detrás del botón "compilar" del entorno de desarrollo.

Las distribuciones de Linux suelen tener un grupo de usuarios al que están destinadas (por ejemplo BackTrack para auditorías) pero todas usan núcleo Linux (lógicamente) y Linux es una maravilla para programar y compilar "a pelo" (como he dicho antes, puedes usar un entorno de desarrollo y solo ver el botón de compilar, que es básicamente lo que pasa en Windows, pero si quieres aprender de verdad lo mejor es que programes "a pelo") así que en realidad puedes usar cualquier distribución que te guste. Puedes usar LiveCD para probar sin tener que instalar, y la que más te guste por su aspecto o facilidad de uso la instalas.

Las distribuciones más conocidas y que más fáciles son de usar son:

• Linux Mint: Deriva de Ubuntu, pero a mi me gusta mucho más
• Fedora: es una distribución MUY estable
• Debian: una de las más importantes porque MUCHAS otras distribuciones se basan en ella
• Ubuntu: basada en Debian. Para mi era la mejor por rendimiento y facilidad de uso, pero hace tiempo cambiaron prácticamente toda la interfaz y (para mi) ha empeorado muchísimo.

Como te digo, estas son algunas de las más famosas, hay algunas también para usuarios más experimentados, y otras muchas que se basan en las que ya he comentado.