Issu des castes supérieures (Brahmane), éduqué dans les meilleures universités britanniques, il milite très tôt dans le parti indépendantiste du Congrès. Son action aux côtés de Gandhi lui vaut plusieurs fois la prison.
Il devient le chef du parti du Congrès en 1929 où il préconise la non-violence comme principal moyen d'action pour parvenir à l'indépendance.
Acceptant, à regret, la partition au moment de l' indépendance, il est nommé Premier Ministre en 1947 puis Président de l'Union Indienne en 1950
Malgré la guerre Indo-Pakistanaise de 1948, Nerhu devient alors une figure symbolique de la décolonisation. Sa participation à la conférence de Bandung contribue à l'importance de cet événement.
La fin de sa présidence est marquée par les reculs, militaires et diplomatiques, occasionnés par le conflit Sino-Indien de 1962. Devant le succès des troupes chinoises, le président indien n'évite la défaite que grâce à la menace d'une intervention américaine préfigurée par l'envoi de porte-avions dans le Golfe du Bengale. Le non-alignement trouve là une de ses limites.

H.Vessemont