Fils de fonctionnaire, il est né à Limoges en janvier 1806. Il accomplit ses études secondaires à Limoges, puis est accepté à l'école polytechnique en 1823. Enfin, il passe trois ans à l'école des mines, est nommé ingénieur en juillet 1830. C'est à cette époque, dit-on, qu'il est séduit par la pensée de St-Simon. Il se rallie aux événements de juillet 1830.

Il tente de rester ingénieur pour une courte période, mais très vite, il rejoint les saint-simoniens, rédigeant, notamment, un certain nombre d'articles dans le journal saint-simonien. S'occupant de la situation financière du groupe, il n'arrive pas à éviter à ceux-ci de manquer de plus en plus de ressources matérielles. Avec Prospère Enfantin, l'une des têtes de l'école saint-simonienne, il est emprisonné en 1832, pour une durée de sept mois, gracié par Louis-Philippe en 1833. Il rompt alors ses relations avec les disciples de St-Simon et retourne au Corps des mines.

De par ses contacts avec Thiers, le ministre de l'intérieur et des travaux publics, il est envoyé aux Etats-unis, afin d'étudier le rôle de l'Etat en ce qui concerne les travaux publics. De retour en 1835, il est membre d'une commission du Corps des mines, ce qui lui permet de rester à Paris, et participe, dès 1836, à la rédaction de deux revues. En 1837, il repart en mission en Angleterre. En France, il est nommé maître de requêtes, puis conseiller d'Etat en 1838. Il entre ensuite dans les Conseils supérieurs du commerce et de l'instruction publique. En même temps, il est engagé dans une compagnie de chemin de fer comme conseiller technique. Ses publications de l'époque -portant principalement sur son séjour américain- le font connaître comme économiste et publiciste libéral.

En 1840, il obtient la chaire d'économie politique au Collège de France. Ainsi, dans les années 1845-1850, il contribue à rendre publique le contenu de ses conceptions libérales sur les travaux publics et l'Etat, la concurrence et l'épargne. Après l'élection de Louis-Napoléon Bonaparte en 1848 et le coup d'Etat du 2 juillet auquel il participe, il est nommé conseiller d'Etat. Malgré l'opposition des grands industriels et des Chambres, Chevalier tente de faire imposer ses conceptions libre-échangistes pour la politique commerciale de la France. Les négociations qu'il mène avec Cobden aboutissent enfin en 1860, après la tentative infructueuse de 1656.

Outre son rôle de président du jury international à l'exposition universelle de 1867, il avait déjà participé aux précédentes expositions, en tant que président de la Commission d'économie domestique à l'exposition de Paris en 1855, comme chef de la délégation française à l'exposition de Londres de 1862. A la chute de l'Empire en 1870, s'étant retiré de la vie publique, il fonde une société d'études pour la réalisation d'un tunnel sous la Manche et continue à défendre sa conception de la politique commerciale dans un certain nombre de travaux d'économie. Il obtient la concession du tunnel en 1880, mais les travaux seront vite abandonnés. Il meurt en novembre 1879 dans l'Hérault.