ペンシルベニア州ピーターズバーグで生まれたリトルは、公立学校に通った。当初は時計職人として働いていたが、後にメリーランド州フリーダムに移り住み、農業に従事した。1806年と1807年にはメリーランド州下院議員を務めた。
リトルは共和党員として第12回連邦議会に選出され、1811年3月4日から1813年3月3日まで議員を務めた。1812年の再選には立候補しなかった。1812年の米英戦争中、リトルはメリーランド第38歩兵連隊の大佐に任命され、1813年5月19日から1815年6月15日まで従軍した。
1817年、ピーターと妻キャサリンの間にルイス・ヘンリー・リトルという息子が生まれ、彼は後に南北戦争で准将となった。
戦後、リトルはウィリアム・ピンクニーの辞任によって生じた欠員を埋めるため、民主共和党員として第14回連邦議会に選出された。彼は民主共和党員として第15回、第16回、第17回連邦議会に再選され、ジャクソン共和党員として第18回連邦議会に、アダムズ候補として第19回および第20回連邦議会に選出され、1816年9月2日から1829年3月3日まで務めた。連邦議会では、リトルは会計委員会の委員長(第14回および第15回連邦議会)、年金および革命賠償請求委員会の委員(第18回および第19回連邦議会)、革命賠償請求委員会の委員(第19回連邦議会)、海軍省支出委員会の委員(第20回連邦議会)を務めた。彼は再指名の候補者になることを辞退した。
リトルは連邦議会議員を務めた後、ボルチモア郡の孤児裁判所の判事を務めた。メリーランド州フリーダムで死去し、メリーランド州エルダースバーグ近郊のフリーダム・メソジスト監督教会墓地に埋葬されている。
この記事には、米国議会の人物名鑑からのパブリックドメインの資料が含まれています。米国連邦政府。