Klubben grundades 1886 som Argyle FC. Namnets ursprung är oklart, men troligen kom det av en gata som hette Argyle Terrace.[1] När klubben blev professionell 1903 ändrades namnet till Plymouth Argyle FC.
Plymouth har aldrig spelat i högsta divisionen. Bästa placering är en fjärdeplats i näst högsta divisionen Second Division säsongerna 1931/32 och 1952/53. Sämsta placering sedan klubben gick med i The Football League är fjärde sist i fjärde högsta divisionen 2011/12 och 2012/13.
I FA-cupen har klubben som längst gått till semifinal 1983/84, och det gjorde man även i Ligacupen 1964/65 och 1973/74.
Meriter
Liga
League One eller motsvarande (nivå 3): Mästare 1929/30 (South), 1951/52 (South), 1958/59, 2003/04, 2022/23
League Two eller motsvarande (nivå 4): Mästare 2001/02