മഹാത്മാഗാന്ധിക്ക് നെല്ലൂരുമായി പ്രത്യേക ബന്ധമുണ്ടായിരുന്നു. നെല്ലൂർ ജില്ലയിലെ ഇന്ദുകൂരിപേട്ട് മണ്ഡലത്തിലെ പല്ലിപ്പാടില് ഗാന്ധിജി രണ്ടുതവണ സന്ദർശിച്ചു. ഇവിടെ പിനാകിനി നദിയുടെ തീരത്ത് ബാപ്പു ഒരു ആശ്രമം സ്ഥാപിച്ചു. 1921 ഏപ്രിൽ 7ന് ആശ്രമം ഉദ്ഘാടനം ചെയ്തു. 1929 മെയ് 11 ന് ബാപ്പു ഈ ആശ്രമം വീണ്ടും സന്ദർശിക്കുകയും ഒരു രാത്രി ഇവിടെ ചെലവഴിക്കുകയും ചെയ്തു. ഈ ആശ്രമം 'രണ്ടാം സബർമതി' എന്നറിയപ്പെടുന്നു.
പല്ലിപ്പാട് സ്വാതന്ത്ര്യസമരകാലത്ത് ഒരു കേന്ദ്രസ്ഥാനമായിരുന്നു. ഹനുമന്ത റാവു, ചതുർവേദുല കൃഷ്ണയ്യ, പല്ലിപ്പാട് നിവാസികൾ എന്നിവർ ആശ്രമത്തിന്റെ നിർമാണം ഏറ്റെടുത്തു നടത്തി. ഗാന്ധിജിയുടെ അടുത്ത സഹായി റുസ്തുംജി 10,000 രൂപ സംഭാവന നൽകി. അതിനാൽ പ്രധാന ആശ്രമ കെട്ടിടത്തിന് അദ്ദേഹത്തിന്റെ പേര് നൽകി. ഗാന്ധിജി തന്റെ ആദ്യ ആശ്രമം ഗുജറാത്തിൽ സബർമതി സ്ഥാപിച്ചു. രണ്ടാമത്തേത് പഴയ മദ്രാസ് പ്രവിശ്യയിൽ സ്ഥാപിക്കണമെന്നായിരുന്നു അദ്ദേഹത്തിന്റെ ആഗ്രഹം. ആശ്രമം നിലനിൽക്കുന്ന 13 ഏക്കർ ഭൂമി സാമൂഹ്യ പ്രവർത്തക പൊനക കനകമ്മ സംഭാവന ചെയ്തതാണ്. പരുത്തി നൂൽ തയ്യാറാക്കൽ, ഖാദി ഉത്പാദനം, ഗീത പാരായണം, സാമൂഹിക പ്രവർത്തനങ്ങൾ എന്നിവ ആശ്രമത്തിന്റെ നേതൃത്വത്തില് നടന്നു. കാലക്രമേണ ആശ്രമം തകർച്ചയുടെ വക്കിലെത്തിപ്പെട്ടു. ഇന്ത്യൻ റെഡ് ക്രോസ് സൊസൈറ്റി കെട്ടിടത്തിന്റെ പുനർനിർമാണം ഏറ്റെടുത്തു. ഗാന്ധിയൻ ആദർശങ്ങളും തത്വങ്ങളും പ്രചരിപ്പിക്കുന്നതിനായി, ആശ്രമം ഇപ്പോൾ ഗാന്ധിയൻ തത്ത്വചിന്തയെക്കുറിച്ചുള്ള പ്രത്യേക കോഴ്സുകൾ നടത്തുന്നു.