Mein Hauptproblem war, dass man zu installierende Paketein der Config einträgt, ich aber nie wirklich durchgestiegen bin, welche Pakete man wo eintragen muss.

Ich verstehe nicht ganz, was du damit meinst. Programme, die du nur im Pfad haben möchtest, trägst du in die Liste environment.systemPackages ein, z.B. Tools wie ncdu. Für Programme, die eine Systemkonfiguration benötigen, gibt es dann Module, die über ihre Attributsets unter programs oder services konfiguriert und im Pfad bereitgestellt werden. Zum Beispiel

programs.neovim = {
  enable = true;
  vimAlias = true;
}

installiert neovim, erstellt eine Config, legt im Pfad einen Wrapper an, der Neovim mit der Config startet, und erstellt einen Symlink auf den Wrapper im Pfad mit dem Namen vim. Ansonsten müsstest du das alles eben selber machen.