Aplicativos são os "programas" do celular (Skype, WhatsApp, Facebook, Jogos etc).
APK são aplicativos.
MOD são aplicativos que modifica um jogo, por exemplo, que dá mais opções e tals. MOD vem de modificação.
Root é opções de super usuário. Quando você faz root você ganha acesso as raízes do sistema. Isso é algo um pouco avançado pois não interessa a que não tem conhecimentos avançados e se não for feito de maneira pode inutilizar o aparelho.