Existe um codigo *#52828378# na 6 opção "ota setting" vc encontra o registro da memora livre e a capacidade (tamanho) do arquivo jar que pode ser instalado, vc pode alterar, mas a capacidade do celular é limitada em 5 mega de qualquer maneira, a melhor opção seria usar um cartão de memoria para quardar o arquivo de instalação para uqando vc precisar.
Se o codigo nao dá certo, é pq não há como aumentar a memória interna, ela é padrão. O que você pode fazer é liberar mais memória interna. Verifique nas configurações em memória.