Quería eliminar un repositorio PPA en mi Ubuntu 13.04 y lo que tenemos que hacer es entrar a la consola y escribimos:
sudo apt-get install ppa-purge


Una vez descargado el paquete para eliminar un repositorio PPA, ya podemos eliminar.
sudo ppa-purge ppa: <repositorio_ppa>


Un ejemplo sería:
sudo ppa-purge ppa:webupd8team/sublime-text-3


Espero que les sirva. 🙂
Fuente: Ubuntu Life