Para borrar un kernel antiguo en Ubuntu 12.04 se pueden seguir algunos pasos muy sencillos.
Verificar las versiones disponibles en nuestro sistema. Entramos a la consola:
sudo dpkg -l | grep linux-image


Me sale lo siguiente:
ii  linux-image-3.2.0-26-generic                 3.2.0-26.41                                   Linux kernel image for version 3.2.0 on 64 bit x86 SMP
ii  linux-image-3.2.0-29-generic                 3.2.0-29.46                                   Linux kernel image for version 3.2.0 on 64 bit x86 SMP
ii  linux-image-3.2.0-30-generic                 3.2.0-30.48                                   Linux kernel image for version 3.2.0 on 64 bit x86 SMP
ii  linux-image-generic                          3.2.0.30.32                                   Generic Linux kernel image


Borrar las versiones antiguas que no utilizamos. Entramos de nuevo en la consola:
sudo apt-get remove --purge KERNEL


OBS:
Donde KERNEL es la versión a eliminar. Por ejemplo sería así «linux-image-3.2.0-26-generic«.
Después de esto podríamos eliminar los kernels antiguos y ahorrarnos unos cuantos megas. XD

Fuente: Ubuntu es