Empezamos, antes de nada debemos desinstalar ffmpeg, x264 y libx264-dev

sudo apt-get purge ffmpeg x264 libx264-dev

Luego instalar unos paquetes que necesitaremos para compilar ffmpeg y x264 (no olvidar tener activado el repositorio universe y multiverse).

sudo apt-get update && sudo apt-get install build-essential subversion git-core checkinstall yasm texi2html libfaac-dev libfaad-dev libmp3lame-dev libsdl1.2-dev libtheora-dev libx11-dev libxvidcore4-dev zlib1g-dev

Ahora vamos a descargar las fuentes de x264, procedemos a compilar y crear el deb.

cd
git clone git://git.videolan.org/x264.git
cd x264
./configure
make
sudo checkinstall --fstrans=no --install=yes --pkgname=x264 --pkgversion "1:0.svn`date +%Y%m%d`-0.0ubuntu1" --default

Con esto ya tenemos compilado y creado nuestro deb (automáticamente se instalará x264).

Continuamos ahora con FFMPEG, descargamos fuentes, compilamos y creamos el deb

cd
svn checkout svn://svn.ffmpeg.org/ffmpeg/trunk ffmpeg
cd ffmpeg
./configure --prefix=/usr --enable-gpl --enable-nonfree --enable-pthreads --enable-libfaac --enable-libfaad --enable-libmp3lame --enable-libtheora --enable-libx264 --enable-libxvid --enable-x11grab
make
sudo checkinstall --fstrans=no --install=yes --pkgname=ffmpeg --pkgversion "3:0.svn`date +%Y%m%d`-12ubuntu3" --default

Con esto ya tenemos instalado y configurado FFMPEG y su deb correspondiente (automáticamente se instalará ffmpeg).

Por último, si queremos actualizar a una nueva versión de FFMPEG y x264 realizamos estos pasos:

sudo apt-get purge ffmpeg x264
cd ~/x264
make distclean
git pull
./configure
make
sudo checkinstall --fstrans=no --install=yes --pkgname=x264 --pkgversion "1:0.svn`date +%Y%m%d`-0.0ubuntu1" --default
cd ~/ffmpeg
make distclean
svn update
./configure --prefix=/usr --enable-gpl --enable-nonfree --enable-pthreads --enable-libfaac --enable-libfaad --enable-libmp3lame --enable-libtheora --enable-libx264 --enable-libxvid --enable-x11grab
make
sudo checkinstall --fstrans=no --install=yes --pkgname=ffmpeg --pkgversion "3:0.svn`date +%Y%m%d`-12ubuntu3" --default

Esto sería todo.