Там юзается плагин к JQuery, называется Parallax -
http://webdev.stephband.info/parallax.html
там же можно посмотреть реализацию и примеры.
А алгоритм простой, просто некоторые слои сдвигаются на разное кол-во пикселей, направление (+ или -) зависит от разности прошлых координат мыши и текущий и какой был большой скачок или нет для придания "инерции".