とりあえずは、gccインストール。
後は、ソースダウンロード、解凍、configure, make, make install でひとまず完了。
しかし、gem install rails したら、

ERROR:  Loading command: install (LoadError)
    no such file to load -- zlib
ERROR:  While executing gem ... (NameError)
    uninitialized constant Gem::Commands::InstallCommand

とエラー。

zlib1g-dev をインストール後、再度 configure, make, make install で解決。
zlib-develとかいう名前ではないので、少し捜した。