MinGWを使えばよい。以下からインストーラーをダウンロードする。
http://sourceforge.net/projects/mingw/files/
「Looking for the latest version?」と書かれた箇所の隣にあるファイル「mingw-get-inst-20120426.exe」をダウンロードする(2013年4月時点)。これがインストーラー。これを使ってインストールすればよい。
Windows 8 Pro(64ビット版)で毎日常用しているが、特に問題は発生せずに使用できている。