WebClientクラスのDownloadFileメソッドを使う。以下では財務省のトップページをtemp.htmlというファイル名でダウンロードした例。なお、ダウンロード先はGet-Locationコマンドレットで得られるカレントディレクトリではなく、DirectoryクラスのGetCurrentDirectoryメソッドで得られるディレクトリであることに注意。これについての詳細はこちらを参照のこと。
PS > (New-Object System.Net.WebClient).DownloadFile("https://www.mof.go.jp","temp.html")
PS > Get-Content .\temp.html -TotalCount 4
<!DOCTYPE html>
<html lang="ja">
<head prefix="og: http://ogp.me/ns# fb: http://ogp.me/ns/fb# website: http://ogp.me/ns/website#">