てことでメモリが届くまでの間にほかの準備を。
ハードウェアの用意
ファイルサーバー機は同じ構成で2セット組みます。
構成的には
CPU Pentium G4400
RAM 64GB (PC4-19200 ECC/16GB*4)
HDD WesternDigital WD RED 8TB*4
Seagate Ironwolf 8TB*8
SSD intel SSD750/400GB L2ARC用
intel SSD510/120GB*2 log用
東芝 512GB*4 作業中のファイル仮置き用
SAS HBA LSI SAS9201-16i 内蔵ベイ用16ポート
LSI SAS9201-16e 外付け用16ポート
10GbE intel X540-T2
といったところ。
結局2.5インチ用のケージが決定打に欠けるためとりあえず3.5インチのみで見切り発車。
多分SuperMicroのを買うと思いますが、冷静に考えると外付けのほうが安いんだよね、2.5インチ用のケージって…。
それに加え、Yahoo!ショッピングのNTT-Xストアがポイント増額やってたせいで増えたIronwolfを組み込むため製品検討中にうっかり特価になっていた3.5インチ外付け用のSASケージを見つけてしまったのでそれも追加出来るようにしておきます。
(Photo from amazon.co.jp)
筐体右上と両サイドのダサいロゴはステッカーなので剥がせます。プリントだったらアセトンで溶かして消すつもりだった。
わたしが買ったのはSASカードにRAID機能がないRocketStor 6414VSのほうですが、そちらが売り切れたのちハードウェアRAID対応のコントローラがバンドルされた 6414TSが値下がりしているようです。なんてこった。
どうせオマケのRockerRAIDは使わずに9201-16iに接続するのでどっちでも良いんですが。
どうでもいいついでに、届いた6414VSは生産時期の違いなのか全部箱が形も大きさも違うわけのわからなさ。
SAS HBAは内蔵・外付けとも別に16ポートも要らないような気もするんですが、北米amazon.comで8ポート製品と大差ない価格だったため、ついこっちに。で、届いた製品を見てみるとどうもヒートシンクが途中から大型のものに変更されたらしく、届いたものは9201-16iは見慣れたサイズ、9201-16eはすこし大きめのヒートシンクが取り付けられていました。
どうせなら逆だったら良かったのに。9201-16eは少し多めに買ったんで付け替えようかな。
今回のTX1330M2のように、カードの上方へ熱を吸い上げたい場合には9201-16eのもののように上下にスリットのあるヒートシンクのほうが効果的です。なんなら9201-16iのほうは上下方向にヒートシンクの向きを付け替えても良いですね。
TX1330M2/M3のPCIeクリップがかけられる上限ギリギリサイズ。留まって良かった。
この写真の時点ではワイヤリングもまとめてないし拡張カードの上のファンの絶縁も「仁礼工業 ふしぎテープ」を巻いただけ。テープ同士は貼りつくのにほかのものに対しては粘着性がないというなかなか素敵な逸品です。
仮想マシンを使うなど、外部からの要求ではなくサーバー内部での処理が多い場合や複数のアクセス要求が重なるような使い方にはSSDの速度キャップはないに越したことはありませんし、単なるファイルサーバーとして使うだけでも2ポート同時にアクセスがあれば簡単に2GB/秒くらいの要求は発生すると思われるので…書いてる間だけでもおとなしく台数増やして接続スロットを戻したほうが良い気がしてきた。どうせ台数はあるし。
キャッシュやlog用のSSDは壊れたらどうせシステムごと止める羽目になるため、筐体内に適当に設置。
5インチベイはあとあと使う予定があるので、今回はTFTEC(変換名人)のPCIB-25HDDを使い、余っているPCIeスロットあたりに取り付けます。
(photo from amazon.co.jp)
…この製品、型番にHDDって入ってますがHDDで使うのはちょっとどうかな…個人的にはSSDならいいけどHDDをこんな取り付け方したくないです。
今回は手元にあったのでこれ↑を使っていますが、新規購入なら長尾製作所 PCIスロット用 SSDマウンタ 2台用 SS-NMTPCI-B2のほうがオススメ。
(Photo from amazon.co.jp)
なおいずれにしてもこの位置では電源ケーブルが届きませんので適当に延長が必要です。
SASバックプレーンから引く場合は富士通純正パーツT26139-Y4029-V1を取り寄せるか、ちょっとした工作が必要ですがSATA電源ケーブルを20cmくらいに切り出してラッチ付き4ピンマイクロコネクタを用意。適当に圧着しておきます。
ちなみにビデオカード用6ピンとの比較ではこんなサイズ感。
検索した範囲ですと直接SATAコネクタに出来るT26139-Y4012-V205も使えそうなんですが、現物で試してないのでコネクタサイズの確認含め動作の可否は不明。
(画像追加位置)
FreeNASとは
FreeNASの基本はファイルサーバーですが、現在の最新バージョンは11。長年の機能拡張の結果、仮想マシンのハイパーバイザ的な使い方やDLNA互換のメディアサーバー、Amazon S3互換のオブジェクトストレージなど、多彩な拡張機能が利用できます。
FreeNASはFreeBSDをベースとして当初こじんまりとしたオープンソースのプロジェクトとしてスタートし、現在ではiXsystemsのもとでプロジェクトが運営されています。フリーで利用でき、必要であればiXsystemsによる有償サポートなども受けられます(※国内で日本語によるサービスを提供しているベンダーが存在するかは未確認です)。
FreeNASを選ぶ理由≒Windowsを使わない理由・それぞれのメリット/デメリット
単なる趣味です。…と言ってしまうと話が終わってしまいますが、Windows系サーバーより少ないリソースで動作する、よりシンプルなシステムアーキテクチャ、といったあたりが以前はFreeNASの売りでした。
現在のFreeNAS11ではZFSによる柔軟性の高いストレージ拡張などを得た半面で、OSを含めシステム全体がいくらか肥大化してきています(そうはいってもインストールメディアはCD-R一枚に収まります)。
十分な予算がソフトウェアに割り当てられ、専任の担当者が置けない場合はWindows2016のファイルサーバー機能のほうが楽かもしれません。
ですがWindows Server2016はEssencial版でもTX1330M2が何台も買えてしまう値札がついており、FreeNASは一度稼働し始めてしまえばほぼメンテナンスフリー、管理もWebブラウザを使い遠隔ログインで可能、rsyncなどを用いて複数のFreeNAS間で自動同期が可能、プラグインによる機能拡張可能…と、出来ることや取り回しの良さはWindows Serverに引けを取りません。
iSCSIの実装も充実しており、ターゲット側、イニシエータ側のどちらにでもなれるのもポイント。
なんならクライアント側に全て10GbEを搭載することでディスクレス端末にしても1台あたり1GB/秒越えのシステムディスクを提供する能力があります(iSCSIイニシエータ機能を持つbootROMを搭載した10GbEカードが必要です)。
まあぶっちゃけWindows高いのでそうそう使ってられない、とも言います。
FreeNAS動作要件
FreeNAS11最小構成
アーキテクチャ x86-64互換のPC
メインメモリ 8GB以上
起動ドライブ 8GBのUSBメモリ(HDDでもOK)
データドライブ 直接接続された1台以上のストレージ
ネットワーク 1ポート以上の物理Ethernetポート
FreeNAS11推奨構成
アーキテクチャ x86-64互換のPC
メインメモリ 16GB以上(ECC推奨)
起動ドライブ 16GBのUSBメモリ
データドライブ 2台以上のストレージ。ただしハードウェアRAID構成は出来るだけ避けるべき
(Hardware RAID strongly discouraged)
この際WD REDなどのNAS用にデザインされたドライブを推奨
ネットワーク 1ポート以上の物理Ethernet物理ポート intel製コントローラを推奨
アーキテクチャ x86-64互換のPC
メインメモリ 16GB以上(ECC推奨)
起動ドライブ 16GBのUSBメモリ
データドライブ 2台以上のストレージ。ただしハードウェアRAID構成は出来るだけ避けるべき
(Hardware RAID strongly discouraged)
この際WD REDなどのNAS用にデザインされたドライブを推奨
ネットワーク 1ポート以上の物理Ethernet物理ポート intel製コントローラを推奨
FreeNAS11 Small and Medium Business 推奨構成
アーキテクチャ x86-64互換のエンタープライズクラスマルチコアプロセッサ
メインメモリ 32GB以上(ECC推奨) 良好なパフォーマンスのためには1TBあたり1GB搭載が目安
起動ドライブ ミラー動作の16GBのUSBまたはSATA DOM
データドライブ 4台以上のストレージ。ただしハードウェアRAID構成は非推奨
(Hardware RAID strongly discouraged.
It reduces the data protection and recovery features of FreeNAS considerably.)
エンタープライズ向けにデザインされたSAS/SATAドライブを推奨
HBA LSILogic製SAS HBA(Non-RAIDカード)推奨。RAIDカードは非推奨。
アクセラレータ ランダムな読み込み負荷が高い場合に高性能SSDをリードキャッシュとして使用推奨
同期書き込み用の高耐久SSD。ZIL(ログ機能)、ミラー化対応
ネットワーク 1ポート以上の物理Ethernet物理ポート
1GB:intel製コントローラを推奨 10GB:Chelsio製コントローラを推奨
必要な条件、対応するデバイスなどは次のページで確認できます。
今回の構成は推奨構成と中小規模ビジネス向け推奨構成の折衷といったところです。
それほどミッションクリティカルな連続稼働を要求しないため、HDD自体の耐久性の低さは価格を抑え予備ドライブを準備することでカバーしてゆきます。
実装メモリの検討
FreeNASに担わせるサーバー機能により必要なメモリの実装量は変わってきます。
メインメモリは普通のファイルサーバー用途であればこの台数・容量のHDDでも16GBどころか多分8GBでも平気です。
ZFSのdedupを使おうとした場合には条件が変わり、メモリはあればあるだけ使われ、処理中に足りなくなるとサーバー丸ごとストールします。
dedupの重複削除処理の際に1TBあたり5GBずつ持っていかれるため、本機(64GB実装)の場合であればdedup対象に出来るフォルダのサイズはおおよそ10TB前後といったところでしょうか。
もし96TB全体を対象にしたい場合には512GB搭載出来るシステムにしなければなりません。
…手持ちだとSuperMicroのC612マザーなら64GB*8枚でいけますが、LRDIMMでなかなかタフなお値段になります。
そこまではちょっと手が出ません。
というかdedupを使わなければそこまでメモリ要らないんです。
dedupは世代管理されたファイルのような、一部分だけが変更されたほとんど同じ(でもすこし違う)ファイルがある場合に変更部分のみを記録してディスクの実使用量を抑える仕組み。湯水のごとくメモリを消費します。
2017年11月上旬時点ではメモリを64GB買うのと8TBHDDを3本買うのがほぼ同額のため、個人使用の場合はメモリを積むよりHDDをたくさん買ったほうがだいたいの場合は幸せになれると思います。
ですので、普通のファイルサーバーをFreeNASで建てるのでしたら8~16GBくらいを用意すれば十分だと思います。
メモリをシングルチャネルで使うか、デュアルチャネルにするかもそこまで大きな影響は出ません。
それから、容量の違うモジュールを混載した場合、例えば4GBモジュール+16GBモジュールなどとした場合はフレックスモードで動作するため、論理的には(4*2)+12として一部がデュアルチャネル扱いで動作します。
どうも同一容量同一ロットで揃えたくなりますが、実は別にそこまでがんばって揃えなくても大丈夫。
揃えたくなりますけどね。
Pentium G4400はVT-x、VT-d、EPTのいずれもサポートしており、FreeNASの提供するDockerコンテナやbHyVe仮想マシン(VM)をFreeNAS上で動作させたり、メディアサーバーとして使うことも出来ます。
そうした場合にはそれぞれ適切なドキュメントを参照して必要な容量を上積みしてください。
でもまあFreeNASはメモリを積めば積むほどキャッシュで使えるので、予算に問題がなければマザーボードの搭載上限まで積んでおくのも良い選択だと思います。
FreeNASのUSBメモリを選ぶ
次にFreeNASのOSをインストール先として使うUSBメモリ。
FreeNASのOS領域はミラー化出来るため、同じものを2本、OSインストール時の一時使用で1本用意します。
この用途では数年、書き込み量によっては1・2年で寿命が来ますので無期限保証がついている製品を選ぶのがよいでしょう。
何買っても壊れます。運が良ければ多少長持ちするんですが、SandiskだろうとMicronだろうと壊れます。
ですので予備を用意したり交換が簡単なものが一番。
個人的にはTransend製のアルミ筐体一体型のものがお勧めです。
容量は最小8GB以上、推奨16GB以上を要求されていて、(申し訳程度に)セル不良発生時の代替容量の十分な準備のためと、あと単にほとんど価格差がないので16GBのものを購入。
一時使用のほうはそのへんに転がっている初期化しても問題ない4GBくらいのものがあったらそれでOK。
同じの3本買って予備に置いておくのもよろしいかと。
今ならこのあたり。
ただ…この製品に限った話じゃないんですが、去年と比べてほんっとに値上がりしてますよね、NAND製品。
去年の同じころはほぼ同じ値段で32GBが買えました。
はやく値段落ち着かないかなあ。
もう少し費用を抑えるならシリコンパワーのBlaze B02あたりもわたしのところではそこそこ実績あり。
もう少し良さそうなところ、となると同じくシリコンパワーですがアルミ筐体のこちら。
ただしどちらもTransendのものと比べだいぶ大きく(というか普通のサイズに)なりますのでぶつけて折ったりしないように注意が必要になります。猫パンチされたり子供がイタズラしたりとか。
筐体内のUSB3.0ポートにUSBハブを繋いでそこに仕込むのも手です。
なお、うちでは問題出たことないんですが、USB2.0じゃないとダメだった、という方もいるようなので、もしそういう状態に遭遇したらUSB2.0のポートを試し、それでもダメならUSBメモリそのものをUSB2.0のものに買い替えです。
(FreeNAS自体は9.10くらいからUSB3.0対応になってます)
FreeNASの用意
注文したら到着待ちの間にFreeNASのイメージをダウンロード。
トップ画面中央にある青枠のDOWNLOADボタンを押すとページ遷移後NEWSLETTER登録を求められます。
めんどくさければ下のNo thank you,~のほうをクリックしてもダウンロードページに勧めますからお好みで。
ここまでくればDownloadを押してもトラップは…
ありませんでした。
基本的には最新のリリースバージョンが降ってきますが、2017年11月1日時点では11.1のRC(リリース候補)版がアサインされているようです。特定のバージョンを決め打ちでダウンロードしたい場合はこちらから。
続く。