📙

Node-AI Berryの起動方法

 
💡
このページは、Docker image から Node-AI Berry のコンテナを起動し、正常に稼働していることを確認するまでの手順を説明するものです。

Berry の起動方法

Berry の Docker image から Docker コンテナを立ち上げる方法。

Docker imageを入手する

Node-AI Berry はDocker imageとしてお渡しします。詳しくは弊社担当者にご連絡ください。

Docker コンテナを起動する

  1. (初回のみ実行)コンテナにマウントするモデルディレクトリを作成します
    1. このディレクトリ内にNode-AIで作成したモデルファイルを配置します 詳しい方法は 📙モデルのアップロード で後ほど解説します
  1. Docker image を読み込みます
    1. Docker image からコンテナを起動します
      1. コマンド意味
        Docker コンテナを起動します。
        バックグラウンドで起動するためのオプションです。
        コンテナ名を指定します。任意で変更できます。
        終了コードがゼロ以外をエラーとみなし、エラー発生時にコンテナを再起動します。 詳しくは公式マニュアルをご覧ください。
        ホストのポート 8080 番(左側)をコンテナのポート 8080 番(右側)にフォワーディングします。ホスト側のポートは自由に変更できます。リクエストはホスト側のポートに対して行います。
        コンテナにマウントするモデルディレクトリを指定します。・ は Node-AI で作成したモデル(zip ファイル)が配置されるディレクトリ。 は変更不可。
        起動する Docker image を指定します。
        以下使うコマンドの説明です。意味欄の太字部分については環境ごとにカスタマイズする必要があります。
        オプションの環境変数で設定されるオプションは以下のとおりです。 未定義の場合はデフォルト値が設定されます。
        環境変数デフォルト値意味
        INFO出力するログのレベル。 指定したレベル以上のログだけが出力されます。  /  /  /  /  のいずれかを指定します(大文字・小文字は問いません)。 左ほど出力される情報量が多く(詳細)、右ほど少なく(重大なもののみ)なります。 通常は  のままで問題ありません。 詳細な動作を調査したい場合は 、 警告以上のみ記録したい場合は  を指定します。
        1推論処理を実行するプロセス数。設定値が大きいほど同時により多くの推論を実行可能ですが、より多くのリソースを消費します。 で の数が自動設定されます。
        1数値計算ライブラリ (OpenMP / BLAS / PyTorch) で用いるスレッド数。
        💡
        ログレベル(LOG_LEVEL)について
        ログレベルは、出力するログの「重要度のしきい値」です。 設定したレベルと、それより重要なレベルのログだけが出力されます。
        •  … 開発・調査向けの詳細な情報まですべて出力
        •  … 通常の稼働状況(起動・リクエスト処理など)を出力(デフォルト)
        •  … 警告以上のみ出力
        •  … エラー以上のみ出力
        •  … 致命的な障害のみ出力
        重要度は  の順です。たとえば  を指定すると、 /  /  のログだけが出力され、 や  は抑制されます。
    1. コンテナが起動していることを確認します。
      1. 以下のコマンドを実行し、出力結果例通りになるか確認してください。
      2. ローカルでコンテナを起動した場合
      3. b. サーバで起動した場合
        出力結果例