Berry の起動方法

Docker imageを入手する

Docker コンテナを起動する

1. （初回のみ実行）コンテナにマウントするモデルディレクトリを作成します
このディレクトリ内にNode-AIで作成したモデルファイルを配置します 詳しい方法は📙モデルのアップロード で後ほど解説します

2. Docker image を読み込みます

3. Docker image からコンテナを起動します

コマンド	意味
	Docker コンテナを起動します。
	バックグラウンドで起動するためのオプションです。
	コンテナ名を指定します。任意で変更できます。
	終了コードがゼロ以外をエラーとみなし、エラー発生時にコンテナを再起動します。 詳しくは公式マニュアルをご覧ください。
	ホストのポート 8080 番（左側）をコンテナのポート 8080 番（右側）にフォワーディングします。ホスト側のポートは自由に変更できます。リクエストはホスト側のポートに対して行います。
	コンテナにマウントするモデルディレクトリを指定します。・ は Node-AI で作成したモデル（zip ファイル）が配置されるディレクトリ。 は変更不可。
	起動する Docker image を指定します。

以下使うコマンドの説明です。意味欄の太字部分については環境ごとにカスタマイズする必要があります。
オプションの環境変数で設定されるオプションは以下のとおりです。 未定義の場合はデフォルト値が設定されます。

環境変数	デフォルト値	意味
	INFO	出力するログのレベル。
	1	推論処理を実行するプロセス数。設定値が大きいほど同時により多くの推論を実行可能ですが、より多くのリソースを消費します。 で の数が自動設定されます。
	1	数値計算ライブラリ (OpenMP / BLAS / PyTorch) で用いるスレッド数。

4. コンテナが起動していることを確認します。
以下のコマンドを実行し、出力結果例通りになるか確認してください。
1. ローカルでコンテナを起動した場合
b. サーバで起動した場合
出力結果例