Nutanix Enterprise AI(NAI)投稿のまとめページです。 1. 概要紹介 2. 検証環境構築 Nutanix Enterprise AI 2.6 Nutanix Enterprise AI 2.4 3. デモ アプリの用意 1. 概要紹介 Nutanix Meetup での登壇資料です。 Nutanix Kubernetes Platform と Nutanix …
Nutanix Enterprise AI(NAI)2.6 で、SB Intuitions が開発している Sarashina の推論エンドポイントを起動してみます。Sarashina は NAI 2.6 の地蔵検証済みリストには含まれていないので、Hugging Face Hub の URL を指定してインポートします。 今回の内…
Nutanix Enterprise AI(NAI)2.6 の推論サービス エンドポイントを利用して、Dify でチャットボットを作成してみます。今回は、Embedding モデルのエンドポイントを利用して PDF ファイルのテキストをベクトル化し、Dify に登録します。そして、チャットボ…
Nutanix Enterprise AI(NAI)2.6 の推論エンドポイントを利用して、Dify でチャットボットを作成してみます。今回は、Dify に NAI の推論サービス エンドポイントを追加して、チャットボットを作成してみます。 今回の内容です。 1. NAI での エンドポイン…
Nutanix Enterprise AI(NAI)2.6 の推論エンドポイントを利用して、Dify でチャットボットを作成してみます。今回は、Dify を構築します。 今回の内容です。 今回の環境 1. Docker ホストの用意 2. Dify の構築ダウンロード 3. 環境変数ファイルの作成 4. N…
NKP の Kubernetes クラスタに、Nutanix Enterprise AI(NAI)2.6 を展開してみます。今回は、NAI にライセンス キーを追加してみます。 前回はこちら。 Nutanix Enterprise AI 2.6 をデプロイしてみる。Part-11:NAI Labs による動作確認 今回の内容です。 …
NKP の Kubernetes クラスタに、Nutanix Enterprise AI(NAI)2.6 を展開してみます。今回は、NAI Labs を利用して、作成したエンドポイントの動作確認を実施してみます。 前回はこちら。 Nutanix Enterprise AI 2.6 をデプロイしてみる。Part-10:NAI の動…
NKP の Kubernetes クラスタに、Nutanix Enterprise AI(NAI)2.6 を展開してみます。今回は、GPU ノードの動作確認として、GPU を使用するエンドポイントを作成してみます。今回も、Hugging Face Hub からトークンなしでダウンロードできるモデルを利用しま…
NKP の Kubernetes クラスタに、Nutanix Enterprise AI(NAI)2.6 を展開してみます。今回は、NKP に GPU ノード プールを追加してみます。 前回はこちら。 Nutanix Enterprise AI 2.6 をデプロイしてみる。Part-08:NAI の動作確認 今回の内容です。 0. NVI…
NKP の Kubernetes クラスタに、Nutanix Enterprise AI(NAI)2.6 を展開してみます。今回は、NAI の動作確認として、モデルのインポートとエンドポイントの作成を実施してみます。なお、今回は簡易的に動作確認するため、Hugging Face Hub からトークンなし…
NKP の Kubernetes クラスタに、Nutanix Enterprise AI(NAI)2.6 を展開してみます。今回は、NAI をインストールし、初期設定を実施します。 前回はこちら。 Nutanix Enterprise AI 2.6 をデプロイしてみる。Part-06:要件ソフトウェアのインストール 今回…
NKP の Kubernetes クラスタに、Nutanix Enterprise AI(NAI)2.6 を展開してみます。今回は、NAI の前提要件となるソフトウェアを、NKP クラスタにインストールします。NKP の管理クラスタにデフォルトでインストールされているものを除き、NVIDIA GPU Oper…
NKP の Kubernetes クラスタに、Nutanix Enterprise AI(NAI)2.6 を展開してみます。NAI を NKP で使用するための機能では NKP Pro 以上のライセンスが必要になるので、ここで NKP 管理クラスタにライセンス キーを追加しておきます。 前回はこちら。 Nutan…
NKP の Kubernetes クラスタに、Nutanix Enterprise AI(NAI)2.6 を展開してみます。今回は、Nutanix Files Storage で NFS サーバーを利用する、NKP クラスタの Storage Class を作成します。 前回はこちら。 Nutanix Enterprise AI 2.6 をデプロイしてみ…
NKP の Kubernetes クラスタに、Nutanix Enterprise AI(NAI)2.6 を展開してみます。今回は、NKP の管理クラスタを用意します。 前回はこちら。 Nutanix Enterprise AI 2.6 をデプロイしてみる。Part-02:作業用マシンの準備 今回の内容です。 1. OS イメー…
NKP の Kubernetes クラスタに、Nutanix Enterprise AI(NAI)2.6 を展開してみます。今回は、作業用の Linux マシンを準備します。nkp CLI による NKP 管理クラスタの作成や OS イメージのビルドでは、コンテナ ホストが必要になります。そこで、このマシン…
