Nutanix Enterprise AI（NAI）投稿のまとめページです。 1. 概要紹介 2. 検証環境構築 Nutanix Enterprise AI 2.6 Nutanix Enterprise AI 2.4 3. デモ アプリの用意 1. 概要紹介 Nutanix Meetup での登壇資料です。 Nutanix Kubernetes Platform と Nutanix …

先日の Nutanix Meetup Hybrid 26.07 で話した Nutanix Cloud Platform実践ガイド 発売記念の LT 資料です。私が執筆を担当したのは、第14章「さらなるビジネス加速のために」です。 nutanix.connpass.com 今回の内容です。 書籍の様子 ライブ配信の録画 登…

Nutanix Enterprise AI（NAI）2.6 で、2つの LLM エンドポイントに負荷分散する、統合エンドポイントを作成してみます。なお、この機能は、NAI 2.6 時点ではテクニカル プレビューでした。 今回の内容です。 今回の環境 1. ローカル エンドポイントの作成 2.…

Nutanix Enterprise AI（NAI）2.6 の Management API と curl コマンドを利用して、NAI にインポートしてあるモデルから、推論サービスのエンドポイントを作成してみます。 前回はこちら。 Nutanix Enterprise AI 2.6 の Management API で Hugging Fase モ…

Nutanix Enterprise AI（NAI）2.6 の Management API と curl コマンドを利用して、Hugging Face Hub にあるモデルを URL からインポートしてみます。 今回の内容です。 今回のモデル 1. 既存モデル インスタンスの確認 2. モデルのインポート（curl + API）…

Nutanix Enterprise AI（NAI）2.6 で、SB Intuitions が開発している Sarashina の推論エンドポイントを起動してみます。Sarashina は NAI 2.6 の地蔵検証済みリストには含まれていないので、Hugging Face Hub の URL を指定してインポートします。 今回の内…

Nutanix Enterprise AI（NAI）2.6 の推論サービス エンドポイントを利用して、Dify でチャットボットを作成してみます。今回は、Embedding モデルのエンドポイントを利用して PDF ファイルのテキストをベクトル化し、Dify に登録します。そして、チャットボ…

Nutanix Enterprise AI（NAI）2.6 の推論エンドポイントを利用して、Dify でチャットボットを作成してみます。今回は、Dify に NAI の推論サービス エンドポイントを追加して、チャットボットを作成してみます。 今回の内容です。 1. NAI での エンドポイン…

Nutanix Enterprise AI（NAI）2.6 の推論エンドポイントを利用して、Dify でチャットボットを作成してみます。今回は、Dify を構築します。 今回の内容です。 今回の環境 1. Docker ホストの用意 2. Dify の構築ダウンロード 3. 環境変数ファイルの作成 4. N…

NKP の Kubernetes クラスタに、Nutanix Enterprise AI（NAI）2.6 を展開してみます。今回は、NAI にライセンス キーを追加してみます。 前回はこちら。 Nutanix Enterprise AI 2.6 をデプロイしてみる。Part-11：NAI Labs による動作確認 今回の内容です。 …

NKP の Kubernetes クラスタに、Nutanix Enterprise AI（NAI）2.6 を展開してみます。今回は、NAI Labs を利用して、作成したエンドポイントの動作確認を実施してみます。 前回はこちら。 Nutanix Enterprise AI 2.6 をデプロイしてみる。Part-10：NAI の動…

NKP の Kubernetes クラスタに、Nutanix Enterprise AI（NAI）2.6 を展開してみます。今回は、GPU ノードの動作確認として、GPU を使用するエンドポイントを作成してみます。今回も、Hugging Face Hub からトークンなしでダウンロードできるモデルを利用しま…

NKP の Kubernetes クラスタに、Nutanix Enterprise AI（NAI）2.6 を展開してみます。今回は、NKP に GPU ノード プールを追加してみます。 前回はこちら。 Nutanix Enterprise AI 2.6 をデプロイしてみる。Part-08：NAI の動作確認 今回の内容です。 0. NVI…

NKP の Kubernetes クラスタに、Nutanix Enterprise AI（NAI）2.6 を展開してみます。今回は、NAI の動作確認として、モデルのインポートとエンドポイントの作成を実施してみます。なお、今回は簡易的に動作確認するため、Hugging Face Hub からトークンなし…

NKP の Kubernetes クラスタに、Nutanix Enterprise AI（NAI）2.6 を展開してみます。今回は、NAI をインストールし、初期設定を実施します。 前回はこちら。 Nutanix Enterprise AI 2.6 をデプロイしてみる。Part-06：要件ソフトウェアのインストール 今回…

NKP の Kubernetes クラスタに、Nutanix Enterprise AI（NAI）2.6 を展開してみます。今回は、NAI の前提要件となるソフトウェアを、NKP クラスタにインストールします。NKP の管理クラスタにデフォルトでインストールされているものを除き、NVIDIA GPU Oper…