AIプラットフォーム、”Jan”の導入 投稿者:ひで 投稿公開日:2024年9月22日 投稿カテゴリー:AI / IT 投稿コメント:0件のコメント Janって何ぞや!? JanはOpen AIのChatGPTのようなAIチャットを公開っされているモデルを使ってローカル環境で実行できるAIプラットフォームです。(公開モデルはGGUF形式のみ対応しています。)加えてこのJanはWeb APIサーバとして起動することも可能です。(試したことはない。) インストール 作業環境 CPU:AMD 3600メモリ:24GBグラボ:NVIDIA GeForce RTX 2070 SUPEROS:Windows11 インストール作業 CUDA:最新(12.6)Jan:最新Cortex(Jan拡張機能):最新CUDAインストーラーはこちらでダウンロードしてください。Janインストーラーはこちらでダウンロードしてください。CortexはJanを起動して設定からインストールしましたはずですが、手順は忘れました。 Janを使ってみる Hugging Faceでモデルを探す。Janから対象モデルのモデル名/URLを入力し、モデルをダウンロードする。Janでスレッドを新規作成し、ダウンロードしたモデルを選択する。質問してみる。 Fugaku-LLMが動作しない…。 元々スーパーコンピュータ富岳で学習したAIモデルが公開されているということで使ってみたくJanを入れてみたのですが、そのFugaku-LLMが動作しませんでした。(何だかGGUF形式に異常の趣旨のメッセージが表示されていたような気がします。)私はもう諦めましたので、エラーを解消する方法があれば教えてください! タグ: Fugaku-LLM, Jan おすすめ プライベート認証をコマンドで。 2025年3月18日 クライアント証明書 2024年2月15日 面白開発:Live119 2024年6月27日 コメントを残す コメントをキャンセルコメントコメントする名前またはユーザー名を入力してください メールアドレスを入力してコメント Web サイトの URL を入力してください。(任意) 次回のコメントで使用するためブラウザーに自分の名前、メールアドレス、サイトを保存する。