Skip to content

ローカル LLM との通信

SheepBobbin でローカル LLM と通信するにはサーバー機能を有効にしておく必要があります。

Ollama の場合

ollama はデフォルトでサーバー機能を備えています。Ollama とモデルをインストールしたら、SheepBobbin とともに起動して、バックグラウンドに常駐させておいてください。

この状態で、Active Provider に Ollama を選択すると、SheepBobbin から Ollama に対して、インストールされているモデルの一覧が問い合わせされます。一覧が表示されていれば、通信は成功ですので、SheepCombWeb の画面に戻って処理ができるようになっています。 モデル一覧が表示されない場合は、Ollama を再起動するか、SheepBobbin のコンソールをご確認ください。

TIP

SheepBobbin から Ollama への通信はデフォルトのポート(11434)を使用します。変更していた場合は、デフォルトポートに戻しておいてください。

LM Studio の場合

LM studio は、初期状態ではサーバーが開かれていません。そのため、LM Studio と通信するには、サーバーを有効にする必要があります。 LM Studio を起動したら、開発者オプションを開き、左上のサーバーボタンを押してスタートさせてください。下の画面のような表示になっていれば成功です。このまま LM Studio の画面は閉じずに置いておいてください。

この状態で、Active Provider に LM Studio を選択すると、SheepBobbin から LM Studio に対して、インストールされているモデルの一覧が問い合わせされます。一覧が表示されていれば、通信は成功ですので、SheepCombWeb の画面に戻って処理ができるようになっています。 モデル一覧が表示されない場合は、LM Studio を再起動するか、SheepBobbin のコンソールをご確認ください。

TIP

SheepBobbin から LM Studio への通信はデフォルトのポート(8080)を使用します。変更していた場合は、デフォルトポートに戻しておいてください。