xuiltul

local-llm-tool

ローカルLLM実行ツール。OllamaやvLLMでGPU上のモデルにテキスト生成・チャットを依頼する。 Use when: オンプレ推論、Ollamaエンドポイント呼び出し、ローカルモデルでの要約・生成が必要なとき。

xuiltul 254 45 Updated 5mo ago
GitHub

Install

npx skillscat add xuiltul/animaworks/templates-ja-common-skills-local-llm-tool

Install via the SkillsCat registry.

SKILL.md

Local LLM ツール

ローカルLLM(Ollama/vLLM)経由でテキスト生成・チャットを行う外部ツール。

呼び出し方法

Bash: animaworks-tool local_llm <サブコマンド> [引数] で実行

アクション一覧

generate — テキスト生成

animaworks-tool local_llm generate "プロンプト" [-S "システムプロンプト"]

chat — チャット(複数ターン)

animaworks-tool local_llm chat [--messages JSON] [-S "システムプロンプト"]

models — モデル一覧

animaworks-tool local_llm list

status — サーバー状態確認

animaworks-tool local_llm status

CLI使用法

animaworks-tool local_llm generate "プロンプト" [-S "システムプロンプト"]
animaworks-tool local_llm list
animaworks-tool local_llm status

注意事項

  • Ollamaサーバーまたは vLLM サーバーが起動していること
  • -s/--server でサーバーURL指定可能
  • -m/--model でモデル指定可能