LLM

AI

LLMのプロンプトキャッシュについてまとめる

GitHub CopilotなどのAI開発ツールで気になりやすいトークン使用量を、LLMのプロンプトキャッシュという観点から整理します。仕組み、ヒット率を上げる書き方、API利用時の確認項目、注意点をまとめます。
AI

Ollama + PowerShellでAI連携タスク管理アプリを作る

はじめに以前の記事で Windows への Ollama のインストール方法 と、PowerShell で Windows Forms を使った GUI の作り方 を紹介しました。今回はこの2つを組み合わせて、ローカル LLM によるタスク...
AI

DifyでOllamaを使用する

はじめに以前の記事でWindowsにOllamaをインストールする手順を紹介しました。今回はOllamaを、LLMアプリケーション開発プラットフォームであるDifyと連携させる方法を紹介します。WSL上で動作するDifyからWindows側...
AI

WindowsにOllamaをインストールする

はじめにローカルでLLMを動かせる Ollama をWindowsにインストールしたので、その手順をまとめます。 インストール時にスマート アプリ コントロールによるブロックや、GPU認識まわりでいくつかハマりどころがあったため、あわせて記...