#koboldcpp
こういう形式なら行けた。KoboldCppとかでも使ってる形式だけど、チャットAIの補間(Completion)の特性を使ったやり方。
June 11, 2024 at 2:40 PM
heard koboldcpp is good from a friend of mine
February 1, 2025 at 5:21 AM
KOBOLDCPP: KOBOLDCPP 1.122.1 SHIPS INTEGRATED AGENT WITH 9 BUILT-IN TOOLS
September 28, 2026 at 12:30 PM
しかし、毎回KoboldCppのローカルLLMも使ってプロンプト生成して画像出しているのに、やっぱどれか一つを選び取るとChatGPTとかClaude、Copilotの採用率が高い(今回はChatGPT)。やっぱ解釈の品質が高いのかな。
July 20, 2024 at 10:50 AM
KoboldCpp estrena agente de IA integrado en su versión 1.122.1

KoboldCpp, el runtime gratuito para ejecutar modelos GGUF en local, publicó a finales de septiembre su versión 1.122.1 con un agente de IA integrado. Te contamos qué es esta herramienta, para qué sirve, cómo se compara con LM Studio u…
KoboldCpp estrena agente de IA integrado en su versión 1.122.1
KoboldCpp, el runtime gratuito para ejecutar modelos GGUF en local, publicó a finales de septiembre su versión 1.122.1 con un agente de IA integrado. Te contamos qué es esta herramienta, para qué sirve, cómo se compara con LM Studio u Ollama, qué puede hacer su nuevo agente y cómo empezar a usarla desde cero, sin instalar nada.
onedigital.mx
September 30, 2026 at 9:49 PM
ツールはkoboldcpp
モデルはKunoichi-DPO-v2-7Bを使ってるよお🥺
PCなかったらKoboldAI Liteがいいかもぷー🥺
github.com/LostRuins/ko...
huggingface.co/brittlewis12...
lite.koboldai.net
GitHub - LostRuins/koboldcpp: A simple one-file way to run various GGML and GGUF models with KoboldAI's UI
A simple one-file way to run various GGML and GGUF models with KoboldAI's UI - LostRuins/koboldcpp
github.com
February 15, 2024 at 1:31 PM
KoboldCpp(Vecteus-v1-IQ4_XS)製のプロンプト
若干テーマと関係が薄そうなのが多く登場して、微妙にコレジャナイ感出やすいのは、パラメータの調整不足だろうか?
今回も猫とかハイヒールとか出てきてる。まあギリ調和取れてるからいいけど。
June 22, 2024 at 11:21 AM
i think it comes standard with koboldcpp, which is pretty full-featured for something where the intended use case appears to be "local character.ai."
November 8, 2025 at 6:58 PM
AGPL-3.0 LLM Runtimes: text-generation-webui vs Koboldcpp vs Jan

Compare AGPL-3.0 licensed LLM tools: RAM requirements, offline capability, and maturity. Pick the right one for your setup.

https://forgedgoods.org/g/agpl-3-0-llm-runtimes-comparison.html
October 2, 2026 at 10:14 AM
Für alle, die sich für #KI generierte Bilder auf dem PC zuhause interessieren, vollkommen offline und ohne die großen Rechenzenten. gitlab.omega2k.de/omega2k/cust...

Ein kleiner Stack mit nur 2 Funktionen. Bild erzeugen und Upscaler mit KI. Das im Batch oder auch per CLI einzeln ausführbar.

1/🧵↩️
Patrick / custom-koboldcpp · GitLab
GitLab Community Edition
gitlab.omega2k.de
April 2, 2026 at 6:43 PM
しばらく前からあまりにもよわよわなGeminiさんは使ってなくて、今回からllama.cpp(ローカルLLM…を使うKoboldCpp)使い始めた。(今回のイラストはCopilot)
変な検閲に引っかかったりバイアスがあったりしない分、素直に出してくれる感じする。
1回きりの指示で画像生成プロンプト程度の短文出力なら問題なさそう。
May 12, 2024 at 10:44 AM
January 23, 2026 at 4:29 PM
Some notable additions in the last few weeks (1/2):

• cygwin curl gained http3 support
• dxvk (Vulkan-based D3D shim)
• koboldcpp (llama.cpp based KoboldAI UI)
• SBCL (Common Lisp implementation)
• zlib-ng (high-perf zlib replacement)
July 14, 2025 at 9:43 AM
Da scheinen einige Menschen nicht zu verstehen was Docker ist oder?

- klonen
- ./setup
- docker compose up -d
- ./batch

Läuft 100% offline auf der heimischen GPU oder iGPU. Und wieso gibt's solche Kasper, die besser wissen, wie MEIN STACK hier funktioniert? 😂

gitlab.omega2k.de/omega2k/cust...
April 2, 2026 at 8:45 AM
DeepSeek's new open-weight model shipped without a standard chat template, and local agents kept dying when it emitted a tool call inside its reasoning; llama.cpp release b10217 and KoboldCpp v1.118 both landed fixes on 1 August.
llama.cpp ships the fix that lets DeepSeek V4 Flash call tools mid-thought
DeepSeek's new open-weight model shipped without a standard chat template, and local agents kept dying when it emitted a tool call inside its reasoning; llama.cpp release b10217 and KoboldCpp v1.118 both landed fixes on 1 August.
groundtruth.day
August 2, 2026 at 2:02 AM
koboldcppを更新したらCommand R + がうごいたー。
レイヤー数ってのを200にしたらRTX 4090を限界まで使って、常識的な速度で動く。
優勝!
April 12, 2024 at 2:29 PM
I spent most of the weekend catching up with current state of the art in LLMs for games, especially locally hosted (Nvidia just did their thing, Unity Sentis is now in beta, KoboldCPP has been around forever)

I'm running into, oddly, more philosophical issues than technical ones. Like, why do this?
February 19, 2024 at 3:49 AM
🚀 New #release · koboldcpp v1.117

koboldcpp-1.117
• Fixed terminal output sometimes not showing thinking traces
• Multimodal Images are now inserted inline instead of at the t…

Check and #self-host it → selfhost.directory/project/koboldcpp#update-3564425

#selfhost #selfhosted #homelab #opensource
koboldcpp v1.117
koboldcpp-1.117 • Fixed terminal output sometimes not showing thinking traces • Multimodal Images are now inserted inline instead of at the top of the context. This should improve vision coherence and quality on most models.
selfhost.directory
July 9, 2026 at 2:35 PM
プラグイン形式なので、dllの中身をcohereじゃなくてChatGPTとかKoboldCPPとかにもできそう
October 17, 2024 at 3:10 PM
🚀 New #release · koboldcpp v1.117.1

koboldcpp-1.117.1
• Fixed terminal output sometimes not showing thinking traces
• Multimodal Images are now inserted inline instead of at t…

Check and #self-host it → selfhost.directory/project/koboldcpp#update-3836303

#selfhost #selfhosted #homelab #opensource
koboldcpp v1.117.1
koboldcpp-1.117.1 • Fixed terminal output sometimes not showing thinking traces • Multimodal Images are now inserted inline instead of at the top of the context. This should improve vision coherence and quality on most models.
selfhost.directory
July 10, 2026 at 5:20 PM
lol 😂 so, all those time it was you - i thought it was someone else, btw thanks to advise me koboldcpp - it only way my all GPU's worked on Windows
November 9, 2024 at 10:07 PM
いい価格対VRAM容量比ですから、前に進めてください
あんまり重いゲームしないし、ローカルAI遊びも量子化LLMをkoboldcppでぶん回すのがメインになってきたからこれでいいのかもしれない🧐
pc.watch.impress.co.jp/docs/news/ev...
Yes!最大VRAM 24GB。LLMに効くプロ向けGPU「Intel Arc Pro B」
IntelはCOMPUTEX TAIPEI 2025に出展し、会場のブースや台北市内のホテルなどで同社の顧客などを対象にしたさまざまなイベントを行なっている。
pc.watch.impress.co.jp
May 19, 2025 at 11:05 AM
ところで、今回の画像生成用のプロンプトはKoboldCppでVecteus-v1-IQ4_XSというモデルを使って生成している。
チャットでいつも通りのプロンプトでやっても出るのだけど、チャットモードではなく補完を使うとよりプロンプトを出しやすくなる。多分ChatGPTはOpenAI Playground(有料)を使うとできるやつ。
いくつか作例を出して、続けてテーマを入れると長さとかの調整ができるので便利。
May 23, 2024 at 11:29 AM
推論エンジン「KoboldCpp v1.122」公開:エージェント機能追加

https://localmodelwatch.tsuchitsuchi.com/2026/09/26/koboldcpp-v1122/
September 26, 2026 at 9:11 AM