KoboldCpp, el runtime gratuito para ejecutar modelos GGUF en local, publicó a finales de septiembre su versión 1.122.1 con un agente de IA integrado. Te contamos qué es esta herramienta, para qué sirve, cómo se compara con LM Studio u…
KoboldCpp, el runtime gratuito para ejecutar modelos GGUF en local, publicó a finales de septiembre su versión 1.122.1 con un agente de IA integrado. Te contamos qué es esta herramienta, para qué sirve, cómo se compara con LM Studio u…
モデルはKunoichi-DPO-v2-7Bを使ってるよお🥺
PCなかったらKoboldAI Liteがいいかもぷー🥺
github.com/LostRuins/ko...
huggingface.co/brittlewis12...
lite.koboldai.net
モデルはKunoichi-DPO-v2-7Bを使ってるよお🥺
PCなかったらKoboldAI Liteがいいかもぷー🥺
github.com/LostRuins/ko...
huggingface.co/brittlewis12...
lite.koboldai.net
若干テーマと関係が薄そうなのが多く登場して、微妙にコレジャナイ感出やすいのは、パラメータの調整不足だろうか?
今回も猫とかハイヒールとか出てきてる。まあギリ調和取れてるからいいけど。
若干テーマと関係が薄そうなのが多く登場して、微妙にコレジャナイ感出やすいのは、パラメータの調整不足だろうか?
今回も猫とかハイヒールとか出てきてる。まあギリ調和取れてるからいいけど。
Compare AGPL-3.0 licensed LLM tools: RAM requirements, offline capability, and maturity. Pick the right one for your setup.
https://forgedgoods.org/g/agpl-3-0-llm-runtimes-comparison.html
Compare AGPL-3.0 licensed LLM tools: RAM requirements, offline capability, and maturity. Pick the right one for your setup.
https://forgedgoods.org/g/agpl-3-0-llm-runtimes-comparison.html
Ein kleiner Stack mit nur 2 Funktionen. Bild erzeugen und Upscaler mit KI. Das im Batch oder auch per CLI einzeln ausführbar.
1/🧵↩️
Ein kleiner Stack mit nur 2 Funktionen. Bild erzeugen und Upscaler mit KI. Das im Batch oder auch per CLI einzeln ausführbar.
1/🧵↩️
変な検閲に引っかかったりバイアスがあったりしない分、素直に出してくれる感じする。
1回きりの指示で画像生成プロンプト程度の短文出力なら問題なさそう。
変な検閲に引っかかったりバイアスがあったりしない分、素直に出してくれる感じする。
1回きりの指示で画像生成プロンプト程度の短文出力なら問題なさそう。
• cygwin curl gained http3 support
• dxvk (Vulkan-based D3D shim)
• koboldcpp (llama.cpp based KoboldAI UI)
• SBCL (Common Lisp implementation)
• zlib-ng (high-perf zlib replacement)
• cygwin curl gained http3 support
• dxvk (Vulkan-based D3D shim)
• koboldcpp (llama.cpp based KoboldAI UI)
• SBCL (Common Lisp implementation)
• zlib-ng (high-perf zlib replacement)
- klonen
- ./setup
- docker compose up -d
- ./batch
Läuft 100% offline auf der heimischen GPU oder iGPU. Und wieso gibt's solche Kasper, die besser wissen, wie MEIN STACK hier funktioniert? 😂
gitlab.omega2k.de/omega2k/cust...
- klonen
- ./setup
- docker compose up -d
- ./batch
Läuft 100% offline auf der heimischen GPU oder iGPU. Und wieso gibt's solche Kasper, die besser wissen, wie MEIN STACK hier funktioniert? 😂
gitlab.omega2k.de/omega2k/cust...
レイヤー数ってのを200にしたらRTX 4090を限界まで使って、常識的な速度で動く。
優勝!
レイヤー数ってのを200にしたらRTX 4090を限界まで使って、常識的な速度で動く。
優勝!
I'm running into, oddly, more philosophical issues than technical ones. Like, why do this?
I'm running into, oddly, more philosophical issues than technical ones. Like, why do this?
koboldcpp-1.117
• Fixed terminal output sometimes not showing thinking traces
• Multimodal Images are now inserted inline instead of at the t…
Check and #self-host it → selfhost.directory/project/koboldcpp#update-3564425
#selfhost #selfhosted #homelab #opensource
koboldcpp-1.117
• Fixed terminal output sometimes not showing thinking traces
• Multimodal Images are now inserted inline instead of at the t…
Check and #self-host it → selfhost.directory/project/koboldcpp#update-3564425
#selfhost #selfhosted #homelab #opensource
koboldcpp-1.117.1
• Fixed terminal output sometimes not showing thinking traces
• Multimodal Images are now inserted inline instead of at t…
Check and #self-host it → selfhost.directory/project/koboldcpp#update-3836303
#selfhost #selfhosted #homelab #opensource
koboldcpp-1.117.1
• Fixed terminal output sometimes not showing thinking traces
• Multimodal Images are now inserted inline instead of at t…
Check and #self-host it → selfhost.directory/project/koboldcpp#update-3836303
#selfhost #selfhosted #homelab #opensource
あんまり重いゲームしないし、ローカルAI遊びも量子化LLMをkoboldcppでぶん回すのがメインになってきたからこれでいいのかもしれない🧐
pc.watch.impress.co.jp/docs/news/ev...
あんまり重いゲームしないし、ローカルAI遊びも量子化LLMをkoboldcppでぶん回すのがメインになってきたからこれでいいのかもしれない🧐
pc.watch.impress.co.jp/docs/news/ev...
チャットでいつも通りのプロンプトでやっても出るのだけど、チャットモードではなく補完を使うとよりプロンプトを出しやすくなる。多分ChatGPTはOpenAI Playground(有料)を使うとできるやつ。
いくつか作例を出して、続けてテーマを入れると長さとかの調整ができるので便利。
チャットでいつも通りのプロンプトでやっても出るのだけど、チャットモードではなく補完を使うとよりプロンプトを出しやすくなる。多分ChatGPTはOpenAI Playground(有料)を使うとできるやつ。
いくつか作例を出して、続けてテーマを入れると長さとかの調整ができるので便利。
https://localmodelwatch.tsuchitsuchi.com/2026/09/26/koboldcpp-v1122/
https://localmodelwatch.tsuchitsuchi.com/2026/09/26/koboldcpp-v1122/