资源url:https://pan.quark.cn/s/b6bb90db464a
海量资源频道:https://t.me/okpojie
海量资源网站:https://www.okpojie.com/
资源url:https://pan.quark.cn/s/b6bb90db464a
海量资源频道:https://t.me/okpojie
海量资源网站:https://www.okpojie.com/
资源url:https://pan.quark.cn/s/b6bb90db464a
海量资源频道:https://t.me/okpojie
海量资源网站:https://www.okpojie.com/
资源url:https://pan.quark.cn/s/b6bb90db464a
海量资源频道:https://t.me/okpojie
海量资源网站:https://www.okpojie.com/
Making this model really fast, and efficient. Even running on phones.
ollama.com/openbmb/mini...
Making this model really fast, and efficient. Even running on phones.
ollama.com/openbmb/mini...
https://www.esatapedico.com/posts/latest-model-uploads-gemma-minicpm-nanbeige/
#ai #inference #open-source
https://www.esatapedico.com/posts/latest-model-uploads-gemma-minicpm-nanbeige/
#ai #inference #open-source
https://github.com/VecSzn/PolyStrata
https://github.com/VecSzn/PolyStrata
MiniCPM-V also looking good too. Just lots of incredible medium models.
huggingface.co/openbmb/Mini...
MiniCPM-V also looking good too. Just lots of incredible medium models.
huggingface.co/openbmb/Mini...
https://massedcompute.com/lfm2-5-24b-a2b-minicpm-v-4-7-gpu-buyer-guide/
https://massedcompute.com/lfm2-5-24b-a2b-minicpm-v-4-7-gpu-buyer-guide/
Reported gains reach ~2.2× faster decoding and 10× lower embedding VRAM, depending on workload. The default port moves from 8080 to 9931 (Docker stays on 8080 internally); test integrations before upgrading.
Read more on Kimbodo:
Reported gains reach ~2.2× faster decoding and 10× lower embedding VRAM, depending on workload. The default port moves from 8080 to 9931 (Docker stays on 8080 internally); test integrations before upgrading.
Read more on Kimbodo:
why do they always pick such tiny active param counts? are larger ones even worse? i don’t get the tradeoff here
Previously, a prompt-cache update could replace that slot’s context mid-generation—a correctness risk for concurrent requests. The updates also add MiniCPM-V 4.7 multimodal compatibility, not new model weights.
Read more on Kimbodo:
Previously, a prompt-cache update could replace that slot’s context mid-generation—a correctness risk for concurrent requests. The updates also add MiniCPM-V 4.7 multimodal compatibility, not new model weights.
Read more on Kimbodo:
https://olud.ai/#leaderboard
#OpenSource #AI #HuggingFace
https://olud.ai/#leaderboard
#OpenSource #AI #HuggingFace
🛠️ openbmb bringt mit MiniCPM-V-4.7-35B-A3B-gguf ein starkes Modell für die Kombination von Bild und…
🚀 Entdecke diesen und weitere KI-Geheimtipps auf Underground AI.
👉 https://underground-ai.bolt.app/
#KuenstlicheIntelligenz #OpenSource
🛠️ openbmb bringt mit MiniCPM-V-4.7-35B-A3B-gguf ein starkes Modell für die Kombination von Bild und…
🚀 Entdecke diesen und weitere KI-Geheimtipps auf Underground AI.
👉 https://underground-ai.bolt.app/
#KuenstlicheIntelligenz #OpenSource
openbmb/MiniCPM-V-4.7-35B-A3B
MiniCPM-V 4.7は、画像や動画の理解が可能なマルチモーダル大規模言語モデルです。
シリーズ初のMoEモデルである35B-A3Bを採用し、効率的な視覚エンコーディングとオンデバイス推論を実現しています。
リソース制限のあるデバイスにおいて、高い性能と推論効率の両立を目指して作成されました。
openbmb/MiniCPM-V-4.7-35B-A3B
MiniCPM-V 4.7は、画像や動画の理解が可能なマルチモーダル大規模言語モデルです。
シリーズ初のMoEモデルである35B-A3Bを採用し、効率的な視覚エンコーディングとオンデバイス推論を実現しています。
リソース制限のあるデバイスにおいて、高い性能と推論効率の両立を目指して作成されました。
#MiniCPMV #MultimodalAI
#MiniCPMV #MultimodalAI
huggingface.co/openbmb/Mini...
huggingface.co/openbmb/Mini...
openbmb/MiniCPM-V-4.7-35B-A3B
MiniCPM-V 4.7は、単一・複数画像および動画の理解を目的としたマルチモーダルモデルです。
シリーズ初のMoEモデルである35B-A3Bを提供し、LES等の技術により性能を維持したまま、リソース制限のあるデバイス上で効率的な推論を実現することを目的としています。
openbmb/MiniCPM-V-4.7-35B-A3B
MiniCPM-V 4.7は、単一・複数画像および動画の理解を目的としたマルチモーダルモデルです。
シリーズ初のMoEモデルである35B-A3Bを提供し、LES等の技術により性能を維持したまま、リソース制限のあるデバイス上で効率的な推論を実現することを目的としています。
New multimodal models from @OpenBMB using only ~3 GB of memory.
Below, I showcase how to run it with @llama_cpp's web UI 🧵 https://t.co/tItzIAD77q
New multimodal models from @OpenBMB using only ~3 GB of memory.
Below, I showcase how to run it with @llama_cpp's web UI 🧵 https://t.co/tItzIAD77q