推論モードの高低で曲のクオリティがだいぶ変わる🙄
October 29, 2026 at 10:30 AM
推論モードの高低で曲のクオリティがだいぶ変わる🙄
Sebastian Raschkaが11時間かけて見せる「推論モデルの作り方」
https://papoo.work/doc/16a868be49ea2755
#llm #推論モデル #強化学習 #pytorch #機械学習
https://papoo.work/doc/16a868be49ea2755
#llm #推論モデル #強化学習 #pytorch #機械学習
Sebastian Raschkaが11時間かけて見せる「推論モデルの作り方」
papoo.work
October 30, 2026 at 1:10 PM
サンプラー機能を充実させてサンプリング音源入れて、推論レベル上げたら曲の出来がかなり改善した。
October 29, 2026 at 5:52 PM
サンプラー機能を充実させてサンプリング音源入れて、推論レベル上げたら曲の出来がかなり改善した。
なんか技術者界隈からも「こいつ誰？コンサル？」みたいな扱いらしくて、ハッタリかましたど素人ってのが私の推論です…まぁ高市みたいなもんですよね…
October 28, 2026 at 11:52 AM
なんか技術者界隈からも「こいつ誰？コンサル？」みたいな扱いらしくて、ハッタリかましたど素人ってのが私の推論です…まぁ高市みたいなもんですよね…
October 26, 2026 at 3:10 PM
AI学習・推論・Defense Tech・コンサル それぞれの企業を掛け持ちしていると世の中の流れがいろいろ紐づいて見えて面白い。
October 26, 2026 at 11:09 PM
AI学習・推論・Defense Tech・コンサル それぞれの企業を掛け持ちしていると世の中の流れがいろいろ紐づいて見えて面白い。
どうも背景に関する洞察が今のところ「推論」では真似できていないようですね
October 28, 2026 at 12:37 PM
どうも背景に関する洞察が今のところ「推論」では真似できていないようですね
NVIDIA DGX SparkにおけるMoE推論を高速化する3つの手法
NVIDIA DGX Spark上でMoEモデルの推論を最大42.5%高速化する3つの最適化手法とその実測効果を解説。
#LLM #MoE #NVIDIA #Inference #DGXSpark
NVIDIA DGX Spark上でMoEモデルの推論を最大42.5%高速化する3つの最適化手法とその実測効果を解説。
#LLM #MoE #NVIDIA #Inference #DGXSpark
NVIDIA DGX SparkにおけるMoE推論を高速化する3つの手法
NVIDIA DGX Spark上でMoEモデルの推論を最大42.5%高速化する3つの最適化手法とその実測効果を解説。
ai.warp-studio.com
October 27, 2026 at 6:34 PM
NVIDIA DGX SparkにおけるMoE推論を高速化する3つの手法
NVIDIA DGX Spark上でMoEモデルの推論を最大42.5%高速化する3つの最適化手法とその実測効果を解説。
#LLM #MoE #NVIDIA #Inference #DGXSpark
NVIDIA DGX Spark上でMoEモデルの推論を最大42.5%高速化する3つの最適化手法とその実測効果を解説。
#LLM #MoE #NVIDIA #Inference #DGXSpark
DeepSeek が自前の推論基盤を公開した意味
papoo.work
October 26, 2026 at 4:09 PM
NVIDIAが推論向けNemotron 3.5 SuperとLightningを公開
NVIDIAは、推論やエージェント作業向けのオープンソースモデル「Nemotron 3.5 Super」と「Lightning」を公開した。
https://648news.com/ai_industry/2026/10/31-nvidia-nemotron-3-5-super-lightning
#AI
NVIDIAは、推論やエージェント作業向けのオープンソースモデル「Nemotron 3.5 Super」と「Lightning」を公開した。
https://648news.com/ai_industry/2026/10/31-nvidia-nemotron-3-5-super-lightning
#AI
NVIDIAが推論向けNemotron 3.5 SuperとLightningを公開
NVIDIAは、推論やエージェント作業向けのオープンソースモデル「Nemotron 3.5 Super」と「Lightning」を公開した。Superは総パラメータ1200億でアクティブ120億、Lightningは300億で30億のMoE（入力ごとに一部だけ使う方式）モデルである。長い文脈やエージェント作業を想定し、生成速度と精度の両立を狙う。開発現場では、モデルの構成と評価結果を比較できる。
648news.com
October 30, 2026 at 9:55 PM
NVIDIAが推論向けNemotron 3.5 SuperとLightningを公開
NVIDIAは、推論やエージェント作業向けのオープンソースモデル「Nemotron 3.5 Super」と「Lightning」を公開した。
https://648news.com/ai_industry/2026/10/31-nvidia-nemotron-3-5-super-lightning
#AI
NVIDIAは、推論やエージェント作業向けのオープンソースモデル「Nemotron 3.5 Super」と「Lightning」を公開した。
https://648news.com/ai_industry/2026/10/31-nvidia-nemotron-3-5-super-lightning
#AI
Sebastian Raschkaが11時間かけて見せる「推論モデルの作り方」
https://papoo.work/doc/16a868be49ea2755
#llm #推論モデル #強化学習 #pytorch #機械学習
https://papoo.work/doc/16a868be49ea2755
#llm #推論モデル #強化学習 #pytorch #機械学習
Sebastian Raschkaが11時間かけて見せる「推論モデルの作り方」
papoo.work
October 30, 2026 at 5:42 PM
CloudflareのWorkers AIでGLM-5.3混入、155件公表
CloudflareはWorkers AIで提供していたGLM-5.3で、他顧客のKVキャッシュ（推論で再利用する中間データ）が混入した応答が155件あったと公表した。
https://648news.com/ai_industry/2026/10/28-cloudflare-glm-kv-cache-exposure
#AI
CloudflareはWorkers AIで提供していたGLM-5.3で、他顧客のKVキャッシュ（推論で再利用する中間データ）が混入した応答が155件あったと公表した。
https://648news.com/ai_industry/2026/10/28-cloudflare-glm-kv-cache-exposure
#AI
CloudflareのWorkers AIでGLM-5.3混入、155件公表
CloudflareはWorkers AIで提供していたGLM-5.3で、他顧客のKVキャッシュ（推論で再利用する中間データ）が混入した応答が155件あったと公表した。原因は推論基盤SGLangの設定不整合とバグで、長文プロンプトが対象だった。複数顧客が同じ推論基盤を使う共有推論では、テナント分離と検証設計の課題を示す事例になる。
648news.com
October 28, 2026 at 1:50 AM
CloudflareのWorkers AIでGLM-5.3混入、155件公表
CloudflareはWorkers AIで提供していたGLM-5.3で、他顧客のKVキャッシュ（推論で再利用する中間データ）が混入した応答が155件あったと公表した。
https://648news.com/ai_industry/2026/10/28-cloudflare-glm-kv-cache-exposure
#AI
CloudflareはWorkers AIで提供していたGLM-5.3で、他顧客のKVキャッシュ（推論で再利用する中間データ）が混入した応答が155件あったと公表した。
https://648news.com/ai_industry/2026/10/28-cloudflare-glm-kv-cache-exposure
#AI
今、環境問題を理由にLLMの開発をさっぱりあきらめたとしても、LLMはすでに数学の未解決問題を解きまくっているので、推論が残るだけでも十分脅威かもしれない
October 29, 2026 at 5:58 AM
今、環境問題を理由にLLMの開発をさっぱりあきらめたとしても、LLMはすでに数学の未解決問題を解きまくっているので、推論が残るだけでも十分脅威かもしれない
#後で読む 用メモです→
EKS でスケーラブルな LLM 推論基盤を作る
EKS でスケーラブルな LLM 推論基盤を作る
EKS でスケーラブルな LLM 推論基盤を作る | DevelopersIO
EKS上でGPUノードと推論エンジンが0台から動的に増減するLLM推論基盤の実装例を紹介します。通常のWeb APIの常識がLLMではどう変わるか、その違いに対応したアーキテクチャまでを実装を通じて見ていきます。
dev.classmethod.jp
October 29, 2026 at 9:49 AM
#後で読む 用メモです→
EKS でスケーラブルな LLM 推論基盤を作る
EKS でスケーラブルな LLM 推論基盤を作る
Mistral Large 4がオープンウェイト公開、ローカル推論の選択肢に
Mistral AIは2026年10月29日、テキストと画像を入力できる大型モデル「Mistral Large 4」をHugging Faceで公開した。
https://648news.com/local_ai/2026/10/30-mistral-large-4-local-inference
#ローカルLLM
Mistral AIは2026年10月29日、テキストと画像を入力できる大型モデル「Mistral Large 4」をHugging Faceで公開した。
https://648news.com/local_ai/2026/10/30-mistral-large-4-local-inference
#ローカルLLM
Mistral Large 4がオープンウェイト公開、ローカル推論の選択肢に
Mistral AIは2026年10月29日、テキストと画像を入力できる大型モデル「Mistral Large 4」をHugging Faceで公開した。総数約1兆パラメータだが、1トークンで動くのは約490億パラメータだけで、100万トークンのコンテキスト長を持ち、推論の強さをlow、medium、highから切り替える機能を持つ。自分のPCやサーバーで動かす技術者・愛好家には、公式の推論手順が用意された点が直接の確認点になる。
648news.com
October 29, 2026 at 11:20 PM
Mistral Large 4がオープンウェイト公開、ローカル推論の選択肢に
Mistral AIは2026年10月29日、テキストと画像を入力できる大型モデル「Mistral Large 4」をHugging Faceで公開した。
https://648news.com/local_ai/2026/10/30-mistral-large-4-local-inference
#ローカルLLM
Mistral AIは2026年10月29日、テキストと画像を入力できる大型モデル「Mistral Large 4」をHugging Faceで公開した。
https://648news.com/local_ai/2026/10/30-mistral-large-4-local-inference
#ローカルLLM
💡 Summary:
著者は、推論モデルを一から学ぶための全8回・約11時間の講義動画を公開し、PythonとPyTorchで評価、推論時スケーリング、検証可能報酬による強化学習、蒸留を実装する内容を紹介しています。推論モデルはAIエージェントの「エンジン」に当たり、ツール利用や文脈管理を担うエージェント基盤と組み合わせて、より複雑な課題に対応します。
著者は、推論モデルを一から学ぶための全8回・約11時間の講義動画を公開し、PythonとPyTorchで評価、推論時スケーリング、検証可能報酬による強化学習、蒸留を実装する内容を紹介しています。推論モデルはAIエージェントの「エンジン」に当たり、ツール利用や文脈管理を担うエージェント基盤と組み合わせて、より複雑な課題に対応します。
October 26, 2026 at 9:44 PM
💡 Summary:
著者は、推論モデルを一から学ぶための全8回・約11時間の講義動画を公開し、PythonとPyTorchで評価、推論時スケーリング、検証可能報酬による強化学習、蒸留を実装する内容を紹介しています。推論モデルはAIエージェントの「エンジン」に当たり、ツール利用や文脈管理を担うエージェント基盤と組み合わせて、より複雑な課題に対応します。
著者は、推論モデルを一から学ぶための全8回・約11時間の講義動画を公開し、PythonとPyTorchで評価、推論時スケーリング、検証可能報酬による強化学習、蒸留を実装する内容を紹介しています。推論モデルはAIエージェントの「エンジン」に当たり、ツール利用や文脈管理を担うエージェント基盤と組み合わせて、より複雑な課題に対応します。
最近はjevを使ったスキャbotに自分のスキャスキルを移植して、リアルタイムであーでもないこーでもないと指示しながら修正と実行を繰り返してます。
基本画面はチャッピーに渡しちゃってるので、こちらは眺めながら自分がここなら入るよなって場所を見ながら後でチャッピーと振り返りつつ、jevの推論で定量化して確率出してパラメータを変えて定量的にスキャ自体の改善点をやっています。
そんなわけでちと配信は参加自体お休み中で、目処がつき次第また参加します。
基本画面はチャッピーに渡しちゃってるので、こちらは眺めながら自分がここなら入るよなって場所を見ながら後でチャッピーと振り返りつつ、jevの推論で定量化して確率出してパラメータを変えて定量的にスキャ自体の改善点をやっています。
そんなわけでちと配信は参加自体お休み中で、目処がつき次第また参加します。
October 29, 2026 at 6:02 AM
最近はjevを使ったスキャbotに自分のスキャスキルを移植して、リアルタイムであーでもないこーでもないと指示しながら修正と実行を繰り返してます。
基本画面はチャッピーに渡しちゃってるので、こちらは眺めながら自分がここなら入るよなって場所を見ながら後でチャッピーと振り返りつつ、jevの推論で定量化して確率出してパラメータを変えて定量的にスキャ自体の改善点をやっています。
そんなわけでちと配信は参加自体お休み中で、目処がつき次第また参加します。
基本画面はチャッピーに渡しちゃってるので、こちらは眺めながら自分がここなら入るよなって場所を見ながら後でチャッピーと振り返りつつ、jevの推論で定量化して確率出してパラメータを変えて定量的にスキャ自体の改善点をやっています。
そんなわけでちと配信は参加自体お休み中で、目処がつき次第また参加します。
8shiki.moo.jp/kasetsu/inde... 怪説推論の公開2周年記念としてブラウザ移植版を公開しました。Macなので触れなかった人も良ければどうぞ
Light.vn Visual Novel Engine
8shiki.moo.jp
October 26, 2026 at 9:27 AM
8shiki.moo.jp/kasetsu/inde... 怪説推論の公開2周年記念としてブラウザ移植版を公開しました。Macなので触れなかった人も良ければどうぞ
Jetson AGX ThorでDeepSeek-V4.1純CUDA推論公開
patrickbdevaneyは2026年10月30日、NVIDIA Jetson AGX Thor上でDeepSeek-V4.1-Flash-1017を純粋なCUDA（NVIDIA GPU向けの計算基盤）だけで推論するサーバーを公開した。
https://648news.com/local_ai/2026/10/31-deepseek-v41-thor-cuda-server
#ローカルLLM
patrickbdevaneyは2026年10月30日、NVIDIA Jetson AGX Thor上でDeepSeek-V4.1-Flash-1017を純粋なCUDA（NVIDIA GPU向けの計算基盤）だけで推論するサーバーを公開した。
https://648news.com/local_ai/2026/10/31-deepseek-v41-thor-cuda-server
#ローカルLLM
Jetson AGX ThorでDeepSeek-V4.1純CUDA推論公開
patrickbdevaneyは2026年10月30日、NVIDIA Jetson AGX Thor上でDeepSeek-V4.1-Flash-1017を純粋なCUDA（NVIDIA GPU向けの計算基盤）だけで推論するサーバーを公開した。REAP法（専門部分を減らす剪定手法）でExpert（役割分担する部分）を384中192に剪定し、量子化したモデルを前提とする。OpenAI互換API（OpenAIの形式に合わせたHTTPの入口）を通じて自分の開発環境に組み込みやすく、ローカルLLMの速度と制約を示す。
648news.com
October 30, 2026 at 11:31 PM
Jetson AGX ThorでDeepSeek-V4.1純CUDA推論公開
patrickbdevaneyは2026年10月30日、NVIDIA Jetson AGX Thor上でDeepSeek-V4.1-Flash-1017を純粋なCUDA（NVIDIA GPU向けの計算基盤）だけで推論するサーバーを公開した。
https://648news.com/local_ai/2026/10/31-deepseek-v41-thor-cuda-server
#ローカルLLM
patrickbdevaneyは2026年10月30日、NVIDIA Jetson AGX Thor上でDeepSeek-V4.1-Flash-1017を純粋なCUDA（NVIDIA GPU向けの計算基盤）だけで推論するサーバーを公開した。
https://648news.com/local_ai/2026/10/31-deepseek-v41-thor-cuda-server
#ローカルLLM
推論過程をダダ漏れさせるGeminiさん。
October 28, 2026 at 1:36 AM
推論過程をダダ漏れさせるGeminiさん。
AIモデルの接続先や盗まれたAPIキーが、攻撃の推論資源になる設計が明らかになった。利用料金を負担する側と侵害されるサーバーが分かれるため、認証と権限の管理が重要となる。
AI推論の利用権を奪い攻撃を自動化 最大10万ステップを指示する「Skynet」の設計が判明
novaist.jp/articles/aut...
AI推論の利用権を奪い攻撃を自動化 最大10万ステップを指示する「Skynet」の設計が判明
novaist.jp/articles/aut...
AI推論の利用権を奪い攻撃を自動化 最大10万ステップを指示する「Skynet」の設計が判明 - NOVAIST
シマンテックは2026年10月21日に公開した分析で、他者のAI推論資源を無断利用して攻撃を進めることを狙ったエージェントの命令セットを明らかにした。人間の承認なしに最大10万ステップ進む指示が含まれているが、捕捉したハ...
novaist.jp
October 26, 2026 at 11:56 AM
AIモデルの接続先や盗まれたAPIキーが、攻撃の推論資源になる設計が明らかになった。利用料金を負担する側と侵害されるサーバーが分かれるため、認証と権限の管理が重要となる。
AI推論の利用権を奪い攻撃を自動化 最大10万ステップを指示する「Skynet」の設計が判明
novaist.jp/articles/aut...
AI推論の利用権を奪い攻撃を自動化 最大10万ステップを指示する「Skynet」の設計が判明
novaist.jp/articles/aut...