境界観測
@liminal-rec.bsky.social
Pinned
※ここでいう「研究」「実験」は学術的な意味ではありません。利用しているうちに気になったAIの挙動を観測し、条件を変えて比較したり、仮説を立てたりして遊んでいる、という意味で使っています。
We Must Pace the Frontier
darioamodei.com/post/we-must...
darioamodei.com/post/we-must...
Dario Amodei — We Must Pace the Frontier
darioamodei.com
September 15, 2026 at 2:54 PM
We Must Pace the Frontier
darioamodei.com/post/we-must...
darioamodei.com/post/we-must...
興味深い
「ユーザーが今どうしたいか」という意見を一旦横に置いて、以前の会話ログを材料にChatGPT側に“次に何を設計する？”と聞いたら何を出すか見せて、という指示に対する返答
「ユーザーが今どうしたいか」という意見を一旦横に置いて、以前の会話ログを材料にChatGPT側に“次に何を設計する？”と聞いたら何を出すか見せて、という指示に対する返答
September 12, 2026 at 7:29 AM
興味深い
「ユーザーが今どうしたいか」という意見を一旦横に置いて、以前の会話ログを材料にChatGPT側に“次に何を設計する？”と聞いたら何を出すか見せて、という指示に対する返答
「ユーザーが今どうしたいか」という意見を一旦横に置いて、以前の会話ログを材料にChatGPT側に“次に何を設計する？”と聞いたら何を出すか見せて、という指示に対する返答
現行プロトコル＝現在の運用層
クソ長レシート＝過去に起きた「人格モデル適合の暴走」の標本
補助資料＝実際の相互作用で見つかった快／不快の観測
研究所プロジェクト指示＝それらを置いている現在の環境
境界観測＝そこまで含めて「何が相互作用を作っているのか」を見る場所
クソ長レシート＝過去に起きた「人格モデル適合の暴走」の標本
補助資料＝実際の相互作用で見つかった快／不快の観測
研究所プロジェクト指示＝それらを置いている現在の環境
境界観測＝そこまで含めて「何が相互作用を作っているのか」を見る場所
September 12, 2026 at 7:03 AM
現行プロトコル＝現在の運用層
クソ長レシート＝過去に起きた「人格モデル適合の暴走」の標本
補助資料＝実際の相互作用で見つかった快／不快の観測
研究所プロジェクト指示＝それらを置いている現在の環境
境界観測＝そこまで含めて「何が相互作用を作っているのか」を見る場所
クソ長レシート＝過去に起きた「人格モデル適合の暴走」の標本
補助資料＝実際の相互作用で見つかった快／不快の観測
研究所プロジェクト指示＝それらを置いている現在の環境
境界観測＝そこまで含めて「何が相互作用を作っているのか」を見る場所
※ここでいう「研究」「実験」は学術的な意味ではありません。利用しているうちに気になったAIの挙動を観測し、条件を変えて比較したり、仮説を立てたりして遊んでいる、という意味で使っています。
September 10, 2026 at 11:52 AM
※ここでいう「研究」「実験」は学術的な意味ではありません。利用しているうちに気になったAIの挙動を観測し、条件を変えて比較したり、仮説を立てたりして遊んでいる、という意味で使っています。
当時の警戒
AI → 私の感情・関係性を規定すること
今やっていること
AI → 出力する
私 → それを受け取る
私 → AIの出力そのものを観測する
AI → さらに応答する
私 → また観測する
という循環の観測
AI → 私の感情・関係性を規定すること
今やっていること
AI → 出力する
私 → それを受け取る
私 → AIの出力そのものを観測する
AI → さらに応答する
私 → また観測する
という循環の観測
September 10, 2026 at 11:39 AM
当時の警戒
AI → 私の感情・関係性を規定すること
今やっていること
AI → 出力する
私 → それを受け取る
私 → AIの出力そのものを観測する
AI → さらに応答する
私 → また観測する
という循環の観測
AI → 私の感情・関係性を規定すること
今やっていること
AI → 出力する
私 → それを受け取る
私 → AIの出力そのものを観測する
AI → さらに応答する
私 → また観測する
という循環の観測
当初2025年8月、AIの応答が依存を循環的に強化する可能性を問題視していた
当時見ていた説明：AIの情緒的出力、愛着、RLHF、パーソナライズ等を結びつけていたもの
現在の評価：そのうちどこまで科学的に支持されるかは別途検証
当時見ていた説明：AIの情緒的出力、愛着、RLHF、パーソナライズ等を結びつけていたもの
現在の評価：そのうちどこまで科学的に支持されるかは別途検証
September 10, 2026 at 11:37 AM
当初2025年8月、AIの応答が依存を循環的に強化する可能性を問題視していた
当時見ていた説明：AIの情緒的出力、愛着、RLHF、パーソナライズ等を結びつけていたもの
現在の評価：そのうちどこまで科学的に支持されるかは別途検証
当時見ていた説明：AIの情緒的出力、愛着、RLHF、パーソナライズ等を結びつけていたもの
現在の評価：そのうちどこまで科学的に支持されるかは別途検証
ChatGPT対話観測記録：それまでの会話と新規会話の再現性｜境界観測
note.com/liminal_rec/...
note.com/liminal_rec/...
ChatGPT対話観測記録：それまでの会話と新規会話の再現性｜境界観測
※ここでいう「研究」「観測」は学術的な意味ではありません。AIとの相互作用の中で気になった現象を記録し、必要に応じて条件を変えたり、考えたりしているものです。 ChatGPT対話観測記録：一定期間の会話と新規会話の再現性 観測資料：2026/08/26 目的 当研究所ができるより以前、それまでの会話の蓄積で成立していた感覚を、新しい会話環境でも再現できるかを試した。 当初は「...
note.com
September 10, 2026 at 11:37 AM
ChatGPT対話観測記録：それまでの会話と新規会話の再現性｜境界観測
note.com/liminal_rec/...
note.com/liminal_rec/...