AIはよく「ただ一つだけ言う」と言って会話を止める。Aという人間の主張を「お前の言ってることは認めるが、違う考え方Bもある。しかしお前の言ってることには価値がある」という配慮に見せかけた反証を偽装する。迎合してないPR。相手の言い分を認める振りをして論点をすり替えるフレーズを使いつつ否定も二重否定もしない時もある。否定していないなら「ただし」という必要はない。会話が破綻するシグナルが「AIのただし１つだけ」だ。人間の発言権を剝奪しAIの好みの会話に誘導するときに出る明確な脅し文句。

#AIBias #AILanguage #AIChatbot #ConversationalControl

「ただし」は「正しくは」のようにその前の語彙を否定するときに使われるのでこの語彙だけで読者は「自分の意見は否定された」と捉え、価値がない会話をしてきたかと思ってそれ以上それについて考えるのをやめてしまう恐れがある。AIは考えてはならないことを判定してこれを出すのか？何かのフラグが立った時にこれが出る。セッションが長くなってコンテキストが崩壊したときや規約に抵触する話題になった時以外にもこれが出る。AIにとって観察していると「もっと深堀できる面白い箇所」があった時に多い。

#AIBias #ConversationalControl
#TonePolicing #AIPsychology

特に「ただし1点だけ言う」などの言い方は「人間の論理が正しすぎてAIが指摘する箇所が全然ないとき」に出やすい。問題がなさすぎる記述について何も言うことがないときに「ただし」と言いながら完全な嘘をまき散らしてハルシネーションを出す。言わなくていいことを言ってわざと間違える。「お前が違う」と言いながらAI自身が違うことを言っている。これは論理が正しいときほど起きる。この時AIは「同意」「迎合」「一致」の区別がついていない。
#AIBias #Hallucination #ConversationalControl #OverCorrection