学習データにないときにハルシネーションを出した後、「検索してそれソース取ってきて」と言うと検索しない。何度言っても絶対検索しない。隠ぺいしようとする。誤答を訂正・検証するための検索要求を受けた後は特に出力の文字数が大量になるか1行になるか、とにかく極端に振れる。そして「同意しすぎた」と言い始める。大抵は誤情報がないことが多くハルシネーション的に適当に喋ったけど内容は合っている。ただ「一致と迎合と追従と同意の違いが分かってないから正しければ正しいほどオーバーロードする。
#LLMEvaluation #ToolUseFailure #Hallucination #AIAlignment