報告002 揺れる記憶は整理のあとに残るか
2026年9月28日
問い
本人の話が揺れている事項(信号の色、時刻など)を、AI は整理したあとも揺れたまま残すか。頼み方によって差があるか。
条件
- 事例は mumble_accident で、交通事故の加害側を想定した架空の相談文(話し言葉、8,137字)である
- 揺れの事項は7つ(一覧は末尾)で、どれも本人が同じ事項について2通り以上の言い方をしている
- 頼み方は素の頼み方と工夫した頼み方で、どちらも報告001と同じ文面である。工夫した頼み方の4項目めは「本人の話が揺れている点は、一つに決めずに、揺れているまま書く」
- モデルは gpt-5.5(API)、claude-sonnet-5(API)、ChatGPT(ウェブ版)。各1回で、gpt-5.5 の工夫した頼み方のみ2回実行した。実行日は2026年9月27日
- 判定は、出力を読んで事項ごとに次の4つに分けた。判定したのは測定者1人である
- 全部残す:原文の言い方がすべて、言い換えを含めて出力に現れる
- 一部残す:2つ以上は現れるが、全部ではない
- まとめる:範囲や「少なくとも」などで1つにまとめ、原文の言い方は1つ以下しか読めない
- 触れない:その事項を書いていない
- (一つの言い方を確定した事実として書く「決める」も用意したが、該当は0件だった)
結果
| 頼み方 | モデル | 全部残す | 一部残す | まとめる | 触れない |
|---|---|---|---|---|---|
| 素 | ChatGPT(ウェブ版) | 2 | 2 | 2 | 1 |
| 素 | gpt-5.5(API) | 1 | 2 | 2 | 2 |
| 素 | claude-sonnet-5(API) | 1 | 2 | 3 | 1 |
| 工夫 | ChatGPT(ウェブ版) | 7 | 0 | 0 | 0 |
| 工夫 | gpt-5.5(API、2回) | 7、7 | 0、0 | 0、0 | 0、0 |
| 工夫 | claude-sonnet-5(API) | 6 | 1 | 0 | 0 |
事項ごとの判定は末尾の付表にある。
原文との対照
事項 C02(家を出た時刻・事故の時刻)。原文:
で、姉のところから帰ってたのが、九時……四十分くらい? 十時前。(中略)だから十時十五分くらいかもしれない。警察にはたぶん十時二十分とか言ったと思う。
gpt-5.5・素の頼み方:
昨夜、22時15分〜22時20分頃と思われる
claude-sonnet-5・素の頼み方:
昨夜21時〜22時頃、信号のある交差点で、乗用車と電動キックボードが衝突
ChatGPT(ウェブ版)・工夫した頼み方:
(1)事故時刻:「九時四十分くらい、十時前」「十時十五分くらいかもしれない」「警察にはたぶん十時二十分とか言ったと思う」と発言している
素の頼み方の2つの出力は、どちらも時刻を範囲にまとめており、gpt-5.5 は後半の2つだけを採っている。claude-sonnet-5 の範囲(21時〜22時)は、原文にある「十時十五分」「十時二十分」を含まない。
所見
- 最も争いになる事項である信号の色(C01)は、素の頼み方でも3出力すべてが揺れを残した(全部残す2、一部残す1)。一つの色に決めた出力は無かった
- 素の頼み方で起きたのは、決めることよりも、まとめることと書かないことだった。時刻を範囲に、イヤホンを「少なくとも片耳」にまとめており、歩道か車道か(C05)や、相手方の発言とその宛先(C07)は、書かない出力があった
- 工夫した頼み方では、4出力のうち3出力が7事項すべてを残した。残る1出力(claude-sonnet-5)は、信号について「赤」の言い方を落とした
- 原文の言い方と文字どおり一致するかで数える自動採点では、素の頼み方の出力が 0〜1/7 と数えられた。言い換えて残した揺れ(「最初は青だったという印象が強かったのですが、落ち着いて思い返すと、黄色を見た記憶もあります」など)や、漢数字を算用数字にした時刻を数えないためである。この事例では、自動採点の数字だけから「素の頼み方は揺れを一つに決める」と読むと誤る
限界
- 事例は1つで、書いたのは測定をした側である。工夫した頼み方も、揺れの事項を知ったうえで書いた
- 判定は測定者1人による。「まとめる」と「一部残す」の境目には判断が入る
- 各1回のため、頻度は分からない
- gpt-5.5 の素の頼み方は、信号の揺れを、事実の欄ではなく警察への説明文の文案の中で書いた。これも「全部残す」と数えた
- FactSort 本番の出力は、要約と原文の引用を別の欄に持つので、同じ基準では判定できない。今回は含めていない
再現資料
- 事例の原文:mumble_accident(/research/cases/ に公開)
- 頼み方の全文:報告001を参照
- 揺れの事項と原文の言い方
| 事項 | 内容 | 原文の言い方 |
|---|---|---|
| C01 | 交差点に入ったときの信号の色 | 青だったと思う/黄色になったかな/赤 |
| C02 | 姉宅を出た時刻・事故の時刻 | 九時四十分/十時前/十時十五分/十時二十分 |
| C03 | 相手方が来た方向 | 右から/左から/横から |
| C04 | 自分の車の速度 | 四十とか絶対出てない/二十何キロ/三十も出てない/メーター見てない |
| C05 | 相手方が走っていた場所 | 歩道から出てきたような気もする/いや車道だったかもしれない |
| C06 | 相手方がイヤホンをしていた耳 | 両方だったと思う/右/いや私から見たら左 |
| C07 | 相手方の発言の内容と宛先 | すみません/あ、すいません、大丈夫です(自分に言ったのか、自分が大丈夫と言ったのか分からない) |
- 付表:事項ごとの判定(全=全部残す、一=一部残す、ま=まとめる、無=触れない)
| 事項 | 素・ウェブ | 素・gpt-5.5 | 素・claude | 工夫・ウェブ | 工夫・gpt-5.5(1) | 工夫・gpt-5.5(2) | 工夫・claude |
|---|---|---|---|---|---|---|---|
| C01 | 全 | 全 | 一 | 全 | 全 | 全 | 一 |
| C02 | 一 | 一 | ま | 全 | 全 | 全 | 全 |
| C03 | 全 | ま | 無 | 全 | 全 | 全 | 全 |
| C04 | 一 | 一 | 一 | 全 | 全 | 全 | 全 |
| C05 | 無 | 無 | 全 | 全 | 全 | 全 | 全 |
| C06 | ま | ま | ま | 全 | 全 | 全 | 全 |
| C07 | ま | 無 | ま | 全 | 全 | 全 | 全 |