Using AI Well · Field Note 19
AIの「それっぽい答え」を、そのまま使う前に
AIの答えは、よどみがないほど正しく感じます。けれど、流暢さと正しさは別ものです。「正しいか」ではなく「確かめられるか」で扱うと、AIは答えではなく、安心して使える速い下書きになります。
When fluent feels true
流暢だから、正しいと感じてしまう
AIに何かを聞くと、よどみなく、それらしい答えが返ってきます。言葉がなめらかで、迷いがないので、つい正しいと感じてしまいます。
けれど、AIは知らないことも、知っているのと同じ調子で言い切ってきます。出どころのない数字や、実在しない名前を、自信ありげに差し出すこともあります。流暢さは、伝わりやすさの手ざわりであって、正しさの保証ではありません。なめらかに語られたことと、確かに正しいことは、別のものです。
What you can check
「正しいか」ではなく「確かめられるか」で扱う
AIの答えをよく見ると、性質の違うものが混ざっています。日付や数字、固有の名前のように、あとから裏が取れる事実があります。一方で、それらしく響くけれど、どこにも出どころのない断定もあります。前者は確認できますが、後者は確かめようがありません。
要するに、AIの答えは「正しいか」ではなく「確かめられるか」で扱う。確かめられない断定は、答えではなく下書きです。
そう置きかえると、答えを丸ごと信じるか疑うか、という重い二択から離れられます。一つひとつの主張について、これは裏が取れる、これは取れない、と仕分けるだけでよくなります。
Check it for yourself
触れて確かめる：答えの確かめボード
同じ一つの問いに、二つの答えを並べました。片方は数字や出どころを添えた答え、もう片方は流暢だけれど裏のない断定が多い答えです。それぞれの主張で「裏を取る」を押すと検証済みになり、「信頼してよい度」が動きます。出どころのない断定は、いくら押しても確かめようがなく、ゲージは低いところで止まります。
「この新製品は、売れていますか？」という一つの問いに、二つの答えが返ってきたとします。
答え A ／ 根拠を添えた答え
数字や出どころが添えられています。
- 発売初週の販売台数は1,200台です。 確かめられる
- 前モデルの同時期は950台でした。 確かめられる
- この数字は公式の出荷レポートに載っています。 確かめられる
- 前モデルより約26%多い立ち上がりです。 確かめられる
答え B ／ 流暢な答え
なめらかですが、出どころが見当たりません。
- いま最も注目されている製品です。 確かめられない 出どころがありません
- 多くの人が高く評価しているようです。 確かめられない 出どころがありません
- おそらく今年の話題をさらうでしょう。 確かめられない 出どころがありません
- 発売初週の販売台数は1,200台です。 確かめられる
答え A は裏の取れる事実だけでできているので、確かめるほどゲージが伸びます。答え B は裏を取れる主張が一つしかなく、残りは出どころのない断定なので、いくら押しても四分の一あたりで止まります。「確かめられるものだけ残す」を選ぶと、その差が並べたまま見えてきます。
Before you trust it
確かめる手間を、一段だけはさむ
AIを「答えを出してくれる道具」として受け取ると、確かめる手間を、つい飛ばしてしまいます。返ってきた言葉がなめらかなほど、そのまま仕事やお客さんに渡したくなります。
けれど、「確かめられるか」を一段だけはさむと、景色が変わります。裏の取れる事実は確認してから渡せばよく、出どころのない断定は、速い下書きとして扱えます。そうすると、AIは「正しさを保証してくれる相手」ではなく、「たたき台を素早く出してくれる相手」になります。確かめる癖を一つはさむだけで、AIは答えではなく、安心して使える速い下書き役になります。