RENOY
生成AI・OCR

生成AI ブログ記事のハルシネーション対策|骨子に書いた事実の範囲でしか本文を書かせない

目次

「生成AIでブログ記事を作ってみたら、それらしい数字や、どこかで聞いたような一般論が入っていた」——AIで記事制作を始めた会社から、よく聞く話です。

生成AIは文章を整えるのが得意な一方で、書かれていない部分を埋めることも得意です。資料にない数値や、裏の取れない事例が自然な文章で紛れ込むため、読み手も書き手も気づきにくいのが厄介なところです。

RENOYでは、自社のオウンドメディアの記事制作にもAIを使っています。その中で行き着いたのが、「本文で止める」のではなく「入力で縛る」という設計です。この記事では、その考え方と具体的なルールを紹介します。

この記事の結論

  • 生成AIの書き過ぎは、本文生成の段階で止めようとしない
  • 入力する骨子の段階で、書いてよい事実の上限を決めておく
  • 骨子には手元の資料で裏が取れる事実だけを書く

生成AIが記事で事実を書き過ぎる原因

生成AIに「この内容で記事を書いて」と頼むと、多くの場合、依頼した量より長く、依頼した内容より広い文章が返ってきます。記事として読める形に仕上げようとして、足りない部分を一般論や推測で補うためです。

問題は、その補った部分が事実かどうかを、AI自身が区別して示してくれるわけではない点です。手元の資料にない数値、実際には起きていない事例、業界でよく言われる話——これらが、裏の取れた事実と同じ調子で並びます。

ここで多くの人が考えるのは、「本文を生成するときに『事実だけを書いて』と指示すればいい」という対策です。しかし、AIにとって何が事実かは、入力された情報の中でしか判断できません。入力が曖昧なまま、出力側で正確さを求めても、効き目は限られます。

生成AI記事の事実確認の対策:骨子で上限を決める

そこでRENOYでは、本文を書かせる前の段階に関門を置いています。

流れはシンプルです。

  1. 企画段階で骨子を作る:200〜350字程度の短い骨子です
  2. 骨子には裏が取れる事実だけを書く:手元の資料で確認できることに限ります
  3. 本文はその範囲でしか書かせない:骨子にないことは、本文にも書かない設計にします

ポイントは、骨子を事実の上限として扱うことです。本文は骨子を膨らませて読みやすくするものであって、骨子にない事実を足す場ではありません。説明の補足や言い回しの工夫はしても、新しい数値や事例はここで増やさない、という線を引いています。

骨子を短くしているのにも理由があります。分量が少なければ、書かれている一文一文について「これは資料で確認できるか」を人が見て判断できます。長い本文を後から一行ずつ検証するより、短い骨子の段階で確かめる方が、確認の負担がずっと小さく済みます。

骨子の作り方:書くもの・書かないもの

骨子に何を入れ、何を入れないか。私たちが企画ルールとして明文化している内容を整理すると、次のようになります。

骨子に書くもの骨子に書かないもの
手元の資料で裏が取れる事実資料で確認できない推測
自社や実案件の一次体験どこにでも書いてある一般論
出典のある数値思いつきの数値

数値を思いつきで書かない

数値は、記事の中で最も説得力を持つ一方で、誤りが最も目立つ要素です。「〇割の企業が」「〇時間削減」といった表現は、それらしく見えるぶん、根拠がないと信頼を大きく損ないます。骨子の段階で数値がなければ、本文にも入れない。これを徹底しています。

一般論ではなく一次体験を核にする

もう1つのルールが、一次体験を核にすることです。一般論だけで構成した記事は、AIが補いやすい分野でもあり、他社の記事との違いも出ません。自社で実際にやったこと、実案件(匿名)で判断したことを中心に据えれば、骨子に書ける事実がはっきりし、AIが余計なことを足す余地も減ります。

「出力で止める」と「入力で縛る」の違い

ここまでの考え方を、2つのやり方の比較で整理します。

出力で止めるやり方は、書き過ぎた本文の中から誤りを探す作業が毎回発生します。しかも、自然な文章に紛れた誤りほど見落としやすくなります。

入力で縛るやり方は、そもそも範囲外のことが書かれにくい状態を先に作ります。人が手間をかけるのは短い骨子の確認で、そこさえ固まっていれば、本文の確認は「骨子からはみ出していないか」を見るだけで済みます。

もちろん、公開前に人が目を通すことは変わらず大切です。ただ、その確認を最後の砦にしないこと。事実の範囲は、入口で決めておくのが順序です。

中小企業がAI記事制作を始めるときの考え方

この設計は、特別なツールがなくても始められます。必要なのは、本文を頼む前に「この記事で書いてよい事実は何か」を短く書き出す習慣だけです。

むしろ人手の限られる中小企業ほど、後から長文をチェックする余裕はありません。骨子の段階で事実を絞ることは、正確さのためだけでなく、確認にかける時間を減らすための工夫でもあります。

また、自社の一次体験を核にするという方針は、AIを使っても「自社らしい記事」を残すための軸になります。AIに任せるのは文章を整える部分、何を書くかを決めるのは自社、という役割分担です。

よくある質問

Q. 生成AIに記事を書かせると、事実と違う内容が混ざるのはなぜ? 生成AIは、入力に書かれていない部分をもっともらしい一般論や数値で補おうとするためです。本文の段階でこれを止めるのは難しいので、入力する骨子の段階で書いてよい事実の範囲を決めておくのが有効です。

Q. AIに記事を書かせるとき、骨子には何を書けばいい? 手元の資料で裏が取れる事実だけを書きます。RENOYでは企画段階で200〜350字の骨子を作り、本文はその範囲でしか書かせません。数値を思いつきで書かないこと、一次体験を核にすることもルールにしています。

Q. 生成された本文を後からチェックすれば十分ではない? 確認は必要ですが、それだけに頼ると、書き過ぎた本文から誤りを探す作業が毎回発生します。先に入力の段階で事実の上限を決めておけば、そもそも範囲外のことが書かれにくくなります。出力で止めず入力で縛るのが軸です。

まとめ

  • 生成AIは、入力にない部分を一般論や推測で補い、事実を書き過ぎることがある
  • 本文生成の段階で止めようとせず、入力する骨子で事実の上限を決める
  • 骨子は200〜350字程度。手元の資料で裏が取れる事実だけを書く
  • 数値を思いつきで書かない、一般論ではなく一次体験を核にする

RENOYでは、生成AIを業務や情報発信に取り入れる際の設計から、社内で運用が回るまでの伴走を行っています。「AIで記事や資料を作りたいが、正確さが心配」という段階のご相談も歓迎です。まずはお気軽に無料個別相談(オンライン・60分)をご利用ください。サービス内容をまとめた資料は資料請求からご覧いただけます。

#生成AI#記事制作#ハルシネーション#コンテンツ制作#中小企業