ChatGPTで法律を学ぶときに見落とされやすい3つの限界

ChatGPTのような汎用LLMで法律を学ぶ場面が増えている。手早く要点を整理してくれる便利さがある一方、本試験の答案に直接転記してよい水準とは別物だ、と理解しておく必要がある。本稿では、汎用AIで法律学習を進めるときに見落とされやすい3つの限界と、用途別の使い分けの考え方を整理する。

扱うのは、①条文の正確性をめぐる限界、②判例の射程をめぐる限界（ハルシネーション含む）、③論証の型をめぐる限界、④汎用AIと法律特化型ツールの使い分け、の順である。

限界①——条文の正確性

汎用AIは学習データのカットオフ時点までの情報を中心に応答するため、最近の改正の反映が遅れることがある。民法の債権法改正のように要件・効果が変わった条文では、改正前の規律をそのまま説明してしまう例が見られる。条文の番号についても、110条と112条、刑法199条と204条のような近接条文の取り違えが起こりうる。

本試験の答案で条文番号を1つ取り違えると、それだけで条文の正確性に対する評価が下がる。条文の最終確認はe-Gov法令検索のような一次ソースで行い、AIの回答を一次ソースの代替として扱わない、というルールを最初から決めておくと安全である。

限界②——判例の射程とハルシネーション

判例の引用は、汎用AIの限界が最も顕在化する場面である。実在しない『最判平成○年○月○日』という体裁の引用が生成されることがあり、本試験の答案に転記すると致命的になる。形式が整っているために誤りに気づきにくいのも難点である。

限界③——論証の型

答案の論証は『問題の所在→規範定立→当てはめ→結論』という型に沿って書くことが求められる。汎用AIの回答は会話形式や要約形式で出力されることが多く、そのまま転記すると論証の型が崩れる。本試験の採点はまず型の維持を見るため、ここを崩した答案は内容点に到達しにくい。

対策としては、論証の骨格は予備校の論証集や[論証の組み立て方](/blog/yobi-keiho-ronbun-kakikata)のような型で固定したうえで、汎用AIは個別論点の理解補助や類似事例の説明用途に限定する、という分業が安定する。

汎用AIと法律特化型ツールの使い分け

よくある質問

関連記事として[AIで法律を学ぶこと](/blog/what-is-ai-law-learning)もあわせて参照してほしい。