弁護士AIことはじめ 第1回

生成AIは何をしているのか——「次の言葉」を予測する機械

ChatGPTが公開されたのは、2022年11月30日でした。それから4年がたち、生成AIは、弁護士の仕事のまわりでも珍しいものではなくなりました。それでも、「中で何が起きているのか、よく分からない」「使っている同業者を見ると気になるが、自分には縁遠い」と感じている方は、少なくないように思います。

「弁護士AIことはじめ」は、生成AIをまだ使っていない方、使い始めたばかりの方に向けて、仕組み、守秘義務との関係、サービスの違い、そして実際の使い方を、全5回でお伝えするものです。第1回は、生成AIが何をしている機械なのかを見ていきます。

なお、この分野は変化が早く、各回の内容は2026年11月時点の情報によっています。製品の仕様や料金は、お読みになる時点で変わっているかもしれません。

1 仕組み——次の言葉を予測している

次に来る言葉を、確率で選ぶ

ChatGPT、Gemini、Claudeといったサービスの中心にあるのは、大規模言語モデル(LLM)と呼ばれるものです。大量の文章を読み込ませて作られたモデルで、していることを一言でいえば、「ここまでの文章に続く、次の言葉を予測する」ことです。

たとえば、「弁護士は、依頼者の」という書き出しがあるとします。この後に続きそうな言葉は、「秘密」「利益」「意思」などでしょう。モデルは、それぞれの言葉がどのくらい続きそうかを確率として計算し、その中から1つを選びます。選んだ言葉を付け足して、また次の言葉を予測する。これを繰り返して、文章ができあがります。

正確には、「言葉」ではなく「トークン」という、単語より少し細かい単位で予測しています。ただ、まずは「次の言葉を予測する機械」と理解しておけば、大きく外れることはないと思います。

なぜ「答えている」ように見えるのか

次の言葉を予測しているだけの機械が、なぜ質問に答えたり、文章を要約したりできるのでしょうか。

質問の後には、答えが続くのが自然です。「以下の文章を要約してください」という依頼の後には、要約が続くのが自然です。モデルは、膨大な文章から「こういう文章の後には、こういう文章が続く」という関係を身に付けているので、結果として、答えや要約らしいものが出てきます。

現在の生成AIのもとになっているのは、2017年に発表された「トランスフォーマー」という仕組みです。文章の中の離れた言葉どうしの関係をうまく扱えるようになり、モデルを大きくするにつれて、要約、翻訳、推論、プログラムの作成など、さまざまなことができるようになりました。

押さえておきたいこと

ここから、弁護士として知っておきたい性質が出てきます。

生成AIは、事実を調べて答えているわけではありません。「続きそうな文章」を作っています。そのため、実際には存在しない判例や条文を、もっともらしい形で示すことがあります。これを「ハルシネーション」と呼びます。米国の国立標準技術研究所(NIST)は、自信をもって述べられているが誤っている内容、という趣旨で説明しています。

厄介なのは、誤っているときも、文章としては整っていて、自信ありげに見えることです。文章の滑らかさは、内容の正しさを保証しません。

また、モデルが学んだ文章には、ある時点までのものしか含まれていません。最近の判決や法改正を知らないことがあります。検索の機能を組み合わせて補うサービスも増えていますが、それでも、原典を確かめる必要がなくなるわけではありません。

2 得意なこと、苦手なこと

仕組みが分かると、得意なことと苦手なことの見当がつきます。

得意なのは、手元にある文章をもとにした作業です。

一方で、次のようなことは、任せきりにしないほうがよいと思います。

大まかにいえば、「渡した材料を整理させる」のは得意で、「知らないことを答えさせる」のは危うい、ということになります。調べものに使うときは、答えそのものではなく、調べる手がかりを得るつもりで使うのがよいと思います。

3 弁護士として押さえておきたいこと

架空の判例を引用した例

ハルシネーションが現実の問題になった例として、よく知られているのが、米国のMata v. Avianca事件です。ニューヨーク南部地区連邦地方裁判所は、2023年6月22日、ChatGPTが作り出した実在しない裁判例を書面に引用した弁護士らに対し、5,000ドルの制裁を科しました。裁判所は、信頼できるAIを使うこと自体が不適切なのではない、とも述べています。問題とされたのは、確かめずに提出し、指摘を受けた後もそれを維持したことでした。

この種の事例は、その後も増えています。生成AIによる架空の引用などが裁判所で問題になった事例を集めているデータベースには、2026年11月の時点で、世界で2,300件を超える事例が載っています(網羅的なものではないとされています)。日本の裁判所での事例は、公表されたものとしては確認できていませんが、起きていないと言い切れるものでもないと思います。

調べる義務は変わらない

弁護士職務基本規程37条は、事件の処理に当たり、必要な法令の調査を怠ってはならないこと、必要かつ可能な事実関係の調査を行うよう努めることを定めています。生成AIを使っても、この義務が軽くなるわけではありません。生成AIが示した条文や判例は、必ず原典に当たって確かめる。これが、使ううえでの出発点になります。

日本弁護士連合会も、2026年9月1日の会長談話の中で、ハルシネーションを「存在しない判例・法令・事実の生成」と説明し、人間による最終判断の徹底が欠かせないとしています。

頼ることと、任せきりにすること

生成AIに頼ることと、生成AIに任せきりにすることは、別のことです。下書きを作らせ、自分で確かめ、自分の判断で直す。その手順を守るかぎり、生成AIは、仕事を助けてくれる道具になりうると思います。確かめる手間を省いたとたんに、危ういものになります。

4 チャット型とエージェント型

生成AIのサービスは、使い方によって、大きく2つに分けられます。

1つは、チャット型です。画面に質問を書き、答えを受け取る。受け取った答えを自分でコピーして、書面やメールに使う。ChatGPT、Gemini、Claudeは、もともとこの形で広まりました。

もう1つは、エージェント型です。こちらは、答えを返すだけでなく、作業そのものを進めます。フォルダの中のファイルを読み、表やWordの文書を作り、必要ならウェブを調べる。いくつもの手順からなる仕事を、まとめて任せられるのが特徴です。

チャット型では、資料を1つずつ貼り付け、結果をまた別の場所に写す手間がかかります。エージェント型は、その手間を引き受けてくれます。書面や記録を大量に扱う弁護士の仕事には、エージェント型が合う場面が多いように思います。

最近は、この区別もあいまいになってきました。各社とも、チャットの中からそのまま作業を任せられるようにする方向に進んでいます。

5 この連載でClaude Coworkを取り上げる理由

この連載では、エージェント型のサービスの1つとして、Anthropic社の「Claude Cowork」を取り上げます。

Claude Coworkは、2026年1月に試験的な提供が始まり、同年4月に正式に提供されました。プログラムを書く人向けのエージェント「Claude Code」と同じ作りを、プログラミング以外の仕事に向けたものと説明されています。指定したフォルダの中のファイルを読み書きでき、Word、Excel、PowerPoint、PDFを作る機能が最初から備わっています。2026年9月からは、通常のチャットとの統合が進んでいて、アカウントによっては「Cowork」という切り替えがなく、チャットの中でそのまま作業を任せる形になっています。

取り上げる理由は、手元のファイルをそのまま扱えること、文書を作る機能が揃っていること、そして執筆者が実際に使っていることです。ほかのサービスより優れている、と言いたいわけではありません。各社とも似た機能を備えつつあり、第3回で見るように、どれが向くかは使い方によると思います。

ただし、最初に1つ、知っておいていただきたいことがあります。

Claude Coworkは、パソコンのアプリとして使えるので、「自分のパソコンの中で動いている」ように見えます。しかし、文章を読んで考える部分は、Anthropic社のサーバーにあるモデルが担っています。さらに、公式の説明によれば、個人向けのプランでは、2026年10月以降、新しい作業そのものがAnthropic社のクラウドで実行されるようになりました。作業に必要なファイルは、その写しがサーバー側に取り込まれ、保存されます。

つまり、Claudeに読ませたファイルは、Anthropic社に渡る、と考えておく必要があります。これは、守秘義務を負う弁護士にとって、使うかどうか、何を読ませるかを決めるうえで、いちばん大事な点だと思います。次回、詳しく見ていきます。

6 次回以降

参照先

  • OpenAI「Introducing ChatGPT」(2022年11月30日)
  • Vaswani ほか「Attention Is All You Need」(2017年)
  • NIST「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」(NIST AI 600-1、2024年7月)
  • Mata v. Avianca, Inc., No. 22-cv-1461 (PKC) (S.D.N.Y. June 22, 2023)
  • Damien Charlotin「AI Hallucination Cases」(2026年11月20日閲覧)
  • 弁護士職務基本規程37条
  • 日本弁護士連合会「公益社団法人商事法務研究会『AI時代における民事司法を考える研究会取りまとめ』及び法務省『ビジネス分野におけるAI等法務業務支援サービス提供と弁護士法第72条の関係について』に関する会長談話」(2026年9月1日)
  • Anthropic「Release notes」「Get started with Claude Cowork」「Use Claude Cowork on web, desktop, and mobile」(いずれも2026年11月閲覧)

「弁護士AIことはじめ」は全5回です。第2回以降は、(賛助)会員専用ページに掲載しています(会員と賛助会員の方がお読みいただけます。賛助会員の制度は、私たちについてをご覧ください)。