生成 AI を利用したカスタム エクストラクタ

生成 AI のトレーニングと抽出により、次のことが可能になります。

• ゼロショットと少数ショットのテクノロジーを使用して、基盤モデルを使用し、トレーニング データがほとんどないか、まったくない状態で高性能モデルを取得します。
• ファインチューニングを使用すると、トレーニング データを増やしていくにつれて精度をさらに高めることができます。

生成 AI のトレーニング方法

選択するトレーニング方法は、利用可能なドキュメントの量と、モデルのトレーニングに費やせる労力によって異なります。生成 AI モデルをトレーニングする方法は 3 つあります。

カスタム エクストラクタ モデルのバージョン

カスタム抽出ツールでは、次のモデルを使用できます。モデル バージョンを変更するには、プロセッサ バージョンを管理するをご覧ください。

バージョン 1.3、1.4、1.5、1.5 Pro は信頼スコアをサポートしていますが、バージョン 1.2 はサポートしていません。

プロジェクトのプロセッサ バージョンを変更するには、プロセッサ バージョンの管理をご覧ください。

初期設定

まだ行っていない場合は、請求と Document AI API を有効にします。

生成 AI モデルを構築して評価する

1. プロセッサを作成し、ベスト プラクティスに沿って抽出するフィールドを定義します。これは、抽出の品質に影響するため重要です。

   • [Workbench] > [カスタム抽出ツール] > [プロセッサを作成] > [名前を割り当てる] に移動します。

   

   • [開始する] > [新しいフィールドを作成] に移動します。

   

2. ドキュメントのインポート

   • 自動ラベル付けを使用してドキュメントをインポートし、トレーニング セットとテストセットにドキュメントを割り当てます。
   • ゼロショットでは、スキーマのみが必要です。モデルの精度を評価するには、テストセットのみが必要です。
   • フューショットの場合は、5 つのトレーニング ドキュメントをおすすめします。
   • 必要なテスト ドキュメントの数はユースケースによって異なります。一般的に、テスト ドキュメントが多いほど良いです。
   • ドキュメント内のラベルを確認または編集します。

3. モデルをトレーニングします。

   • [ビルド]、[新規バージョンの作成] の順に選択します。
   • 名前を入力して [作成] を選択します。

   

1. 評価:

   • [評価とテスト] に移動し、トレーニングしたばかりのバージョンを選択して、[完全な評価を表示] を選択します。

   

   • ドキュメント全体と各フィールドの f1、適合率、再現率などの指標が表示されます。
   • パフォーマンスが本番環境の目標を満たしているかどうかを判断します。満たしていない場合は、トレーニング セットとテストセットを再評価します。

2. 新しいバージョンをデフォルトとして設定します。

   • [版を管理] に移動します。
   • 選択してオプションを開き、[デフォルトに設定] を選択します。

   

   モデルがデプロイされました。このプロセッサに送信されたドキュメントは、カスタム バージョンを使用します。モデルのパフォーマンスを評価して、追加のトレーニングが必要かどうかを確認できます。

評価参照

評価エンジンは、完全一致とファジー マッチングの両方を行うことができます。完全一致の場合、抽出された値が正解ラベルと完全に一致している必要があります。一致していない場合は、不一致としてカウントされます。

大文字と小文字の違いなど、わずかな違いがあるファジー マッチング抽出は、一致としてカウントされます。この設定は [評価] 画面で変更できます。

ファインチューニング

ファインチューニングでは、トレーニングに数百または数千のドキュメントを使用します。

1. ベスト プラクティスに沿ってプロセッサを作成し、抽出するフィールドを定義します。これは抽出の品質に影響するため、重要です。

2. 自動ラベル付けを使用してドキュメントをインポートし、トレーニング セットとテストセットにドキュメントを割り当てます。

3. ドキュメント内のラベルを確認または編集します。

4. モデルをトレーニングする。

   • [ビルド] タブを選択し、[ファインチューニング] ボックスで [新しいバージョンを作成] を選択します。

   

   • 提供されたデフォルトのトレーニング パラメータまたは値を試します。結果が満足のいくものでない場合は、次の高度なオプションを試してください。

   • トレーニング ステップ（100 ～ 400）: チューニング中にデータのバッチで重みが最適化される頻度を制御します。

     • 値が低すぎると、収束前にトレーニングが終了するリスク（過小適合）を示します。
     • 値が高すぎると、トレーニング中にモデルが同じデータバッチを複数回認識し、過学習につながる可能性があります。
     • ステップ数が少ないほど、トレーニング時間が短縮されます。カウントを増やすと、テンプレートのバリエーションが少ないドキュメントに役立ちます（バリエーションが多い場合はカウントを減らします）。

   • 学習率乗数（0.1 ～ 10）: トレーニング データでモデル パラメータを最適化する速度を制御します。これは、各トレーニング ステップのサイズにほぼ対応しています。

     • 学習率が低いほど、各トレーニング ステップでのモデルの重みの変化は小さくなります。低すぎると、モデルが安定した解に収束しない可能性があります。
     • レートが高いほど変化が大きいことを示します。レートが高すぎると、モデルが最適解を飛び越えて、最適でない解に収束する可能性があります。
     • 学習率の選択はトレーニング時間に影響しません。

   • 名前を指定し、必要なベース プロセッサのバージョンを選択して、[作成] を選択します。

   

5. 評価: [評価とテスト] に移動し、トレーニングしたバージョンを選択して [評価全体を表示] を選択します。

   

   • ドキュメント全体と各フィールドの f1、適合率、再現率などの指標が表示されます。
   • パフォーマンスが本番環境の目標を満たしているかどうかを判断します。満たしていない場合は、追加のトレーニング ドキュメントが必要になることがあります。

6. 新しいバージョンをデフォルトとして設定します。

   • [版を管理] に移動します。
   • 選択してオプションを開き、[デフォルトとして設定] を選択します。

   

   モデルがデプロイされ、このプロセッサに送信されたドキュメントでカスタム バージョンが使用されるようになりました。モデルのパフォーマンスを評価して、追加のトレーニングが必要かどうかを確認します。

基盤モデルを使用した自動ラベル付け

基盤モデルは、さまざまなドキュメント タイプのフィールドを正確に抽出できますが、特定のドキュメント構造に対するモデルの精度を高めるために、追加のトレーニング データを提供することもできます。

Document AI は、定義したラベル名と以前のアノテーションを使用して、自動ラベル付けで素早く簡単にドキュメントを大規模にラベル付けすることができます。

1. カスタム プロセッサを作成したら、[スタートガイド] タブに移動します。
2. [新しいフィールドを作成] を選択します。

3. ラベルにわかりやすく、区別できる名前を付けます。これにより、基盤モデルの精度とパフォーマンスが向上します。

   

4. 抽出の精度とパフォーマンスを高めるには、抽出するエンティティの種類の説明（各エンティティに追加されたコンテキスト、分析情報、事前知識など）を追加します。

   

5. [ビルド] タブに移動し、[ドキュメントのインポート] を選択します。

   

6. ドキュメントのパスと、ドキュメントのインポート先のセットを選択します。自動ラベル付けオプションをオンにして、基盤モデルを選択します。

7. [ビルド] タブで、[データセットの管理] を選択します。

8. インポートしたドキュメントが表示されたら、そのうちの 1 つを選択します。

   

モデルからの予測が紫色のハイライト表示で示されます。

1. モデルによって予測された各ラベルを確認し、正しいことを確認します。

2. 不足しているフィールドがある場合は、それらも追加します。

   

3. ドキュメントの審査が完了したら、[ラベル付きとしてマーク] を選択します。これで、ドキュメントをモデルで使用できるようになりました。

4. ドキュメントがテストセットまたはトレーニング セットのいずれかに含まれていることを確認します。

3 レベルのネスト

カスタム エクストラクタで 3 つのレベルのネストが提供されるようになりました。この機能により、複雑なテーブルの抽出が改善されます。

モデルタイプは、次の API 呼び出しで確認できます。

• processors.get
• processorVersions.get

これらのレスポンスは ProcessorVersion で、v1beta3 プレビューの modelType フィールドが含まれています。

手順と例

次のサンプルを使用します。

1. [始める] を選択し、フィールドを作成します。

   • 最上位レベルを作成します。
   • このサンプルでは、officer_appointments が使用されています。
   • [これは親ラベルである] を選択します。
   • [発生]（Optional multiple）を選択します。

   

2. [子フィールドを追加] を選択します。第 2 レベルのラベルを作成できるようになりました。

   • このレベルラベルの officer を作成します。
   • [これは親ラベルである] を選択します。
   • [発生]（Optional multiple）を選択します。

   

3. 2 番目のレベルの officer から [子フィールドを追加] を選択します。ネストの 3 番目のレベルの子ラベルを作成します。

4. スキーマを設定すると、自動ラベル付けを使用して、3 つのレベルのネストを含むドキュメントから予測を取得できます。

   

ページをまたいでネストされたエンティティにラベルを付ける

pretrained-foundation-model-v1.5-2025-05-05 プロセッサは、ページ間の 3 レベルのネストをサポートしています。

1. 通常、エンティティにはページ全体にラベルが付けられます。注: ラベル付けされたエンティティは、ラベル付けされたページでのみ表示されます。ナビゲーション バーはページごとに変わります。親エンティティを固定すると、このナビゲーション バーは維持されます。

   

2. ページ間でラベル付けする子を持つ親エンティティを固定します。

   

3. ラベルを付ける子エンティティがあるページに移動します。

データセットの構成

トレーニング データセット

• ファインチューニングでは、pretrained-foundation-model-v1.2-2024-05-10 と pretrained-foundation-model-v1.3-2024-08-31 のバージョンで新しいモデルをトレーニングするために、少なくとも 1 つのドキュメントが必要です。
• 少数ショットの場合は、5 つのドキュメントをおすすめします。
• ゼロショットでは、スキーマのみが必要です。

テスト データセット

プロパティの説明を含むカスタム エクストラクタ

プロパティの説明を使用すると、ラベル付きフィールドの内容を説明してモデルをトレーニングできます。各エンティティに追加のコンテキストと分析情報を指定できます。これにより、モデルは指定した説明に合致するフィールドを照合してトレーニングを行い、抽出精度を向上させることができます。プロパティの説明は、親エンティティと子エンティティの両方に指定できます。

プロパティの説明の例としては、プロパティ値の位置情報やテキスト パターンなどがあります。これらは、ドキュメント内の混乱を招く可能性のあるソースを明確にするのに役立ちます。明確で正確なプロパティの説明は、特定のドキュメント構造やコンテンツのバリエーションに関係なく、より信頼性が高く一貫性のある抽出を促進するルールでモデルをガイドします。

プロセッサのドキュメント スキーマを更新する

プロパティの説明を設定する方法については、ドキュメント スキーマを更新するをご覧ください。

プロパティの説明を含む処理リクエストを送信する

ドキュメント スキーマに説明がすでに設定されている場合は、処理リクエストを送信するの手順に沿って処理リクエストを送信できます。

プロパティの説明を使用してプロセッサを微調整する

リクエストのデータを使用する前に、次のように置き換えます。

• LOCATION: プロセッサのロケーション（例:
  ）
  • us - 米国
  • eu - 欧州連合
• PROJECT_ID: 実際の Google Cloud プロジェクト ID。
• PROCESSOR_ID: カスタム プロセッサの ID。
• DISPLAY_NAME: プロセッサの表示名。
• PRETRAINED_PROCESSOR_VERSION: プロセッサのバージョン ID。詳細については、プロセッサ バージョンを選択するをご覧ください。例:
  • pretrained-TYPE-vX.X-YYYY-MM-DD
  • stable
  • rc
• TRAIN_STEPS: モデルのファインチューニングのトレーニング ステップ。
• LEARN_RATE_MULTIPLIER: モデルのファインチューニングの学習率乗数。
• DOCUMENT_SCHEMA: プロセッサのスキーマ。DocumentSchema 表現を参照してください。

POST https://LOCATION-documentai.googleapis.com/v1beta3/projects/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID/processorVersions/PROCESSOR_VERSION:process

{
  "rawDocument": {
      "parent": "projects/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID",
         "processor_version": {
             "name": "projects/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID/processorVersions/DISPLAY_NAME",
             "display_name": "DISPLAY_NAME",
             "model_type": "MODEL_TYPE_GENERATIVE",
         },
         "base_processor_version": "projects/PROJECT_ID/locations/us/processors/PROCESSOR_ID/processorVersions/PRETRAINED_PROCESSOR_VERSION",
         "foundation_model_tuning_options": {
             "train_steps": TRAIN_STEPS,
             "learning_rate_multiplier": LEARN_RATE_MULTIPLIER,
         }
         "document_schema": DOCUMENT_SCHEMA
      }
}

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-documentai.googleapis.com/v1beta3/projects/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID/processorVersions/PROCESSOR_VERSION:process"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-documentai.googleapis.com/v1beta3/projects/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID/processorVersions/PROCESSOR_VERSION:process" | Select-Object -Expand Content

次のステップ

専用プロセッサをアップトレーニングする