FUNSD（Form Understanding in Noisy Scanned Documents）は、文書理解の研究、特にノイズの多い実世界のスキャン済みフォームから情報を抽出することに焦点を当てた、公開されているデータセットです。2019年に公開され、テキスト検出、光学文字認識（OCR）の補正、意味的エンティティのラベル付けなどのタスクのベンチマークを提供します。このデータセットは、人工知能および機械学習の分野で広く使用され、視覚的文書を処理するモデルを評価し、生の画像データと構造化情報抽出の間のギャップを埋めます。
このデータセットは、印刷テキストと手書きテキスト、表、およびさまざまなレイアウト要素が混在する、完全に注釈が付けられた199のフォームで構成されています。これらのフォームは異なる解像度でスキャンされ、汚れ、傾き、低コントラストなどの一般的なノイズアーティファクトを含み、実世界の文書処理の課題を代表するものとなっています。FUNSDの注釈には、単語レベルのバウンディングボックス、テキスト内容、およびヘッダー、質問、回答、その他のキーと値のペアなどのエンティティの意味的ラベルが含まれます。この豊富な注釈スキームは、レイアウト分析と意味的理解の両方をサポートし、フォームを機械可読な構造に解析するエンドツーエンドのシステムの開発を可能にします。
データセットの構成と注釈
FUNSDには199のフォームが含まれ、合計31,485語と9,707の意味的エンティティがあります。フォームは、請求書、領収書、管理文書など、さまざまなドメインから取得されています。各単語には、バウンディングボックス、テキスト内容、および事前定義されたセット（ヘッダー、質問、回答、その他）からの意味的ラベルが注釈されています。さらに、どの回答がどの質問に対応するかなど、フォームの構造を捉えるためにエンティティ間の関係も注釈されています。データセットは、149のフォームのトレーニングセットと50のフォームのテストセットに分割され、標準化された評価を可能にします。
注釈プロセスは人間の注釈者によって実行され、高品質のグラウンドトゥルースを保証します。スキャンのノイズの多い性質（ぼやけたテキストや重なり合う要素を含む）により、FUNSDは挑戦的なベンチマークとなっています。合成データセットとは異なり、FUNSDは実世界の文書の不完全さを反映しており、本番環境で展開できる堅牢なモデルを開発するために重要です。
タスクと評価指標
FUNSDは主に2つのタスクに使用されます：意味的エンティティのラベル付けと関係抽出です。意味的エンティティのラベル付けでは、モデルは各単語またはテキストセグメントを4つの意味的カテゴリのいずれかに割り当てる必要があります。標準的な評価指標はF1スコアであり、適合率と再現率のバランスを取ります。関係抽出では、モデルはエンティティ間のリンク（例：質問と回答のペア）を予測し、パフォーマンスは正しく予測された関係のF1スコアで測定されます。
これらのタスクは、特に視覚的およびテキスト的特徴を組み合わせた深層学習アーキテクチャ、特にトランスフォーマーベースのモデルを使用して取り組まれることがよくあります。たとえば、LayoutLMやその後継モデルはFUNSDでベンチマークされ、従来のOCRベースのパイプラインよりも大幅な改善を達成しています。このデータセットは、大規模言語モデルの研究と組み合わせて使用されることもあり、モデルが文書画像から情報を抽出するようにプロンプトされますが、主な焦点は専門的な文書理解モデルに残っています。
文書AIにおける重要性
FUNSDは、非構造化文書から構造化データを抽出する人工知能のサブフィールドである文書理解の分野で標準的なベンチマークとなっています。そのノイズの多い性質は、よりクリーンなデータセットとは区別され、研究者に実世界の変動に対して堅牢なモデルを開発するよう促します。このデータセットは数百の論文で引用され、マルチヘッドアテンションや残差ネットワークブロックなどのニューラルネットワークコンポーネントを採用した新しいアーキテクチャのベースラインとしてよく使用されます。
FUNSDの利用可能性は、領収書などの特定の文書タイプに焦点を当てたCORDやSROIEなどの関連データセットの開発も促進しました。ただし、FUNSDはノイズの多いスキャン済みフォームに重点を置いているため独自であり、汎化をテストするための貴重なリソースとなっています。MIT CSAILやスタンフォードAIラボなどの機関の研究者は、FUNSDを使用して新しいアプローチを検証しており、モデルのパフォーマンスを比較するための参照点であり続けています。
制限と将来の方向性
その有用性にもかかわらず、FUNSDには制限があります。データセットはわずか199のフォームと比較的小さく、大規模なモデルをトレーニングする際に過学習を引き起こす可能性があります。さらに、意味的ラベルセットは粗く、日付や金額などの特定のフィールドタイプのようなより細かい区別が欠けています。関係注釈も明示的なリンクに限定されており、複雑なフォームに存在する可能性のある暗黙の構造を無視しています。
文書理解における将来の作業は、より大規模で多様なデータセットを作成するか、合成データ生成技術を使用することで、これらの制限に対処する可能性があります。生成AIおよびトランスフォーマーベースのモデルの台頭により、一般的なテキストでトレーニングされたモデルを最小限の微調整でフォーム理解に適応できるゼロショット文書解析の新しい道が開かれました。2020年代初頭の時点で、FUNSDは主要なベンチマークであり続けていますが、この分野は複数の文書タイプとタスクを含むより包括的な評価スイートへと進化しています。
結論
FUNSDは、スキャン済み文書に固有のノイズと変動性を捉えた、フォーム理解のための現実的で挑戦的なテストベッドを提供します。その注釈はレイアウトと意味的分析の両方をサポートし、研究者にとって多用途のリソースとなっています。サイズとラベルの粒度に制限があるものの、文書AIモデルの開発への影響は否定できません。このデータセットは、非構造化視覚データから構造化情報を抽出する最先端技術を進歩させるための基礎的なツールであり続けています。