ラベル定義と対象単位
文章全体か一文か、画像全体か領域かを指定します。含める例と除外する例を並べ、複数ラベル、対象なし、読取不能の扱いを決めます。正解例は合意済みの評価用として管理し、定義書の版と結び付けます。
不一致を基準の改善につなぐ
同じ対象への判断が異なる場合は、どの規則で迷ったかを記録します。最終決定者が基準を更新し、影響する既納品分の再確認範囲も指定します。ラベルを単に多数決で確定する運用は、事前合意がなければ採りません。
試行に必要なデータ
形式別のサンプル、ラベル候補、境界例、希望する出力形式、利用ツールを用意してください。専門知識が必要な対象や機微な内容は事前に申告し、レビュー量、アクセス条件、対応体制を評価します。
ラベル辞書は境界例まで定義する
ラベルごとに意味、付与単位、含める条件、除外条件、判断不能時の扱いを定めます。文章全体か文単位か、複数ラベルを許すか、画像内の重なりをどう扱うかも仕様へ含めます。名前だけの辞書では作業者の解釈が分かれるため、正例、負例、境界例を一組にします。
発注側はデータの利用目的と、学習・評価に使ってよい権限を確認します。個人情報や閲覧に配慮が必要な内容がある場合は、対象を開く前に作業環境と対応条件を合意します。日本語では皮肉、省略、表記揺れ、引用を含む実際のサンプルで理解の一致を確認します。
返品希望ラベルを文章へ付ける例
以下は説明用の架空の短文ラベル作業です。辞書v2で「本人が商品の返品を希望している文」を返品希望とし、商品の一般説明や単なる引用は含めないと仮定します。分類対象の文、根拠となる箇所、保留理由を残して判断を再確認できる形にします。
曖昧な文を無理に二択へ入れず、判定者が確認するキューへ返します。発注側が新しい境界ルールを承認したら辞書v3を発行し、同じパターンの既存レコードを再確認する範囲を定めます。納品形式にはID、ラベル、辞書版、レビュー状態を含めます。
| 区分 | 架空の入力文 | ラベル・根拠 |
|---|---|---|
| 正例 | サイズが合わないので返品したいです。 | 返品希望。本人の希望が明示されている |
| 負例 | 返品の案内ページはどこですか。 | その他。手続き情報の質問のみ |
| 引用の例 | 説明書に「返品不可」と書いてありました。 | その他。引用だけでは希望と判定しない |
| 境界例 | これ、返せるなら…。 | 判断保留。文脈を確認して判定者へ |
正解例との照合と不一致の裁定を分ける
発注側が承認した正解例を使い、試行段階で辞書の理解を確認します。正解例の選定担当と、通常データのラベル付け担当を区別し、同じ人の判断をそのまま正解としない設計にします。重要な少数ラベルが平均値に埋もれないよう、ラベル別の誤りも確認します。
複数担当の判断が分かれた場合は、多数決だけで確定せず、裁定者が根拠と適用ルールを記録します。不一致が作業者の見落としか、辞書の不足かを分けると修正対象が明確になります。辞書を更新した場合は、変更後の対象件数と再レビュー結果を別に報告します。
利用先へ取り込める形式で検収する
JSON、CSV、画像座標などの出力形式は、項目名、文字コード、ID、ラベル値、座標基準を固定します。未判定を空文字にするか専用値にするかも指定します。元データのIDと一対一で照合し、欠落、重複、対象外ラベル、破損ファイルを確認してから納品します。
検収では件数、形式、正解例への一致、不一致の裁定記録、保留一覧を合わせて見ます。ラベルの品質と、そのデータで学習したモデルの性能は別の評価です。委託作業だけでモデルの改善を保証せず、定義と納品が目的に合うかを発注側の技術責任者が確認します。