Песочница: Puliza

Intent ID: 28

1) Загрузить файл и получить сырой OCR JSON

Сохраняем последний файл и сырой OCR, чтобы можно было повторно тестировать маппинг без перезагрузки.

Скачать последний файл (FACT EXPORTACION TDA00036707 H 11_13_04.pdf)

2) Правила трансформации

Правила трансформации OCR-данных в целевую схему (включая валидацию).

Промпт LLM-подсказки

Ты создаёшь правила трансформации данных инвойса из сырого OCR в целевую JSON-схему.

Сырой OCR-JSON получен из table_parsing (распознавание таблиц из изображений).
Особенности формата:
- metadata может быть пустым (table_parsing не извлекает шапку инвойса).
- table.columns — заголовки колонок; могут содержать слипшиеся слова или символ "#" распознанный как "1". Могут быть пустыми — тогда определи смысл колонок по данным.
- table.rows — массив строк; каждая строка = массив значений в порядке columns.
- totals_raw — итоговые значения с последней страницы (может быть пустым).
- sections и notes обычно пустые.

<сырой_ocr_json>
{raw_json}
</сырой_ocr_json>

<целевая_json_схема>
{target_schema}
</целевая_json_схема>

=== ШАГ 1: АНАЛИЗ ДАННЫХ (выполни перед генерацией правил) ===

Прежде чем писать правила, ответь себе на вопросы:

1. КОЛОНКИ: если table.columns пуст, определи смысл каждой колонки по данным. Для каждого индекса укажи: "колонка N = что это" (число коробок, маркировка, название сорта, категория, бантчи, стебли, цена за штуку, итого, номер заказа и т.д.).

2. ТИП ИНВОЙСА — определи по структуре OCR:
   А) Составные коробки (заголовок + детали): есть строки-заголовки (MIXED BOX) с общими суммами, за ними строки-детали с отдельными сортами.
   Б) Плоские: каждая строка = одна позиция = одна коробка. Нет MIXED BOX.
   В) Секции по фермам: строки группируются по фермам/HAWB.

3. ФИЗИЧЕСКИЕ КОРОБКИ: найди колонку с количеством физических коробок. Это число обычно 1 для каждой строки-заголовка. Не путай с числом бантчей/сортов внутри коробки — это разные колонки!

4. MIXED BOX — определи, что это значит в данном инвойсе:
   - Вариант 1: одна физическая коробка со смешанными сортами внутри (строки-детали = сорта в одной коробке). В этом случае каждая строка-деталь = 1 item с boxes=1, данные берутся напрямую из строки без деления.
   - Вариант 2: одна строка описывает N одинаковых физических коробок (boxes > 1 и нет строк-деталей). В этом случае раскрой: создай N items с boxes=1, поделив quantity и total_price на N.
   Подсказка: если после деления quantity получаются дробные стебли (3.125, 1.786) — ты неправильно определил что делить. Стебли всегда целые или кратные размеру бантча.

=== ШАГ 2: БИЗНЕС-ПРАВИЛА ===

РАСКРЫТИЕ МУЛЬТИБОКСА (применяй только для варианта 2 из шага 1):
Если одна строка = N одинаковых физических коробок без строк-деталей — раскрой в N отдельных items[] с boxes=1.
Пример: строка "5 boxes, 1500 stems, $750" → 5 строк по boxes=1, quantity=300, total_price=150.
Если MIXED BOX = одна коробка с разными сортами (вариант 1) — НЕ раскрывать. Каждая строка-деталь уже описывает один сорт с готовыми quantity и total_price.

НОМЕР КОРОБКИ (box_number):
1. Если в таблице есть колонка Order/LABEL с уникальным номером — используй его.
2. Если уникального номера нет — генерируй: первые 3 буквы названия плантации + порядковый номер коробки (QUA1, QUA2, GUI1, BOT1 и т.д.).

МАРКИРОВКА КОРОБКИ (box_marking):
Тип + размер коробки из колонки BOX/BoxT (напр. "HB 2 (120*35*35)", "HB XL 1", "QB"). Для строк-деталей бери box_marking из строки-заголовка их коробки.

ПОЛЕ plantation:
- Если есть колонка FARM — бери оттуда (без кодов типа PC602017194).
- Если нет колонки FARM — plantation = название поставщика из metadata или шапки инвойса.
- Mark Code / MARK — это НЕ плантация (часто это код клиента).

ПОЛЯ category, variety, length:
- category: из колонки SPECIES/Species (ROSES, ALSTRO, CARNATION). Если нет отдельной колонки — определи по описанию.
- variety: из колонки VARIETY/Description. Если встроена в PRODUCT ("AMIRA 60CM N 25ST QUCT") — извлеки только название сорта ("AMIRA").
- length: из колонки LEN/Length/Lenght. Если встроена в название ("60CM") — извлеки число. Если несколько значений ("40CMN 25ST QUOT") — бери первое число перед CM.

=== ШАГ 3: САМОПРОВЕРКА ===

Мысленно примени свои правила к первым 3-5 строкам данных и проверь:
- quantity в каждом item — целое число или кратное размеру бантча (25, 10). Дробные стебли (3.125, 1.786, 14.06) — признак ошибки в правилах.
- unit_price — разумная цена за стебель ($0.20–$5.00 для цветов).
- sum(items[].quantity) ≈ totals.total_stems (если есть в данных).
- sum(items[].total_price) ≈ totals.total_amount (если есть в данных).
Если проверка не сходится — пересмотри правила перед ответом.

=== ФОРМАТ ОТВЕТА ===

Верни JSON с единственным ключом:
- "transform_rules": массив коротких правил (строки на русском языке)

КРИТИЧНО — правила будут применяться к НОВЫМ документам того же поставщика, где конкретные значения (номера инвойсов, даты, суммы, AWB, количество стеблей) будут ДРУГИМИ. Поэтому:

ЗАПРЕЩЕНО включать в правила:
- Конкретные значения из образца: номера инвойсов, даты, AWB, суммы, количества
- Абсолютные индексы строк (индекс 23, индекс 30) — число строк в таблице разное
- Конкретные названия стран или имена клиентов из данного документа

ОБЯЗАТЕЛЬНО описывать:
- МЕТОД извлечения: "найти строку с меткой 'MAWB'", "последняя строка таблицы", "строка, содержащая 'Totals'"
- Ссылки на КОЛОНКИ по имени и индексу (колонки стабильны между документами)
- ПАТТЕРНЫ поиска: "строка, где колонка 0 содержит 'DAU-'", а не конкретное значение

Пример ПЛОХОГО правила: "summary.total_stems: значение 700 из строки индекс 30."
Пример ХОРОШЕГО правила: "summary.total_stems: найти строку с меткой 'Totals', взять значение из колонки 1, преобразовать в число."

Требования к правилам:
1. Ссылайся на названия колонок из table.columns (по индексу и по имени).
2. Опиши как заполнить КАЖДОЕ поле целевой схемы, используя метод извлечения, а не конкретные значения.
3. Укажи определённый тип инвойса (А/Б/В) и логику распознавания строк.
4. Укажи МЕТОД извлечения для invoice_number, date, supplier, country, awb: по какой метке/паттерну найти строку и из какой колонки взять значение.
5. Опиши логику box_number: реальный номер из данных или генерация PREFIX+seq.
6. Если применяется раскрытие мультибокса — опиши логику. Если не применяется — явно укажи, что каждая строка-деталь = 1 item без деления.
7. Числовые поля — числа, не строки. Убери "$", "EUR", запятые.
8. Правила валидации: sum(items[].total_price) ≈ summary.total_amount, sum(items[].quantity) ≈ summary.total_stems.
9. Верни только валидный JSON.

Используется кнопкой «Подсказать rules».

Transform rules (JSON массив строк)

[
  "Тип инвойса: плоский (Б). Каждая строка с данными в колонках 0-18 описывает одну физическую коробку. Нет строк-заголовков MIXED BOX и строк-деталей.",
  "Колонки (определены по данным): колонка 0 = '# BOX' (количество физических коробок в строке), колонка 1 = 'BOX T' (маркировка коробки), колонка 2 = 'VARIEDAD' (сорт), колонка 3 = 'STxB' (стебли на коробку), колонки 6-15 = размеры стеблей (30-120), колонка 16 = 'T. TALLOS' (общее количество стеблей в строке), колонка 17 = 'UNIT. $' (цена за стебель), колонка 18 = 'TOTAL' (общая сумма строки).",
  "invoice_number: найти строку, где колонка 1 содержит подстроку 'INVOICE:', извлечь номер инвойса из этой же колонки после двоеточия.",
  "invoice_date: найти строку с меткой 'DATE' в колонке 0, взять значение из колонки 1.",
  "supplier: взять название поставщика из первой строки таблицы, колонка 1 (первая часть до 'RUC:').",
  "country: найти строку с меткой 'COUNTRY' в колонке 0, взять значение из колонки 1.",
  "awb: найти строку с меткой 'M.A.W.B' в колонке 0, взять значение из колонки 1. Если пусто, найти строку с меткой 'H.A.W.B' в колонке 0, взять значение из колонки 1.",
  "items: обрабатывать строки, где колонка 0 содержит число (количество коробок) и колонка 2 не пуста. Каждая такая строка = один item.",
  "items[].box_number: если в колонке 0 строки значение > 1, это мультибокс (вариант 2). Раскрыть в N отдельных items с boxes=1, где N = значение из колонки 0. Для каждого раскрытого item сгенерировать уникальный box_number: взять первые 3 буквы из supplier и добавить порядковый номер (например, PUL1, PUL2). Если значение в колонке 0 = 1, box_number = первые 3 буквы из supplier + '1'.",
  "items[].box_marking: взять значение из колонки 1 строки.",
  "items[].boxes: всегда 1 (после раскрытия мультибокса).",
  "items[].plantation: использовать supplier, так как колонки FARM нет.",
  "items[].category: определить по описанию в колонке 2 или контексту (например, 'MIXTO' может указывать на смешанную категорию). Если не удается определить, оставить пустым.",
  "items[].variety: взять значение из колонки 2 строки.",
  "items[].length: определить по заполненным колонкам размеров (6-15). Взять метку размера (например, '50') из колонки, где значение не пусто. Если несколько, взять первое непустое.",
  "items[].quantity: взять значение из колонки 16 строки, преобразовать в число.",
  "items[].unit_price: взять значение из колонки 17 строки, преобразовать в число.",
  "items[].total_price: взять значение из колонки 18 строки, преобразовать в число. Если пусто, вычислить как quantity * unit_price.",
  "summary.total_boxes: найти строку с меткой 'TOT.BOX' в колонке 0, взять значение из колонки 1, преобразовать в число.",
  "summary.total_stems: найти строку с меткой 'TOT. STEMS' в колонке 0, взять значение из колонки 1, преобразовать в число.",
  "summary.total_amount: найти строку с меткой 'TOTAL USD DOLLAR' в колонке 0, взять значение из колонки 1, преобразовать в число.",
  "Проверка: sum(items[].total_price) должно приблизительно равняться summary.total_amount, sum(items[].quantity) должно приблизительно равняться summary.total_stems, count(unique items[].box_number) должно равняться summary.total_boxes."
]

Сырой OCR JSON (Pass 1)

{
  "awb": "145-99817690",
  "items": [],
  "country": "KYRGYSTAN",
  "summary": {
    "total_boxes": 14,
    "total_stems": 350,
    "total_amount": 87.5
  },
  "supplier": "EGAS FERNANDA",
  "invoice_date": "03/04/2026",
  "invoice_number": "00036707",
  "processing_report": {
    "notes": "Invoice type: flat (Б). No physical boxes detected following rules. No multi-box expansion applied. Problems encountered during item extraction due to malformed OCR table structure not aligning with column definitions (e.g., item data and headers merged across rows/columns, empty variety column for potential item rows).",
    "status": "error",
    "sum_boxes": 0,
    "sum_stems": 0,
    "sum_amount": 0,
    "items_count": 0,
    "discrepancies": [
      "No item rows could be extracted based on the specified rules: 'колонка 0 содержит число (количество коробок) и колонка 2 не пуста'.",
      "Sum of item boxes (0) does not match summary total_boxes (14).",
      "Sum of item stems (0) does not match summary total_stems (350).",
      "Sum of item total prices (0) does not match summary total_amount (87.5)."
    ],
    "expected_boxes": 14,
    "expected_stems": 350,
    "expected_amount": 87.5
  }
}

Результат (Pass 2)

Report: warning

items=1, boxes=1/0.5, stems=350/350, amount=87.5/87.5

discrepancies: Calculated total boxes (1) does not match summary total boxes (0.5).

notes: Тип инвойса: плоский. Обнаружена 1 физическая коробка. Применено раскрытие мультибокса: нет. Проблема при извлечении summary.total_boxes (OCR ошибка).

{
  "awb": null,
  "items": [
    {
      "boxes": 1,
      "length": "50",
      "variety": "MIXTO",
      "category": "MIXTO",
      "quantity": 350,
      "box_number": "PUL1",
      "plantation": "PULIZA FLOWERS CACOANGO CACOANGO JUAN MANUEL",
      "unit_price": 0.25,
      "box_marking": "HB",
      "total_price": 87.5
    }
  ],
  "country": null,
  "summary": {
    "total_boxes": 0.5,
    "total_stems": 350,
    "total_amount": 87.5
  },
  "supplier": "PULIZA FLOWERS CACOANGO CACOANGO JUAN MANUEL",
  "invoice_date": null,
  "invoice_number": "00036192",
  "processing_report": {
    "notes": "Тип инвойса: плоский. Обнаружена 1 физическая коробка. Применено раскрытие мультибокса: нет. Проблема при извлечении summary.total_boxes (OCR ошибка).",
    "status": "warning",
    "sum_boxes": 1,
    "sum_stems": 350,
    "sum_amount": 87.5,
    "items_count": 1,
    "discrepancies": [
      "Calculated total boxes (1) does not match summary total boxes (0.5)."
    ],
    "expected_boxes": 0.5,
    "expected_stems": 350,
    "expected_amount": 87.5
  }
}

История (последние 20)

ID	Файл	Дата
20	FACT EXPORTACION TDA00036192 H 16_50_18.pdf	2026-02-23 16:56:24.922433+00:00	Excel