Limerencii commited on
Commit
c98ae55
·
verified ·
1 Parent(s): 1c6849b

Upload README.md with huggingface_hub

Browse files
Files changed (1) hide show
  1. README.md +116 -38
README.md CHANGED
@@ -1,38 +1,116 @@
1
- ---
2
- dataset_info:
3
- features:
4
- - name: image
5
- dtype: image
6
- - name: messages
7
- list:
8
- - name: content
9
- list:
10
- - name: text
11
- dtype: string
12
- - name: type
13
- dtype: string
14
- - name: role
15
- dtype: string
16
- - name: image_type
17
- dtype: string
18
- - name: source_folder
19
- dtype: string
20
- - name: dataset_name
21
- dtype: string
22
- splits:
23
- - name: train
24
- num_bytes: 14849781542
25
- num_examples: 11745
26
- - name: validation
27
- num_bytes: 1681103383
28
- num_examples: 1305
29
- download_size: 16368522735
30
- dataset_size: 16530884925
31
- configs:
32
- - config_name: default
33
- data_files:
34
- - split: train
35
- path: data/train-*
36
- - split: validation
37
- path: data/validation-*
38
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - ru
4
+ task_categories:
5
+ - image-to-text
6
+ tags:
7
+ - handwriting-recognition
8
+ - russian
9
+ - ocr
10
+ - qwen3-vl
11
+ size_categories:
12
+ - 10K<n<100K
13
+ ---
14
+
15
+ # Russian Handwritten Text Recognition Dataset
16
+
17
+ Датасет для распознавания русских рукописных текстов (сочинений).
18
+
19
+ ## Описание
20
+
21
+ Этот датасет содержит изображения рукописных русских текстов с их расшифровкой.
22
+ Предназначен для дообучения vision-language моделей (например, Qwen3 VL) на задачу OCR русского рукописного текста.
23
+
24
+ ## Статистика
25
+
26
+ - **Всего образцов**: 13050
27
+ - **Train**: 11745
28
+ - **Validation**: 1305
29
+ - **Уникальных текстов**: 575
30
+ - **Средняя длина текста**: 3790 символов
31
+
32
+ ## Типы изображений
33
+
34
+ Датасет включает три типа изображений одних и тех же текстов:
35
+ - **Сканы** (scan): Сканированные изображения
36
+ - **ФотоТемное** (dark): Фотографии в темном освещении
37
+ - **ФотоСветлое** (light): Фотографии в светлом освещении
38
+
39
+ ## Формат данных
40
+
41
+ Каждый пример содержит:
42
+ ```python
43
+ {
44
+ "image": PIL.Image, # Изображение
45
+ "messages": [ # Формат conversational
46
+ {
47
+ "role": "user",
48
+ "content": [
49
+ {"type": "text", "text": "Распознай текст с изображения."},
50
+ {"type": "image"}
51
+ ]
52
+ },
53
+ {
54
+ "role": "assistant",
55
+ "content": [
56
+ {"type": "text", "text": "<transcribed_text>"}
57
+ ]
58
+ }
59
+ ],
60
+ "image_type": "scan" | "dark" | "light",
61
+ "source_folder": str,
62
+ "dataset_name": "dataset1" | "dataset2"
63
+ }
64
+ ```
65
+
66
+ ## Использование
67
+
68
+ ```python
69
+ from datasets import load_dataset
70
+
71
+ # Загрузка датасета
72
+ dataset = load_dataset("YOUR_USERNAME/russian-handwriting-ocr")
73
+
74
+ # Пример использования
75
+ sample = dataset['train'][0]
76
+ image = sample['image']
77
+ messages = sample['messages']
78
+ ```
79
+
80
+ ## Обучение с Unsloth
81
+
82
+ Этот датасет готов для использования с Unsloth для дообучения Qwen3 VL:
83
+
84
+ ```python
85
+ from unsloth import FastVisionModel
86
+ from unsloth.trainer import UnslothVisionDataCollator
87
+ from trl import SFTTrainer, SFTConfig
88
+
89
+ # Загрузка модели
90
+ model, tokenizer = FastVisionModel.from_pretrained(
91
+ "unsloth/Qwen3-VL-8B-Instruct",
92
+ load_in_4bit=True,
93
+ )
94
+
95
+ # Загрузка датасета
96
+ from datasets import load_dataset
97
+ dataset = load_dataset("YOUR_USERNAME/russian-handwriting-ocr")
98
+
99
+ # Обучение
100
+ trainer = SFTTrainer(
101
+ model=model,
102
+ tokenizer=tokenizer,
103
+ data_collator=UnslothVisionDataCollator(model, tokenizer),
104
+ train_dataset=dataset['train'],
105
+ # ... другие параметры
106
+ )
107
+ trainer.train()
108
+ ```
109
+
110
+ ## Лицензия
111
+
112
+ [Укажите вашу лицензию]
113
+
114
+ ## Цитирование
115
+
116
+ Если вы используете этот датасет, пожалуйста, укажите ссылку на него.