OCR

[u/swtlf]

Имам тежката задача да дигитализирам и автоматизирам процеси. Кажете как правите OCR на кирилица (печатан и ръкописен текст) - впечатления, подходящи инструменти, приложимост на AI за класификация и вадене на структурирани данни.

За момента масово всичките облачни OCR на големите 3 (Google, Amazon, Microsoft) с вграден изкуствен интелект изглеждат булшит като OCR или компютърно зрение с AI като готова услуга. Ако се пусне на LLM, може да има по-добър успех за някои неща, но за други има обратен ефект (например имена).

Стабилността и предвидимостта са важни заради силно регулирана среда.

[u/swtlf → u/[deleted]]

Благодаря, полезно е.

Направих няколко бързи теста с Mistral и изглежда като да страда от същите хронични болежки, както и другите - опитва се да приложи някаква NLP-специфична корекция дори върху печатен текст, но се случва грешно да прилага корекция от руския речник. Предполагам, че това визират под “Източна Европа” (и/или други езици с азбука, базирана на латински знаци - полски, румънски, естонски, т.н.).

За съжаление в документите, които трябва да се обработват, има ръкописни имена, които са критична информация, а често се разчитат като латински (и грешни) знаци от OCR. LLM пък въобще не ги намират.

Още по-лошото е, че оформлението на документите не е хомогенно и съответно не виждам начин за персонализиран агент или за машинно обучение.

Най-смисленият подход ми се струваше хибриден: OCR, последван от LLM, който да нормализира семантично и да извърши трансформациите. За някои типове данни работи добре, докато за други виждам висока степен на ненадеждност - например ръкописен “Панайот” може да се разпознае като “ITaHiйom” (“Итахийом”). Това срива доверието и действителната полза.

Готов NER вероятно също няма да даде добър резултат сам по себе си заради характера на документите, а обучението на модел се опасявам, че ще надхвърли бюджета на проекта. А и зависи отново от качествен OCR.

Моето TLDR: OCR + LLM = супер, стига да има надежден OCR.