Распознавание 1000 страниц моделью LightOnOCR-3-0.8B требует менее $0,10 на аренду GPU — таков результат теста Даниэля ван Стриена из Hugging Face. Для более ранней RolmOCR расходы составили около $0,51 при одинаковом размере изображений. Речь идёт именно о затратах на вычисления, а не о полной стоимости оцифровки книг.
Как сообщает IT Home, ван Стриен сравнил восемь моделей на наборе из 850 страниц: в него вошли старые книги по естествознанию, издание «Британской энциклопедии» 1771 года, а также печатные и машинописные архивные документы. Все модели работали на арендованной Nvidia RTX PRO 6000 стоимостью $2,75 в час. Показатели для 1000 страниц рассчитаны по результатам этого теста.
По оценке ван Стриена, при таких затратах аренда GPU для миллиона страниц обойдётся примерно в $65–130 в зависимости от типа материалов. На расходы влияет и способ запуска моделей: более равномерное распределение страниц между задачами, уменьшение изображений и обновление ПО могут дать экономию, сопоставимую с переходом на новую модель или даже большую.
На книжных страницах новейшая модель показала точность как минимум не хуже RolmOCR. Но при выборе модели важна не только цена: некоторые участники теста придумывали текст на пустых страницах или многократно повторяли один и тот же фрагмент.
Источник: IT Home.