Недавно позвали меня на аудит одного MedTech-продукта. Позиционировали его громко: «ИИ-платформа нового поколения для практикующих специалистов». Собственники с горящими глазами рассказывали, что под капотом у них взрослая open-source модель на 32 миллиарда параметров. Бизнес-план обещал миллионные B2B-контракты от фармгигантов.
ДИСКЛЕЙМЕР | Детали изменены, кейс собирательный. Все совпадения с реальными проектами — случайны.
Я получил гостевой доступ, заварил чай, включил режим технического скептика. Сделал два тривиальных клика. И знаете что? Болид оказался ржавой «копейкой» с прикрученным спойлером. Вместо прорывного ИИ — плохо собранный индексный поисковик уровня начала 2010-х.
Сразу оговорюсь: размер модели здесь ни при чём. 32B — это про генерацию. Проблема была в retrieval-слое, который до этой генерации просто не доносил ничего осмысленного. Модель есть, а кормить её нечем.
