Эпоха ИИ-турбулентности: как принимать стратегические решения при выборе стека

Турбулентность как новый дефолт: разбираем тезис Gates Notes через призму промптов и стеков

Какие решения попали в зону риска

Первая волна — выбор базовой модели. Когда генерация стоила копейки, провалиться можно было на чём угодно; сейчас одна неудачная итерация файн-тюнинга обходится дороже, чем годовой бюджет на тесты. Опорные переменные, которые нужно держать в голове до старта:

• Контекстное окно — реальное, а не заявленное. Провайдеры режут качество длинного контекста, и это превращается в галлюцинации на длинных документах.
• Цена за токен на вход и выход — асимметрия до 10x; для RAG-пайплайнов это меняет юнит-экономику.
• Лимиты на rpm/tpm — особенно критично для агентских сценариев, где одна сессия делает десятки вызовов.
• Региональная доступность и данные-резиденция — если стек для EMEA или РФ, половина топ-моделей отваливается.
• Поведение на edge-кейсах — не бенчмарки, а ваши собственные 50–100 промптов из реальной выгрузки.

Как проверять стек в турбулентной фазе: три итерации, а не одна

Подход «выбрали модель — катим в прод» больше не работает. Нужна методичная серия коротких итераций, где каждый шаг заканчивается измеримым параметром, а не ощущением «ответ стал лучше».

Итерация 1 — smoke test. Прогоняем 20 типовых запросов из продукта через 2–3 кандидата, фиксируем: скорость, цену, процент «полезных» ответов по простой бинарной шкале. Никаких сложных метрик на этом шаге — только фильтр «идёт/не идёт».

Итерация 2 — нагрузочный контур. Гоняем те же запросы с параллелизмом 5–10, замеряем деградацию латентности и поведение под лимитами. Здесь же — проверка, как модель ведёт себя при обрезке контекста и при ошибках провайдера (ретраи, фолбэк на второго кандидата).

Итерация 3 — граничные кейсы. Длинный контекст, мультимодальные входы, неоднозначные инструкции, атаки через промпт. Это та зона, где «турбулентность» проявляется как разница между демо и продакшеном. Фиксируем, какие сценарии требуют ручной модерации, и считаем долю таких случаев — если она выше 15%, стек ещё сырой.

Что отслеживать в ближайший квартал

Конкретного текста статьи Gates Notes в открытом доступе пока нет — только заголовок и анонс, поэтому трактовать её как готовый манифест рано. Но сам факт, что такой тезис вынесен в заголовок, сигнализирует о трёх вещах, за которыми стоит следить:

1. Консолидация провайдеров. Часть моделей уйдёт из публичного доступа, часть — сменит лицензию. Пересмотрите контракты и SLA.

2. Ужесточение compliance. Ожидайте новых требований к логированию промптов, объяснимости и оценке рисков в EU и US. Это прямой параметр для выбора между self-hosted и API.

3. Рост стоимости длинного контекста. По мере того как контекстные окна становятся стандартом, тарифы на них растут быстрее, чем на короткие запросы. Пересчитывайте юнит-экономику RAG и агентов хотя бы раз в месяц.

Турбулентность — это не повод замирать, это повод перестать выбирать вслепую. Один параметр, одна гипотеза, одна итерация за раз — и стек собирается даже тогда, когда рынок меняется каждую неделю.