Один шлюз ко всем нейросетям.

Команда с восемью годами дежурств

До этого мы восемь лет держали инфраструктуру для нескольких высоконагруженных сервисов — знаем, что такое инцидент в три часа ночи и что такое честный SLA, а не просто цифра для лендинга.

Когда встал вопрос доступа к нейросетям для собственных проектов, стало ясно: рынок либо предлагает нестабильные прокси на голом энтузиазме, либо крупные компании с процессом согласования на недели. Мы решили сделать то, чем сами хотели бы пользоваться: мониторинг 24/7, резервирование по каждому провайдеру моделей и открытую страницу статуса, куда можно зайти и увидеть правду, а не зелёную надпись «всё работает» по умолчанию.

Инфраструктура развёрнута в нескольких дата-центрах в России с автоматическим переключением между ними при сбое одного из каналов. Команда дежурит посменно, а не отвечает по будням с десяти до шести. Мы не самая дешёвая точка входа на рынке — но именно за счёт этого держим обещания по задержке и аптайму, которые пишем у себя на сайте. Если что-то всё же ломается — пишем об этом в статусе честно и сразу, а не после десятка обращений в поддержку.