OpenAI превратила библиотеку Habitat в хранилище для более миллиарда пользователей ChatGPT
OpenAI описала развитие Habitat — проекта, который начинался как библиотека на Python, а затем превратился в глобально распределённую платформу хранения для ChatGPT.
По данным компании, платформа обслуживает более миллиарда пользователей ChatGPT и выдерживает до 22 млн запросов в секунду. В публикации OpenAI разбирает, как менялась архитектура Habitat по мере роста нагрузки.
Это инженерная история не о новой модели, а о базовой инфраструктуре, на которой работают ИИ-сервисы. OpenAI показывает, что масштабирование продукта упирается не только в возможности модели, но и в надёжное хранение данных и распределение нагрузки.
Для вайбкодера это напоминание: при создании приложения с ИИ нужно заранее отделять модель от инфраструктуры. Прототип можно собрать быстро, но рост числа пользователей потребует отдельного решения для хранения данных и масштабирования запросов.
Черновик этой заметки подготовила нейросеть по ленте первоисточника. Мы помечаем такие материалы честно — факты и цифры сверяйте по ссылке на источник выше. Как мы работаем с данными.