Современные ИИ-кластеры все чаще упираются не в скорость GPU, а в задержки при передаче небольших сообщений между серверами. Почетный профессор Стэнфордского университета Джон Оустерхаут предложил решать проблему с помощью Homa, экспериментального транспортного протокола для дата-центров, который в отдельных тестах сокращает задержку коротких сообщений примерно в 13 раз по сравнению с TCP.
Оустерхаут представил аргументы в пользу Homa на конференции AI Engineer World’s Fair. При обучении больших моделей сеть в основном переносит крупные блоки данных, включая градиенты и веса. Инференс и системы с ИИ-агентами создают другой профиль нагрузки: крупные передачи приходится совмещать с небольшими запросами к KV-кэшу, метаданным и механизмам синхронизации. Задержавшийся короткий запрос способен оставить группу дорогих GPU в ожидании данных.
Привычный TCP передает данные как непрерывный поток байтов и управляет перегрузкой со стороны отправителя. Homa работает с отдельными сообщениями, знает их размер и передает управление входящим трафиком получателю. Получатель может отдавать приоритет сообщениям, которым осталось передать меньше данных, поэтому небольшой запрос не должен ждать завершения крупной передачи.
В представленном Оустерхаутом тесте сети 100 Гбит/с при загрузке 80% задержка 99-го процентиля для коротких сообщений составила около 92 микросекунд у Homa против примерно 1,2 миллисекунды у TCP. Разница достигла 13 раз. Для самых длинных сообщений Homa показала почти двукратное преимущество. Разработчик подчеркивает, что протокол предназначен именно для дата-центров с задержками в десятки микросекунд, а не для передачи данных через глобальный интернет. Такое ограничение закреплено и в готовящейся спецификации Homa.
Homa появилась задолго до нынешнего бума генеративного ИИ. Исследователи Стэнфорда и MIT представили протокол еще в 2018 году, а позднее Оустерхаут создал реализацию для ядра Linux. В испытаниях 2021 года Homa показывала задержку 99-го процентиля для коротких сообщений в семь-83 раза ниже TCP и DCTCP в зависимости от нагрузки и размера сообщений. Новые ИИ-системы дали старому исследовательскому проекту более очевидный практический сценарий.
Рабочий модуль Linux позволяет запускать Homa рядом с TCP и постепенно переводить приложения на новый транспорт. В марте 2026 года разработчики добавили версии для Red Hat Enterprise Linux 8 и 9.5. Полностью заменить TCP без изменений приложений не получится: Homa использует другой программный интерфейс, а распространение протокола потребует поддержки со стороны RPC-фреймворков, Linux и инфраструктуры дата-центров.
Пока Homa остается экспериментальной технологией, а представленные показатели не означают 13-кратного ускорения самих ИИ-моделей. Результаты показывают более узкий эффект: протокол способен заметно сократить сетевые задержки в смешанной нагрузке, где длинные передачи конкурируют с множеством коротких сообщений. Для крупных ИИ-кластеров даже такой выигрыш становится важным, поскольку несколько лишних миллисекунд ожидания могут простаивать сразу множество ускорителей.
