Сила cвета: MIT разрабатывает сверхмощные модели машинного обучения

Исследователи из MIT (Massachusetts Institute of Technology) создали систему, способную привести к программам машинного обучения, гораздо более мощным, чем те, которые лежат в основе ChatGPT. Новая система может также потреблять значительно меньше энергии, чем современные суперкомпьютеры, используемые в машинном обучении.

По данным опубликованным в Nature Photonics , новая система использует свет, а не электроны, для выполнения вычислений, с применением сотен лазеров микронного масштаба. Этот подход позволил улучшить энергоэффективность более чем в 100 раз и повысить плотность вычислений в 25 раз по сравнению с лучшими сегодняшними цифровыми компьютерами для машинного обучения.

В статье ученые отмечают потенциал для дальнейшего значительного улучшения системы, открывая путь для создания крупномасштабных оптоэлектронных процессоров. Таким образом, мобильные телефоны и другие компактные устройства могут стать способными запускать программы, которые сегодня обрабатываются только на больших дата-центрах.

Созданные компоненты системы могут быть произведены с использованием уже существующих технологий. "Лазерные массивы, используемые в системе, уже применяются в системах распознавания лиц мобильных телефонов и для передачи данных", — отметил Зайджун Чен, первый автор исследования.

Дирк Энглунд, профессор MIT, отметил, что ограничения ChatGPT определяются мощностью современных суперкомпьютеров. Новая технология может позволить создать модели машинного обучения, которые сейчас кажутся недостижимыми.

Оптические нейронные сети (ОНС), использующие свет вместо электронов, обладают потенциалом преодоления текущих проблем в машинном обучении, таких как высокое энергопотребление. Однако у ОНС есть свои проблемы, такие как неэффективное преобразование входных данных на основе электрической энергии в свет. Исследователи представили компактную архитектуру, которая решает все эти проблемы, основываясь на массивах лазеров VCSEL.

Научное сообщество с оптимизмом относится к исследованию. Логан Райт, профессор Йельского университета, выразил уверенность в том, что оптические системы, основанные на модулированных массивах VCSEL, станут реальностью в ближайшие годы.