ИИ сожрёт всю энергию планеты? Чтобы это предотвратить, ученые придумали чип, который работает как мозг — и потребляет как лампочка

ИИ уперся не только в алгоритмы, но и в электричество. Чем крупнее модели и дата-центры, тем больше энергии уходит на обучение, хранение данных и постоянную пересылку информации между процессором и памятью. Авторы новой работы предложили материал для мемристоров, который может снизить энергозатраты нейроморфных систем — устройств, имитирующих работу нейронов и синапсов в мозге.

Главная проблема современного ИИ-железа связана с классической архитектурой фон Неймана. В обычных компьютерах вычислительный блок и память разделены. Процессор обрабатывает данные, память хранит данные, а между ними постоянно идет обмен. Для больших моделей такая пересылка превращается в отдельный источник задержек и энергопотребления. В научной статье указано, что энергозатраты ИИ-оборудования растут примерно на 30% в год, поэтому одними более компактными чипами и новыми дата-центрами проблему уже не решить.

Нейроморфные вычисления предлагают другую логику. В мозге хранение и обработка не разнесены по разным узлам: связи между нейронами одновременно передают сигналы и меняются по мере обучения. Синапсы усиливаются или ослабевают, а мозг за счет таких изменений запоминает информацию, распознает образы и принимает решения. Инженеры пытаются перенести этот принцип в электронику: сделать элементы памяти, которые не просто хранят нули и единицы, а плавно меняют состояние и участвуют в вычислениях.

Для такой задачи подходят мемристоры. Это двухконтактные электронные элементы, у которых сопротивление меняется под действием электрического сигнала и сохраняется после отключения питания. В нейроморфной системе мемристор может работать как искусственный синапс: чем выше или ниже его проводимость, тем сильнее или слабее связь в сети. Если такие элементы потребляют мало энергии и ведут себя предсказуемо, вычисления можно переносить ближе к памяти и меньше гонять данные между отдельными блоками.

У существующих мемристоров есть слабые места. Многие устройства на основе оксидов, включая распространенный диоксид гафния HfO₂, переключаются за счет тонких проводящих каналов внутри материала. Такой механизм называют филаментарным резистивным переключением. Он дает эффект памяти, но плохо контролируется: проводящие нити возникают и разрушаются не совсем одинаково, поэтому разные устройства могут заметно отличаться друг от друга, а поведение одного и того же элемента меняется от цикла к циклу. Для ИИ-железа разброс снижает точность вычислений.

Есть и энергетическая проблема. Филаментарным мемристорам часто нужно электроформование — первое сильное электрическое воздействие, которое создает проводящий канал. Чтобы элемент не повредился, схеме приходится ограничивать ток. Кроме того, низкоомное состояние обычно достигается при сравнительно больших токах. Все это усложняет конструкцию и плохо сочетается с задачей сделать экономичное нейроморфное железо.

Авторы новой работы выбрали другой путь. Они создали тонкие пленки p-типа на основе многокомпонентного оксида Hf(Sr,Ti)O₂. Проще говоря, взяли материал из семейства оксидов гафния и изменили его состав за счет стронция и титана. Затем применили двухэтапный рост пленки: сначала осадили слой толщиной около 15 нанометров из мишеней HfO₂ и SrTiO₃ без подачи дополнительного кислорода, а затем добавили кислород и сформировали еще примерно один нанометр материала.

Такой способ роста создал на границе слоев важную электронную структуру: p-n-гетеропереход между p-типом Hf(Sr,Ti)O₂ и n-типом TiOxNy, то есть оксинитридом титана. В полупроводниках p-n-переход соединяет области с разными типами проводимости. Здесь такая граница формирует область пространственного заряда, где свободных носителей почти нет, и создает встроенный электрический барьер. Именно этот барьер помогает резко снизить токи и управлять проводимостью без случайных проводящих нитей.

В результате получились интерфейсные мемристоры с токами переключения около 10⁻⁸ ампера и ниже. Для нейроморфной электроники это важный показатель: искусственный синапс должен менять состояние слабыми сигналами, иначе крупная сеть из миллионов элементов быстро станет слишком энергозатратной. В статье также подчеркивается, что устройства переключались без предварительного электроформования и без ограничения тока, которое обычно требуется филаментарным мемристорам.

Поведение новых элементов отличалось от устройств с проводящими нитями. При подаче положительного напряжения на верхний молибденовый электрод сопротивление постепенно снижалось, и мемристор переходил в низкоомное состояние. При смене полярности устройство возвращалось в высокоомное состояние. Вольт-амперные кривые не показывали резкого скачка тока, характерного для филаментарного переключения. Проводимость менялась плавно, а значит, основной процесс шел на границе материалов.

Плавная настройка особенно важна для искусственных синапсов. Обычной памяти достаточно двух состояний: ноль и единица. Нейроморфной сети нужны десятки или сотни промежуточных уровней, потому что сила связи между искусственными нейронами должна меняться постепенно. Новые мемристоры показали сотни устойчивых уровней проводимости в диапазоне примерно от 2,5 × 10⁻⁹ до 1,4 × 10⁻⁷ сименса. Диапазон модуляции превысил 50, причем исследователи не увидели насыщения. Иными словами, состояние можно было менять последовательно и воспроизводимо, а не переключать между несколькими грубыми режимами.

Устройства проверяли одинаковыми электрическими импульсами напряжением 1,0 В. Такой режим похож на импульсную передачу сигналов в нервной системе: нейроны тоже обмениваются короткими электрическими всплесками. Для импульсных нейросетей это удобно, потому что элемент можно обучать серией слабых сигналов, а проводимость будет работать как вес искусственного синапса.

Стабильность проверили на длинной серии воздействий. Мемристоры выдержали около 40000 электронных импульсов и сохранили управляемое синаптическое поведение. Время удержания состояния превысило 10⁵ секунд, то есть около 28 часов. Для экспериментального материала такой результат важен: элемент не просто реагирует на сигнал, но и хранит новое состояние достаточно долго, чтобы выполнять роль памяти.

Авторы отдельно проверили повторяемость. Они сравнили 50 устройств и для каждого брали средние значения низкоомного и высокоомного состояний по 50 циклам. Разброс между циклами и между отдельными элементами оказался низким, а окно памяти сохранялось на уровне не меньше 10. Для мемристоров это один из главных признаков пригодности: нейроморфная система не сможет надежно обучаться, если каждый искусственный синапс будет вести себя по-своему.

Новые устройства воспроизвели и базовые правила обучения, которые используют в моделях искусственных синапсов. В статье упоминаются кратковременная синаптическая пластичность и пластичность, зависящая от времени прихода импульсов, или STDP. Первый эффект означает временное усиление или ослабление связи после серии сигналов. Второй учитывает порядок импульсов: если входной сигнал приходит раньше выходного, связь может усилиться, а при обратном порядке — ослабнуть. Для нейроморфных систем такой механизм важен, потому что обучение зависит не только от наличия сигнала, но и от точного времени его появления.

Физический механизм авторы связывают с изменением энергетического барьера на p-n-гетеропереходе. Под действием электрических импульсов в материале смещаются заряженные дефекты и ионы, а граница между слоями меняет проводимость. Такой процесс называют электроионной миграцией заряда. В отличие от роста и разрушения проводящих нитей, состояние задается самой границей материалов, поэтому переключение получается более мягким, экономичным и повторяемым.

Главный итог работы — не очередной вариант памяти, а попытка закрыть сразу две проблемы мемристоров: высокое энергопотребление и нестабильность. Если подход удастся масштабировать, такие элементы смогут лечь в основу более экономичных нейроморфных чипов, где память и вычисления работают в одном блоке, а искусственные синапсы меняют состояние при малых токах и без сильного разброса между устройствами.