Американские нейробиологи выяснили, что при повреждении отдельных компонентов искусственного интеллекта нейросети начинают допускать ошибки, напоминающие нарушения речи у людей после инсульта. Учёные обнаружили сходство с афазией, при которой человек испытывает трудности с подбором слов, построением предложений и пониманием речи. Необычный эксперимент может помочь разработчикам создавать более компактные модели ИИ, а врачам искать новые способы восстановления речевых функций.
Уже более 150 лет неврологи изучают последствия повреждений головного мозга, чтобы понять, за какие способности человека отвечают разные его участки. Авторы нового исследования решили применить тот же метод к искусственному интеллекту. Поскольку языковые модели обучаются на человеческой речи, учёные предположили, что нарушения в работе их внутренних компонентов могут приводить к знакомым неврологам симптомам.
Для эксперимента специалисты воспользовались результатами обследований 410 пациентов с хронической афазией после инсульта. На основе медицинских данных исследователи создали компьютерную модель, которая по характеру речевых ошибок предсказывала, какие участки головного мозга повреждены у пациента.
Затем учёные намеренно нарушили работу отдельных слоёв нейросетей и предложили искусственному интеллекту выполнить те же задания, которые получали пациенты. Моделям требовалось назвать изображённые на картинках предметы и закончить предложения. Характер допущенных ошибок оказался удивительно близок к клиническим проявлениям афазии.
Согласно предварительным результатам работы, в 67% экспериментальных условий при назывании предметов и в 68,3% при завершении предложений исследователи обнаружили соответствие между ошибками ИИ и повреждениями мозга у пациентов, превышающее уровень случайного совпадения. Ошибки в выборе слов по смыслу и нарушения их звуковой структуры также соответствовали повреждениям разных нервных путей человеческого мозга.
Авторы работы, однако, предостерегают от прямых аналогий между устройством мозга и нейросетей. Сходство симптомов ещё не доказывает, что человек и машина обрабатывают язык одинаково. Ценность метода в возможности выяснить, какие именно компоненты искусственного интеллекта отвечают за определённые языковые способности и почему модель ошибается при нарушении их работы.
Разработчики в будущем смогут использовать искусственные повреждения для поиска лишних компонентов нейросетей. Если вмешательство в работу определённого участка практически не сказывается на качестве ответов, возможно, без него удастся обойтись. В перспективе такой подход позволит уменьшить размеры языковых моделей и сократить потребление электроэнергии.
Не менее интересное применение метода учёные видят в медицине. На основе нейросетей можно попытаться создать цифровых двойников пациентов с афазией, которые воспроизводили бы индивидуальные речевые нарушения. Врачи могли бы моделировать клинические испытания на виртуальных пациентах и быстрее находить перспективные способы лечения. Пока подобные возможности остаются гипотетическими, однако авторы работы рассчитывают со временем распространить методику и на другие неврологические заболевания.
