Чёрный ящик надел погоны и стал генералом: теперь ИИ выбирает командиров Америки

Армия США начала использовать искусственный интеллект для помощи в отборе военных на повышение по службе. По данным издания Task & Purpose, система должна облегчить работу офицеров кадрового командования (AHRC), которые теперь смогут быстрее отсеивать военнослужащих, не соответствующих требованиям для продвижения. Алгоритмы применяются также на этапе набора личного состава.

Генерал-майор Хоуп Рэмпи, возглавляющая AHRC, отметила, что объём работы в оценочных комиссиях стал настолько велик, что офицеры физически не успевают детально рассматривать каждое личное дело. На рассмотрение поступают тысячи досье, среди которых нередко встречаются кандидаты, не имеющие шансов на повышение, однако комиссия всё равно обязана присваивать им оценку в рейтинговой таблице. Использование ИИ позволит заранее выделять тех, кто соответствует формальным критериям — например, уровню образования и опыту службы, — и тем самым сэкономить время членов комиссии для анализа действительно перспективных претендентов.

В отделе аналитики талантов пояснили, что автоматизация коснётся лишь начального этапа сортировки. На каждом последующем шаге решения по-прежнему будут принимать люди, способные при необходимости отменить выбор системы. По их словам, цель состоит в том, чтобы направить усилия экспертов на глубокую оценку тех, кто реально конкурентоспособен, а не тратить ресурсы на очевидно неподходящих участников.

При этом в армии признают существующие риски. Один из них — эффект автоматизационного смещения, когда люди начинают слишком полагаться на решения машины и утрачивают собственную критическую оценку. Разработчики уверяют, что алгоритмы проходят проверку, чтобы исключить дискриминацию по расовому, этническому признаку, званию или роду войск. Однако остаётся нерешённой проблема «чёрного ящика»: внутренние механизмы принятия решений в сложных ИИ-системах непрозрачны, что затрудняет контроль, оценку корректности работы и возможность обжалования результата.

Пилотное применение технологии сейчас ведётся в рамках комиссий по продвижению сержантского состава. Полученный опыт планируют использовать при формировании аналогичных систем для офицеров, но для этого армии потребуется одобрение Конгресса, поскольку решения о повышении офицеров регулируются отдельными федеральными положениями.