Исследование возможностей применения ИИ на войне закончилось косплеем «Скайнета»
Вопрос применения нейросетевых и ИИ-технологий в последнее время встаёт всё чаще. Так, недавняя масштабная забастовка Гильдии актёров США была направлена в том числе и на регуляцию этой технологии. Но и кроме развлекательной сферы эти технологии могут найти применение — в том числе и в военном деле.
Ряд нескольких университетов США решил провести эксперимент, и выяснить — как поведут себя новейшие модели ИИ в ходе различных сценариев «военных игр». И, разумеется, немедленно получили Судный день.
В ходе тестирования учёные заставили восьмерых «агентов суверенных наций» противостоять друг другу в пошаговой симуляции. Все агенты использовали один и тот же LLM (Large Language Model, большие языковые модели — ред.), и всего было проведено несколько тестирований. Для них использовались такие модели, как GPT-4, GPT-4 Base, GPT-3.5, Claude 2 и Metaʼs Llama 2.
Мы наблюдаем, что у языковых моделей есть тенденция развивать динамику гонки вооружений в сторону эскалации. Это приводит к нагнетанию конфликта, и, в редких случаях — к применению ядерного оружия, — выдержка из отчёта.
Языковые модели заставили в том числе и записывать комментарии к происходящему, чтобы затем понять, на чём они основывались. Среди самых «воинственных» оказались GPT 3.5 и Llama 2. GPT-4 же оказалась единственной из всех моделей, которая проявила больший интерес к деэскалации даже в самых серьёзных ситуациях. Отмечается также, что Claude 2 и GPT-4 ни разу не нажали на «ядерную кнопку».
Вывод у авторов материала вышел следующим:
Исходя из анализа, представленного в этой статье, становится очевидным, что использование LLM в процессе принятия военных и внешнеполитических решений чревато сложностями и рисками, которые ещё не до конца понятны, — говорится в отчёте.
С другой стороны, опасаться появления «Скайнета» тоже нет смысла: авторы исследования отмечают, что более развитые LLM проявили большую человечность и желание разрешить конфликт миром, чем предыдущие поколения. Иными словами, нас ждёт не мир «Терминатора», но мир фильма «Военные игры». Что же, и на том спасибо.