Илон Маск призвал к приостановке улучшения нейросетей из-за «угроз человечеству»

На сайте Future of Life появилось открытое письмо от известных деятелей в области высоких технологий: главы Tesla Илона Маска, сооснователя Apple Стива Возняка, сооснователя Pinterest Эвана Шарпа и ряда других. Они призывают учёных хотя бы на полгода приостановить разработку и совершенствование нейросетей, мощнее GPT-4.

По мнению подписавших письмо людей, сопоставимый с человеческим ИИ может представлять потенциальную угрозу для мира. Поэтому исследователям следует сперва разработать необходимые протоколы безопасности, поскольку уже сейчас многие не могут предугадать поведение нейросетей.

Также в письме содержится обращение к властям, которые, по мнению Маска и других, должны вмешаться и принять меры в случае, если приостановку не удастся осуществить оперативно.