Элон Маск не позволит ИИ стать злым и уничтожить человечество
Роботы-убийцы могут уничтожить человечество. И многие, даже самые прогрессивные члены нашего общества, этим всерьез обеспокоены. Один из них – генеральный директор Tesla Элон Маск, который не раз признавал, что боится появления настоящего искусственного интеллекта. И вот во что этот страх вылился.
Вместе со своими коллегами Элон Маск решил основать OpenAI, некоммерческое предприятие, которое займется открытыми исследованиями в области искусственного интеллекта. Управлять им будет сам Маск и генеральный директор Y Combinator Сэм Альтман. Финансировать проект уже вызвались Питер Тиль (основатель PayPal), Джессика Ливингстон, Amazon Web Services и некоторые другие могущественные жители «Силиконовой долины».
Альтман считает, что «открытый код – это способ застраховать ставку человечества против единого централизованного искусственного интеллекта». Поясню. Здесь все как с людьми: каждому из нас хотя бы раз в жизни в голову приходили нехорошие, местами преступные мысли, но в целом мы добрые, поэтому не хотим, чтобы нашим миром управлял Доктор Зло. Так и с искусственным интеллектом. Если ИИ будет много – разных, но равных, – любые попытки одного из них или даже группы уничтожить человечество будут тут же пресекаться.
Элон Маск и его команда обеспокоены тем, что Google, Facebook, Microsoft и другие компании, занятые созданием искусственного интеллекта, перестанут выкладывать в открытый доступ свои исследования, как только их проекты приблизятся к коммерческому запуску. То есть потенциальный Доктор Зло будет находиться за плотно закрытыми дверьми с сотней замков. И если он вдруг решит, что мы на этой планете лишние, помешать ему уже никто не сможет.
Беспокойства руководителей Tesla и Y Combinator оправданы. Но хватит ли у OpenAI ресурсов для «публичного ИИ» – тот еще вопрос.
