Стрим The Last Guardian
Стрим-центр18 в эфире
Dota 2 Danger Cup uccleague4 стримит Dota 2
Тестя тест Zloi_Mikki_Mouse стримит Overwatch
FM - фарм и прочее (Аметист) [RU/ENG] Dearcryy стримит Blade and Soul
stream center intro slide 1

«Канобу» и «ВКонтакте» запускают «Стрим-центр» — сервис для тех, кто любит смотреть и проводить прямые трансляции. Наш сервис поможет делиться стримами с «ВКонтакте», Twitch и YouTube и обеспечит новую аудиторию, которой будет интересен именно ваш контент.

«Стрим-центр» доступен на любой странице «Канобу» — достаточно нажать на стрелку в верхнем правом углу и развернуть сетку с активными стримами. Вы также можете открыть чат, кликнув на иконку сообщения в правом углу.

Кнопка «Добавить стрим» позволит поделиться прямой трансляцией. После нажатия вы увидите три активных поля. В первой строке нужно вписать адрес канала, остальные поля заполнит наш сервис.

stream center intro slide 4

Делиться стримами — это просто! Попробуйте сами. Обратите внимание, что после добавления стрима ваша трансляция сначала отправится на рассмотрение модераторов.

97 280 16026

Искусственный интеллект: будущее цивилизации или ее убийца?

19 ноября 2015, 16:03
Искусственный интеллект: будущее цивилизации или ее убийца? - Изображение 1
Когда мы произносим фразу «искусственный интеллект», то перед глазами сразу возникают знакомые образы: Терминатор с поднятым вверх пальцем, без раздумий отдающий «жизнь» ради выполнения поставленной задачи; сборник рассказов Азимова «Я, робот» или одноименный голливудский фильм; та самая британская «Машина». Мы часто путаем понятия «робот» и «интеллект», мысленно наделяя ИИ физической оболочкой. Наверное, поэтому в массе своей люди плохо понимают природу беспокойства ученых с мировыми именами, которые с 2010 года регулярно высказываются об угрозе «уничтожения машинами человечества». Какая угроза? Никто ведь еще Терминатора не показал! Но это беспокойство — не чрезмерная реакция или раздувание из мухи слона. Искусственный интеллект (его базовые формы) — это то, с чем люди сталкиваются каждый день. Просто пока не задумываются об этом.

Хороший искусственный интеллект

Давайте разберем несколько примеров использования искусственного интеллекта (включая машинное обучение — метод построения алгоритмов, способных обучаться самостоятельно, без внешней поддержки).

В 2014 году новостное агентство The Associated Press начало использовать технологию автоматического создания финансовых отчетов Wordsmith, разработанную компанией Automated Insights. Программа анализирует финансовые данные, сопоставляет их друг с другом, отмечает ключевые цифры в отчетах компании, а затем переводит все это на человеческий язык. Вы никогда не отличите историю, написанную «машиной», от той, за создание которой отвечал человеком. Хотя, нет, отличите: машина не ошибается и не оставляет в тексте опечаток. 

Говорит Джеймс Котеки, один из ведущих специалистов Automated Insights:

Wordsmith пишет тысячи финансовых новостных заметок, которых в противном случае просто не существовало бы. Wordsmith работает со скоростью и масштабом, недоступными человеку. Наша технология позволяет журналистам делать более интересную работу. 

При этом Wordsmith постоянно обучается. Как это происходит: выборочно проверяются подготовленные заметки и отмечаются места, которые можно было сделать лучше. Программа принимает во внимание эти правки и перестраивает алгоритм своей работы. 

Wordsmith — классический пример машинного обучения, одного из важных шагов на пути к созданию полноценного искусственного интеллекта. Но это — верхушка айсберга. Все эти встроенные подсказки в Word и при наборе текста на смартфоне — также составная часть машинного обучения, постоянно совершенствующая алгоритмы своей работы. 

Искусственный интеллект: будущее цивилизации или ее убийца? - Изображение 2

Еще одно перспективное поле деятельности для создателей искусственного интеллекта — автомобили, которым не нужны водители. Новости об успехах умных машин Google, колесящих по дорогам США, появляются раз в несколько недель. Американской компании есть чем гордиться и что показывать правительству: в прошлом году ее чудо-автомобили проехали только в одном регионе США около 10 000 миль, ни разу не нарушив правил дорожного движения и не попав в аварию. За прогрессом Google в этом направлении внимательно следят не только компании, работающие на рынке грузоперевозок, но и юристы, специализирующиеся на дорожно-транспортных происшествиях. 

Эрик Теркивитц из Нью-Йорка написал в своем блоге об угрозе со стороны автоматически управляемых машин для бизнеса юристов, занимающихся решением дорожных конфликтов и помощью пострадавшим людям:

С уменьшением количества человеческих ошибок (ввиду внедрения автоматических технологий остановки или замедления автомобилей) уменьшится число раненных людей и поврежденных машин. Уменьшится число смертей. Цена вашей страховки также (теоретически) уменьшится. А это значит, что уменьшится и объем работы, который я выполняют как юрист, защищающий пострадавших. 

Однако Эрик — не карикатурный юрист-кровопийца. Дальше он говорит, что также является водителем, поэтому может только поддержать будущее, к которому стремится Google. Да, ему придется найти другую работу, но это и есть цена, которую придется заплатить за прогресс в вопросе безопасности на дорогах. По данным Всемирной организации здравоохранения, ежегодно в мире в результате ДТП погибает около 1 300 000 человек. Просто вдумайтесь в эту цифру!

Искусственный интеллект: будущее цивилизации или ее убийца? - Изображение 3
Искусственный интеллект: будущее цивилизации или ее убийца? - Изображение 4
Искусственный интеллект: будущее цивилизации или ее убийца? - Изображение 5
Искусственный интеллект: будущее цивилизации или ее убийца? - Изображение 6

Но Эрик — не единственный профессионал, который рискует потерять работу в ближайшие 15-20 лет. Добавьте к нему водителей, грузчиков, операторов колл-центров и еще сотни профессий, искусственную замену которым пытаются создать десятки компаний, занимающихся вопросами искусственного интеллекта и машинного обучения. 

Недавно эту тему на форуме «Открытые инновации», прошедшем в Москве, обсуждали Нуриэль Рубини, один из самых известных экономистов мира, и его коллега из России —Андрей Мовчан. Вот несколько тезисов из их диалога:

  • Новая промышленная революция может лишить работы до миллиарда человек. 
  • Основной удар придется по рабочим, одновременно с этим повысится роль творческих людей: писателей, художников, поэтов. 
  • В полную силу оценить блага новой технической революции мы сможем не раньше, чем через 30-40 лет после ее начала. 

Стоит отметить, что жить человек станет лучше. Благодаря повсеместному внедрению автоматизации уменьшится стоимость продуктов питания и других благ. То есть на то, чтобы жить комфортно, мы станем тратить значительно меньше денег, а значит сможем меньше работать. Двух-трехчасовой рабочий день может стать нормой, все остальное время человек будет посвящать саморазвитию — духовному, интеллектуальному, физическому.

Или нас всех убьют роботы. 

Искусственный интеллект: будущее цивилизации или ее убийца? - Изображение 7

Плохой искусственный интеллект

В начале этого года на сайте американского Института будущего жизни (The Future of Life Institute), с которым сотрудничает предприниматель Илон Маск, директор Оксфордского университета будущего человечества (Oxford Future of Humanity Institute) Ник Бостром, профессор генетики Гарвардского университета Джордж Черч и многие другие, появилось открытое письмо, в котором ученые призывают коллег внимательнее отнестись к проблеме будущего искусственного интеллекта. Главный вопрос, который задают ученые: сможет ли человек контролировать машину, получившую разум? Понятно, что пока никто не может ответить на этот вопрос.

Выдержка из открытого письма:

Из-за огромного потенциала искусственного интеллекта важно понять, как использовать его плюсы, избегая подводных камней, кроющихся в этой технологии. Наши ИИ-системы должны делать то, что мы хотим, чтобы они делали. 

В этой фразе («Должны делать то, что мы хотим, чтобы они делали) и заключается основная проблема с пониманием будущего искусственного интеллекта. Американский ученый Элиезер Юдковски в своей книге «Искусственный интеллект как позитивный и негативный фактор в глобальных рисках» описывает два возможных сценария поведения искусственного интеллекта (из миллионов), когда мы сможем сказать «да, это интеллект, который не зависит от воли человека»:

  • Искусственный интеллект патентует новые изобретения, публикует научные работы, зарабатывает деньги на бирже и возглавляет политические блоки. 
  • Искусственный интеллект, основываясь на знании истории, науки и технологий, может предугадывать развитие цивилизации на столетия и тысячелетия вперед. 

Известный физик-теоретик Стивен Уильям Хокинг считает, что полноценный искусственный интеллект, о котором пишет Юдковски, способен «положить конец человеческой расе». Схожего мнения придерживается Маск и ряд крупнейших ученых, занимающихся этим вопросом. Всех беспокоит один вопрос: «Если искусственный интеллект заменит нас на работе, то не захочет ли он в определенный момент заменить нас дома?»

Искусственный интеллект: будущее цивилизации или ее убийца? - Изображение 8
Искусственный интеллект: будущее цивилизации или ее убийца? - Изображение 9

Интересно и то, как современные ученые интерпретируют само понятие «искусственный интеллект». Единого понимания этого термина не существует, зато есть пусть и не до конца принятое, но логичное разделение искусственного интеллекта на три очевидных типа:

  • Искусственный ограниченный интеллект (Artificial Narrow Intelligence). Этот тип интеллекта может, к примеру, обыграть вас в карты или шахматы, но если вы спросите у него, съедобна ли почва, то он вам ничего не ответит. 
  • Искусственный общий интеллект (Artificial General Intelligence). Этот интеллект максимально приближен к человеческому. Он может анализировать данные, общаться с другими «машинами», обучаться. 
  • Искусственный суперинтеллект (Artificial Superintelligence). Этот интеллект настолько развит, что значительно отличается от человеческого. То есть наш интеллект недостаточно развит, чтобы понимать мотив суперинтеллекта. 

На сегодня человечество успешно освоило принципы построения первого типа искусственного интеллекта. Это и автомобили Google, и система Wordsmith, и спутниковая навигация, когда за вас просчитывается наиболее удобный путь от одной точки до другой, и даже Siri, способная распознавать речь. Вся поисковая система Google — это один большой ограниченный интеллект, который, используя принципы машинного обучения, постоянно улучшается — частично без вмешательства со стороны человека. 

Искусственный интеллект: будущее цивилизации или ее убийца? - Изображение 10

Следующий шаг — создание искусственного общего интеллекта. Над ним работает сразу несколько крупных компаний и ученых групп. В 2014 году Google приобрела компанию The DeepMind, которая занимается разработкой алгоритма «углубленного машинного обучения». То есть созданием системы, которая может самостоятельно поднимать один пласт знаний за другим, а затем совмещать эти знания друг с другом и делать самостоятельные выводы. Если говорить упрощенно, то речь идет о критическом восприятии информации: система учится соединять факты друг с другом и выстраивать логические цепочки. То, чему мы учим детей с ранних лет. 

Ранее Google купила DNNresearch, занимающуюся разработкой «умных» систем распознавания изображений и речи, а также другими научными исследованиями, а в 2013 году изданию The New York Times стало известно, что компания буквально скупает стартапы, работающие над созданием роботов нового поколения. Эту часть работы в компании курировал Энди Рубин, человек, стоявший за разработкой Android. За полгода он купил семь (!) компаний, работающих на рынке робототехники. 

Google — не единственная компания, которая пытается выйти за рамки «ограниченного интеллекта», но одна из самых богатых. Многие верят, что именно ей удастся первой пересечь границу и представить миру «общий интеллект». 

Поэтому Институт будущего жизни, а также другие научные учреждения и крупные ученые бьют тревогу: мы стоим на пороге феноменального открытия, которое может кардинально поменять нашу жизнь. И думающие люди хотели бы на берегу договориться о правилах игры. Прежде чем будет слишком поздно.

Искусственный интеллект: будущее цивилизации или ее убийца? - Изображение 11

Будущее

Для того чтобы это открытие было совершено, ученым нужно решить несколько важных задач. 

Первая — нехватка вычислительной мощности. Есть предположение, что чтобы создать «общий интеллект», его «мощность» должна приблизиться к «мощности» человеческого мозга. Ученые регулярно спорят на эту тему, поэтому абсолютно достоверными данными о «вычислительной мощности» нашего мозга мы не обладаем. 

Вторая — копирование паттернов мозговой деятельности. О том, как работает мозг, мы знаем многое, но что из этих знаний является нашими предположениями и допущениями, а что — фактами, увы, часто невозможно определить. Понятно, что если ученые хотят «повторить» человеческий мозг в электронном виде, то должны заложить в систему модель оперирования, характерную для человеческого мозга. 

Третья — контроль. Создавая «электронную» личность, мы наивно предполагаем, что сможем через алгоритмы привить ей некий нравственный свод правил, который обезопасит человечество. Это примерно как воспитание ребенка: «это хорошо, а это плохо» — родители постоянно программируют детей, дети постоянно проверяют границы дозволенного. При этом мы знаем, что никакое образование и воспитание не дает стопроцентной гарантии, что ты не вырастишь маньяка или социопата. Могут ли ученые гарантировать, что «электронный» ребенок не свернет с проложенного разработчиками пути? 

Если первые два вопроса являются дискуссионными, то третий — классическая «пугалка» как для обывателей, так и для самих ученых. Смогут ли они контролировать «общий интеллект»? Получится ли у них увидеть попытку «общего» интеллекта трансформироваться в «суперинтеллект»? В какой момент (если этот момент настанет) мы утратим контроль над ИИ? Какие задачи поставит перед собой сам ИИ, будет ли среди них — уничтожение человечества? 

Cписок для дополнительного чтения по теме:

  • Официальный сайт Элиезера Юдковски (неплохой набор статей по теме, английский язык).
  • Этические вопросы искусственного интеллекта (внимание: PDF-файл, загрузка начнется автоматически, английский язык). 
  • Разбор проблем и рисков дальнейшего развития искусственного интеллекта (отличный материал на русском языке).