Нейронные сети. Искусственный интеллект

Автор: Администратор

Наука и технологии. Тренды Категория: Нейронные сети

2017- 2019 Современные мощности РС позволили выйти на новый качественный уровень в использовании алгоритмов, разработанных 50 лет назад. Статьи и лекции.

04.12.2019 Искусственный разум. Революция. Фильм 1

Фильм пытается ответить на вопрос, что же такое современный искусственный интеллект, какие у него есть границы, стоит ли людям бояться искусственного интеллекта и сможет ли он когда-нибудь заменить человека. Зрители узнают, что такое компьютерное зрение, распознавание речи и увидят, как люди учат машин быть самостоятельными. Наука 2.0

23.07.2019 Искусственный интеллект Андрей Себрант

Андрей Себрант - директор по стратегическому маркетингу Яндекс. Двадцать лет занимался экспериментальной физикой в области лазерной плазмы, кандидат физико-математических наук, автор более 50 научных публикаций, посвященных взаимодействию лазерного излучения с веществом. Главный редактор журнала «Интернет-маркетинг», автор телеграм-канала @techsparks, член экспертного совета Политехнического музея. Любитель путешествовать и бродить по горам.

21.01.2018 ИИ и машинное обучение: итоги 2017 года. Марков С.

Лекция состоялась в научно-популярном лектории центра "Архэ" ( http://arhe.msk.ru) 20 января 2018 года. Лектор: Сергей Марков, автор одной из сильнейших российских шахматных программ, специалист по методам машинного обучения и основатель портала XX2 ВЕК ( https://22century.ru).

24.03.2017 Об искусственном интеллекте. Марков С.

Разведопрос. Продолжение. Сергей Марков — специалист по искусственному интеллекту и создатель шахматной программы SmarThink. На лектории «Будущее на пороге» инициативной группы «Думай» Марков и другие популяризаторы науки рассказывали о технологиях на стыке живой и неживой материй: об интерфейсах мозг — компьютер, переносе человеческого сознания на жесткий диск и этике андроидов

14.02.2017 О машинном обучении. Марков С.

Разведопрос. Начало.

08.12.2016 Электроовцы съели людей: возможные последствия от развития ИИ для рынка труда. Марков С. Mail.Ru Group

Все эти размышления о вытеснении человека машинами в наши дни отдают некоторой поверхностностью. На мой взгляд, в них не учитывается тот момент, что рано или поздно уровень развития нашей технологии превысит уровень машинерии нашего собственного тела. И с этого момента всё сильнее будет стираться разница между людьми и машинами. Скорее всего, мы будем образовывать с собственными сложными интеллектуальными инструментами всё более синтетическое единство. На эту тему много фантазируют фантасты, учёные, создатели компьютерных игр. Будут ли это богатые люди, которые будут приобретать улучшения собственного организма? Или, быть может, сотрудники корпораций, которые будут находиться под угрозой увольнения, и пойдут на то, чтобы улучшать при помощи имплататов свою ценность на рынке рабочей силы? Подключил к мозгу дополнительный модуль, который позволяет тебе лучше считать, лучше выполнять указания начальства, и вот ты уже не на самой обочине жизни. Тут воображение рисует огромное количество картин от просвещённого технокоммунизма до ужасающего технофашизма. Думаю, каждый из вас, дорогие мои читатели, может на эту тему пофантазировать и подумать, порадует или ужаснет нас та картина, которую вам самим предстоит создавать.

20.10.2016 Обучаем нейросеть играючи. Mail.Ru Group

Несмотря на то, что сейчас существует большое количество приложений, используемых исключительно для развлечения, все они преследуют одну большую цель — собрать как можно больше фотографий, звуков и прочего, чтобы научиться описывать мир нашими глазами и озвучивать его нашими голосами.

12.07.2016 Как обучается ИИ. Mail.Ru Group

В продолжение "10.06.2016 Играть на уровне бога"

Практика показывает, что сейчас, на этапе взрывного роста глубокого обучения, вполне возможно создать что-то новое, увлекательное и решающее реальные задачи людей буквально “на коленке”, нужна только современная видеокарта (это, пожалуй, да), энтузиазм и желание пробовать. Как знать, возможно, именно вы оставите след в истории этой всё продолжающейся “революции” — во всяком случае, попробовать стоит.

10.06.2016 Играть на уровне бога: как ИИ научился побеждать человека. Марков С. Mail.Ru Group

Мир изменился прямо на наших глазах, но не все заметили это. Когда и как программы научились играть безошибочно? Всегда ли проигрыш одного человека свидетельствует о поражении всего человечества? Обретет ли искусственный интеллект сознание?

Статья основана на лекции «Искусственный интеллект. История и перспективы», проведенной в московском офисе Mail.Ru Group Сергеем Марковым

12.04.2016 Искусственный интеллект: история и перспективы. Марков С.

Популярная лекция. Сергей Марков занимается machine learning в «Сбербанке». В банковской сфере строят предиктивные модели для управления бизнес-процессом на основе достаточно больших обучающих выборок, которые могут включать несколько сотен миллионов кейсов. Среди своих хобби Сергей указывает шахматное программирование, ИИ для игр, минимаксные задачи. Программа SmarThink, созданная Сергеем Марковым, становилась чемпионом России (2004) и СНГ (2005) среди шахматных программ (2004), и сегодня входит в топ-30 сильнейших программ в мире. Также Сергей является основателем некоммерческого научно-просветительского портала 22 век.

24.03.2017 Об искусственном интеллекте. Марков С.

Хронометраж выпуска:

1:00 Новая весна ИИ и её причины.

20:27 Профессии, в которых ИИ постепенно вытесняет людей: актёр;

22:51 Бухгалтер;

30:19 Водитель;

36:09 Капитан корабля;

38:05 Кладовщик;

43:32 Космонавт;

46:51 Курьер;

49:16 Лётчик;

55:44 Медработник;

58:00 Оператор колл-центра;

1:02:23 Повар;

1:05:58 Политик;

1:15:25 Продавец;

1:21:19 Промышленный рабочий;

1:23:00 Работник службы сервиса;

1:24:21 Секретарь;

1:25:02 Секс-работник;

1:26:57 Солдат;

1:30:17 Специалист по СММ;

1:32:52 Спортсмен;

1:37:29 Строитель;

1:38:33 Торговый посредник;

1:41:25 Уборщик;

1:47:29 Учитель;

1:56:40 Хирург.

2:01:30 О технологиях, лежащих в основе современных проектов.

14.02.2017 О машинном обучении. Марков С.

Хронометраж выпуска:

0:15 Что такое машинное обучение?

4:50 Пути развития науки об искусственном интеллекте.

9:55 Сравнение: компьютер и человеческий мозг.

13:30 «Blue Brain» и его электронная копия человеческого мозга.

19:12 Про существующие интерфейсы «машина-мозг».

26:37 Перцептрон Розенблатта.

31:22 «Свёрточные нейронные сети» и их современные возможности.

36:40 О шахматах и го.

43:45 Распознавание и генерирование компьютером картинок.

49:00 Обработка и генерирование звука.

55:46 Генерирование текстов.

58:28 О предстоящих проблемах взаимодействия мира машин и мира людей.

08.12.2016 Электроовцы съели людей: возможные последствия от развития ИИ для рынка труда.

В своей очередной лекции у нас в офисе автор одной из сильнейших российских шахматных программ, специалист по методам машинного обучения и основатель портала 22century.ru Сергей oulenspiegel Марков рассказал о ближайших и отдалённых перспективах автоматизации в различных областях экономики. А мы в свою очередь как всегда подготовили пост по мотивам выступления.

Какие именно технологии создают предпосылки для замены людей в тех или иных профессиях? Какие конкретные проекты последних лет являются важными вехами на пути к полной автоматизации различных видов работ? ConvNet, LSTM, DNC, что дальше? Куда именно мы бежим всё быстрее? Жив ли бионический подход? Ходжкин, Хаксли, гигантские аксоны кальмара — каким он будет дивный новый мир?..

Чему учит нас история: можно ли извлечь какую-то практическую пользу из поиска исторических аналогий для нынешней ситуации? Какие профессии оказались под угрозой уже сейчас? Кого предположительно заменят машиной через 5, 10, 20 лет? Какие новые рабочие места и новые профессии создаёт развитие технологий машинного обучения? Возможные пути решения возникающих проблем: могут ли в этом помочь новые технологии?

Название моей лекции весьма претенциозно: электроовцы съели людей. Кто такие электроовцы, наверное, вы знаете. По ставшему культовым произведению Филипа Дика «Снятся ли андроидам электроовцы?» снят фильм «Бегущий по лезвию» с Харрисоном Фордом в главной роли. Мне трудно оценить действительную значимость этого произведения, но это была первая ассоциация, которая у меня возникла со знаменитыми «овцами, которые съели людей».

«О овцы, такие ручные и неприхотливые в еде. Они становятся настолько жадными и необузданными, что поглощают самих людей, опустошают и делают безлюдными поля, дома и города» (Томас Мор. «Утопия»)

В Англии XV—XVI вв из-за развития ткацкого производства особую прибыль стало приносить овцеводство, поставлявшее сырьё для развивающейся промышленности. Чтобы расширить площадь пастбищ, лендлорды сгоняли крестьян с земель, ликвидируя земледельческие общины, и это привело к очень серьезным социальным проблемам — множество людей осталось без средств к существованию. Правительство боролось с этим достаточно негуманными, но соответствующими духу времени, методами. Вспыхивавшие восстания (например, восстание Томаса Кета) подавлялись, ужесточались наказания, принимались законы против бродяг. Например, в 1495 году английский парламент принял статут, предписывающий властям «хватать всех таких бродяг, бездельников и подозрительных и заковывать в колодки, и держать их так три дня и три ночи на хлебе и воде; и по истечении этих трëх дней и трëх ночей выпускать их на волю, приказывая, чтобы те больше не появлялись в городе». Результатом этих мер стало сокращение населения по некоторым оценкам на 30%. Для сравнения, СССР потерял во Второй мировой войне 15% своего населения. Можно представить себе масштабы катастрофы, которая была вызвана сменой технологического уклада.

Понятно, что согнанные с земли люди пополнили строй промышленных рабочих в городах. Но промышленность развивалась недостаточно быстро, чтобы съедать эту высвободившуюся рабочую силу. Поэтому об этой истории остались достаточно тяжелые исторические воспоминания.

В начале лекции я подобрал 24 профессии, в которых на горизонте 10—20 лет ожидается заметное сокращение количества рабочих мест за счет прихода туда современных машин, использующих технологии ИИ и новейшие инженерные достижения. Мы пробежимся по этим 24 профессиям, и по каждой я покажу несколько примеров проектов, направленных на снижение потребности в человеческом труде. На самом деле, стоит затронуть такую тему, и ты понимаешь, что таких профессий отнюдь не 24 и даже не 124. Про каждую из них нужно сделать не один слайд, а минимум 7—8, чтобы более-менее подробно рассказать о том, что происходит в этой области. Тем не менее, я думаю, что после нашей небольшой пробежки вы сможете составить впечатление о масштабах происходящих процессов.

Бухгалтер

Начнем по алфавиту, первая буква «Б» — бухгалтер. Не знаю, задумывались вы или нет, но до изобретения электронных вычислительных машин в эпоху триумфального шествия индустриальной революции возникла достаточно серьезная потребность в расчетах. Существовали крупные компании, монополии, тресты, которые организовали массовое промышленное производство. Военные корабли, паровозы или самолеты, сходившие с конвейеров заводов в первой половине XX века, были технологически достаточно сложными изделиями, каждое из них состояло зачастую из нескольких тысяч, а то и десятков тысяч деталей. Внутри корпорации осуществлялись операции по учёту и контролю, выполнялись достаточно нетривиальные расчеты в больших объемах.

Понятно, что в начале века туда пришла автоматизация в виде механических, электромеханических счетных устройств, табуляторов (в общем-то, механические устройства использовались для расчётов и раньше, например, знаменитая «Паскалина», но лишь на рубеже XIX и XX веков они стали применяться массово). Но основой всего учета и основой массовых вычислений были людские коллективы.

Справа как раз фотография людей, занятых поточными вычислениями. Во времена создания первых образцов атомного оружия в СССР и США были сформированы большие рабочие группы и сложные вычислительные технологии используемые при организации работы таких групп. Таких людей называли буквально human calculators или human computers. В книге Дэвида Алана Гриера, обложка которой приведена слева, можно более подробно узнать о людях-вычислителях и счётных технологиях того времени. Книга называется «Когда счетчиками (компьютерами) были люди».

Зачастую для вычислений организовывался целый конвейер. Одни девушки, выполнявшие на механических машинках какую-либо операцию, передавали результаты следующему ряду девушек, где осуществлялся следующий рутинный расчёт и так далее. Такой коллектив был способен осуществлять достаточно сложные матричные вычисления. Понятно, что с появлением электронно-вычислительных машин все эти люди лишились работы. Механизация и автоматизация вытесняют не самые примитивные виды труда. Девушки, занимающиеся вычислениями, были представительницами образованных слоев общества. Несмотря на то, что это была достаточно интеллектуальная для своего времени работа, она пала одной из первых жертв вычислительных машин, которые пришли здесь на смену людям.

Это происходит и сейчас по мере того, как в том же самом производстве совершенствуются способы сбора и обработки информации. По мере того, как медленно и со скрипом безбумажные технологии пробивают себе дорогу, количество бухгалтеров и других офисных клерков уменьшается. Если сегодня вы бухгалтер и не обладаете высокой квалификацией, а осуществляете рутинные операции, то, вероятно, где-то в недрах какого-либо стартапа уже разрабатывается система, призванная вас заменить.

Водитель

Про эти истории все знают достаточно хорошо. Слева вверху Google Car, слева внизу Tesla Model S, оснащённая функцией автопилота. Справа чуть менее известная история: концерн Daimler получил лицензию на проведение испытаний автоматизированных грузовиков, которые затем с большой помпой проехали достаточно длинный маршрут по дорогам штата Невада.

Машины движутся друг за другом на очень маленьком расстоянии, потому что автопилот не может заснуть за рулем. За счет этого сразу же достигается прямой экономический эффект. Оказывается, что когда грузовики следуют на такой малой дистанции, снижается сопротивление воздуха и расход топлива на достаточно большом промежутке трассы становится существенно ниже. Если подобная технология найдет массовое применение, то это будет означать практически полное исчезновение профессии водителя.

Капитан корабля

Здесь меня даже удивляет только то, что это не произошло раньше. Технологически и технически вождение корабля является более простой задачей, чем вождение автомобиля, из-за менее интенсивного трафика и более низких скоростей. Возможно, проблема была в нехватке инвестиций. Не так много существует в мире городов, которые используют водные артерии в качестве основных транспортных магистралей.

Что касается океанских сухогрузов, танкеров и других больших кораблей, то и сейчас уровень автоматизации управления ими впечатляет. Люди выполняют надзорные функции и иногда участвуют в маневрах в случае интенсивного водного движения в портах. Если сравнить два примерно одинаковых по размерам и водоизмещению военных корабля — американский концепт ракетоносца проекта Arsenal (1996) и японский линкор «Ямато», заложенный в 1937 году, то выяснится, что команда второго в 50 раз больше (2500 человек против 50).

В Амстердаме открыта пятилетняя программа, в рамках которой рассматривается возможность создания транспортной сети на основе автоматизированных плавсредств. Чтобы сэкономить на нэйминге проект назвали просто Roboat, а сэкономленные 25 млн евро решили потратить на то, чтобы к 2017 году получить работающий прототип такой лодки. Словом, водители будут заменяться не только в наземном транспорте, но и в водном.

Кладовщик

Не знаю, слышали ли вы о практике компании Amazon в этой области, но эта корпорация успешно внедряет уже восьмое поколение роботизированных складов. Люди, которые интересуются складскими технологиями, хорошо знают, что в мире существует множество компаний, готовых под ваши задачи построить роботизированный склад. Даже в России таких компаний как минимум несколько штук. У Amazon один из самых больших в мире роботизированных складов (если вообще не самый большой), на нем трудится 15 тыс. роботов.

Это небольшие тележки высотой всего 30 см, но способные перевозить более 300 кг груза. Согласованным перемещением тележек управляет централизованная система — логистический искусственный интеллект, который стремится оптимизировать все транспортные транзакции внутри склада.

Судя по тому, что это уже восьмое поколение роботизированных складов, технология является полностью жизнеспособной. В основе решения от Amazon — стартап Kiva Systems, приобретённый транснациональным гигантом за 775 млн долларов. Впрочем, Amazon мало и этого, сейчас компания активно ведёт переговоры с правительством, чтобы получить разрешение использовать дроны для доставки небольших грузов на короткие расстояния. Основной предмет торга как раз заключается в том, что по мнению правительства эта технология может быть внедрена только при условии сохранения количества рабочих мест. Точкой преткновения являются именно социальные последствия такой автоматизации.

Космонавт

Понятно, что космос с самого начала принадлежал машинам, из-за сложности условий работы в космическом пространстве, к которым относятся и жесткое излучение, и высокие/сверхнизкие температуры, отсутствие воздуха и куча других проблем. Вдобавок ко всему люди не способны переносить высокие перегрузки, что сильно ограничивает темпы освоения пространства. Если посмотреть статистику пилотируемых полетов, то их количество сильно снизилось по сравнению с 70—80-ми годами. На сегодняшний момент многие специалисты и ученые придерживаются мнения, что людям не нужно летать в космос — это слишком опасно и не слишком эффективно. От человека мало пользы в космосе в случае целого ряда длинных разведывательных миссий.

29 ноября ТАСС со ссылкой на Фонд Перспективных Исследований сообщил, что Россия планирует использовать роботов при строительстве и эксплуатации напланетных баз, в частности на Луне. А в первый полёт на корабле «Федерация» в 2021 году отправится робот «Фёдор». Я думаю, что со временем к нему должны будут присоединиться роботы «Матроскин» и «Шарик».

Курьер

Когда мы говорили об Amazon, то уже упоминали возможность использования дронов для доставки грузов. Из ярких медийных историй на эту тему вспоминается также PR-акция компании Dodo Pizza, в ходе которой эта фирма продемонстрировала доставку пиццы при помощи коптеров. Впрочем, Госавинадзор быстро указал ретивым стартаперам на места зимовки речных ракообразных, и безобразия были успешно пресечены. Впрочем, как вы понимаете, это не единственный подобный стартап в мире.

Технология дронов находит все более широкое применение во многом в силу роста емкости аккумуляторов. Во многих московских гипермаркетах уже сегодня можно приобрести за 6—7 тыс. рублей вполне функциональный дрон с камерой. И если не большую пиццу, то несколько пирожков он точно может поднять.

DHL, как и Amazon, не хочет оставаться в обозе прогресса. У этой компании уже есть довольно страшная тележка, которая возит посылки. Более консервативные немцы решили не связываться с дронами и довериться старым проверенным колёсам.

Летчик

Компания Uber анонсировала серьезную программу по созданию аэротакси VTOL. Это аппарат вертикального взлета, по сути, грузоподъемный дрон. Любопытно то, что машина является полностью беспилотной, и не совсем понятно, что будет с летчиками, которые занимаются пассажирскими перевозками на малые расстояния.

Медработник

Эта картинка мне очень нравится, как минимум потому, что японские дизайнеры всегда умеют тонко потроллить. Впрочем, несмотря на юмористическое исполнение, проект призван решить достаточно важную для Японии проблему, связанную с острой нехваткой младшего медицинского персонала. Создатели RoBear ставили перед собой задачу создать специального робота, который будет помогать ухаживать за частично или полностью иммобилизованными пациентами. Машину научили бережно носить человека на механических руках, в том числе по лестнице. Робот оборудован множеством сенсоров, которые помогают обеспечить бережное обращение с больным. С выходом каждой новой модели робот становится легче, последняя модель весит 140 кг (масса предыдущей была около 200). В ближайшие годы подобные механические помощники будут применяться там, где существует дефицит медицинского персонала, но по мере совершенствования и удешевления технологии, по всей видимости, они найдут более широкое применение. Роботы не просят кушать, не устраивают забастовок, не болтают лишнего: словом, с точки зрения бизнеса у них есть множество преимуществ перед людьми.

Оператор колл-центра

Должен признаться, что одна из рабочих групп, работающих под моим началом, разрабатывает такую систему. Первые пилотные проекты в этом направлении будут запущены уже в начале 2017 года, а к середине 2018 мы рассчитываем на то, что ИИ сможет достичь эффективности работы, сопоставимой со среднестатистическим оператором узкоспециализированного банковского колл-центра. Конечно, это не значит, что половину операторов тут же заменят машины, но определённо фокус кадровой политики будет смещаться от найма низкоквалифицированных операторов, по сути выполняющих механическую работу, к найму сотрудников-интеллектуалов, способных эффективно действовать в нестандартных ситуациях.

На данный момент в индустрии уже существует весь стек технологий для замены оператора специализированного контактного центра, о них я расскажу чуть позже, чтобы было более понятно, почему мы всерьез рассматриваем проект по созданию такой системы и не считаем, что с ним связаны какие-либо существенные технологические риски.

Повар

На сегодняшний день в мире существует довольно много забавных проектов по автоматизации работы повара. На картинке ниже показана антропоморфная машина, но чаще такие проекты ограничиваются набором роборук, как, скажем, в проекте «Автоматическая Кухня» (Automated Kitchen) от Moley Robotics. Используя систему рельсовых направляющих для перемещения различных элементов аппаратного комплекса автоматической кухни можно заодно заменить и официантов, как это сделано в ресторане Baggers (Нюрнберг, Германия). В ближайшие 10—20 лет роботы, по всей видимости, роботы смогут заменить людей при выполнении практически любых рутинных операций на кухне, полностью вытеснив из этой сферы людей.

Из-за дорогой рабочей силы Япония является одним из пионеров в этой области автоматизации. В 1977 году Минору Икисима (Мinoru Ikishimа), владелец сети суши-баров, начал проект по созданию первого в мире суши-робота — машины для автоматизации производства суши. Созданный спустя три года рабочий прототип произвел настоящий фурор. Количество желающих приобрести суши-робота только в одном регионе Японии исчислялось сотнями. Это сподвигло предприимчивого японца задуматься об открытии отдельного бизнеса по производству и поставке оборудования для суши-баров и суши-ресторанов. В настоящий момент на Японию приходится около 70—80 % продаж суши-роботов. Используются такие устройства и в России.

Преимущества автоматических поваров очевидны: строгое соблюдение рецептуры и технологии, гарантированное отсутствие прямого контакта с руками человека, повышение производительности труда, возможность объединения процесса приготовления пищи с автоматизированными процессами фасовки и доставки.

Политик

Можно ли автоматизировать работу политика? Думаю, что можно, вот только политики, скорее всего, будут дольше всех сопротивляться. В одной из последних серий «Черного зеркала» нарисован дистопичный мир, в котором на смену деньгам пришли оценки, которые люди ставят друг-другу, и на основе которых формируется некий рейтинг, определяющий уровень доступа человека к общественным благам. Хочешь арендовать машину — хорошая машина в аренду только для тех, у кого рейтинг больше 4. Если у тебя рейтинг низкий, то дают развалюху с устаревшим интерфейсом для зарядки.

Ужасный по-своему мир, в котором, однако, возможности демократической системы по сбору обратной связи от населения доведены до своего логического абсолюта. Уже сейчас прямая демократия в обществе технически осуществима, для неё есть все необходимые инструменты: интерфейсы, системы хранения и передачи данных, криптографические схемы, которые позволяют организовать честное голосование.

И тогда возникает вполне логичный вопрос: почему это не внедряется? Опасения властных элит, на мой взгляд, в данном случае заключаются в том, что, если демократия действительно будет работать так, как её описывает идеальная модель из школьного учебника, то мало не покажется никому: мало ли какие решения могут принять люди, не получившие доступа к качественному образованию, не обладающие достаточной полнотой и качеством информации, воспитанные бедностью и улицей? То, что мы сейчас считаем демократией, по своим формальным характеристикам является скорее олигархией: медиа контролируются крупным бизнесом, на политические процессы влияют через лоббирование определенных законов. Подавляющее большинство членов общества в демократических странах номинально участвует в процедуре голосования, но в действительности мнения людей во многом определяется параметрами поступающих к ним информационных потоков, определяемыми отнюдь не демократическим путём. Более того, если в сфере политики принятие решений в развитых странах хотя бы номинально осуществляется в результате демократических процедур, то в сфере хозяйственной решения представляют собой слабо контролируемый произвол собственников крупных компаний, большая часть из которых получили право принятия подобных решений на основании права наследования.

«Есть много истин, правда лишь одна:
Штампованная признанная правда.
Она готовится
Из грязного белья
Под бдительным надзором государства
На все потребности
И вкусы и мозги.
Ее обычно сервируют к кофе
Оттиснутой на свежие листы,
Ее глотают наскоро в трамваях,
И каждый сделавший укол с утра
На целый день имеет убежденья
И политические взгляды:
Может спорить,
Шуметь в собраньях и голосовать».
Максимилиан Волошин. «Путями Каина»

Представители технической интеллигенции, скептически относящиеся как к компетенции собственников бизнеса, так и к способности широких слоёв населения принимать действительно разумные решения, часто поддерживают идею меритократии. Почему бы не экзаменовать людей на наличие у них знаний, необходимых для принятия квалифицированных решений? Допустим, мы будем считать, что голос необразованного человека имеет при голосовании меньший вес, чем голос образованного. Или же сделаем так, что эксперты в какой-то области будут иметь больший вес при принятии решений в своей области, и так далее. За такими схемами всегда стоят различные опасения, которые достаточно воспитанному человеку нельзя озвучивать вслух, ведь демократия является одной из основополагающих декларируемых ценностей первого мира. На мой взгляд корень проблемы с демократией заключается именно в том, каким образом организован доступ к знаниям, к образованию в мире. Как много тратит наше общество на воспитание и образование подрастающего поколения? Почему вместо школ и институтов мы предпочитаем тратить ресурсы на огромный аппарат военного, полицейского и идеологического подавления, призванный бороться с последствиями голода, темноты и неграмотности? Многие современные исследователи считают, что описанные проблемы вполне можно преодолеть, используя именно ресурсы прямой демократии. Такие исследователи как Пол Кокшотт и Аллин Коттрелл из Университета Глазго ещё в начале 90-х в книге «К новому социализму» («Towards new socialism») рассмотрели возможности изменения нашего общества на базе возможностей, предоставляемых прогрессом новых информационных технологий.

Продавец

С автоматическими продавцами, я думаю, все уже сталкивались. Помимо вендинговых автоматов, установленных сейчас практически на каждом углу, запущено в работу множество полностью автоматизированных супермаркетов. Такие магазины давно перестали быть диковинкой в Европе, где их уже довольно много, открываются первые подобные торговые предприятия и в России. Например, «Ашан» открыл первый автоматизированный супермаркет в Калуге ещё в 2009 году.

Существует несколько возможных моделей автоматизации работы супермаркета. Это и простые кассы самообслуживания, когда вы оплачиваете покупки на выходе при помощи специального терминала. Понятно, что при такой схеме всё равно необходим штат надзирателей-охранников. Их численность во многом зависит от уровня социальной ответственности населения. В конце концов и в нашем советском прошлом уже были «автоматические кондукторы», простые устройства, позволяющие пассажиру самостоятельно отматывать билетики, положив затем в деньгоприёмник соответствующую сумму денег. Думаю, что подобная схема в ритейле выглядит на сегодняшний момент слишком фантастичной, но снабжённая некоторым разумным сочетанием автоматизированного и ручного контроля вполне может порождать к жизни рабочие бизнес-модели. Экспериментальный магазин Amazon Go в Сиэтле осуществляет автоматический трэкинг товаров при помощи QR-меток — помещение товара в корзину, возврат его на полку, выход для оплаты в кассовую зону. Тиражирование проекта планируется начать через четыре года.

Есть и другая схема — самодвижущаяся тележка для покупателя, снабжённая платежным терминалом. Обычный интернет-магазин тоже, по сути, является разновидностью торговой автоматизации, доля онлайн-покупок существенно выросла за последнее десятилетие.

Промышленный рабочий

На эту тему у меня есть интересное видео: так уже сегодня делают машины KIA.

Южная Корея. Автомобильный завод - Kia. Производственная линия. (494) 19.12.2015

На Youtube есть куча роликов с разной промышленной автоматизацией, их бесконечное количество. Можете погуглить, robotic lathe, всякие роботизированные станки токарно-фрезерные — это очень красивые машины, которые вытворяют совершенно невообразимые вещи. В производственной сфере машины давно и уверенно теснят людей, оставляя им лишь функции разработки, наладки и сопровождения.

Работник службы сервиса

До тех пор пока нам ещё нужны люди на заводах, будут нужны и роботы, способные безопасно работать рядом с этими людьми, так называемые коллаборативные роботы. Самый известный сегодня пример такого робота — Baxter, созданный компаний Rethink Robotics. Теперь новая компания Tend.ai разработала роборуку, к которой можно прикрепить обычную веб-камеру. Предполагается, что роборука облегчит процесс работы с множеством 3D-принтеров. Она предназначена помогать с «обслуживанием станков», помещая материал в 3D-принтеры и извлекая из них готовые изделия. Tend.ai — это не единственный стартап, призванный по сути «заткнуть» прорехи в автоматизации производственных процессов, возникающие на месте стыка нескольких разнородных технологических решений. Запрограммировав роборуку на выполнение тех или иных несложных операций, можно избавиться от части сотрудников, занятых подачей материалов, рутинным обслуживанием производственных механизмов, перемещением промежуточных результатов работы в производственном пространстве.

Секретарь

Сегодняшние виртуальные ассистенты пока не совсем выполняют функции секретарей, но они к этому стремятся. Множество относительно простых функций, которые раньше выполнял секретарь, виртуальный помощник может выполнять уже сейчас. Заказ билета на самолет, в театр или кино, поиск информации в сети, набор текста под диктовку — всё это под силу продвинутому прикладному ИИ.

Умный человек-ассистент полезен тем, что может выполнять сравнительно сложные, творческие задания, поэтому ему, скорее всего, ничего и не грозит в ближайшие 10 лет. А вот у человека, который выполняет поручения из серии «позвони туда, купи это», даже в пределах довольно короткого временного горизонта могут возникнуть серьёзные проблемы с трудоустройством.

Секс-работник

В некоторых странах это полноценная профессия, поэтому мы посмотрим, как и в эту сферу приходит автоматизация. Тема эта интересная, волнует в той или иной мере практически всех, по ней есть множество статей и обсуждений разной степени серьёзности. Размышляют обычно о том, этично или нет заниматься сексом или даже просто флиртовать с машинами, какие есть в этом вопросе плюсы, минусы, подводные камни, к чему это всё нас приведет. Пока одни точат лясы, другие выводят промышленные образцы на рынок.

Разработка Roxy была представлена ещё в 2010 году. Сейчас она производится в промышленных масштабах. В 2010 году компания-разработчик получила 4000 предварительных заказов. Как говорят, все вполне реалистично. И даже аккумулятора хватает на три часа. Думаю, этого более чем достаточно, в крайнем случае перед окончательной разрядкой робот может пожаловатся на то, что он устал и у него болит голова. Впрочем, сейчас появились литий-металлические аккумуляторы, поэтому можно будет удвоить время работы машины.

Эта разработка обошлась в 1 млн долларов. Достаточно скромный стартап по меркам бизнеса.

Солдат

Понятно, что военные с их астрономическими бюджетами очень часто оказываются в области автоматизации впереди планеты всей. На весь мир прославились американские ударные дроны, которые себя то ли хорошо, то ли плохо зарекомендовали (смотря, с какой стороны на это смотреть). Старается не отставать и Россия — на картинке справа машины из роботизированного ударного комплекса «Уран-9», об испытании которого в Сирии недавно сообщили СМИ. С возможностями комплекса можно ознакомиться в целом ряде видео на YouTube:

28.03.2016 Боевые роботы. В этом выпуске программы «Военная приемка» зрители увидят новейшего боевого робота «Уран-9». Этой высокотехнологичной машине нет аналогов в мире. «Уран-9» оснащен самым современным оружием, в том числе 30-миллиметровой пушкой, пулеметом и управляемыми ракетами против наземных и воздушных целей. А самое главное – этот робот работает дистанционно.

30.01.2010 Army of the Future: Russian combat Robots

А вот и альтернативная разработка:

14.05.2013 Dahir Insaat: Combat Robot (in Russian) - FULL

Трудно сказать, каковы реальные успехи авторов этого проекта, но ролик получился залихватский. Мечта о телеуправляемых машинах для убийства достаточно давняя. С 1929 года в СССР велась активная разработка телетанков, но тогда эта технология в силу ряда инженерных ограничений не смогла пробить себе дорогу в жизнь. Ещё до появления современных ударных дронов было создано множество разведовательных машин, но всё-таки дроны — это устройства телеуправляемые, они не совсем роботы, для управления дроном всё ещё нужен человек. Можно ли давать роботу оружие в руки и позволять убивать людей? На эту тему сломано множество копий в жарких онлайн-спорах и в прессе, но лично я думаю, что военные не собираются особенно слушать мнения гражданских экспертов. В отношении любой телеуправляемой машины всегда существует угроза разрыва канала связи. Сегодня существуют достаточно эффективные средства электромагнитной борьбы. Понятно, что если ты воюешь в Афганистане с армией, оснащённой по канонам прошлого столетия, то это, вероятно, не самая большая проблема. Но если ты сталкиваешься с более технологически развитым противником, то вероятные меры противодействия имеют все шансы существенно снизить эффективность применения телеуправляемых машин. Поэтому уже сейчас подобным машинам предоставляются определенные возможности действий в условиях разрыва связи с оператором.

Для начала это могут быть достаточно простые алгоритмы, наподобие подрыва машины с уничтожением того, что находится рядом с ней. От такого устройство нужно сделать совсем небольшой шаг вперёд, чтобы получить полноценного боевого робота.

Довольно интересный ролик появился пару месяцев назад на Youtube. Очередную нейронную сеть научили играть в Doom, ориентируясь только на картинку с монитора. Такие проекты неплохо демонстрируют потенциальные возможности современных технологий на поле битвы.

22.09.2016 IntelAct: Winner, Visual Doom AI Competition, Full Deathmatch

Лично мне, впрочем, больше всего нравится вот эта короткометражка:

28.05.2013 Крепость/Fortress

Специалист по SMM

Я всегда думал, что в этой сфере с самого начала было очень много роботов. Когда читаешь примеры таких рекламных кампаний, то понимаешь, что если это и люди, то они уже низведены до уровня несложных механизмов. Не знаю, как вам, а мне как активному пользователю социальных сетей каждый день приходит две-три заявки от каких-то аккаунтов, у которых либо нет со мной общих друзей, либо два-три общих друга. И я их каждый месяц мониторю и разгребаю, захожу на страницы, смотрю, что там написано, что там в комментах. Пытаюсь понять, это живой человек меня зафрендил или просто штука, которая потом пригласит меня в очередную группу, добавит в какой-то нелепый чат, будет слать приглашения и так далее.

И с каждым месяцем это становится сложнее понять. Потому что изготовить правдоподобного пользователя соцсети очень несложно: сгенерировать стену из каких-то репостов, взять современную разговорную модель на LSTM-нейросети. То, что рекламные боты сейчас не являются достаточно изощрёнными, чтобы обмануть практически любого, не означает, что для этого не хватает нужных технологий. На самом деле сегодня очень простой бот может легко обмануть 90% людей, а тратить дополнительные средства на что-то более технологически продвинутое без веских причин никто не станет.

Преимущества ботов в том, что они не спят, не едят, четко следуют установленным правилам. Иногда это минус, но зачастую лучше, чем творчество недалёких людей-SMM-щиков, которые нет-нет, да и напишут что-то такое, от чего потом придется долго отмываться.

Спортсмен

В своём поведении за последние годы я заметил забавную девиацию. У меня есть шахматная программа, наверное, вы уже прочитали в анонсе, что я занимаюсь шахматным программированием. И я стал ловить себя на мысли, что люблю просто смотреть на то, как шахматные движки играют между собой. В основном работа над программой заключается в том, что короткие периоды внесения изменений в код, занимающие редко больше 10—20 минут в день, сменяются длинными сериями игр разных версий программы между собой. Обычно программы должны сыграть друг с другом минимум 2—3 тысячи партий, чтобы можно было с достаточной степенью уверенности сделать вывод о том, усилили внесённые изменения программу или, напротив, ослабили. Машины на коротких контролях играют в очень красивые шахматы, насыщенные множеством острых атак и тактических осложнений. Думаю, если бы какой-то шахматный журналист 30—40 лет назад изучил бы базу игры двух современных шахматных программ, он смог бы сделать из этого сенсацию, написать сразу несколько книжек про красивые комбинации этих удивительных шахматистов. Даже немного жаль, что сотни тысяч партий, сыгранных программами, никто, кроме этих же самых программ, не увидит и не изучит.

Машины вполне могут играть в игры не только интеллектуальные, но и условно физические. Например, c 1993 года проводятся соревнования RoboCup — международные соревнования между создателями автономных роботов-футболистов. RoboCup — это сокращение от полного названия соревнования, англ. «Robot Soccer World Cup» (Чемпионат по футболу среди роботов). Впрочем, в рамках соревнования существуют и другие виды состязаний, например, среди спасательных роботов, по танцам среди роботов и т.п. Выглядит это действо примерно так:

03.07.2016 [RoboCup 2016] SPL Final: B-Human - UT Austin Villa

Моя работа в начале 2000-х заключалась в написании ИИ для самых разных игр, в том числе для аркадных. Помню, больше всего нас веселила игрушка Dog Fight, дуэли на самолетиках — наблюдать за сражениями ИИ было невероятно увлекательно.

Подобно тому, как растёт популярность различных видов киберспорта (сражения в виртуальном пространстве), всё более зрелищными становятся состязания систем ИИ как в реальном, так и в виртуальном пространстве. Люди не только наблюдают за игрой машин, но и болеют за любимые ИИ, заключают спортивные пари — делают ставки. А там, где зрелища и ставки — там деньги, индустрия, которая подстегивает развитие популярного спорта. И тут возникает вопрос, не начнут ли роботы всерьез теснить людей в этой области? Сейчас футболисты получают миллионы, потому что сотни миллионов людей во всем мире следят за их игрой. Но что будет, если хотя бы 10—20% этих людей переключатся на состязания ИИ? Что произойдет с футболистами? Не уменьшатся ли их гонорары?

Строительство

Здесь ситуация во многом похожа на промышленную автоматизацию, в сущности, строительство — это в своём роде outdoor-промышленность. В 2014 году весь интернет облетела новость о том, что шанхайская компания WinSun напечатала даже не один, а целых десять домов менее чем за 24 часа. Однако недолго ей удавалось занимать лидирующее положение: в 2016 году она обрела достойного конкурента в лице компании Beijing HuaShang Tengda Industry and Trade. Последней удалось воплотить в реальность поистине беспрецедентный проект: возвести впечатляющую 3D-печатную виллу площадью 400 м² всего за 45 дней.

Компания Beijing HuaShang Tengda Industry and Trade решила для себя, что не стоит напрямую конкурировать с WinSun, и попробовала взглянуть на 3D-печатное строительство под несколько иным углом. В то время как WinSun печатает большинство составных деталей для домов заранее, а потом собирает их на месте, шанхайская компания решила возвести виллу целиком прямо на строительной площадке.

Последние несколько лет HuaShang Tengda разрабатывала собственный строительный 3D-принтер. Чтобы продемонстрировать его в деле, компания построила виллу на территории фабрики в Тунчжоу (район Пекина) (см. фото выше).

Торговый посредник

Если посмотреть на структуру рынка занятости в Москве, то доля людей, занятых в сфере, обозначенной в официальной статистике как «операции с недвижимым имуществом, аренда и предоставление услуг», составляет в 2000—2014 гг около 18% экономически активного населения, уступая лишь доле людей, занятых в розничной торговле. В посреднической экономике 1990—2000-х были выстроены очень длинные торговые цепочки между производителем какого-то товара (либо строителем, импортером) и его потребителем. В некоторых сделках этот показатель доходил до 4—5, а то и 6 звеньев.

Те, кто сам не причастен к торговой сфере, редко задумываются о том, что во всём мире онлайн-торговля совершила революцию. Возникли крупные площадки-агрегаторы, которые убрали значительную часть посредников из торговых цепочек. Если 15 лет назад вы шли в агентство недвижимости, чтобы вам подобрали какой-то вариант жилья, то сейчас практически любой пользователь сети обращается к услугам соответствующих онлайн-сервисов. Интернет во многом ликвидировал информационную раздробленность в сфере розничной торговли и аренды недвижимости, что оказывает на сегодняшний день огромное давление на рынок труда в этих сферах.

Уборщик

Когда Митио Каку в 2012 году выступал в России, то среди прочего он сказал, что если вы — мусорщик, то вашей работе машины не слишком угрожают. Потому что это работа, которую трудно автоматизировать, да и не слишком она высокооплачиваемая, стало быть туда роботы придут не очень скоро.

Это так, если мы говорим о мусорщиках, которые убирают нетривиально сконфигурированные в пространстве объекты. Но есть огромное количество рутинных операций, которые можно автоматизировать уже сейчас. Все равно останутся люди, которые будут очищать какие-то сложные конструкции. Но если раньше на уборку офиса требовалось 20 уборщиц, то теперь будет достаточно 10 или 15 благодаря тому, что уборку открытых пространств могут взять на себя машины-полотёры и роботы-пылесосы.

Учитель

Робот-учитель (мобиробот), разработанный в Томском политехническом университете, осенью 2016 года вышел на «педагогическую практику». Первой площадкой для практических испытаний робота стал лицей при университете.

Во время испытаний молодые учёные и педагоги оценят, как робот впишется в учебный процесс, интересно ли будет школьникам на его уроках и будет ли педагогам понятен интерфейс электронного ассистента. По поводу последнего разработчики спокойны: ранее учителя томских школ помогали им в работе над адаптацией системы управления для людей разного возраста и уровня подготовки, а методики проведения уроков с помощью робота полностью разработаны педагогами лицея при ТПУ.

Планируется, что мобиробот будет читать на уроках теоретические курсы, а также проводить онлайн-тестирование и предметную практику.

В обучении традиционно пытаются использовать те или иные инструменты автоматизации или телеприсутствия. Но если задуматься, то, скажем, Coursera и другие системы онлайн-обучения — это куда более мощный инструмент автоматизации. Если в конце 90-х годов проекты отдельных вузов по удаленному обучению были своеобразными диковинками, то сейчас мы все пользуемся онлайн-курсами. Теперь один специалист может обучить гораздо большее количество людей, чем он мог бы, преподавая в институтской аудитории, даже в большой. И несмотря на то, что в школах и вузах во всем мире в процесс обучения приходят те или иные инновационные технологии, наиболее серьёзной угрозой рынку труда в данной сфере является именно онлайн-обучение.

Конечно, потребности нашего общества в образованных специалистах намного выше, чем обеспечивает действующая система образования, однако многие государства стремятся любой ценой снизить бюджетные расходы на образование, сокращая количество бесплатных мест в вузах, экономя на зарплатах преподавателей и других расходах на учебный процесс, поэтому давление на рынок рабочей силы со стороны онлайн-образования нельзя недооценивать.

Хирург

Это робот «da Vinci». Точнее не совсем робот, а робот-ассистированная хирургическая система «da Vinci» — аппарат для проведения хирургических операций. Производится серийно компанией Intuitive Surgical. Используется в нескольких сотнях клиник по всему миру.

Масса аппарата — полтонны. Состоит из двух блоков, первый предназначен для хирурга-оператора, а второй — четырёхрукий робот-манипулятор — является исполнительным устройством. За 2012 год общемировое число операций, выполненных с использованием системы «da Vinci» составило порядка 200 тысяч. Клиники США на июль 2014 года располагали 2153 системами «da Vinci», в России установлено двадцать пять подобных хирургических систем.

Изначально «da Vinci» разрабатывался для нужд армии, а затем уже пришел в гражданский сектор. Точность некоторых манипуляций системы доходит до одиночных слоев клеток. На сегодняшний день удаление раковой опухоли (не слишком запущенной) на Da Vinci происходит таким образом: машина срезает один слой клеток, тут же проводит биопсию, и если в пробе нет раковых клеток, то срезает ещё пару слоёв для надёжности. Даже в случае достаточно сложной опухоли, робот очень точно проводит черту между пораженной тканью и здоровой. Естественно, это сильно увеличило выживаемость при некоторых видах рака.

Внедрение роботизированных систем в хирургии вряд ли приведет к вытеснению квалифицированных хирургов. Это скорее эффективный инструмент, которому нужен квалифицированный оператор. Пока роботизирована только некоторая часть операций. Но если раньше для осуществления операций нужно было 7—8 ассистентов хирурга, то при помощи такой машины два человека справляются с достаточно сложной операцией.

Куда в большей мере рынку труда во врачебной сфере угрожают автоматизированные диагностические системы. По мнению аналитика консалтинговой компании Frost & Sullivan Сингха Буттара (Singh Buttar) «К 2025 году системы искусственного интеллекта проникнут во все сферы здравоохранения, вплоть до создания цифровых помощников, отвечающих на все вопросы пациентов и самостоятельно занимающихся их лечением».

Рынок высокоинтеллектуальных медицинских решений сегодня составляет около $1 млрд. В соответствие с данными экспертов Frost & Sullivan ожидается, что уже к 2021 году эти показатели достигнут отметки в $6 млрд. при ежегодном росте около 40 %. При этом отдельно отмечается, что с каждым годом роль искусственного интеллекта в медицине будет только усиливаться.

Главным поставщиком интеллектуальных решений для диагностической медицины на сегодняшний день является компания IBM, создатель суперкомпьютерной экспертной системы Watson. Учитывая, что каждый год в мире публикуется более 700 000 научных статей, эффективное развитие диагностики без применения ИИ становится просто невозможным.

В 2015 году для обучения Watson IBM приобрела около 30 млрд различных медицинских снимков. Также к обучающему массиву, по всей видимости, будет добавлено около 50 млн анонимных электронных медицинских карт, которые IBM получила после покупки стартапа Explorys.

Одним из самых знаменитых применений Watson в области медицины является проект Watson for Oncology. По такому показателю, как точность назначения оптимального лечения при диагностированном раке лёгких, Watson со значением 90% давно обошёл средний для медицины США уровень в 50%. При этом методика лечения может корректироваться в режиме реального времени. Внеся с мобильного устройства информацию об изменении состояния больного, доктор уже через 30 секунд получит от Watson уточненный диагноз с обновленным курсом лечения.

Немного здорового юмора и самоиронии

Modern Times - Charlie Chaplin Eating Machine

Некоторые из упомянутых выше технологий пока что напоминают этот небольшой фрагмент из великолепного фильма «Новые времена» с Чарли Чаплиным в главной роли. Многие современные IT- и технологические стартапы недалеко ушли от показанного автомата для кормления рабочих без отрыва от производства. И всё-таки технологии быстро меняют наш мир, несмотря на наш, быть может, порой несколько завышенный энтузиазм по отношению к ним.

Технологии

Какие технологии находятся в основе этого движения? Что произошло в технологическом мире, что двигает вперед эти процессы? Вот небольшой список инноваций, претендующих на то, чтобы сделать значительный вклад в развитие технологии в течение последних двух лет.

Американские инженеры оснастили робота датчиком осязания нового типа — благодаря ему машина смогла схватить свободно висевший в воздухе USB-кабель и вставить его в USB-порт, сообщается на сайте Массачусетского технологического института. Новый датчик был продемонстрирован на Международной конференции по «умным» роботам и системам, которая прошла 14—18 сентября 2014 года в Чикаго.

Инженеры из Массачусетского технологического института объявили о коммерциализации проекта по созданию литий-металлической батареи, энергетическая плотность которой вдвое превышает показатель литий-ионной батареи. Об этом сообщается на сайте учреждения. Фактически это означает, что на одной зарядке батареи электромобили ближайшего будущего смогут проехать дистанцию, превышающую пробег от одной заправки практически любого современного автомобиля с двигателем внутреннего сгорания. Следует также ожидать появления автоматизированных электрических летательных аппаратов для транспортировки людей и грузов средней массы.

В октябре 2016 года команда разработчиков из подразделения Microsoft, занимающегося исследованиями в области искусственного интеллекта (Microsoft Artificial Intelligence and Research), сообщила о создании системы распознавания речи, которая делает то же или даже меньшее количество ошибок, чем люди, профессионально выполняющие эту работу. Исследователи сообщили о том, что пословная вероятность ошибки (word error rate) снизилась до 5,9% по сравнению с 6,3%, результатом, о котором сообщалось ещё в прошлом месяце. Фактически, прогресс в области специализированных нейросетевых архитектур, таких как, например, LSTM, свёрточных нейронных сетей, заметно расширил способности машин понимать и обрабатывать как человеческую речь, так и широкий спектр визуальных образов. Ещё одна прогрессивная модель, возникшая на границе нейронных сетей и конвенциональных вычислительных методов — нейронная машина Тьюринга (NTM) — алгоритм машинного обучения, способный на основе анализа входных и выходных данных реконструировать алгоритм их трансформации. Развитие этой модели подразделением Google — компанией DeepMind — получило название Дифференциальный нейронный компьютер (DNC). Демонстрацией работы DNC стал небольшой проект, в ходе которого была показана способность модели самостоятельно обучиться эффективному использованию маршрутов лондонского метро.

Компания Google полностью перевела сервис Google Translate на глубинное обучение. По предварительным оценкам Google, нейросеть обеспечивает гораздо лучшее качество перевода, чем обычные статистические методы. Её уже опробовали в сложнейшей языковой паре английский — китайский, и нейросеть сразу на 60% снизила количество ошибок перевода. Словом, в области машинного обучения и нейронных сетей практический каждый месяц случаются небольшие революции, и пока что данная область технологии находится на стадии экспоненциального роста.

К чему это всё приводит и приведет? Каковы оценки, которые дают специалисты? Через 30 лет роботы смогут делать практически всё, что умеют делать люди, — такой прогноз дал Моше Варди (Moshe Vardi), профессор вычислительной инженерии и директор Института информационных технологий Кена Кеннеди (Ken Kennedy Institute for Information Technology) при Университете Райса (William Marsh Rice University). Это приведёт к тому, что более 50% жителей Земли станут безработными.

«Мы приближаемся к тому времени, когда машины превзойдут людей почти в любом деле, — сказал Варди. — Я считаю, что обществу нужно посмотреть в лицо этой проблеме до того, как она встанет во весь рост. Если машины будут способны делать почти всё, что умеют люди, что тем останется делать?»

Варди выступил с этим заявлением на ежегодной встрече Американской ассоциации содействия развитию науки, представив доклад «Умные роботы и их влияние на общество».

К каким же социальным последствиям приведут столько существенные изменения на рынке труда? В своё время Джонатан Свифт, наслушавшись речей современной ему элиты, написал весьма едкое эссе, которое называлось «Скромное предложение» (полностью: «Скромное предложение, имеющее целью не допустить, чтобы дети бедняков в Ирландии были в тягость своим родителям или своей родине, и, напротив, сделать их полезными для общества»). Весьма троллистический по духу памфлет подробно разъяснял, как употребить детей бедняков на пользу общества.

«Один очень образованный американец, с которым я познакомился в Лондоне, уверял меня, что маленький здоровый годовалый младенец, за которым был надлежащий уход, представляет собою в высшей степени восхитительное, питательное и полезное для здоровья кушанье, независимо от того, приготовлено оно в тушёном, жареном, печёном или варёном виде. Я не сомневаюсь, что он также превосходно подойдёт и для фрикасе или рагу».

Словом, детей бедняков автор предлагает продавать в качестве деликатеса для стола представителей того класса, к которому принадлежит сам автор. Далее изложены рецепты приготовления младенцев в пищу и калькуляции, доказывающие экономические выгоды от осуществления подобного предложения. В качестве негативного побочного эффекта автор предвидит обезлюдение Ирландии, но иные варианты решения проблемы отбрасывает с ходу из-за их неэффективности.

Действительно, существуют ли реальные альтернативы? Во-первых, если посмотреть внимательно на нашу экономику, а на неё надо смотреть всегда в известной степени как на историю убийства, то нужно задавать тот же самый вопрос, который всегда задает детектив, расследующий преступление: qui prodest? Кому выгодно? Кто является основным бенефициаром всей этой технологической истории? Основными бенефициарами являются крупные технологические корпорации, ведь именно их прибыли благодаря этим процессам растут. И позиция, которую занимают левые, такова, что эти сверхприбыли надо как минимум частично, изымать и тратить на компенсацию тех негативных социальных последствий, которые сопутствуют в нашем обществе развитию технологий. В качестве одной из возможностей рассматривается внедрение безусловного базового дохода, когда каждому члену общества выплачивается некоторая фиксированная сумма денег, вне зависимости от того, есть ли у данного человека работа и каков уровень его доходов. Первый всеевропейский опрос, проведённый в апреле 2016 года, показал, что 64 % жителей Евросоюза поддержали бы введение безусловного основного дохода, 35 % осведомлены о самой концепции, 23 % говорят, что полностью понимают суть и задачи этой программы, четверть слышали о ней, 17 % ничего о ней не знают. Только 4 % граждан после введения безусловного базового дохода откажутся работать. Наиболее убедительными преимуществами данной модели люди считают то, что такие социальные выплаты «уменьшают тревогу о базовых финансовых потребностях» (40 %) и помогают обеспечить людям равные возможности (31 %). Интересно, что сама идея безусловного дохода родилась примерно во времени Свифта в работах Томаса Пейна и маркиза де-Кондросе.

Впрочем, по очевидным математическим причинам безусловный доход не может остановить имущественное расслоение в обществе. Чрезвычайно сложно достичь баланса между ситуацией, когда налоги, собираемые с корпораций для осуществления выплат, будут недостаточно велики, чтобы не допустить неконтролируемый рост богатства и могущества корпораций и ситуацией, когда слишком высокая планка налогообложения подавит в корпорациях любую возможность осуществлять развитие и внедрение инноваций.

С развитием технологий вопрос вообще говоря не очень простой, их развитие основывается на прогрессе фундаментальной науки, а фундаментальную науку делают не корпорации. Корпорации в основном занимаются промышленным внедрением того, что было изобретено в академической среде. Большая часть фундаментальных инноваций делается в наши дни в некоммерческом секторе, будь то государственная наука или, например, если посмотреть на США (крупнейшие вузы Ivy League) — некоммерческие организации.

Корпорациям, какими бы крупными они ни были, для развития некоторых технологий банально не хватает «длинных» денег. Разработка новых технологических направлений — это очень серьёзный венчур с чрезвычайно высокими рисками и длительным сроком окупаемости. Классический пример: космические исследования. То, что сделала государственная космонавтика в СССР и США в конце 50-х — начале 60-х годов, до сих пор является недостижимой планкой для частных корпораций, несмотря на колоссальный технологический прогресс, произошедший за последние полвека. И причины здесь, в основном, чисто финансового характера.

Ситуацию могла бы поправить передача управления экономикой эффективному ИИ, подчинённому политической системе, построенной на базе принципов прямой демократии, но такой подход вряд ли понравится финансовой элите и самим технологическим корпорациям, рассматривающим прогресс как источник собственной неконтролируемой власти. Поэтому решения, подобные предложенному Свифтом, имеют все шансы оказаться внедрёнными на практике. Когда Свифт писал своё эссе, конечно, он не имел в виду, что люди его времени, представители правящего класса всерьез хотели бы употреблять людей в пищу. Но он доводил до абсурда идеи, которые звучали тогда и звучат сейчас. Безо всякого стыда в интеллектуальной среде высказываются предложения об искусственном снижении рождаемости в третьем мире, платежах за стерилизацию, экономическом стимулировании бездетности.

Проблема перенаселения вообще в определённой мере переоценивается. Если посмотреть на опыт развитых стран, в них в целом ряде случаев не достигается даже естественное воспроизводство, потому что репродуктивные модели поведения городских жителей существенно отличаются от репродуктивных моделей аграрного общества. В индустриальной экономике от количественной стратегии размножения люди переходят к качественной. Если вы живете в аграрном обществе и рожаете ребенка, то это дополнительная рабочая сила в вашем хозяйстве, вы рожаете нового работника себе на подмогу. Прошло 4—5 лет, и вот он уже помогает родителям, участвует в общем деле. И чем больше детей ты нарожал, тем лучше тебе живется в старости.

В городе рождение ребенка — это роскошь, и у городских жителей соответствующее отношение к этому. Да, мы родим ребенка, мы любим друг друга, но вначале нам надо купить квартиру, машину, найти средства, чтобы потом дать этому ребенку хорошее образование и так далее. Часто этот момент рождения ребенка откладывается в никуда вообще. А где не откладывается, там возникают семьи с одним, максимум, двумя детьми. В мире постоянно растет доля городского населения, и если мы в ХХ веке держались за голову и говорили, что население земного шара — о ужас! — растет по гиперболическому закону, то с конца 90-х годов стало ясно, что произошло серьезное отступление от этого гиперболического тренда. Если бы этот тренд продолжился, то сейчас население Земли составляло бы уже больше 10 млрд человек.

Заключение

Честно говоря, все эти размышления о вытеснении человека машинами в наши дни отдают некоторой поверхностностью. На мой взгляд, в них не учитывается тот момент, что рано или поздно уровень развития нашей технологии превысит уровень машинерии нашего собственного тела. И с этого момента всё сильнее будет стираться разница между людьми и машинами. Скорее всего, мы будем образовывать с собственными сложными интеллектуальными инструментами всё более синтетическое единство.

По какому пути здесь пойдут люди? На эту тему много фантазируют фантасты, учёные, создатели компьютерных игр. Например, есть прекрасная игра Deus Ex, любимая технофагами во всём мире. По сценарию игры люди в будущем приобретают различные улучшения (аугментации) организма, чтобы лучше видеть, слышать, бегать, запоминать, считать… В принципе, это одна из возможных моделей развития. По всей вероятности, развитие технологий приведёт не к тому, что машины вытеснят людей, а к тому, что возникнет синтетическое единство человека и машины, где вы не сможете провести четкую границу, разделяющую машину и человека. Это является одним из возможных выходов.

Другое дело, что эта идея неплохо выглядит с фундаментальной, теоретически-философской точки зрения, но какие конкретно наша история обретёт формы? Кто будет соединяться с машинами? Почему люди будут это делать? Будут ли это богатые люди, которые будут приобретать улучшения собственного организма? Или, быть может, сотрудники корпораций, которые будут находиться под угрозой увольнения, и пойдут на то, чтобы улучшать при помощи имплататов свою ценность на рынке рабочей силы? Подключил к мозгу дополнительный модуль, который позволяет тебе лучше считать, лучше выполнять указания начальства, и вот ты уже не на самой обочине жизни. Тут воображение рисует огромное количество картин от просвещённого технокоммунизма до ужасающего технофашизма. Думаю, каждый из вас, дорогие мои читатели, может на эту тему пофантазировать и подумать, порадует или ужаснет нас та картина, которую вам самим предстоит создавать.

Mail.Ru Group

https://geektimes.ru/company/mailru/blog/283466/

20.10.2016 Обучаем нейросеть играючи.

Разработки в области нейронных сетей в этом году пережили настоящий бум. Свои алгоритмы мы продемонстрировали в Artisto и Vinci, Google — в AlphaGo, Microsoft — в ряде сервисов для идентификации изображений, были запущены такие стартапы, как MSQRD, Prisma и другие. Приложения на основе нейросетей мгновенно занимали первые строчки рейтингов, в первые десять дней после релиза их скачали более миллиона пользователей, а споры вокруг них не утихают до сих пор. Развлекательные сервисы создаются не для решения широкого спектра задач, а для демонстрации способностей нейронных сетей и проведения их обучения.

Нейронная сеть способна самостоятельно обучаться и действовать на основании предыдущего опыта, позволяя с каждым разом делать все меньше ошибок. Обучение нейросети — очень трудоемкая и объемная задача. Для того чтобы она работала корректно, требуется «прогнать» ее работу на десятках миллионов наборов входных данных.

Но обучение нейросетей не всегда проходит в закрытых лабораториях и с ограниченным набором данных. Иногда разработчики создают развлекательные приложения для того, чтобы пользователи могли прикоснуться к возможностям нейросетей и загрузить как можно больше данных для ее обучения. Конечно, порой пользователи находят слабые места нейросетей или создают с их помощью весьма причудливые и смешные «шедевры», мгновенно разлетающиеся по просторам интернета. Таким же образом сами разработчики находят весьма забавные сферы для применения нейросетей, вызывая радостный отклик пользователей.

Мы решили рассмотреть несколько запоминающихся примеров и собрать их в одном посте.

Microsoft: возраст, эмоции и порода

How old

В апреле 2015 года интернет взорвал шуточный сервис от Microsoft, демонстрирующий возможности облачной платформы Azure, How-old.net. Он позволяет анализировать загружаемую фотографию и сообщает предполагаемый возраст и пол изображенного на ней человека. Иногда он угадывал довольно точно, а иногда не совсем, что и вызвало бурю экспериментов в социальных сетях. Помимо своих личных фото, по которым сервис определял возраст пользователей, они начали загружать фотографии знаменитостей. Тут-то и началось самое веселое. В Twitter тут же появился хэштег #howold, по которому люди начали выкладывать самые забавные результаты с не менее забавными и юмористическими комментариями.

Сервис лишний раз доказал, что Киану Ривз неподвластен времени. Но в случае с Мадонной пользователи начали подозревать неладное.

В случае же с Кончитой Вурст, «звездой» «Евровидения», сервис не увидел подвоха — и борода немного состарила «девушку», с 27 до 35 лет. Кстати, девушку сервис распознал и в Поле Маккартни. Фотография The Beatles появилась в сети с подписью: «В чем твой секрет, Пол?»

Но самое ироничное произошло с Диснеевскими принцессами, которым сервис то приписывал лишние года, то наоборот. Помимо того, что они стали обладателями мужского пола, 17-летней Белль он прибавил 25 лет, а 15-летней Ариэль повезло еще меньше.

Не менее интересными оказались результаты анализа известных картин. Так, 12-летнюю Веру Мамонтову с картины «Девочка с персиками» Валентина Серова сервис значительно состарил. Такая же участь постигла и Стива Роджерса из «Мстителей» — неожиданно он стал самым старшим в команде. В сообществе BuzzFeed заморочились и загрузили фотографии всех участников.

Вслед за волной забавных результатов появились картинки, имитирующие их. Так, на фотографии Магистра Йоды пользователи приписали ему 900 лет, отмечая, что у сервиса неплохое чувство юмора. В отметке возраста приписывали различные статусы и цитаты персонажей.

Project Oxford

Но этот бум сменился новым. В ноябре был представлен следующий сервис — Project Oxford. Экспериментальная версия позволяла определять эмоции по фотографии. Алгоритм находит на фотографии людей и по выражению лица пытается определить соотношение эмоций. Сервис распределяет условные баллы от нуля до одного между грустью, злостью, отвращением, презрением, страхом, счастьем и удивлением. Было отмечено, что проект находится на экспериментальной стадии и может ошибаться.

Естественно, на определении своих эмоций пользователи не остановились.

Если вы хотите знать, как выглядит максимально нейтральное выражение лица, то в этом вопросе вам стоит равняться на Джеймса Бонда. Но пользователи все-таки нашли у сервиса слабое место — даже он вряд ли сможет определить эмоциональное состояние Беллы Свон.

Всемирно известный персонаж Роуэна Аткинсона мистер Бин всегда отличался особенной мимикой и позитивно-пытливым подходом к решению любой казусной ситуации. Сервис распознал в нем почти максимум счастья с ноткой удивления. И известного злого малыша-мема он распознал так же точно — гнев оказался почти на максимуме.

What Dog

Следующий сервис повеселил пользователей не меньше предыдущих. В феврале 2016 года в рамках экспериментальных «гаражных» проектов Microsoft выпустила сервис What Dog, умеющий распознавать по фотографиям породы собак.

Но, увы, не только редкие породы оказались камнем преткновения для сервиса — порой он определял кошек как собак! Например, кота главного редактора TJ сервис распознал как пемброка вельш-корги. К слову, приложение Fetch! (доступно в американском App Store) оказалось умнее — оно распознает кошек корректно.

Как это работает: в приложении есть каталог пород собак, и при распознавании снимка выдается оценка соответствия. Ради развлечения туда добавили режим, позволяющий определять «породу» людей. Так начался новый «собачий бум». Создатель Facebook Марк Цукерберг превратился в ротвейлера, а основатель SpaceX — в золотистого ретривера.

Недружелюбный Twitter-бот Тей

В марте специалисты Microsoft создали самообучающегося Twitter-бота по имени Тей, которого пользователи тут же научили ругаться и отпускать расистские замечания. Тей был создан для общения в социальных сетях с молодыми людьми 18-24 лет. В процессе общения он учился у собеседника. Сначала робот учился общаться, перебирая гигантские массивы анонимной информации из соцсетей, а потом продолжил свое обучения, контактируя с людьми напрямую. На первых этапах с ним работала команда, в которую входили юмористы и мастера разговорного жанра.

Но менее чем спустя 24 часа после запуска робота в Twitter компании пришлось вмешаться и редактировать некоторые комментарии, потому что он начал оскорблять собеседников. Так, Тей заявил, что он поддерживает геноцид, любит Гитлера, осуждает феминисток и ненавидит человечество.

Компания была вынуждена выключить бота из-за злоумышленников, обнаруживших уязвимость. Его включат снова, когда он сможет противостоять подобным атакам.

CaptionBot

В апреле компания Microsoft запустила сервис под названием CaptionBot, позволяющий генерировать подписи к фотографиям. Он может анализировать фотографии, доступные в сети, и снимки, загруженные с компьютера. Все изображения сохраняются, чтобы совершенствовать систему: чем больше загружено фотографий, тем точнее она генерирует подпись. Но система все еще несовершенна и допускает ряд оплошностей. Например, она не смогла опознать Apple Store, а девушку, сидящую за барабанами, описала как «женщину, готовящую на плите с нейтральным выражением лица».

Twitter-бот «Кот или хлеб»

Блогер Юрий Крупенин вдохновился мемом «Не еш подумой» и создал Twitter-бота «Кот или хлеб». Пользователь отправляет реплай боту с фотографией и ником @catorbread, а тот с помощью нейросети распознает, кто находится на фото: кот или хлеб. Пользователи, помимо хлеба и котов, начали отправлять хлеб, похожий на кота, различные фотожабы и собак.

Обнаружилась одна особенность: бот очень быстро «ломается», если отправлять ему изображения, не похожие на котов и хлеб. Так, в случаях морского котика и Альфа он выдал результат «КОТ КОТ КОТ ХЛЕБ КОТ ХЛЕБ».

Megacams

В середине сентября портал Megacams запустил сервис по поиску вебкам-моделей по фотографии. С помощью нейросетей он позволяет найти среди 180 тысяч готовых раздеться на камеру людей тех, кто максимально похож на человека с конкретного снимка (найти двойника). Чтобы воспользоваться сервисом, нужно указать адрес электронной почты, на которую должно прийти письмо со ссылками на профили найденных алгоритмом моделей. Алгоритм хорош работает на примере женщин, потому что в сервисе их зарегистрировано больше.

Естественно, через сервис начали пропускать фотографии актеров, политиков и глав ведущих IT-компаний мира. Идея того, что можно найти двойника любой знаменитости и увидеть его через веб-камеру голым, очень быстро заинтересовала пользователей. Но Megacams осуществляет поиск по некачественным миниатюрам, из-за чего результаты оказываются точными далеко не всегда.

Так, «двойников» Тима Кука можно с натяжкой сравнить с оригиналом. А «двойники» Дейенерис Таргариен похожи на нее лишь местами.

Иначе обстоит дело с поиском двойников Кары Делевинь и Меган Фокс. Пользователи нашли очень много девушек с похожей внешностью, а некоторые и вовсе выглядят как настоящие двойники.

Нейросетевая сигнализация против котов

Довольно «полезное» применение нейросетям нашел менеджер nVidia Роберт Бонд из Бивертона, штат Орегон, который самостоятельно создал антикошачью охранную сигнализацию. Она работает на основе нейросети и защищает его газон при помощи опрыскивателей. О своем изобретении Роберт рассказал в блоге разработчиков nVidia. На его создание у него ушло 10-15 часов работы.

Бонд использовал четыре устройства: одну камеру наблюдения, установленную на стене дома, компьютерную платформу Jetson TX1, Wi-Fi-модуль Particle Photon для «интернета вещей» и реле, подключенное к поливалкам. Если камера фиксирует изменение в обстановке, она последовательно делает семь снимков и передает их через FTP на Jetson. На Jetson работает система, основанная на нейросети Caffe: она определяет, есть ли на фотографии кошка. Если кошка обнаружена, сигнал передается на Photon, и тот через реле включает поливалки на две минуты.

Изначально нейросеть определяла не более 30% кошек. Это происходило из-за того, что большая часть фотографий, с помощью которых она обучалась, были сняты фронтально и для реальных условий не подходили.

Но на достигнутом Роберт останавливаться не собирается — он планирует создать систему, которая сможет прицельно атаковать котов водяной струей.

Яндекс: «Какой ты автомобиль?»

Летом сервис «Авто.ру» добавил в свои приложения для iOS и Android функцию распознавания автомобилей по фотографиям, также использующую нейросети. После запуска пользователи стали загружать не только фотографии автомобилей, но и фотографии людей. Как ни странно, система стала подбирать к фотографиям людей действительно «похожие» модели.

Так, система смогла распознать подвох между Леонардо Ди Каприо и его российским двойником, присвоив им модели разной стоимости.

Пользователи начали активно загружать свои фотографии и фотографии друзей, чтобы узнать, на какую модель автомобиля они похожи больше всего, и активно выражали недовольство, когда сервис находил схожесть с «Ладой» или «Москвичом» вместо желанных автомобилей класса люкс.

Похожий казус произошел с определением модели автомобиля, соответствующей Сергею Брину. «Авто.ру» «распознал» в нем «Москвич 2140» 1976 года выпуска. В чем-то сервис был прав, Сергей Брин действительно родился в Москве, но в 1973 году.

Искусственный интеллект Google пишет романы

В начале мая инженеры Google рассказали о том, что пропустили через нейросеть около 11 тысяч книг (три тысячи из которых были романтическими), чтобы обучить ее самостоятельно генерировать текст. Чтобы проверить, как система работает, они поставили перед ней задачу написать текст, чтобы он смог соединить по смыслу первое и последнее предложение. Портал Quartz раздобыл несколько примеров «творчества» искусственного интеллекта. Например, он должен был написать 13 предложений, начиная с предложения «Я в порядке» и заканчивая предложением «Тебе нужно поговорить со мной прямо сейчас».

Я в порядке.
Ты прав.
Все в порядке.
Ты прав.
Окей, хорошо.
Окей, хорошо.
Да, прямо сюда.
Нет, не прямо сейчас.
Нет, не прямо сейчас.
Поговори со мной сейчас.
Пожалуйста, поговори со мной сейчас.
Я поговорю с тобой прямо сейчас.
Ты должен поговорить со мной прямо сейчас.
Тебе нужно поговорить со мной прямо сейчас.

Женские романы были выбраны для обучения, потому что они построены на шаблонах, которые хорошо воспринимаются искусственным интеллектом. И это стало причиной появления очень забавных диалогов, созданных системой. Она слишком упрощала разговоры, делая их абсолютно бессмысленными и построенными на повторении. Но иногда она все же выдавала диалоги, присущие «классикам» женских романов:

Он стал молчаливым на долгое мгновение.
Он стал молчаливым на мгновение.
Он затих на мгновение.
Было темно и холодно.
Возникла пауза.
Теперь мой черед.

Как ни странно, эмоциональная атмосфера «неловкого» и «холодного» молчания была передана довольно точно, но опять-таки повторы продолжают портить впечатление.

Почему нейросети Deep Dream так любят собак?

После представления Google в открытом доступе исходного кода своего алгоритма Deep Dream, позволяющего из фотографий делать картины, пользователи заметили, что нейросеть не только создает на фотографиях инопланетное присутствие, но и пририсовывает собачьи морды.

Эта способность объясняется тем, что распознавание изображения строится на входном наборе данных. В Deep Dream используется база ImageNet университетов Стэнфорда и Принстона, состоящая из 14 миллионов фотографий, проанализированных людьми. Но в Google использовали не все ресурсы ImageNet, а только каталог, содержащий классификацию 120 подклассов собак.

Эффект Deep Dream возникает от того, что алгоритму «скармливают» исходное изображение, а затем запускают обратную связь, вынуждая распознавать его то, что он только что распознал. Этот процесс эквивалентен просьбе нарисовать то, как, по мнению нейросети, выглядит облако, а затем попросить нарисовать то, как выглядит сделанный ею рисунок облака. И так до бесконечности. Поэтому, что бы вы ни загрузили в Deep Dream, нейросеть все равно где-нибудь изобразит собачью морду.

Как выглядит сценарий, написанный нейросетью?

Команда кинемтографистов под руководством режиссера Оскара Шарпа и технолога Росса Гудвина сняла короткометражный фильм Sunspring по сценарию, написанному компьютером. Затем картина была представлена на конкурсе. Экcперимент получился, благодаря хорошей игре актеров. Сюжет у фильма довольно футуристичный: мир будущего с массовой безработицей, в котором молодые люди вынуждены продавать свою кровь.

Sunspring | A Sci-Fi Short Film Starring Thomas Middleditch

Сценарий Sunspring представляет собой набор слов, сгенерированных и структурированных суперкомпьютером 32 Tesla K80 GPU по шаблону после изучения загруженных в него сценариев. Из того, что написала нейросеть, съемочная группа выбрала отрывок, который можно было сыграть и показать максимально близко к тексту, не изменяя его. Таким образом, реплики и действия героев оказались довольно странными и не всегда понятными. Например, компьютер написал сцену, в которой персонажа неожиданно во время разговора рвет глазным яблоком:

С
(с улыбкой)
Я ничего не знаю ни о чем из этого.
H
(к Хоуку, вытаскивая глаз изо рта)
И что?
Н2
Ответа нет.

Сериал «Друзья», написанный нейросетью

В январе пользователь Twitter Andy Pandy поделился тем, как он использовал нейросеть для написания новых сценариев «Друзей». Он пропустил через нее все текстовые версии эпизодов и попробовал сгенерировать с ее помощью новые диалоги и истории.

Нейросети удалось уловить особенности персонажей. Герой Чендлера часто начинает свои предложения с наречия «so» («так», «таким образом»), а Джоуи иногда говорит с «витиеватой интонацией». Но сами диалоги получились довольно абсурдными:

Моника: Ненавижу мужчин, ненавижу мужчин!
Росс: Что ты собираешься делать?
Моника: Счастливый Гэндальф.
Моника: Хорошо. Я поеду в Минск.
Рэйчел: Ага, конечно.

Ostagram сочетает несочетаемое

Весной сервис Ostagram начал очень быстро набирать популярность. Чтобы его использовать, нужно выбрать для обработки две фотографии. Одна будет выступать в качестве фона, а другая — в качестве основного изображения.

Поскольку ограничений по тому, какие изображения можно использовать, нет, фантазия пользователей разыгралась не на шутку.

Если по поводу соединения президента Белоруссии с картофелем не возникло никаких противоречий, то соединение мягких пельменей и жесткого Джейсона Стейтема создает некий колорит.

Artisto и Vinci

Что касается нас, то наши приложения Artisto от команды my.com и Vinci от команды «ВКонтакте» способны обрабатывать фото и видео, превращая фотографии в шедевры известных художников, а видео — в художественные короткометражки, наполненные особенной атмосферой.

Prisma ВИДЕО: Петербург моими глазами

ШТАМПЫ - МакSим (2016г-клип в стиле Prisma, Vinci и Artisto)

А теперь в Artisto можно также одновременно накладывать на фото и видео маски ICQ и художественные фильтры.

Заключение

Сейчас уже не вызывает сомнения тот факт, что сценарий фильма «Она» вполне достижим в скором времени. Искусственный интеллект проникает в нашу жизнь, и мы в прямом смысле слова можем начать выстраивать с ним отношения. Прошлой осенью американский программист смог описать кадры своей прогулки по Амстердаму с помощью нейросети, разработанной исследователями из Стэнфордского университета. Она описывала на экране все, что «видела» через камеру.

Несмотря на то, что сейчас существует большое количество приложений, используемых исключительно для развлечения, все они преследуют одну большую цель — собрать как можно больше фотографий, звуков и прочего, чтобы научиться описывать мир нашими глазами и озвучивать его нашими голосами.

Конечно, во всем этом ощущается и опасение восстания искусственного интеллекта и порабощения им людей. Таких сценариев мы уже знаем очень много, благодаря фантастике. Но пока до этого очень далеко. И возможно, если это-таки случится, мы и поймем, что же с этим можно будет сделать и как «обуздать» обученный нами искусственный интеллект.

Mail.Ru Group

https://geektimes.ru/company/mailru/blog/281656/

12.07.2016 Как обучается ИИ

Есть ли связь между трехглазой жабой и нейронными сетями? Что общего у программы, выигрывающей в го, и приложением Prisma, перерисовывающим фотографии под стили картин известных художников? Как компьютеры одолели нарды, а затем покусились на святое — и выиграли у человека в “Космических захватчиков”?
Дадим ответы на все эти вопросы, а еще поговорим о революции, связанной с глубоким обучением, благодаря которому удалось добиться прорыва во многих областях.

Об авторах:

Сергей Николенко, математик, информатик, сотрудник лаборатории математической логики Санкт-Петербургского отделения Математического института РАН, лаборатории интернет-исследований НИУ ВШЭ, Казанского федерального университета и Deloitte Analytics Institute, также известный как игрок телеклуба “Что? Где? Когда?”. Сергей занимается исследованиями, практическими разработками и преподаванием в области машинного обучения и обработки данных, сетевых алгоритмов, теоретической информатики и криптографии. Работа Сергея Николенко поддержана грантом РНФ 15-11-10019.

Артур Кадурин, руководитель группы сегментирования аудитории в рекламном департаменте Mail.Ru Group, руководитель студенческой лаборатории проекта Техносфера при ВМК МГУ. Артур занимается анализом данных от различных сервисов Mail.Ru Group, в том числе используя технологии машинного обучения.

Самый интересный объект во вселенной

Во многих областях человеческий мозг до сих пор умеет больше, чем компьютер. Например, мы лучше обращаемся с естественным языком: можем прочитать, понять и содержательно изучить книгу. Да и вообще мы хорошо умеем обучаться в широком смысле этого слова. Что же, собственно, делает человеческий мозг и как он умудряется достичь таких высот? В чём разница между тем, что делают нейроны в мозге, и тем, что делают транзисторы в процессоре? Тема эта, конечно, совершенно неисчерпаема, поэтому давайте мы приведём только пару локальных примеров.

Как известно, каждый нейрон время от времени посылает по аксону электрический импульс, так называемый spike. Пока нейрон жив, он никогда не останавливается и продолжает подавать сигналы. Но когда нейрон находится в “выключенном” состоянии, частота подачи сигналов маленькая, а когда нейрон возбуждается, “включается”, частота спайкового разряда сильно увеличивается.

Нейрон работает стохастически: он выдаёт электрические сигналы через случайные промежутки времени, и последовательность этих сигналов можно очень хорошо приблизить случайным пуассоновским процессом. В компьютерах тоже есть гейты, обменивающиеся сигналом друг с другом, но они как раз делают это совершенно не случайно, а с очень жёсткой синхронизацией; “частота процессора”, давно уже измеряющаяся в гигагерцах, это и есть частота такой синхронизации. Каждый такт гейт одного уровня передает сигнал следующему уровню, и делают они это хоть и несколько миллиардов раз в секунду, но строго одновременно, как по команде.

Однако очень простые наблюдения показывают, что на самом деле нейроны хорошо умеют синхронизироваться и очень точно засекать очень маленькие промежутки времени. В частности, самая простая и яркая иллюстрация — стереозвук. Когда вы идёте с одной стороны комнаты на другую, вы можете, опираясь исключительно на звук от телевизора, легко определить направление к нему (и умение определить, откуда идёт звук, было как раз крайне важно для выживаемости в доисторические времена). Чтобы определить направление, вы отмечаете разницу во времени, с которой звук приходит в левое и правое ухо. Расстояние между внутренними ушами не слишком большое (сантиметров 20), и если разделить его на скорость звука (340 м/c), получится очень короткий интервал в приходе звуковых волн, десятые доли миллисекунды, который, тем не менее, нейроны отлично замечают и позволяют определить направление с хорошей точностью. То есть ваш мозг в принципе мог бы работать как компьютер с частотой, измеряющейся килогерцами; с учётом огромной степени параллелизации, достигнутой в архитектуре мозга, это могло бы привести ко вполне разумной вычислительной мощности… но почему-то мозг этого не делает.

Кстати, о параллелизации. Второе важное замечание про работу мозга: мы распознаём лицо человека за пару сотен миллисекунд. Причем связи между отдельными нейронами активируются за десятки миллисекунд, то есть в полном цикле распознавания не может быть последовательной цепочки вычислений длиннее нескольких штук нейронов — скорее всего, их меньше десятка. Мозг, с одной стороны, содержит огромное количество нейронов, но, с другой стороны, он устроен плоско по сравнению с обычным процессором. У процессора очень длинные последовательные цепочки исполнения, которые он обрабатывает, а в мозге последовательные цепочки короткие, но зато он работает параллельно, потому что нейроны зажигаются сразу во многих местах мозга, когда начинают распознавать лицо и делать много других увлекательных вещей.

На иллюстрации показано, как во времени происходит процесс обработки зрительного сигнала. Свет попадает на сетчатку, там он преобразуется в электрические импульсы и через 20—40 миллисекунд “изображение” передается дальше. Первый уровень обработки занимает 10—20 миллисекунд (на картинке время показано нарастающим итогом, т.е., например, до выдачи команды моторной системе проходит всего 140-190 мс). На втором уровне обработки, ещё через 20—30 миллисекунд, сигнал приходит на нейроны, которые распознают простые локальные формы. Потом еще один уровень, ещё один уровень, и вот на четвёртом уровне мы уже видим промежуточные формы: можно найти нейроны, которые “зажигаются” при виде квадратов, градиентов цветов или других подобных объектов. Потом ещё пара уровней нейронов, и вот, через 100 миллисекунд от начала процесса, у нас уже зажигаются нейроны, отвечающие высокоуровневым объектам. Например, если вы познакомились с человеком, у вас в мозге появляется нейрон, отвечающий за его лицо (мы не готовы ручаться за это утверждение, но скорее всего именно так); более того, скорее всего появляется и нейрон или группа нейронов, “отвечающая” за этого человека в целом и срабатывающая при любом контакте с ним, в том числе письменном, когда лица не видно. Если вы увидите лицо снова (а нейрон за это время не разобучится обратно, «забыв» прежнюю информацию), то через ~100 миллисекунд в вашей голове активируется тот самый нейрон.

Почему мозг работает именно так? Самым простой и ничего не объясняющий ответ на этот вопрос — “так получилось”. В ходе эволюции мозг сформировался таким образом, и этого оказалось достаточно для решения эволюционных задач. В рационалистском сообществе об этом говорят так: живые существа — не fitness-maximizers, которые оптимизируют некую целевую функцию выживаемости, а adaptation-executers, которые исполняют когда-то случайно выбранные “достаточно удачные” решения. Ну и так получилось, что жёсткой синхронизации со встроенным метрономом так и не сформировалось, а почему именно так — мы ответить не готовы.

На самом деле нам представляется, что вопрос “почему?” здесь действительно не совсем уместен, и лучше, интереснее и продуктивнее задавать вопрос “как?”: как же именно работает мозг? Точно мы не знаем, но на уровне отдельных нейронов, а местами и групп нейронов, происходящие в нашей голове процессы уже сейчас можно описать достаточно хорошо.

Чему ещё надо поучиться у мозга — это извлечению признаков (feature extraction, feature engineering). Мозг отлично умеет обучаться и обобщать на очень-очень ограниченной выборке данных. Если маленькому ребёнку показать стол и сказать, что это стол, то ребёнок быстро начнет другие столы тоже называть столами, хотя они, казалось бы, не имеют ничего общего: один круглый, другой квадратный, один на одной ноге, другой на четырех. Совершенно очевидно, что ребёнок не делает это методом обучения с учителем, у него явно не хватило бы тренировочного множества для этого; можно предположить, что у ребёнка сначала появился в голове некий кластер “объектов на ножках, на которые ставят вещи”, затем мозг извлёк, так сказать, платоновский эйдос стола, а потом уже услышал слово, которым это называется, и просто пометил готовую идею этим словом.

Небольшое лирическое отступление: этот процесс идёт, конечно, и в обратном направлении; хотя при упоминании Уорфа с Сапиром у многих лингвистов начинают нервно подёргиваться не только нейроны, нельзя не признать, что многие идеи, особенно абстрактные, являются во многом социально-культурными конструктами. Например, у любой культуры найдётся слово, похожее по смыслу на “любовь”, но его содержание может быть очень разным, наша “любовь” совсем не похожа на древнеяпонскую. Поскольку физиологическая основа у всех людей, в общем, одинаковая, получается, что возникающая в мозгу абстрактная идея “влечения к другому человеку” не просто маркируется, а активно подправляется и конструируется теми текстами и культурными объектами, которые её для человека определяют. Но мы отвлеклись.

Другая сторона вопроса — нейропластичность. Ученые проводили эксперименты, выясняя, как разные части мозга могут легко обучиться делать вещи, для которых они, казалось бы, не предназначены. Нейроны везде одинаковые, но, в принципе, в мозге есть области, отвечающие за разные вещи. Есть зона Брока, отвечающая за речь, есть зона, отвечающая за зрение, и так далее. Однако мы можем нарушить условные биологические границы.

Этот человек обучается видеть языком. Он прикрепляет на язык электроды, вешает на лоб камеру, и камера попиксельно транслирует изображение на электроды, покалывающие язык. Человек цепляет на себя такую штуку, ходит с ней с открытыми глазами несколько дней. Часть мозга, получающая сигналы из языка, начинает соображать: это же очень похоже на то, что приходит из глаз. Если через неделю издевательства глаза завязать, то человек начинает реально видеть языком. Человек распознает формы, не натыкается на стенки.

На этой фотографии человек превращается в летучую мышь. Он ходит с завязанными глазами и пользуется эхолокатором, сигналы с которого поступают через кожу на осязательные нейроны. И тоже через несколько дней человек развивает в себе способности к эхолокации. Специального органа, распознающего ультразвук, у нас нет, нужно прикрепить внешний локатор, но обрабатывать информацию мы учимся без проблем, то есть можем ходить в темноте и не наталкиваться на стены.

А здесь жабе вживили третий глаз. Сначала жаба немножко походила с тремя глазами, потом два других ей закрыли, и она начала отлично пользоваться третьим.

Мозг может адаптироваться к очень большому числу новых источников данных. То есть получается, что у мозга есть некий “единый алгоритм”, которому всё равно, что подают, он из этого извлекает смысл. Этот единый алгоритм — это и есть святой Грааль современного искусственного интеллекта; как нам представляется, глубокое обучение —это самое близкое к нему из того, что было сделано до сих пор.

Однако, конечно, надо быть осторожным в утверждениях о том, действительно ли всё это похоже на то, что делает мозг. Очень яркая недавняя работа “Could a neuroscientist understand a microprocessor?” пытается проследить, насколько бы получилось у методов современной нейробиологии проанализировать какой-нибудь очень простой “мозг” —скажем, простенький процессор из Apple I и Atari, запускающий ту самую игру Space Invaders, к которой мы ещё вернёмся. Подробно сейчас об этом рассказывать не будем, но статью прочитать рекомендуем. Спойлер: ни-че-го у нейробиологии не получилось…

Извлечение признаков

Неструктурированная информация (текст, картинки, музыка) обрабатывается так: есть сырой вход, потом из него получаются признаки, несущие содержательную информацию, а потом на этих признаках строятся классификаторы. Самое сложное в этом процессе — понять, как из неструктурированного входа выделить хорошие признаки. И системы обработки неструктурированной информации до недавнего времени выглядели так: люди старательно пытались вручную придумать хорошие признаки, оценивая то, что у них получается, по качеству построенных на них уже достаточно простых регрессоров и классификаторов.

В качестве примера можно рассмотреть Mel Frequency Cepstral Coefficients (MFCC), или мел-частотные кепстральные коэффициенты, которые часто применяют в качестве характеристики речевых сигналов. В частности, MFCC используют для распознавания речи, а в 2000 г. Европейский институт телекоммуникационных стандартов определил стандартизированный MFCC алгоритм для использования в сотовой связи. До определенного момента собранные руками признаки доминировали в машинном обучений. Так например в обработке изображений повсеместно использовался SIFT (Scale Invariant Feature Transform), который позволяет выделять устойчивые к разного рода преобразованиям признаки картинки и опираясь на них уже проводить поиск дубликатов или классификацию.

В целом, признаков придумано много, но мы всё ещё не можем повторить успехи мозга. В голове человека нет никакого биологического предопределения — нет нейронов, генетически созданных, только для речи, не существует нейронов, «приученных» только к запоминанию лиц, и так далее. Похоже на то, что любая часть мозга может обучиться чему угодно. Да и безотносительно мозга нам очень хотелось бы, конечно, научиться выделять признаки автоматически; чтобы сделать сложные ИИ, большие модели, в которых есть нейроны, связанные друг с другом для передачи сигналов, сочетающих любую информацию, скорее всего человеческих сил для ручной разработки признаков не хватит.

Искусственные нейронные сети

Когда Фрэнк Розенблатт предложил свой линейный перцептрон, все начали представлять, что вот-вот машины станут по-настоящему умными. Для конца 1950-х годов было очень круто, что сеть сама обучалась распознавать буквы на фотографиях. Около того же времени появились нейронные сети из многих перцептронов, которые обучаются алгоритмом backpropagation (это метод градиентного спуска с небольшой модификацией, называемый метод обратного распространения ошибки). Алгоритм backpropagation — это, по сути, способ вычислять градиенты, то есть производные ошибки.

Идеи для автоматического дифференцирования появились еще в 1960-х годах, но переоткрыл backpropagation для широкого использования британский информатик Джеффри Хинтон — один из ключевых исследователей в революции глубокого обучения. К слову, прапрадедом Хинтона был сам Джордж Буль, один из основателей математической логики.

Многоуровневые нейронные сети появились во второй половине 1970-х. Не было никаких технических препятствий: возьмём сеть с одним слоем нейронов, потом добавим скрытый слой нейронов, потом ещё один — вот таким нехитрым образом получается глубокая сеть, и backpropagation на ней, формально говоря, работает точно так же. Дальше эти сети начали применять для распознавания речи и изображений, стали появляться рекуррентные сети, сети с учётом времени и так далее. Но к концу 1980-х годов выяснилось, что с обучением нейронных сетей есть несколько существенных проблем.

В первую очередь стоит сказать о технической проблеме. Для того чтобы нейронная сеть делала что-то разумное, в основе должно быть хорошее железо. В конце восьмидесятых и начале девяностых работы в области распознавания речи нейронными сетями выглядели примерно так: давайте изменим параметр обучения и запустим сеть обучаться на неделю. Потом посмотрим на результат, ещё раз изменим параметры и подождём ещё неделю. Это, конечно, было очень романтическое время, но поскольку в нейронных сетях настройка параметров чуть ли не важнее собственно архитектуры, для хорошего результата на каждой конкретной задаче требовалось слишком много времени или слишком мощное “железо”.

Теперь коснёмся содержательной проблемы: backpropagation формально действительно работает, но лишь формально. Долгое время не удавалось эффективно обучать нейронные сети с более чем двумя скрытыми слоями из-за проблемы исчезающих градиентов (vanishing gradients) — при вычислении градиента (направления наибольшего роста ошибки сети в пространстве весовых коэффициентов) методом обратного распространения он уменьшается по мере прохождения от выходного слоя сети к входному. Обратная проблема — exploding gradients («взрывной рост градиента») — проявляется в рекуррентных сетях. Если начать разворачивать рекуррентную сеть, может так сложиться, что градиент пойдет вразнос и станет экспоненциально расти. Более подробно об этих проблемах написано, например, в статье «Предобучение нейронной сети с использованием ограниченной машины Больцмана».

В конечном счёте эти проблемы привели ко второй «зиме» нейронных сетей, которая продолжалась все 1990-е годы и начало 2000-х; как писал один из классиков нейронных сетей Джон Денкер, “neural networks are the second best way of doing just about anything” (менее известно продолжение этой фразы: “...and genetic algorithms are the third”). Но десять лет назад случилась настоящая революция в машинном обучении. Джеффри Хинтон и его группа изобрели способ правильно обучать глубокие модели. Сначала они это сделали для так называемых deep belief networks, основанных на машинах Больцмана, а потом научились хорошо делать и для классических нейронных сетей.

В чем же заключалась идея Хинтона? У нас есть глубокая сеть, которую мы хотим обучить. То, что близко к выходам сети, как мы знаем, хорошо обучается методом обратного распространения ошибки. Как обучать то, что близко ко входу? Сначала на первом уровне запустим обучение без учителя. Выделим какие-нибудь признаки, поищем общее между входами. После того как мы это сделали, попредобучаем второй уровень, затем — третий. А потом, когда мы все уровни предобучили, используем систему как начальное приближение и уже дообучаем с помощью backpropagation нашу конкретную задачу. Это прекрасный метод… и он, конечно, тоже был предложен ещё в семидесятых-восьмидесятых годах. Но, как и обычный backpropagation, это работало плохо; существенные успехи в начале 1990-х были достигнуты в обработке изображений посредством автокодировщиков (группа Яна ЛеКуна), но в целом это всё равно работало не лучше решений, основанных на вручную сконструированных признаках. Заслугой Хинтона (объяснять которую детально здесь было бы слишком долго и сложно) было именно то, что он заставил этот подход работать для глубоких сетей.

С другой стороны, к концу нулевых годов появились достаточные вычислительные мощности для реализации этого метода. Основная техническая революция произошла, когда Руслан Салахутдинов (под руководством того же Хинтона) смог реализовать обучение глубоких сетей на GPU (на видеокартах). Поскольку обучение можно представить как большое число относительно независимых и относительно нетребовательных вычислительных процессов, всё заработало в десятки раз быстрее. На сегодняшний день все серьёзные глубокие модели нужно обучать на видеокартах, а для самих производители видеокарт глубокое обучение стало первоочередным приложением, на которое они оглядываются не меньше, чем на современные игры; посмотрите, например, этот питч от CEO NVIDIA.

Глубокая архитектура

Зачем вообще нужны глубокие нейронные сети с десятками скрытых слоев? Почему нельзя обучать нейронные сети с одним скрытым уровнем? В 1991 году Курт Хорник сформулировал универсальную теорему аппроксимации, которая говорит, что для любой непрерывной функции найдется нейронная сеть с линейным выходом, которая аппроксимирует эту функцию с заданной точностью. То есть нейронная сеть с одним скрытым уровнем может приблизить любую заданную функцию с любой заданной точностью. Но, как это обычно бывает, сеть эта будет экспоненциального размера, да и даже если оставить в стороне эффективность, непонятно, как перейти от того, что такая сеть существует в пространстве возможных сетей, к тому, что мы её обучим в реальности.

На самом деле, если взять более глубокое представление, то одну и ту же функцию и одну и ту же задачу можно решить более компактно, или можно решить больше задач за то же время. Например, в классической информатике можно смотреть, какие схемы выражают булевы функции, и оказывается, что многие функции можно выразить гораздо эффективнее, если позволить иметь глубину не 2, а 3, для некоторых функций — глубину 4 и так далее. Что-то похожее происходит и в машинном обучении: представьте себе пространство примеров, которые мы хотим, скажем классифицировать на две части. Если у нас есть только условный “один уровень”, мы можем разделить их (гипер)плоскостью. Если есть два уровня — можем позволить себе линейные разделяющие поверхности, склеенные из нескольких гиперплоскостей (примерно поэтому работает бустинг: даже очень простые модели становятся гораздо мощнее, если разрешить их склеивать правильным образом). На третьем уже появляются сложные конструкции из таких разделяющих поверхностей, которые даже визуализировать непросто. И так далее; вот в качестве простейшего примера иллюстрация из книги Goodfellow, Bengio, Courville “Deep Learning”, на которой видно, что если скомбинировать даже простейшие линейные классификаторы, каждый из которых делит плоскость на две полуплоскости, в результате можно описать области гораздо более сложной формы:

Итак, мы пытаемся строить более глубокие архитектуры. Основную идею мы уже описали: мы предобучаем нижние уровни один за другим, а затем дообучаем всю сеть, используя обычный backpropagation. Поэтому, давайте чуть-чуть подробнее остановимся на предобучении.

Одна из самых простых идей — научить нейронную сеть копировать входы в выходы через внутренний слой. Если внутренний слой будет меньшего размера, то кажется, что нейронная сеть должна научиться выделять какие-то существенные признаки из данных, благодаря которым сможет восстановить исходную информацию. Такая архитектура нейронных сетей получила название autoencoder (автокодировщик).

Архитектура автокодировщика — это сеть прямого распространения, без обратных связей, наиболее схожая с перцептроном и содержащая входной слой, промежуточный слой и выходной слой. В отличие от перцептрона, выходной слой автоэнкодера должен содержать столько же нейронов, сколько и входной слой.

^{При обучении стремятся получить выходной вектор x', наиболее близкий к входному вектору x}

Основной принцип работы и обучения сети автокодировщика — получить на выходном слое отклик, наиболее близкий к входному. Как правило, под автокодировщиками понимаются неглубокие сети (хотя есть и исключения).

Ранние автокодировщики фактически снижали размерность. Если мы возьмём намного меньше скрытых нейронов, чем размерность входа и выхода, то получится, что мы заставляем сеть наилучшим образом сжать полученную информацию в компактное представление, требуя при этом, чтобы потом можно было разжать её обратно. Это то, что делают сжимающие автокодировщики (undercomplete autoencoders) с размерностью скрытого слоя ниже, чем у входа. Но сейчас, как правило, используются так называемые overcomplete autoencoders, когда размерность скрытого уровня больше, иногда гораздо больше, чем размерность входа. С одной стороны, это хорошо, потому что можно выделить больше признаков, с другой — сеть может обучиться просто копировать вход-выход с ошибкой 0. Чтобы такого не случилось, нужно не просто оптимизировать ошибку, а вводить регуляризацию.

^{Возвращаем точки на многообразие входов в датасете}

Обычная регуляризация в том смысле, чтобы делать веса поменьше по модулю при помощи того или иного априорного распределения, как в линейной регрессии, нам не подходит. С автокодировщиками обычно работают более хитрые способы регуляризации, связанные с изменением входов и выходов. Один классический подход — это автокодировщик с шумоподавлением (denoising autoencoder), убирающий шум. Для этого при обучении на входной образ накладывают шум и требуют от сети восстановить исходный образ. В этом случае размер скрытого слоя можно задавать больше, чем размер входного (и, соответственно, выходного) слоёв — сети всё равно будет чем заняться, задача будет сложной в любом случае.

^{Автокодировщик с шумоподавлением}

Под “шумом” здесь, кстати, может понимается довольно радикальное изменение входа. Например, если это бинарная картинка из пикселей, то можно просто убрать часть пикселей, заменив их нулями (часто убирают половину!). Но целевая функция, которую мы реконструируем, — это всё равно правильный X. Получается, что мы заставляем автокодировщик реконструировать часть входа по данной другой части: фактически, автокодировщик должен понять, как устроены все входы вообще, понять структуру того самого многообразия в чертовски многомерном пространстве.

Как проходит глубокое обучение

Предположим, что мы решаем задачу поиска лиц на картинках. Тогда единицей входных данных будет произвольное изображение заданного размера или, по сути, точка в пространстве очень большой размерности. А функция, которую мы пытаемся найти, должна принимать значения 0 или 1 в зависимости от того, есть лицо на картинке или нет. Совершенно очевидно, что среди всех возможных изображений лишь малая часть содержит лица, и расположены эти изображения в нашем многомерном пространстве островками из единиц в океане нулей. Если “прогуляться” от одного лица к другому в пространстве картинок, представленных пикселями, в середине прогулки будут бредовые изображения. Но оказывается, что если предобучить нейронную сеть, например с помощью нескольких слоёв из автокодировщиков, то ближе к выходному слою исходное пространство изображений превращается в пространство признаков, в котором “пики” нашей искомой функции расположены существенно более плотно, и “прогулка” в пространстве признаков уже выглядит куда более осмысленно.

В общем случае, описанный подход действительно приносит дивиденды, однако выделенные признаки часто оказываются не интерпретируемы с точки зрения человека. Более того, многие признаки выделяются совокупностью нейронов, что ещё больше усложняет понимание. Конечно, нельзя категорически утверждать, что это плохо, однако наши современные представления о мозге говорят нам, что в мозге всё происходит не так: у нас практически нет плотных слоёв, что как раз означает, что в решении очередной задачи на каждом уровне участвует только малая часть нейронов, отвечающая за “выделение” соответствующих признаков.

Как же всё-таки сделать так, чтобы каждый нейрон обучался какому-нибудь полезному признаку? И снова мы возвращаемся к регуляризации. В данном случае речь идет о дропауте (dropout; переводов хороших для этого слова мы не знаем, да и бог с ним). Как мы уже упоминали, обучение нейронной сети обычно производят стохастическим градиентным спуском, случайно выбирая по одному объекту из выборки. Дропаут-регуляризация заключается в том, что при выборе очередного объекта изменяется структура сети: каждая вершина выбрасывается из обучения с некоторой вероятностью. Выбросив, скажем, половину нейронов, мы получим “новую” архитектуру сети.

Проведя обучение на оставшейся половине нейронов, мы увидим очень интересный результат. Теперь каждый нейрон должен обучиться выделять какой-нибудь признак сам. Он не может “рассчитывать” на то, что объединится с другими нейронами, потому что те могут быть выключены.

С дропаутом мы словно усредняем гигантскую смесь разных архитектур: получается, что мы на каждом тестовом примере строим новую модель, на каждом тестовом примере берём одну модель из гигантского ансамбля и обучаем на один шаг, затем для следующего примера берём другую модель и обучаем её на один шаг, а потом в конце на выходе усредняем все эти модели. Это очень простая с виду идея; но оказывается, что дропаут дает очень сильный эффект практически на всех глубоких моделях.

И ещё одно небольшое лирическое отступление, которое свяжет то, что происходит сейчас, с тем, с чего мы начинали. Что делает нейрон при дропауте? У него есть своё значение, это обычно число от 0 до 1 или от —1 до 1. И он его посылает, но не всегда, а с вероятностью ½. Но что если поменять местами эти числа? Пускай теперь нейроны посылают всегда один и тот же по величине сигнал, а именно ½, но с вероятностью, равной своему значению. Средний выход нейрона от этого не изменится, но в результате у нас получатся стохастические нейроны, случайно посылающие сигналы. Интенсивность, с которой они это делают, зависит от их выхода. Чем больше выход, чем более нейрон активирован, тем чаще он будет посылать сигналы. Ничего не напоминает? Мы говорили об этом в самом начале статьи: нейроны в мозге работают именно так. Как и в мозге, нейрон не передает амплитуду спайка, нейроны передают один бит — факт спайка. Вполне возможно, что наши стохастические нейроны в мозге выполняют именно функцию регуляризатора, и, возможно, именно благодаря этому мы так хорошо учимся отличать столы от стульев, котиков и иероглифов.

На сегодняшний день дропаут применяют постоянно. После того как к дропауту добавили еще несколько трюков с обучением, оказалось, что способ unsupervised pre-training не так уж и нужен. Иначе говоря, проблему исчезающих градиентов в наше время можно считать в основном решённой, по крайней мере для обычных нейронных сетей (у рекуррентных всё не так просто).

Сверточные сети

^{Схема сверточной сети}

А теперь поговорим о сверточных сетях. Архитектура сверточной нейронной сети (convolutional neural network, CNN) была представлена в 1998 году французским исследователем Яном ЛеКуном. Сеть названа в честь операции свёртки, которая часто используется для обработки изображений и описывается следующей формулой:

где f — исходная матрица изображения, g — ядро (матрица) свертки.

Предположим, что у нас на входе не дискретный набор независимых размерностей, а изображение, в котором относительное расположение пикселей играет существенную роль. Некоторые пиксели располагаются рядом друг с другом, какие-то, наоборот, далеко друг от друга. В свёрточной нейронной сети один нейрон второго уровня связан не со всеми нейронами первого уровня, а с их частью, расположенной локально. Тогда эти нейроны будут постепенно обучаться распознавать локальные признаки, нейроны второго уровня, устроенные таким же образом, будут реагировать на локальные комбинации локальных признаков первого уровня и так далее. Свёрточная сеть почти всегда состоит из нескольких уровней, и уровне может быть много, до нескольких десятков.

Каждый уровень свёрточной сети в общем случае состоит из трех операций:

свёртки, которую мы уже описали,
нелинейности, например сигмоид-функции или гиперболического тангенса,
пулинга (субдискретизации).

Пулинг, или субдискретизация, — это применение простой математической функции (mean, max, min...) к локальной группе нейронов. В большинстве случаев считается, что для нейронов более высоких уровней важнее проверить, есть ли тот или иной признак в данной области, чем запомнить точно его координаты; обычно на этом этапе просто берут максимум значения активации признака по локальной группе (max-pooling). Кроме прочего, такой подход позволяет сделать свёрточную сеть устойчивой к небольшим изменениям.

Огромное количество соверменных приложений работает на основе сверточных сетей. Например, приложение Prisma, о котором вы все уже наслышаны (и которое теперь тоже имеет прямое отношение к Mail.Ru Group), также работает на основе свёрточных нейронных сетей. Распознавание объектов на изображении с помощью свёрточных сетей используется практически во всех современных приложениях компьютерного зрения. Например, основанные на свёрточных сетях решения для scene labeling — задача, в которой изображение с камеры автоматически разделяется на зоны, которые затем классифицируют как изображения известных системе объектов, позволяют реализовать системы помощи водителям в автомобиле. Впрочем, можно обойтись и без водителя, — именно такие методы сейчас используются в создании самоуправляемых машин.

Ну и, конечно же, свёрточные сети используются в AlphaGo, о которой мы писали в прошлый раз.

Обучение с подкреплением

Обычно задачи машинного обучения делятся на два вида: supervised learning — это когда даны правильные ответы и по ним надо обучиться, unsupervised learning — когда даны вопросы, а ответы нет. В реальной жизни всё не так. Как обучается ребёнок? Когда он подходит к столу и ударяется о него головой, в мозг поступает сигнал, что стол — это боль. В следующий раз (ну, или через один) ребёнок головой об стол не стукнется. Иначе говоря, происходит активное исследование окружающей среды, в котором заранее правильного ответа не дано: в мозге нет никакого априорного знания о том, что стол — это боль. Кроме того ребёнок не будет ассоциировать непосредственно стол с болью (чтобы это произошло, нужен обычно специальный внешний инжиниринг нейронных связей, примерно как в “Заводном апельсине”), скорее конкретное действие по отношению к столу, а со временем перенесёт это знание на более общий класс предметов, например, на большие твёрдые предметы с углами.

Ставить эксперименты, получать результаты и на этом обучаться — это и есть обучение с подкреплением. Агент взаимодействует с окружающей средой, совершает действия, окружающая среда его поощряет за эти действия, агент продолжает их совершать. Иначе говоря, целевая функция представлена в виде награды, и на каждом шаге агент, находясь в каком-то состоянии S, выбирает из имеющегося набора действий какое-то действие А, а затем окружающая среда сообщает агенту, какую награду он получил и в каком новом состоянии S’ оказался.

Одна из проблем обучения с подкреплением заключается в том, чтобы случайно не переобучиться совершать в похожих состояниях одно и то же действие. Иногда мы можем ошибочно связать реакцию окружающей среды с нашим непосредственно предшествовавшим этой реакции действием; это известный “баг” в программе нашего мозга, который старательно ищет паттерны даже там, где их нет и быть не может. Знаменитый американский психолог Беррес Скиннер (один из отцов бихевиоризма; именно он изобрёл знаменитый Skinner box для издевательств над мышами) поставил такой эксперимент над голубями: он сажал голубя в клетку и через равные (!), ни от чего не зависящие интервалы времени насыпал в клетку корм. В конце концов голубь решал, что получение корма как-то зависит от его действий. Например, если непосредственно перед кормлением голубь махал крыльями, то в дальнейшем он пытался добыть себе еду именно таким способом — помахав крыльями. Такой эффект впоследствии получил название “голубиное суеверие”; подобный механизм, вероятно, приводит и к человеческим суевериям.

Вышеописанная проблема — это так называемая дилемма exploitation vs exploration, то есть, с одной стороны, надо исследовать новые возможности, изучать окружающую среду так, чтобы в ней что-то интересное найти. С другой стороны, в какой-то момент можно решить: «Я уже исследовал, и я уже понимаю, что стол — это больно, а конфетка — это вкусно, и я могу продолжать идти и получать конфетку, а не пытаться принюхиваться к тому, что лежит на столе, в надежде, что оно еще вкуснее».

Есть очень простой, но от этого не менее важный пример задачи обучения с подкреплением — многорукие бандиты (multiarmed bandits). Смысл метафоры в том, что агент “сидит” в комнате, в которой находится несколько игровых автоматов. Агент может кинуть монетку в автомат, дёрнуть за ручку, и в результате автомат выдаст ему какой-то выигрыш. У каждого автомата есть своё собственное математическое ожидание выигрыша, и оптимальная стратегия очень проста: достаточно всё время дёргать за ручку автомата с наибольшим ожиданием. Проблема только в том, что агент не знает, у какого автомата какое ожидание, и его задача состоит в том, чтобы за ограниченное количество попыток выбрать лучший автомат. Или хотя бы “достаточно хороший” — понятно, что если несколько автоматов имеют очень близкие ожидания выигрыша, то их трудно и, вероятно, не нужно будет различать. В этой задаче состояние среды всегда одно и то же: хотя в некоторых жизненных приложениях вероятность получить выигрыш от конкретного автомата может меняться со временем, в нашей постановке этого не происходит и всё сводится только к тому, чтобы найти оптимальную стратегию выбора очередной ручки.

Очевидно, что нельзя всегда дёргать наиболее выгодную в среднем ручку, так как если нам случайно повезет на высокодисперсионном, но в среднем совершенно невыгодном автомате в самом начале, мы после этого долго с него не слезем. В то же время самый выгодный автомат может и не выдать большого выигрыша в первые же несколько попыток, и тогда вернуться к нему мы сможем только ещё очень и очень не скоро.

Хорошие стратегии для многоруких бандитов строятся на разных реализациях принципа оптимизма при неопределённости. Это значит, что если в наших знаниях об автомате осталась достаточно большая неопределённость, мы будем трактовать её в свою пользу и исследовать дальше, всегда оставляя себе право, пусть и с небольшой вероятностью, перепроверить свои знания относительно ручек, показавшихся нам невыгодными.

В качестве целевой функции в этой задаче часто выступает цена обучения (regret). Это то, насколько ожидаемый доход от вашего алгоритма меньше, чем ожидание выигрыша у оптимальной стратегии, когда алгоритм просто сразу же божественным вмешательством понял, какая ручка у «бандита» правильная. Оказывается, для некоторых очень простых стратегий можно доказать, что они оптимизируют цену обучения среди всех стратегий вообще (с точностью до константных множителей). Одна из таких стратегий называется UCB-1 (Upper Confidence Bound), и выглядит она так:

Проще говоря, мы всегда дёргаем за ручку с наивысшим приоритетом, где приоритет — это средний доход от этой ручки плюс дополнительный член, который с одной стороны растёт со временем игры, чтобы периодически возвращаться к каждой ручке и проверять, не пропустили ли мы что-нибудь у неё, а с другой стороны, убывает каждый раз, когда мы эту ручку дёрнули.

Несмотря на то, что задача о многоруких бандитах в базовом варианте не подразумевает перехода между состояниями, именно из UCB-1 происходят алгоритмы, используемые для поиска в дереве ходов игры го, с помощью которого AlphaGo одержала историческую победу.

А теперь давайте вернёмся к обучению с подкреплением с несколькими состояниями. Есть агент, есть среда, и среда даёт агенту вознаграждение на каждом шаге. Агент хочет получать, как мышка в лабиринте, сыра побольше, а разрядов тока поменьше. В отличие от задачи о многоруких бандитах, ожидаемый “выигрыш” теперь зависит не только от текущего выбранного действия, но и от текущего состояния среды, то есть, с точки зрения агента, от истории совершённых им действий. Вообще, в среде с несколькими состояниями оказывается, что стратегия, приносящая максимальную прибыль “здесь и сейчас”, не всегда будет оптимальной, так как может приводить в менее выгодные состояния среды в будущем. Таким образом, мы приходим к максимизации суммарной прибыли за всё время вместо поиска оптимального действия в текущем состоянии (точнее, оптимальное-то действие мы всё равно, конечно, ищем, но оптимальность теперь будет определена по-другому).

С точки зрения суммарной прибыли мы можем оценить и каждое состояние среды. Введем понятие функции ценности состояния (value function) как прогноза общего вознаграждения после посещения состояния. Задаваться функция ценности состояния может, например, так:

Другой вариант функции ценности — это Q-функция, аргументом которой является не только состояние, но и действие. Это то же самое, что и функция ценности состояния, но с более высоким “уровнем детализации”: функция Q оценивает ожидаемый выигрыш при условии, что в текущем состоянии агент сделает данное действие.

Суть алгоритмов обучения с подкреплением часто состоит в том, чтобы агент на основе получаемого от среды вознаграждения сформировал для себя функцию полезности Q, что впоследствии даст ему возможность уже не случайно выбирать стратегию поведения, а учитывать опыт предыдущего взаимодействия со средой.

Deep Q-Network

В 2013 году Мних с соавторами опубликовали статью, в которой один из стандартных для обучения с подкреплением методов применяется в сочетании с глубокими нейронными сетями для игры в консольные игры Atari.

TD-обучение (temporal difference learning, TD-learning) обычно применяется в контекстах, где награда представляет собой результат достаточно длинной последовательности действий, и проблема состоит ещё и в том, чтобы распределить конфетку по приведшим к ней ходам и/или состояниям среды. Например, та же игра го может продолжаться несколько сотен ходов, но “конфетку” за выигрыш или “удар током” за проигрыш модель получит только в самом-самом конце, когда станет известен результат; какие ходы из вашей сотни были хорошими, а какие плохими — большой вопрос, даже когда результат известен. Вполне возможно, что в середине партии вы стояли на проигрыш, но так получилось, что противник ошибся, и вы выиграли. И нет, пытаться искусственно вводить “промежуточные цели” вроде “выигрыша материала” — это плохая идея, практика показывает, что соперник легко сможет воспользоваться неизбежными дефектами такой системы.

Основная идея TD-обучения заключается в том, чтобы переиспользовать уже обученные оценки “поздних” состояний, близких к “конфетке”, в качестве целей для обучения предыдущих состояний. Мы начинаем со случайных (вполне бредовых) оценок состояния в игре, но потом после каждой проведённой партии происходит такой процесс: результат в финальной позиции известен твёрдо; скажем, мы выиграли, и результат равен +1 (ура!). Мы подтягиваем оценку предпоследней позиции к единичке, предпредпоследней — к этой предпоследней, которая была подтянута к единичке, и так далее. Если достаточно долго обучаться, в конце концов мы получим хорошие оценки для каждого состояния.

Первый большой успех этого метода в играх был достигнут в программе для игры в нарды TD-Gammon. Нарды оказались для компьютера достаточно простой игрой, потому что в них есть кубики. Так как кубики ложатся по-разному, нет большой проблемы с тем, откуда взять обучающие партии или разумного противника, который позволит исследовать всё пространство возможных партий: можно просто отправить программу играть против самой себя, и встроенная в нарды случайность позволит исследовать достаточно широко и много.

TD-Gammon был разработан около 30 лет назад; однако уже тогда основу программы составляла именно нейронная сеть. На вход сети подавалась позиция из игры, и сеть предсказывала оценку этой позиции, то есть вероятность победы. После каждой партии программы против самой себя получался набор тестовых примеров, новых для сети, сеть дообучалась на них и продолжала играть против самой себя (или чуть более ранних версий самой себя).

TD-Gammon обыграл всех людей ещё в конце восьмидесятых, но считалось, что это обусловлено специфичностью игры в нарды из-за наличия кубиков. Однако оказалось, что глубокое обучение помогает компьютерам выигрывать во множество других игр. Так, например, недавно произошло с уже упомянутыми играми Atari. Отличие эксперимента от нард или даже шахмат заключалось в том, что в консольной игре никто заранее не объяснял модели правила. Все что было известно компьютеру — это изображение, такое же, каким его бы видел человек, и набранные очки (это приходится задавать явно, иначе было бы непонятно, чем выиграть лучше, чем проиграть). Компьютер же мог в свою очередь совершать одно из доступных на джойстике действий — поворот самого джойстика и/или нажатие кнопки.

Mnih Supplementary Data video 2 R3

^{Около 200 попыток у машины ушло на то, чтобы “разобраться” в сути игры, ещё 400 — чтобы получить навык, и вот на 600-м забеге компьютер выигрывает.}

Здесь тоже используется Q-обучение, мы точно так же пытаемся построить модель, которая приближает функцию Q, но в качестве этой модели теперь рассматривается глубокая сверточная сеть. И оказалось, что это прекрасно работает. В 29 играх, включая такие хиты, как Space Invaders, Pong, Boxing и Breakout, система вообще оказалась лучше человека. Сейчас команда из DeepMind, ответственная за эту разработку, занимается играми из 1990-х (первым проектом, возможно, станет Doom). Нет никаких сомнений в том, что они справятся в самое ближайшее время и пойдут дальше — к современности.

Еще один интересный пример применения модели Deep Q-Network — это решение задачи перефразирования. Вам даётся предложение, а вы хотите написать его по-другому, но при этом передать тот же смысл. Немножко искусственная задача, но она очень тесно связана вообще с задачей создания текста. В недавно предложенном для этого подходе берётся цепочка LSTM-RNN (Long Short-Term Memory Recurent Neural Network, разновидность рекуррентной нейронной сети), которая называется кодировщиком (encoder), и с её помощью текст сворачивается в компактное представление в виде вектора. Затем компактное представление разворачивается в предложение с другой стороны аналогичной цепочкой — декодером. Поскольку оно декодируется из свёрнутого представления, то, скорее всего, предложение будет другое. Называется этот процесс encoder-decoder architecture. Похожим образом работает машинный перевод: мы сворачиваем текст на одном языке, а потом разворачиваем примерно такими же моделями на другом языке, предполагая, что внутреннее скрытое представление в семантическом пространстве общее. Так вот, оказалось, что Deep Q-Network может итеративно генерировать разные предложения из скрытого представления и разные варианты декодирования, чтобы со временем больше приблизить его к исходному предложению. Поведение модели получается весьма разумным: в экспериментах DQN сначала фиксирует части, которые мы уже хорошо перефразировали, а затем переходит к сложным частям, на которых полученное качество пока ещё так себе; иными словами, DQN подставляется на место декодера в этой архитектуре.

Что же дальше?

Современные нейронные сети становятся “умнее” день от дня. Революция глубокого обучения произошла в 2005-2006 году, и с тех пор интерес к этой теме только растёт, каждый месяц и чуть ли не каждую неделю выходят новые работы и появляются новые интересные применения глубоких сетей. В последнее время мы стали свидетелями огромного успеха приложений Prisma и Mlvch, вынудивших писать о нейронных сетях даже не специализирующиеся на технологиях издания. В этой, надеемся, достаточно популярной статье мы попытались объяснить, каково место революции глубокого обучения последних десяти лет в общей истории и структуре развития нейронных сетей, что, собственно, было сделано, и чуть подробнее остановились на обучении с подкреплением и тем, как глубокие сети могут научиться взаимодействовать со средой.

Практика показывает, что сейчас, на этапе взрывного роста глубокого обучения, вполне возможно создать что-то новое, увлекательное и решающее реальные задачи людей буквально “на коленке”, нужна только современная видеокарта (это, пожалуй, да), энтузиазм и желание пробовать. Как знать, возможно, именно вы оставите след в истории этой всё продолжающейся “революции” — во всяком случае, попробовать стоит.

Mail.Ru Group

https://geektimes.ru/company/mailru/blog/278326/

10.06.2016 Играть на уровне бога: как ИИ научился побеждать человека.

В 16 играх машины одолели человека (в 17, если брать в расчет поражение Ли Седоля в го), но в будущем их ждут еще более впечатляющие достижения: решение самых ошеломляющих математических, физиологических и биологических проблем, победа над болезнями и старостью, ликвидация дорожных аварий, триумф в военных конфликтах и многое другое.

Мир изменился прямо на наших глазах, но не все заметили это. Когда и как программы научились играть безошибочно? Всегда ли проигрыш одного человека свидетельствует о поражении всего человечества? Обретет ли искусственный интеллект сознание?

Об авторе. Статья основана на лекции «Искусственный интеллект. История и перспективы», проведенной в московском офисе Mail.Ru Group Сергеем oulenspiegel Марковым. Сергей Марков занимается machine learning в «Сбербанке». В банковской сфере строят предиктивные модели для управления бизнес-процессом на основе достаточно больших обучающих выборок, которые могут включать несколько сотен миллионов кейсов. Среди своих хобби Сергей указывает шахматное программирование, ИИ для игр, минимаксные задачи. Программа SmarThink, созданная Сергеем Марковым, становилась чемпионом России (2004) и СНГ (2005) среди шахматных программ (2004), и сегодня входит в топ-30 сильнейших программ в мире. Также Сергей является основателем некоммерческого научно-просветительского портала 22 век.

С чего все началось

^{TechnoCore — место обитания множества искусственных интеллектов в тетралогии «Песен Гипериона» Дэна Симмонса. Один из примеров визуализации сильных ИИ в научной фантастике.}

С самим понятием ИИ произошла неприятная история. Появившись изначально в научной сфере среди специалистов, работавших в области computer science, оно очень быстро попало в публичную среду и претерпело различные изменения. Если сегодня спросить обывателя о том, что такое ИИ, скорее всего, вы услышите от него совсем не то определение, которое держат в голове специалисты по ИИ.

Прежде чем начать рассказ, нужно определиться, что именно мы понимаем под искусственным интеллектом, и где находится граница, на которой заканчивается область computer science и начинаются смежные области.

ИИ вообще — это методы, используемые для автоматизации задач, которые традиционно считаются задачами интеллектуальными, и для решения которых человек задействует свой естественный интеллект. Автоматизируя задачу, решаемую человеком с помощью мозга, мы тем самым создаем ИИ. Другое дело, что такой ИИ обычно называют прикладным или, с некоторой долей презрения, слабым. Неприятный нюанс в том, что это единственный доступный человечеству на сегодняшний день вид ИИ.

Что касается сильного ИИ, artificial general intelligence (AGI), определенные наработки здесь есть, но пока мы в самом начале пути. Сильный ИИ — это система, способная решать любые интеллектуальные задачи. В фантастике сформировался образ именно такого, подобного человеку, ИИ, способного решать любую задачу.

Поскольку мы так широко в computer science определяем искусственный интеллект, то с формальной точки зрения найдем элементы существования ИИ еще у древних греков. Речь идет о знаменитом Антикитерском механизме, являющемся одним из неуместных артефактов. Это устройство предназначено для астрофизических расчетов. На фотографии выше представлен один из сохранившихся фрагментов и современная реконструкция артефакта. Механизм содержал 37 бронзовых шестерен в деревянном корпусе, на котором были размещены циферблаты со стрелками. Восстановить положение шестерен внутри покрытых минералом фрагментов удалось методом компьютерной томографии с помощью рентгеновских лучей.

Сама по себе задача счета когда-то считалась интеллектуальной — если человек умел хорошо считать, то его можно было назвать интеллектуалом.

^{Счетный прибор Джона Непера, предназначенный для быстрого умножения.}

Задачи счета автоматизировались одними из первых. Еще до первых механических устройств появились поделки типа неперовых палочек. Шотландский математик, один из изобретателей логарифмов Джон Непер, создал устройство счета в 1617 г. На фоне современных технологий оно кажется смешным: рулоны бумаги — по сути, первые логарифмические таблицы для выполнения некоторых операций. Но для современников это было примерно таким же чудом, как для нас какой-нибудь AlphaGo. В свое время были даже поэты, посвящавшие неперовым палочкам (Napier’s bones) стихи. Дескать, почему вы носитесь с костями предков, вот те самые кости, которыми действительно стоит гордиться.

^{Суммирующая машина Паскаля — арифметическая машина, изобретенная французским ученым Блезом Паскалем в 1642 г.}

Паскаль, наравне с немецким математиком Вильгельмом Шикардом, предложившим свою версию вычислительной машины в 1623 г., заложил основы для появления большинства вычислительных устройств. До наших дней сохранились несколько машин, созданных еще при жизни Паскаля. Такая машина умела складывать, делить, вычитать и умножать.

^{Полная рабочая копия машины, изобретенной английским математиком Чарльзом Бэббиджем в 1822 г. Так называемая разностная машина предназначена для автоматизации вычислений путем аппроксимации функций многочленами и вычисления конечных разностей.}

О Чарльзе Бэббидже слышали практически все компьютерные специалисты. Увы, Бэббидж так и не смог создать работающую вычислительную машину. Долгое время не утихали споры, работает ли в принципе предложенная им разностная машина. В период с 1989 по 1991 г., к 200-летию со дня рождения Чарльза Бэббиджа, по сохранившимся чертежам и с небольшими модификациями была собрана работающая копия аналитической машины. Модификации понадобились из-за «багов», обнаруженных в чертежах. Возможно, Бэббидж намеренно сделал несколько искажений, борясь с нелицензионным пиратским копированием.

Аналитическая машина — это прообраз современных фон-неймановских машин. Когда инженеры IBM строили первую электронную машину, они использовали чертежи Бэббиджа. Мы привыкли говорить о фон-неймановской архитектуре, то есть машине с разнесенным вычислительным устройством, с устройством ввода-вывода, с памятью и т.д. Однако в основе находятся идеи Бэббиджа.

К тому же в машинном коде бэббиджевой машины применялись оператор условного ветвления и оператор цикла. Эту машину действительно можно считать прадедом того, что потом удалось сделать на основе электроники.

^{Жаккардова машина — зевообразовательный механизм ткацкого станка для выработки крупноузорчатых тканей. Создан в 1804 г. Позволяет раздельно управлять каждой нитью основы или небольшой их группой.}

Устройства ввода-вывода, перфокарты появились еще до Бэббиджа — они использовались в ткацких жаккардовских станках, чтобы задавать порядок следования нитей при изготовлении ткани.

Новое время

^{Табулятор — электромеханическая машина, предназначенная для автоматической обработки числовой и буквенной информации, записанной на перфокартах}

Первый статистический табулятор построен американцем Германом Холлеритом в 1890 г. для решения задач, связанных со статистическими расчетами. Известный изобретатель и создатель оборудования для работы с перфокартами успешно принял участие в конкурсе, организованном правительством США для поиска средств автоматизации обработки результатов переписи населения. Для ручного подсчета и анализа понадобилось бы порядка 100 человек, работающих в течение 4-5 лет, чтобы просто обобщить и посчитать суммарные социологические показатели переписи.

^{Перфокарта Холлерита.}

Табулятор — это очень примитивная сводная таблица. Каждая карточка соответствует анкете, в ней проделаны отверстия, соответствующие ответу. Карточки загружались в табулятор, он быстро прогонял их через себя и выдавал результат в виде такой же карты с подсчитанной суммой. Эти суммы вкладывались в другой табулятор и т.д.

Выиграв конкурс, Холлерит основал свою компанию — Tabulating machines company, и после некоторой череды слияний и поглощений она стала называться IBM.

Игры, в которые играют машины

Как и во всякой экспериментальной науке, разделу computer sciencе, занимающемуся ИИ, нужна была своя мушка дрозофила, некий модельный объект, на котором можно было опробовать методы ИИ. Игра — самая известная мушка дрозофила в сфере ИИ.

Игра — чистое модельное пространство. В ней заданы условия, состояния, однозначно определенные и описываемые в виде набора параметров. Создавая ИИ для игры, мы тем самым абстрагируемся от массы инженерных проблем, лежащих между ИИ и практическим решением задачи. Мы абстрагируемся от кодирования данных на входе и выходе, от преобразования сигнала, задачи восприятия и т.д. Для нас интеллектуальная задача существует в игре в чистом виде. Это удобно, потому что специалисты по ИИ ленивые и не хотят заниматься ничем, кроме ИИ.

^{Шахматная машина «Турок».}

Игра — это зрелище. Если вы покажете машину, умеющую хорошо играть, она произведет впечатление даже на несведущего человека. Игра машины привлекает внимание уже сотни лет. На картинке выше вы видите иллюстрацию знаменитой мистификации — первый шахматный автомат, сконструированный изобретателем Вольфгангом фон Кемпеленом в 1769 г. Внутри «машины» на самом деле прятался настоящий шахматист. В эту коробку не брезговали залезть ведущие шахматисты своего времени. Иоганн Баптист Альгайер, сильнейший шахматист Австрии конца XVIII — начала XIX вв., сыграл за шахматный автомат целый ряд партий.

Это сложное механическое устройство не является искусственным интеллектом, но любопытно то, что с его помощью удалось одурачить современников. Люди действительно верили, что какой-то искусный мастер смог при помощи шестеренок, рычажков, механизмов и противовесов создать систему, способную играть в шахматы. Сохранилась даже запись партии, сыгранной механическим турком против Наполеона (впрочем, некоторые историки подвергают его достоверность сомнению). Так что, возможно, что одурачены были даже высшие особы.

А это уже первое устройство, которое на самом деле умело играть в шахматы. El Ajedrecista (в переводе на русский — «шахматный игрок»). Его создал в 1912 г. известный испанский математик и инженер Леонардо Торрес Кеведо.

El Ajedrecista представлял собой шахматную доску, на которой машина с помощью электромагнитов передвигала короля и ладью. Машина гарантированно ставила мат королем и ладьей одинокому королю из одной позиции: король стоял у белых на Н8, ладья — на G7, а черный король мог стоять на любом поле. Два сохранившихся экземпляра машины выставлены в Политехническом музее Мадрида.

Это другой знаменитый ИИ прошлого — механизм «Ниматрон», созданный в 1940 г. для игры в Ним. Ним — математическая игра, в которой два игрока по очереди берут предметы, разложенные на несколько кучек (обычно три). За один ход можно взять любое количество предметов (больше нуля) из одной кучки. Выигрывает игрок, взявший последний предмет.

Это одна из первых игр, для которых построили полную математическую теорию еще в 1901—1902 гг. С точки зрения методов «Ниматрон» ничего нового не представлял, опираясь на уже известную оптимальную стратегию для этой игры, но был одним из первых решений теории игр в железе.

Проектом «Ниматрон» руководил Эдвард Улер Кондон — один из отцов современной квантовой механики. Он считал этот проект самой большой неудачей в своей жизни, но не с технической, а с финансовой стороны. Работая над «Ниматроном», Кондон со своей командой изобрел множество технологий (среди которых, например, способ изготовления печатных плат), которые потом были востребованы в компьютерной технике. Но команда специалистов ничего не запатентовала, в результате ничего и не заработала.

Оптимальная стратегия

^{Эрнст Фридрих Фердинанд Цермело — немецкий математик, внесший значительный вклад в теорию множеств и создание аксиоматических оснований математики.}

Разговор об искусственном интеллекте для игр не обходится без упоминания Эрнста Цермело и его теоремы. Русскоязычным любителям этой темы повезло. Работа Цермело изначально была написана на немецком языке. И если на английский ее перевели только в 1999 г., то на русский язык — еще в конце 1960-х — начале 1970-х годов. Из-за этого в русскоязычной литературе написано более-менее правильно про то, что Цермело сделал, а в англоязычной литературе путаются до сих пор. Например, в одной из работ говорится о том, что Цермело доказал, что если белые в шахматах будут совершать идеальные ходы, то обязательно достигнут как минимум ничьей. На самом деле никто на сегодняшний день таких доказательств не предоставил, однако Цермело сделал другое важное открытие.

Он не очень хорошо играл в шахматы, да и вообще плохо знал правила игры. Может, благодаря этому и доказал в 1913 г. первую формальную теорему теории игр. Согласно книге «Управляемые процессы и теория игр», изданной в СССР в 1955 г., корректное описание вклада Цермело звучит так: «Цермело доказал детерминизм игр, подобных шахматам, и то, что рациональные игроки могут, используя полную информацию, разработать оптимальную стратегию игры».

Обычные правила игры в шахматы знают почти все, однако есть несколько других очень важных и не совсем очевидных правил. Например, правило 50 ходов гласит, что если в течение 50 ходов ни одна пешка не двинулась вперед и ни одна фигура не была взята, то присуждается ничья. Или если какая-то позиция повторилась трижды — также присуждается ничья. Бесконечной партии в шахматах по количеству ходов быть не может — в какой-то момент игра так или иначе прекратится. Эрнст Цермело не знал этого, и думал, что в шахматах возможны бесконечные партии: вы пошли фигурой — вернули, и так играете, пока вселенная не рассыплется в пыль.

Как выиграть в крестики-нолики

Итак, давайте посмотрим, как рассчитывается оптимальная стратегия игры. Немного отвлечемся от шахмат, возьмем более простой пример — крестики-нолики, одну из древнейших игр в мире, появившуюся еще в Древнем Египте. Для этой игры Цермело использовал обратную индукцию — метод, с помощью которого проводят поиск в обратном направлении: начиная с позиций, где одна из сторон уже получила пат или мат, и заканчивая конкретной позицией, стоящей на доске.

Цермело не давал подробного описания обратной индукции, но использовал ее принцип, согласно которому существует позиция, выигрышная для одной из сторон. Мы для таких позиций можем назначить оценку: –1 — выиграли нолики, 1 — выиграли крестики, 0 — ничья.

Теперь можем пойти вверх по дереву от этих позиций и посмотреть, есть ли ход с какой-то позиции, ведущий в выигрышную позицию. Если ход существует, то и позиция считается выигрышной.

С другой стороны, если нет ни одного хода, ведущего в выигрышную позицию, но есть хотя бы один ход, ведущий в ничейную позицию, то эта позиция считается ничейной. И если нет ни одного хода, ведущего ни в ничейную, ни в выигрышную позицию, то позиция считается проигранной.

Пользуясь этим правилом, мы в дереве, начиная с листьев, двигаемся вверх, и приписываем оценки узлам, пока не припишем оценки всем позициям. Получив все оценки для всех позиций, видим идеальный алгоритм для игры. Оказавшись в какой-то позиции игры, мы всегда будем видеть ход (если он есть), ведущий в выигрышную позицию. Если выигрышного хода нет, то будем делать ничейный ход, и только в худшем случае пойдем в проигрышную позицию. Теоретически такая система, способная хранить в памяти дерево оценки для каждой позиции, будет играть на уровне бога.

Цермело это понимал, но считал, что у этого дерева есть бесконечные ветви, где нет терминальных позиций. Он задался вопросом: можно ли для игры, имеющей бесконечное дерево по размеру позиций в нем, за конечное время посчитать оптимальную стратегию, то есть гарантированно в каждой позиции делать идеальный ход? И доказал, что несмотря на то, что само дерево может быть бесконечным, мы можем найти оптимальную стратегию за конечное число итераций. И это конечное число итераций точно не превышает количество разных позиций в игре.

EDSAC (Electronic Delay Storage Automatic Calculator) — первый в мире действующий и практически используемый компьютер с хранимой в памяти программой, созданный в 1949 г. в Кембриджском университете (Великобритания). В 1952 г. реализация игры в крестики-нолики для компьютера EDSAC стала одной из первых видеоигр. Компьютер научился играть идеальные игры против человека, оперируя известной ему оптимальной стратегией.

Обратная индукция: история метода

^{Экономист Оскар Моргенштерн, один из авторов теории игр, и математик Джон фон Нейман, сделавший важный вклад в квантовую физику, функциональный анализ, теорию множеств и другие отрасли науки.}

Работа про интерпретацию обратной индукции находится в области теории множеств. Другая сфера знаний, без которой невозможно представить развитие теории игр, лежит в области экономики. В 1944 г. вышла монография Джона фон Неймана и Оскара Моргенштерна «Теория игр и экономическое поведение», в которой авторы обобщили и развили результаты теории игр и предложили новый метод для оценки полезности благ. В этой работе впервые формально было дано определение метода обратной индукции.

В 1965 г. математик Ричард Белман предложил использовать метод ретроспективного анализа для создания баз данных решений шахматных и шашечных эндшпилей (заключительная часть партии). Он дал алгоритмическое описание применения метода обратной индукции для построения оптимальной стратегии в играх.

В 1970 г. математик Томас Штрохлейн защитил докторскую диссертацию о шахматном окончании. Дело в том, что в шахматах существуют специальные случаи, когда на доске остается мало фигур. В таких случаях для небольшого числа фигур мы можем решить задачу методом обратной индукции.

Итак, мы приблизились к пониманию, каким образом ИИ выигрывает у человека в шахматы. Компьютеру не нужно каждый раз производить расчеты эндшпиля — достаточно посмотреть в базе данных уже посчитанный результат и сделать идеальный ход. Эндшпильные базы данных, включающие все возможные расстановки фигур, проводят поиск в обратном направлении, начиная с позиций, где одна сторона уже получила пат или мат, и заканчивая конкретной позицией на доске.

В 1977 г. Кен Томпсон, известный за вклад в создание языка С и ОС UNIX, представил одну из первых в мире эндшпильных таблиц для всех пятифигурных окончаний.

В 1998 г. наш соотечественник, программист Евгений Налимов создал чрезвычайно эффективный генератор шахматных окончаний, благодаря которому, учитывая рост производительности компьютеров, к началу 2000-х годов были посчитаны все шестифигурные окончания.

Эту главу закроет фотография не человека, а компьютера. В 2012 г. рассчитали семифигурные таблицы для ситуаций распределения фигур четыре против трех и пять против двух. Их назвали таблицами «Ломоносова», так как рассчитывались они на суперкомпьютерах МГУ «Ломоносов» и IBM BlueGene/P.

Неожиданные открытия в шахматах

Участие компьютеров в шахматных играх открыло людям то, о чем никто не догадывался сотни лет. Как уже упоминалось, в шахматах существует правило 50 ходов. Было известно, что есть очень редкие исключения, когда игрокам требовалось более 50 ходов для хитрых маневров. Однако когда Кен Томпсон начал публиковать результаты анализа, оказалось, что этих исключений очень много.

Эксперты ФИДЕ (Federation Internationale des Echecs — Международная шахматная федерация) предложили заменить правило 50 ходов на правило 75 ходов, что и было сделано.

Вскоре выяснилось, что в ряде случаев для завершения партии недостаточно и 75 ходов, но и на этом процесс поиска новых решений не остановился. На сегодняшний день рекордная задача — мат в 549 ходов.

В итоге ФИДЕ на это дело плюнули и решили вернуться к правилу 50 ходов. В конце концов, неужели мы будем подыгрывать компьютерам? Ни один человек со стандартным размером мозга не способен найти последовательность из сотен тихих ходов, ведущих к победе.

Кен Томпсон провел несколько показательных выступлений — «ладья и король против ферзя и короля». Компьютер играл за игрока, владеющего ладьей. Этот эндшпиль теоретически проигрышный — шахматист уровня мастера, владея ферзем, обычно легко выигрывает у любого противника. Компьютеру была поставлена задача максимально оттянуть свой теоретически неизбежный проигрыш. На одном из выступлений против компьютера играли Ханс Берлинер, чемпион мира в игре по переписке, со своим другом — чемпионом Канады Лоуренсом Дейем. И двум шахматным профессионалам высочайшего класса не удалось заматовать короля. На доске происходило нечто феерическое — происходили неясные маневры, но черным чудесным образом удавалось выпутаться. Это была одна из первых прекрасных демонстраций того, что люди, возможно, переоценивают себя в понимании некоторых вещей.

^{Фрагмент листинга шахматной программы ИТЭФ для ЭВМ М-20.}

Первый матч между двумя шахматными программами состоялся в 1967 г. Играли программа Института теоретической и экспериментальной физики и программа Стэнфордского университета. Сохранился исходный код программы ИТЭФ, скачать его можно здесь.

На основе исходных текстов программы ИТЭФ началось создание новой шахматной программы, получившей название «Каисса». В 1974 г. Каисса стала первым чемпионом мира по шахматам среди компьютерных программ. Многие алгоритмы, придуманные авторами Каиссы, до сих пор применяются в шахматах. Каисса применила алгоритм отсечения позиций, и впервые — побитовое представление доски. Также она могла производить анализ во время хода соперника, использовала эвристику нулевого хода и сложные алгоритмы для управления временем.

Решение на уровне бога

^{Если заучить эти таблицы, вы сможете идеально играть в крестики-нолики с любым противником.}

Все решения задач с ограниченными модельными пространствами делятся на три вида. Первый вид — ультраслабое решение, когда для какой-то игры мы можем точно сказать, каким будет результат, но при этом не будет алгоритма, позволяющего в любой ситуации играть идеально. Обычно это какой-то трюк, например, повторение стратегии. Мы знаем, что для некоторых игр второй игрок может копировать ходы первого игрока, и тогда он достигнет ничьей.

Второй вид — слабое решение. В этом случае мы начинаем со стартовой позиции, делаем любые ходы, а машина совершает ходы, которые считает идеальными. Она всегда будет ходить идеально, но если мы какой-то ход сделаем за машину, то попадем в позицию, где нет определенной оценки, и непонятно, как играть дальше. Идеальный ход есть только в том случае, если с самого начала игры совершались идеальные ходы.

И третий вид — сильное решение. Для каждой позиции мы знаем ее точную оценку. Например, для крестиков-ноликов точно знаем дерево ходов — около 900 позиций, если учесть все симметрии.

29 апреля 2007 г. команда исследователей из Университета Альберты (Канада) под руководством Д. Шеффера (известного как ведущий разработчик шашечной программы «Чинук») смогла достичь «слабого» решения для английских шашек, по правилам которых шашки не бьют назад, а дамки не могут ходить на любое расстояние.

Английские шашки — самая большая из игр, решенных до настоящего времени. Размер ее поискового пространства 5×10²⁰. Для того чтобы найти решение, в течение 18 лет сеть персональных компьютеров (в разное время от 50 до 200) произвела 10¹⁴ вычислений.

На начало 2016 г. найдено решение в 16 играх. Последней на данный момент решенной игрой стала пентаго. В отличие от шахмат и го поисковое пространство игры небольшое, что позволяет современному компьютеру играть идеально: с учетом всех возможных симметрий количество возможных позиций в пентаго составляет 3 009 081 623 421 558. В течение нескольких часов суперкомпьютер Edison семейства Cray, находящийся в Национальном научно-вычислительном центре энергетических исследований (NERSC), нашел «сильное» решение игры. Программа использовала для вычислений 98 304 потоков.

Также удалось найти решение для такой необычной игры, как «Магараджа», где черные имеют набор обычных шахматных фигур, а белые — единственную фигуру Магараджа. Это ферзь, способный ходить как конь. Доказано, что черным гарантирована победа.

DRAMA: от проигрыша машины к проигрышу человека

Американский математик и шашист Марион Франклин Тинсли был сильнейшим игроком мира в английские шашки на протяжении 30 лет. Тинсли ни разу в жизни не проигрывал матч за первенство мира и за свою 45-летнюю карьеру проиграл всего семь партий.

В 1992 г. проводился матч между Марионом Тинсли и программой «Чинук». Первый матч Тинсли выиграл у программы со счетом 4:2 при 33 ничьих. При анализе матча выяснилось, что в одной из партий Тинсли выбрал единственную верную позицию, ведущую к победе, за 64 хода до конца матча.

На матче реванше Тинсли успел сыграть шесть игр — все ничьи. После этого он почувствовал себя очень плохо и у него диагностировали рак поджелудочной железы и вскоре он умер. В 1995 г. программа «Чинук» выиграла у Дона Лафферти, наследника Тинсли на шашечном троне. Из 32 сыгранных партий единственная результативная партия завершилась в пользу компьютера. После этого первенство в шашках окончательно перешло к машинам.

^{Одна из величайших шахматных партий всех времен.}

Более распиаренный матч, о котором слышали даже далекие от шашек и шахмат люди, состоялся в 1997 г. Гарри Каспаров проиграл суперкомпьютеру Deep Blue в матче из шести партий. Для сравнения: Deep Blue был способен просматривать 200 млн позиций в секунду, в то время как современные компьютеры просматривают 1—3 млн позиций в секунду. За прошедшие 20 лет компьютеры так и не смогли догнать этот уникальный инженерный проект.

Машина от компании IBM была не просто суперкомпьютером, а специализированным под шахматы проектом, в котором установили отдельные кристаллы с генераторами ходов, позволявшие за один такт процессора сгенерировать все возможные ходы в позиции. Однако сейчас такая мощь нам не требуется — мобильный телефон обыгрывает ведущих гроссмейстеров.

Огромный Deep Blue впечатлял одним своим видом, но его размеры привели к появлению стойкого мифа: мол, машины выигрывают у людей только благодаря своей мощности и быстроте — давят брутфорсом. Человек может просмотреть всего две или пять позиций в секунду, компьютер — сотни миллионов.

На самом деле это не так. На рисунке выше приведен пример задачи из учебника — мат в шесть ходов. Deep Blue, используя полный перебор, должен был бы потратить около 356 лет на поиск решения. В среднестатистической шахматной позиции возможно 35 ходов, чтобы просмотреть на два хода — 35 в квадрате, на три — в кубе и т.д.

Любая сильная современная программа находит решение на настольном компьютере максимум за несколько секунд. Более того, на современной машине вы можете запустить программу чемпиона 2008 г. против программы чемпиона 2015 г. Из 27 партий одну партию будет выигрывать слабейшая программа, 26 партий — сильнейшая. Это прогресс, достигнутый за семь лет. Это произошло не за счет роста мощности железа, а благодаря развитию алгоритмов. За данным процессом не стоят тысячи программистов и десятки гроссмейстеров. Сейчас над шахматными программами работают либо программисты-одиночки, либо очень небольшие группы. Например, одну из самых сильных программ в мире шахмат — Stockfish — создали три программиста. Над самыми крупными, с точки зрения числа задействованных программистов проектами — Deep Blue и Каисса — работало менее десятка программистов.

Все современные шахматные программы так или иначе являются детищем машинного обучения. В шахматной программе есть оценочная функция, рассматривающая позицию без всякого перебора. Это, грубо говоря, логистическая функция, имеющая 3—5 тыс. параметров, для подбора которых используются большие массивы шахматных позиций, выбранных обычно из партий самой же программы. Программа играет несколько тысяч партий, оттуда извлекаются позиции, программа снова играет и т.д. — цикл не заканчивается никогда.

Самое забавное, что если мы говорим о брутфорсе, то надо задаться вопросом: действительно ли брутфорс на стороне машин? В среднестатистическом человеческом мозге примерно 86 млрд нейронов и 150 трлн синапсов. Каждый синапс содержит примерно 1 тыс. молекулярных переключателей. Таким образом, если мы пересчитаем мозг в триггеры, то получим 150 квадриллионов (1,5х10¹⁷) триггеров транзисторов. Конечно же, это две «машины» с абсолютно разной архитектурой, но мы очень примерно можем сравнивать их на некоторых задачах.

Один из самых мощных на сегодняшний день процессоров (Sparc-M7) имеет 10 млрд транзисторов. Самая большая программируемая пользователем вентильная матрица (FPGA) содержит до 20 млрд транзисторов. Это всего 2х10⁹ раз, а в мозге 1,5х10¹⁷ раз. Конечно, компьютеры имеют одно большое преимущество — скорость. Sparc работает на частоте 4,3 ГГц. Человек же имеет следующие потенциалы действия нервных клеток: амплитуда — около 0,1 В, длительность — около 1 мс, «рабочая» частота» — 10—100 Гц (до 1000 Гц).

Правильно сказать, что мозг до сих пор является брутфорс-решением, так как это гигантская нейронная сеть, которую мы пока не можем сэмулировать в реальном времени. Операции, которые мы проводим, играя в шахматы, совсем не похожи на простые арифметические. Если взять более сложную задачу, например, распознавание образов, то будет ясно, что машина не в состоянии выполнять необходимые расчеты так же быстро, как человеческий мозг.

Нейронные сети

В ИИ изначально было две крупных школы — «чистюль» и «грязнуль». «Чистюли» — по большей мере математики, настаивавшие, что должны использоваться корректные методы решения задач, имеющие формальное обоснование, или хотя бы обоснование статистическое.

«Грязнули» считали, что неважно, каким образом решать задачу. Если решение работает в рамках предметной области, значит оно хорошее. Они ввели термин hacking для ИИ — мы ломаем задачу, чтобы решить ее.

Если сейчас посмотреть на методы ИИ, используемые в играх, то увидим определенный синтетический подход. Формально необоснованные трюки, но хорошо работающие на практике, соседствуют с формально доказанными методами.

ИИ, как и большинство других наук, начинался с бионического подхода. Если в природе есть работающее решение, давайте для начала его скопируем, пока не придумали что-то более совершенное. Леонардо да Винчи первым придумал конструкции летательных аппаратов, изучая принцип полета птиц. Вполне естественно, что, столкнувшись с задачей создания систем, решающих интеллектуальные задачи, захотелось подсмотреть у природы, как это устроено. Мы ведь уверены, что наш собственный мозг работает.

Первыми создателями моделей математических процессов, происходящих в человеческом мозге, стали Уорен МакКалок, Уолтер Питтс, Дональд Хебб в 1940-х годах. Они придумали первую модель искусственного нейрона — простой логистический сумматор.

Схема искусственного нейрона:

нейроны, выходные сигналы которых поступают на вход данному;
сумматор входных сигналов;
вычислитель передаточной функции;
нейроны, на входы которых подается выходной сигнал данного;
W_i — веса входных сигналов.

Во многом отношения между этими людьми заложили некоторые базовые вещи в науке. Например, мы не называем нейронные сети кибернетическими системами, хотя МакКалак и Питс начинали работать под началом Норберта Виннера, основоположника кибернетики. Богемный образ жизни МакКалака и Питса и вечеринки с алкоголем очень не нравились жене Виннера. Есть мнение, что она сильно повлияла на раздор между учеными. Питсу это стоило карьеры, и, вполне вероятно, жизни — впоследствии он спился. Но они не стали делать из ссоры идеологический спор. Их пути разошлись по личным, а не научным причинам.

Что мы знаем про нейроны? Первая поверхностная основа коннектома — это нейроны, соединенные аксонами и дендритами, исходящими и входящими отростками. Место контакта аксона и дендрита — это синапс. Как и многое в природе, здесь присутствует сигмоид в качестве сумматора. Сигналы из нейрона распространяются по исходящим отросткам, попадают в следующий нейрон, суммируются и определенная сумма передается дальше по отростку, преобразовывая синапсы через определенные пороговые функции.

^{MARK 1 — первый в мире нейрокомпьютер, созданный в 1958 г. Фрэнком Розенблаттом.}

Перцептрон — первая искусственная нейронная сеть, воплощенная на практике Фрэнком Розенблаттом. Ученый решил, что нет времени ждать, пока электронные машины станут достаточно быстрыми, чтобы на фоннеймановской архитектуре смоделировать работу нейронной сети. Он начал делать нейронные сети из «палок и скотча» — этакий массив электронных нейронов и кучи проводов. Это были небольшие нейронные сети (до нескольких десятков нейронов), но они уже применялись в решении некоторых практичных задач. Розенблат смог даже продать нескольким банкам устройства, применявшиеся при анализе некоторых массивов.

С 1966 г. он стал заниматься необычными вещами. Например, учил крыс проходить лабиринт, тренировал их, потом умерщвлял. Затем извлекал их мозг, размалывал в кашицу и этой кашицей кормил следующее поколение крыс. Таким образом, он проверял, улучшит ли это показатели следующего поколения крыс при прохождении лабиринтов.

Выяснилось, что съеденный мозг крысам никак не помогает, хотя такую пищу они любят. Это было одним из сильных аргументов в пользу того, что информация хранится именно в коннектоме мозга, а не в отдельных его клетках и компонентах. Как ни странно, в те годы были специалисты, считавшие, что знание может существовать внутри клеток.

Спустя полвека после изобретений Розенблата у нас появился нейроморфический процессор TrueNorth, созданный IBM по заказу DARPA. Чип содержит более 5 млрд транзисторов и имитирует работу до 1 млн модельных «нейронов» и до 250 млн связей между ними («синапсов»). В IBM говорят, что из процессоров такого рода будут собирать реальный эмулятор работы человеческого мозга.

IBM создали целый институт для развития данной технологии, и разработали специальный язык программирования для нейронных сетей. Нейронную сеть очень неудобно эмулировать на фон-неймановской архитектуре. В нейронной сети каждый нейрон является одновременно вычислительным устройством и ячейкой памяти.

Если мы начинаем крутить матрицу нейронов внутри фон-неймановской машины, то сталкиваемся с дефицитом вычислительных ядер по сравнению с числом ячеек памяти. Сам цикл обсчетов всех синапсов получается длинным. Хотя задача очень хорошо распараллеливается в рамках одного цикла, вам все равно на следующем шаге понадобятся значения на вход, которые вы получили на предыдущем шаге расчета. Максимумальная эффективность распараллеливания может быть достигнута тогда, когда у вас столько вычислительных ядер, сколько синапсов.

Нейроморфический процессор — это попытка сделать специальную железку для быстрого обсчета именно нейронных сетей. А поскольку нейронные сети сейчас достаточно активно применяются и в распознавании образов, и при анализе данных, и много где еще, то появление такой элементной базы позволит сразу на несколько порядков нарастить эффективность.

Вернемся в 1970-е годы. После успехов Розенблата следующим видным специалистом в области развития ИИ стал Марвин Мински. Вместе со своим коллегой Папертом он написал книгу «Perceptrons», которая показала принципиальные ограничения перцептронов. Косвенным образом эта работа способствовала наступлению «зимы» ИИ (1970-е и 1980-е годы), когда возникло очень много сомнений о возможностях создания полноценного ИИ на основе нейросетей.

Интерес к нейронным сетям вернулся в начале 1990-х годов, когда стало понятно, что сравнительно небольшие нейронные сети, доступные на тот момент, уже способны решать некоторые задачи не хуже, чем классические методы нелинейной регрессии.

^{Leon A. Gatys et al./ arXiv.org}

В 2016 г. новости о достижениях нейронных сетей стали появляться чуть ли не каждую неделю. Коллектив ученых из Германии разработал искусственную нейронную сеть, позволяющую «синтезировать» изображение из двух независимых источников: одно из них дает только содержание, другое — только стиль. Нейросеть научилась реалистично раскрашивать черно-белые снимки. Нейросеть научили ставить геотег на снимки еды и котиков. Нейросеть стала вычислять смешные картинки. Ну и так далее.

Новый прорыв: AlphaGo

Игра Го всегда была крепким орешком для ИИ. Скептики утверждали, что программы в го либо никогда не победят, либо одержат победу очень нескоро. Го сложнее шахмат в 10¹⁰⁰ раз — именно в столько раз больше возможных позиций камней на стандартной доске 19×19, чем в шахматах.

Прорыв удалось совершить в программе AlphaGo благодаря алгоритму Монте-Карло-поиска по игровому дереву, управляемому двумя нейронными сетями, обученными на основе большого массива игр профессиональных игроков в го. Вначале AlphaGo выиграла у чемпиона Европы, затем победила Ли Седоля, одного из сильнейших (возможно, самого сильного) игроков мира.

Однако настоящая революция, приведшая к победе программы над человеком в го, произошла гораздо раньше, когда стали применяться сверточные нейронные сети.

В го очень трудно придумать структуру оценочной функции, которая без перебора сможет с достаточным качеством оценить, насколько хороша позиция. Нужно как-то оценивать паттерны, структуры, образуемые фишками на доске. Найти достаточно хорошее решение не удавалось, пока не появились сверточные нейронные сети, хорошо справляющиеся с этой задачей.

^{Изображение: The Atlantic.}

В AlphaGo одна из нейронных сетей (value network) используется для оценки позиций в терминальных узлах дерева поиска, другая (policy network) предназначена для умного отбора ходов-кандидатов. Также используется небольшое дерево перебора Монте-Карло. В каждом узле рассматривается 1-2 хода, средний коэффициент ветвления — меньше двойки. Благодаря этому стало возможным посчитать осмысленное дерево с очень ограниченным числом вариантов, и за счет этого найти действительно сильнейший ход в позиции.

Сначала AlphaGo тренировалась на партиях сильнейших игроков в го. В качестве входных данных для обучения использовались 160 тыс. игр с 29,4 млн позиций. С момента, когда она стала играть не хуже обычных людей, корпус для тренировки нейронной сети или для постройки параметров оценочной функции стал генерироваться автоматически. Программа начала играть сама с собой, добавляя новые партии в обучающую выборку.

Угрозы и перспективы: плохой, хороший и очень хороший сценарий

^{Изображение: TechRadar.}

Разные страхи, связанные с искусственным интеллектом, вызваны несколькими проблемами. Люди боятся самих себя, боятся допустить ошибку при создании ИИ — вдруг он будет вести себя не совсем так, как мы хотим. Представьте такую гипотетическую ситуацию: машине долго объясняют, что бывают грибы съедобные и несъедобные, и ядовитые грибы смертельны для человека. Дальше машине задается вопрос: любые ли грибы может есть человек? «Конечно любые, — отвечает машина. — Но некоторые только один раз в жизни».

Если люди, составляющие алгоритмы ИИ, допустили баги или пропустили ошибочные данные в обучающую выборку, поведение такого ИИ может быть весьма неожиданным. И доверять такой системе принятие решений опасно. Кто-то окажется безответственным, одновременно с этим кто-то окажется глупым, и мы получим сценарий в духе «Терминатора».

Знакомые страхи? Однако эта история непосредственного отношения к ИИ не имеет — мы говорим лишь о том, что люди сами себе не доверяют. Мы боимся не только того, что развитый разум окажется злым. Он может оказаться и добрым, захочет нести людям добро, но увидит это «добро» по-своему.

У человечества с развитым ИИ есть два хороших сценария развития событий и один глобальный плохой. Глобальный плохой заключается в том, что наша технологическая мощь растет слишком быстро. В XIX в. при большом желании устроить апокалипсис человечеству не хватило бы сил аннигилировать всю жизнь на планете даже при тотальном помешательстве.

В середине ХХ в. обезумевшие руководители ведущих стран и несколько военных начальников на ключевых постах воплотили бы сценарий самоуничтожения. Для этого достаточно взять несколько десятков 200-тонных термоядерных бомб и сбросить их по экватору — земной шар расколется пополам.

^{Изображение: Plague Inc.}

В XXI в. технологическая мощь такова, что для воплощения апокалиптичных сценариев не требуется большое количество фигурантов. Допустим, биохимическая лаборатория создает убийственный вирус. Быстро защищаться от вирусов мы не умеем. Не исключено, что не так уж сложно сделать заразу, которая будет одновременно очень вирулентна, имея соответствующие фрагменты из вируса гриппа, и в то же время на 100% летальна, получив часть, например, из Эболы. Для воплощения такого проекта хватит нескольких десятков образованных безумцев.

История немного притянута за уши, но такого рода сценарий тем более становится вероятным, чем больше мы овладеваем технологией. При том что наши технологии все мощнее, биологически и социально мы недалеко ушли от верхнего палеолита — наш мозг остался примерно тем же.

Оценивая факты глобальных угроз, быстро приходишь к выводу, что до появления универсального ИИ человечество способно совершить глобальный суицид, используя простые и эффективные технологии. Нельзя и преступно останавливать научно-технический прогресс, но сам прогресс предоставляет нам инструменты для контроля существующих угроз.

Если наша цивилизация проскочит через это бутылочное горлышко, то откроются два хороших сценария. Сценарий первый: мы — это тупиковая ветвь эволюции. Разум, превосходящий нас, будет развиваться дальше, а мы останемся забавными обезьянками, живущими в своем мире со своими страстями и интересами. В таком мире нам нечего будет делить с разумными машинами, как нечего делить с шимпанзе и гориллами. Наоборот, мы любим играть с приматами, снимать про них забавные фильмы. Возможно, ИИ будет снимать документальные сериалы про людей, и показывать своим отпочкованиям.

Второй сценарий: с определенного момента уровень развития технологии превысит сложность организации нашего организма. И с этого момента разница между нашими машинами, нашими инструментами и нами самими начнет неизбежно стираться. Мы станем вмешиваться в собственный организм, доращивать свои нейронные сети искусственными дополнениями, добавим постнеокортекс к мозгу.

Представьте, что мы склеиваем искусственную нейронную сеть с нашим мозгом. Искусственная нейронная сеть, например, в 10 тыс. раз больше нашей нейронной сети. Известно, что мозг — штука пластичная, и даже ранения мозга, вышибающие из него куски, часто не приводят к потерям личности, самоидентификации. Поэтому не исключено, что от системы склеенного мозга с искусственной сетью мясной мозг можно будет отрезать и выбросить без ущерба для личности.

Возможно, будет иначе: мы начнем ремонтировать мозг при помощи нанороботов, а с искусственной нейронной сетью будем связываться через удаленные каналы. В любом случае человек станет частью метасистемы. И определить, где заканчивается искусственный разум и начинается естественный, на каком-то уровне развития технологий уже станет просто невозможно.

Последние слова: ИИ как личность

^{Изображение: Machine Overlords}

Возможно ли самосознание у искусственного интеллекта?

Разум как дитя эволюции появился не просто так, а как механизм приспособления к среде, позволяющей выживать и давать здоровое потомство. Ученые высказывают мнение, что сознание — это некое отражение нашей психики. Наша психика обнаруживает саму себя и начинает рассматривать ее как независимый объект. В этом плане не исключено, что самосознание — это всего-навсего побочный эффект адаптации.

^{Зеркальные нейроны могут быть задействованы в освоении новых навыков путем имитации.}

У человека в процессе эволюции появились зеркальные нейроны, используемые социальными организмами для прогнозирования поведения других особей. То есть нам где-то в голове нужна модель, которую мы можем применить к другому человеку, чтобы спрогнозировать его поведение. В какой-то момент зеркальные нейроны стали «рассматривать» и сами себя.

Если данная теория верна, то схожим образом, через побочные эффекты, возможно развитие искусственного интеллекта, неизбежно вырабатывающего у себя самосознание. Если нам потребуется, чтобы ИИ мог спрогнозировать поведение других ИИ или людей, у него появится модель для прогноза действий, и рано или поздно он применит эту модель к самому себе. Осознание — неизбежное следствие развития сложно организованной интеллектуальной системы.

Противоположная точка зрения гласит, что ИИ останется в какой-то степени инстинктивным, то есть будет действовать без самосознания и самоотражения, и тем не менее станет решать очень широкий спектр интеллектуальных задач. В какой-то степени это происходит прямо сейчас: современная шахматная программа играет лучше людей, но у нее нет самосознания.

Что касается копирования сознания на электронный носитель, то в этой истории тоже не все однозначно. Английский ученый Роджер Пенроуз утверждает, что человеческое сознание не является алгоритмическим, и в силу этого не может быть смоделировано с помощью обычного компьютера типа машины Тьюринга. По мнению Пенроуза, сознание связано с квантовыми эффектами, а значит, принцип неопределенности Гейзенберга не позволит получить точный снимок электронной активности мозга. Поэтому наше сознание, скопированное в машину, не будет точной копией. Большая часть исследователей с этим мнением не согласна, считая, что пороги сигналов в мозге очень далеки от квантового уровня.

^{Метод опорных векторов в машинном обучении был предложен Владимиром Вапником в 1995 г.}

В завершение вспомним о нейронных сетях. На самом деле нейронные сети на практике в машинном обучении — это модели для ленивых. При отсутствии возможности правильно настроить метод опорных векторов (SVM) или построить random forest, мы берем нейронную сеть, загоняем в нее обучающую выборку, получаем какие-то характеристики модели и т.д.

Нейронные сети не универсальны и у них куча проблем — они склонны к шуму, к оверклассификации в отдельных ситуациях. Для целого ряда задач нам известны более хорошие методы. При решении шахматных задач мы не используем нейронные сети, но машины все равно играют лучше, чем люди. Это является хорошим примером создания системы, решающей некоторые задачи лучше мозга на более медленной примитивной элементной базе при помощи алгоритмов, не используемых мозгом.

Можно ли сделать универсальный ИИ не на нейронных сетях? Конечно! Просто мы начинаем с бионического подхода. Вначале пробуем улучшить то, что есть сейчас, а затем будем искать более совершенные методы.

Какой бы путь мы не выбрали, не стоит воспринимать его как человеческую драму по противостоянию человека и компьютера. Под каждым постом о победе ИИ в очередной игре кто-нибудь обязательно напишет комментарий про SkyNet и Судный день. Почему проигрыш машине воспринимают как проигрыш человека? Это выигрыш человека, только не того, который играл за доской, а того, который создал ИИ. И это гораздо более важное достижение: один из них научился двигать фигуры, а другой оказался на шаг впереди и написал программу, двигающую фигуры к победе.

P.S. Если вам понравилась статья, то в следующий раз мы расскажем о глубоком обучении с подкреплением, о принятии программой решения убить или спасти человека, о самоуправляемых автомобилях и целых городах, регулируемых ИИ.

С. Марков

https://geektimes.ru/company/mailru/blog/277064/

12.04.2016 Искусственный интеллект: история и перспективы. Марков С.

Популярная лекция