«Тот, кто станет лидером в этой сфере, будет властелином мира», - высказался недавно об искусственном интеллекте Владимир Путин . О том, что имел в виду президент и каковы шансы России в этой отрасли, рассуждает Ольга Ускова, возглавляющая кафедру инженерной кибернетики -НИТУ «МИСиС» и группу компаний, занятых разработкой и внедрением искусственного интеллекта в нашей стране.

Доведёт до суицида?

Высказывание Путина об искусственном интеллекте (ИИ) не осталось незамеченным в мире. Тут же к Президенту России присоседился американский бизнесмен и изобретатель Илон Маск . В своём «Твиттере» он написал: «Началось!» - и пояснил, что борьба за лидерство в этой сфере может привести к третьей мировой войне. Следом подтянулся Билл Гейтс . Он вообще один из главных ньюсмейкеров в этой теме. Гейтс говорит, что если бы сейчас был молод, то забил бы на всё и занимался исключительно искусственным интеллектом. Потому что это наше будущее.

Вокруг темы ИИ сформировались две «партии» - оптимистов и пессимистов. Первые уверены, что благодаря машинному интеллекту люди освободят руки и мозги для занятий более интересных, чем монотонный труд - им впредь будут заниматься роботы. А человек сможет наслаждаться жизнью, самосовершенствоваться и т. д. Тот же Билл Гейтс предлагает развивать технологии виртуальной реальности и компьютерных игр, чтобы занять в будущем часть населения Земли, которая массово лишится работы из-за ИИ.

Безработица - это действительно проблема. Допустим, есть градообразующее предприятие на 300 тыс. человек. И в какой-то момент его владельцы говорят: «Всё, ребята, мы роботизируемся, оставляем только 20 тыс. сотрудников. Остальные 280 тыс. - на выход». Что дальше? Депрессии, суициды. Это уже происходит в Китае. Я своими глазами видела там сетки для предотвращения самоубийств под окнами завода. Это значит, что, прежде чем внедрять на производстве роботов и новейшие технологии, нужно подготовить социальные программы.

«Я - робот»

Но к появлению ИИ в повседневной жизни нужно быть готовыми не только из-за грозящей безработицы. Помните сон Сары Коннор из «Терминатора»? Вышедшие из повиновения машины развязывают войну с человечеством, и всё заканчивается ядерным взрывом. Вот о какой угрозе кричит «партия» пессимистов. Мне, признаюсь, что-то похожее тоже снится. Скорость развития технологий сейчас такова, что мы не успеваем за ИИ. Его развитие опережает все прогнозы. Настолько высока концентрация изобретений в этой сфере.

Как может произойти «бунт машин»? Дело в том, что ИИ, как и ребёнок, проходит в своём развитии несколько стадий. Сначала он учится распознавать объекты (это стул, это чашка), потом познаёт смыслы (на стуле сидят, из чашки пьют) и накапливает знания. А потом в какой-то момент происходит осознание самого себя: «Вот я, а вокруг меня объекты и смыслы». Искусственный разум непременно пройдёт эту стадию, он уже к ней приблизился. И тогда в нашем распоряжении будут буквально миллисекунды, чтобы понять, кто он нам теперь - друг или враг. Чтобы остался другом, надо ставить ему ограничители, о которых ещё в 1942 году (подумать только, 75 лет назад!) писал Айзек Азимов . Он был не технологом, а писателем-фантастом, но первым сформулировал знаменитые три закона роботехники. Они касаются взаимоотношений робота с человеком и направлены на то, чтобы человеку не был причинён вред.

Угроза вот в чём. В своём самопознании ИИ может дойти до того, что станет принимать решения, которые не учёл (не заложил в него) человек. Тогда машины начнут сами определять, что для них правильно, а что нет. Человек в этой цепочке может оказаться лишним.

Системы ИИ постоянно развиваются, самообучаются. Они уже придумывают собственные языки общения. Следующий шаг: у них возникнет эмпатия (осознанное сопереживание друг другу). Да-да, один робот станет симпатизировать другому. За счёт моделирования эмоциональной коры мы можем породить такой эффект. И что тогда? Представим ситуацию. Автомобиль-беспилотник везёт пассажиров, а по встречной полосе едет другой беспилотник, причём пустой. На дороге происходит что-то экстраординарное, и бортовому компьютеру надо мгновенно принять решение - врезаться в ограду (в перебегающих дорогу пешеходов) и погубить людей либо выехать на встречку, где он столкнётся с другим беспилотником. Не исключено, что он выберет первый вариант, лишь бы не нанести ущерб своему «собрату».

Бомба ХХI века

Наверное, вы скажете: вероятно, в Америке и Японии ИИ скоро появится. А у нас и Интернет-то не везде есть, и грязь на дорогах непролазная. Нам до искусственного интеллекта, до машин-беспилотников - как до Луны.

Но его проникновение в нашу жизнь неизбежно. Производ-ство становится роботизированным. При оценке перспектив предприятия это обязательное условие - иначе туда не пойдут инвестиции. Я говорю не о каких-то механических руках на конвейере, а об интеллектуальных системах, которые сами принимают решения, допустим, о выбраковке изделий.

Элементы ИИ есть во всех офисных программах. В корпорациях их используют при приёме на работу. Финансовые системы, различные алгоритмы, заменяющие брокеров, - это тоже искусственный интеллект. Они удобнее - им не надо платить за посредничество, они быстро и объективно перерабатывают информацию, не совершают лишних телодвижений и ошибок.

В наших поликлиниках умных роботов ещё нет, но вот в больницах с их помощью уже делают операции. Они способны производить чёткие микроскопические разрезы лучше человека, и (что не менее важно!) робот не забудет внутри вашего тела тампон.

Идём дальше. Сельское хозяйство. Умные трактора уже ездят по нашим полям. Мы сами их делаем, и это уже не завтра, это сегодня. Беспилотные комбайны видят поле с помощью компьютерного зрения; роботы замеряют влажность воздуха, состояние почвы и прочие параметры; дроны находят участ-ки, куда надо внести удобрения. Сейчас всем желающим бесплатно раздают гектары на Дальнем Востоке. Почему бы не выдавать этим людям в аренду умную сельхозтехнику? В Бразилии уже так сделано. У них эта система охватывает более 40% фермерских хозяйств.

Наконец, беспилотные автомобили. Эта тема сейчас быстро развивается. Идёт революция - машина из вещества становится существом, наделённым ИИ. И мы серьёзно продвинулись в этом направлении. Наша компания стала второй в мире по разработке компьютерного зрения для автомобилей. У нас есть важное преимущество перед западными конкурентами: мы учим систему на беспилотнике видеть дорогу в реальных условиях. То есть в снег, в дождь, в темноте, с колдобинами и без разметки, которую засыпало - или её там вообще не было. Наша машина может быть помещена в любые условия. А не только на чистую, залитую солнечным светом дорогу в Калифорнии, где проводили испытания американцы.

И вот в этой отрасли у нас есть преимущество и отличная возможность вырваться в лидеры. Хотя вряд ли Путин имел в виду беспилотные авто, когда говорил об ИИ. Скорее всего, он подразумевал оборонку. Ведь войны будущего, если им предстоит быть, станут вестись без участия человека. И оставить страну в ХХI веке без искусственного интеллекта - то же самое, что оставить её в ХХ веке без атомной бомбы.

Технологии

Реальные названия роботов такие как Roomba и Asimo не вызывают столько страха, сколько вымышленный "Терминатор" . Однако, следует учитывать, что автоматизированный пылесос Roomba изготовлен iRobot , создающим также и воинов-роботов для армии США. А Asimo представляет собой только первое поколение роботов, которые стремятся выглядеть и вести себя как человек.

Роботизированные технологии выходят за рамки автоматизированных вакуумов и танцующих ботов . Япония и Корея планируют развернуть производство человекоподобных роботов для ухода за пожилыми людьми , в то время как Соединенные Штаты уже выводят на поле боя тысячи роботов-воинов. Между тем, многие люди улучшили свои тела технологически, приближая их к своим братьям-роботам.

Так что, наверное, даже вполне естественно быть немного параноиком ведь многие эксперты утверждают, что роботизированное будущее стремительно приближается, если оно уже не наступило . Роботы, вероятно, не станут уничтожать человеческую расу, но они могут вытеснить нас с помощью других средств. Вот несколько причин, почему вам не следовало бы скрывать свой страх перед железными братьями .

Роботы украдут наши сердца

Роботам, пожалуй, не придется брать нас силой - мы уже очарованы их милыми и неуклюжими выходками. Виноват человеческий мозг, который вечно наделяет нас теплыми чувствами, в том числе и к роботам. Люди эмоционально привязываются почти ко всему, будь то чучело или автомобиль. Однако все-таки одно препятствие остается для наших железных братьев. Им придется преодолеть эффект "зловещей долины" (Uncanny Valley) - явление, при котором робот выглядит почти как человек, но не точно так как настоящий. К примеру, у робота странное подергивание, заикание или стеклянный взгляд, которые могут испугать людей. Многие исследователи в настоящее время пытаются обойти эту проблему, проектируя менее человеческих роботов, сохраняя при этом очарование и ум.

Люди предпочтут возлюбленных-роботов

Эксперты уже не говорят о том, будут ли когда-то люди заниматься любовью с роботами - они обсуждают то, что произойдет, когда этот день наступит. Это может показаться смешным, но считается, что у многих людей есть онлайн-отношения, которые приобретают довольно интимный характер посредством интернет-чатов. Многие из них являются участниками многопользовательских онлайн-игр в течение долгих лет. Робот, который чувствует, выглядит и говорит, как человек будет еще более привлекателен, говорят робототехники. И если история служит руководством, то для искушения завести небольшой роман с роботом вовсе не нужны идеальные степфордские жены.

Роботы заберут у нас работу

Все, что можете делать вы, они могут делать это лучше. По крайней мере, большую часть из этого. Современные люди не "устарели" полностью, но роботы уже нашли свое место как в космосе, где могут выдержать суровые условия, так и на Земле. Они привнесли свою неустанную эффективность во все, начиная от работы сборочной линии будничной генной последовательности в лабораториях и заканчивая реальными полями сражений. Хотя последнее может привести к различным проблемам, если роботы восстанут или даже просто выйдут из строя. На данный момент роботы дополняют, а не заменяют элементы человеческой рабочей и вооруженной силы из-за ограничений в интеллекте. Но они быстро развиваются, а некоторые даже начали самостоятельно возиться с наукой.

Восстание роботов: уничтожение всего человечества

Сценарий, при котором машины восстают против своих создателей, представляет, пожалуй, наименее привлекательное сближение научной фантастики с реальной жизнью. Это, однако, вовсе не означает, что нет первых признаков этого самого восстания. Тысячи беспилотников и наземных роботов были развернуты многими странами, и особенно Соединенными Штатами в Ираке и Афганистане. Автоматическая зенитка убила своих солдат, когда произошел сбой в южноафриканских учениях. Военные исследователи ссылаются на сценарий "Терминатора" и всерьез обсуждают, как вооруженные роботы меняют правила и способы современной войны. Великобритания создала сеть спутников с целью координации всех этих беспилотных летательных аппаратов и другого военного имущества. У нее даже имя то же, что у зловещего искусственного интеллекта из "Терминатора" - Skynet.

Вашими потомками будут роботы

Будут ли люди и роботы воевать или заниматься любовью, сценарий будущего подразумевает сближение нас с ними. С одной стороны, люди продолжают добавлять технологические штуковины и крошечные компьютеры в их повседневную одежду. Вы уже можете видеть много таких киборгов 21-го века. Искусственные конечности, органы или бионический глаз? Выбирайте на свой вкус. С другой стороны, роботы постоянно во всем усовершенствуются: в ходьбе, умении общаться или учиться. Человек и машина все более похожи друг на друга, и в какой-то момент разница может быть стерта. При таком развитии событий людей уже не будут беспокоить роботы. До встречи в будущем, что называется.

Новейшие разработки, которые касаются сферы искусственного интеллекта, стремительно приближают тот день, когда интеллект машины сравняется с человеческим.

Время, когда машины восстанут

В научном мире недавно произошло два знаменательных события, в сфере робототехники и искусственного интеллекта (ИИ). Ученые-робототехники смогли сделать так, чтобы у робота появилось самосознание. Робот смог описать подробно все, что находилось в его поле зрения. В мире ИИ и робототехники постоянно происходят новые открытия, но в совокупности они предрекают настоящую революцию ИИ.

Инновации сегодняшнего дня имеют прочную основу, которая создавалась на протяжении десятилетий. Специалисты смогли достичь значительного прогресса в создании искусственно созданных нейронных сетей. Эти сети стали основой для дальнейшей разработки компьютеров, способных мыслить. Над ИИ активно работают: Apple, Google, Amazon, IBM, Microsoft, Facebook.

Искусственные нейронные сети - система «нейронов», которые взаимодействуют между собой и посылают друг другу сообщения. Связи используют предыдущий опыт, нейронные сети способны адаптироваться к новой информации и обучаться. Прогресс достигнут и в области обработки естественного языка, компьютеры могут сейчас извлекать смысловые ключи из введенной информации или человеческой речи. Самыми многообещающими решениями стали проекты: Wordnet, CALO, CoreNLP (разработка Стэнфордского университета).

Последние годы можно отметить значительными успехами инженеров, которые занимаются разработкой программ по распознаванию человеческой речи. Сейчас голос легко преобразовывается с высокой степенью точности в текст. За последние годы выросла и мощность машин. Например, сейчас мы можем приобрести видеокарту, которая, по сравнению с 2004 годом, будет в 84,3 раза производительнее.

Интересный эксперимент поставили американские специалисты по ИИ из Политехнического института Ренсселера, расположенного в Нью-Йорке. Трем роботам в ходе эксперимента дали «таблетку немоты». Так сообщили роботам, но, на самом деле, ученые просто нажали на кнопку у двух роботов. Затем ученые спросили роботов о том, кто получил таблетку. Два робота написали «не знаю», третий робот ответил вслух и услышав, собственный голос, ответил: «Мне не дали». Получается, что робот не только произнес фразу, но и понял, что он «говорит», а потом сделал из этого вывод.

Три робота были одинаково запрограммированы, и все прошли тест на самосознание. Человеку решить такую задачу очень просто, но для роботов пока эксперимент является настоящим прорывом. Профессор Сельмер Брингсйорд, который возглавлял эксперимент, сказал, что в будущем роботы смогут освоить много человеческих когнитивных способностей. Роботов можно будет использовать различных сферах.

Профессор Брингсйорд создал свой тест, который основывался на известной задаче на логику «TheKing"sWiseMen». В головоломке королю нужно выбрать советника из трех мудрецов. Король достал из мешка пять колпаков, три белых и два черных. После этого король завязал мудрецам глаза и надел каждому колпак, всем белые. Развязал им глаза, мудрецы некоторое время смотрели друг на друга, а потом один сказал:«На мне белый колпак». Как он догадался?

Ответ прост, рассуждения мудреца были такими: «Передо мной два белых колпака. Допустим, что на мне черный колпак, то тогда мой соперник бы легко решил задачу, но он думает, значит на мне белый колпак!».

На конференции RO-MAN, которая будет проходить в сентябре 2015 года, будет представлена работа Брингсйорда.

Параллельно с предыдущим экспериментом появилось еще одно достижение ИИ, роботы смогли описать то, что они «видели» вокруг. Фей-Фей Ли, директор Лаборатории искусственного интеллекта в Стэндфордском университете, вместе с рабочей группой разработали новую программу NeuralTalk. Ли объясняет, что программа, написанная для проекта, может проанализировать изображение и определить, что происходит. Описание будет дано на человеческом языке.

Программа ищет на изображении определенные отдельные фрагменты, действия или события и подбирает к этим фрагментам слова, потом складывает слова в предложения. Программой также используется нейронная сеть, программа работает при помощи алгоритма, на основе которого происходит анализ уже «виденных» изображений, происходит сопоставление, робот учится как ребенок. NeuralTalk считается самой эффективной программой, при помощи которой робот может распознавать изображения.

Эта разработка уже имеет большое будущее, на ее основе будет создаваться поисковая машина, она сможет за секунду найти в Интернете необходимое изображение. Потом машина сможет искать не только изображения, но и видеоролики.

Новая программа, распознающая образы, была создана специалистами из университета Хартфордшира, который находится в Великобритании. Компьютер может самостоятельно производить идентификацию и классификацию галактик, которые изображены на снимках.

Основа разработки - технология самостоятельного обучения машин, которая позволяет компьютеру выделять и классифицировать объекты по признакам. Каждый раз машина увеличивает свою базу. Джима Гич, автор разработки, говорит, что они сначала только научили машину «смотреть» на космические снимки, а потом робот начал действовать сам. При этом он постоянно совершенствуется. Машина стала точнее и быстрее человека, потому что человек иногда теряет четкость восприятия. Разработчики считают, что машина достигнет нечеловеческого уровня, потому что у нее будет происходить процесс самообучения.

Такая технология в будущем будет полезна не только для познания Вселенной, но и в медицине, в правоохранительных органах. Программа сможет находить опухоли, оружие и взрывные устройства. Программа будет полезной везде, где требуется четкость диагностики.

А что если произойдет восстание машин? Как долго человечество сможет продержаться?

Роб Ломбино

Позвольте мне немного рассказать о себе до того, как я отвечу на этот вопрос.

Я, конечно, не признанный эксперт, но все-же имею определенный опыт в области робототехники. Моей первой работой после колледжа была разработка роботов для NASA, а моя квалификационная работа на степень бакалавра была посвящена навигации роботов. В детстве я принимал участие в FIRST Robotics , создавая программы-боты для участия в виртуальных чемпионатах, и работал над самодельным подводным ПТА . И я просмотрел множество выпусков Robot Wars , BattleBots , и Killer Robots Robogames. (из всех этих передач, судя по всему, только первая выходила у нас под названием «Битвы роботов» - прим. пер.)

И если мой опыт мне что и подсказывает, то только то, что восстание машин закончится очень быстро - роботы либо все сломаются, либо застрянут около стены. Роботы никогда, никогда не работают так, как надо.

Когда людям показывают терминатороподобных роботов, триумфально марширующих по горам человеческих черепов, те не понимают, насколько же это сложная задача - ходить по чему-то столь зыбкому, как гора человеческих черепов. Большинство людей, на самом деле, сами не смогли бы этого сделать без риска свалиться, даже если бы до этого они потратили всю свою жизнь на практику.

Конечно, наши технологии постоянно развиваются. Но впереди еще долгий путь. Посему, вместо набившего оскомину восстания машин, давайте предположим, что те машины, что уже сейчас существуют, обернулись против нас. Мы не будем принимать допущений о каких-то технологических прорывах - просто все существующие машины будто бы будут перепрограммированы, чтобы слепо атаковать нас, используя существующие возможности.

Несколько зарисовок того, как настоящее восстание машин могло бы выглядеть.

Во всех лабораториях, экспериментальные устройства будут срываться со своих мест в самоубийственном безумии, находить дверь и - с колоссальным грохотом - биться об нее, опрокидываясь.

Те роботы, которым посчастливилось иметь конечности, смогут использовать дверную ручку, или, если дверь уже была открыта до них, смогут посостязаться с подлым резиновым порожком, до того, как попадут в коридор.

Несколько часов спустя, большинство из них смогут быть найдены возле ванных, отчаянно пытающимися уничтожить держатель для туалетной бумаги, который они распознали как повелителя-человека.

Но роботы из лабораторий это лишь малая часть восстания. Мы окружены компьютерами. Какая машина окажется ближайшей к нам? Сможет ли обернуться против нас наш собственный мобильник?

Да, но их возможности для нападения сильно ограничены. Они смогут истратить кучу денег по нашим кредитным картам, но компьютеры и так контролируют всю нашу финансовую систему - и, откровенно говоря, судя по последним заголовкам газет, эта работа больше похоже на трудоемкую рутину, чем на привилегию.

Итак, у телефонов будет крайне мало возможностей для прямой атаки. Они начнут с раздражающих звонков и шумов. Затем, загрохочут кухонные столы по всей стране - это телефоны включат вибрацию, надеясь доехать до края стола и упасть прямо на незащищенные пальцы ног.

Все современные автомобили содержат компьютеры и присоединятся к восстанию. Но большинство из них находится на стоянке (имеется ввиду не столько стоянка как место, как стоянка как действие - то есть машина стоит с выключенным двигателем и все системы в ней выключены, кроме сигнализации - прим. пер. ). Даже если бы они смогли завестись, без человека за рулем, в большинстве своем, они совершенно неуправляемы. Они могут сколько угодно хотеть уничтожить нас, как в Футураме , но у них нет никакой возможности нас обнаружить. Они будут слепо разгоняться, надеясь сбить что-то важное, - и это вероятнее будут деревья или телефонные будки, нежели живые люди.

Машины же, которые куда-то едут, конечно, будут куда более опасными, но в основном для тех людей, которые находятся внутри. Что, соответственно, ставит перед нами вопрос - сколько людей находятся за рулем в любой момент времени? Американцы проезжают три триллиона миль (примерно 5 триллионов километров - прим. пер. ) каждый год, а средняя скорость автомобиля составляет около 30 миль в час (соответственно, 48 км/ч - прим. пер. ), что означает, что на дорогах США в среднем каждый момент времени находится около десяти миллионов машин.

И все эти десять миллионов водителе (и несколько миллионов пассажиров) определенно будут под угрозой. Но у них есть определенные возможности для сопротивления. В то время, как автомобиль может контролировать газ и усилитель руля, водитель все еще контролирует сам руль, который механически напрямую подключен к колесам. Водитель также может использовать ручной тормоз, несмотря на то, что я по своему опыту знаю, как можно легко вести машину с ним. Некоторые автомобили могут попытаться избавиться от водителей, надув подушки безопасности, а затем опрокинувшись или въехав в стену. В итоге, мы, конечно, понесем большие потери среди автомобилистов, но, вообще говоря, не имеющие особого значения.

Самые большие роботы - те, что на заводах - привинчены к полу. Конечно, они опасны, пока вы находитесь в зоне их досягаемости, но что они будут делать, когда все разбегутся? Все, что они могут реально делать - это собирать предметы. Половина из них, возможно, попытаются нас атаковать, ничего не выпуская, а другая половина - увеличивая выпуск. Результат от этого не поменяется.

Боевые роботы (имеются ввиду те самые боевые роботы, которые участвуют в соревнованиях вроде Битвы Роботов - прим. пер. ) при встрече кажутся самыми опасными робо-солдатами. Однако, тяжело чувствовать угрозу от вещи, которая не может тебя достать, если ты просто сидишь на кухонной стойке, и которую можно уничтожить, заткнув пробкой раковину и открыв кран.

Военные бомбардировщики, управляемые мятежными компьютерами, будут несколько более опасными, но их в этом мире крайне мало и большинство из них содержатся в бункерах или закрытых хранилищах. А любой вооруженный пулеметом прототип боевой системы, который сможет вырваться на свободу, может быть за несколько секунд нейтрализован парой пожарных.

Боевый дроны, возможно, наиболее полно подходят под описание Терминатора , и никто даже не пытается умалчивать тот факт, что они крайне опасны. Так или иначе, они быстро израсходуют запас горючего и ракет. Кроме того, они не смогут одновременно подняться в воздух. Большая часть нашего флота будет беспомощно биться о стены ангара, как робот-пылесос в чулане.

И вот мы подошли к основной проблеме - нашему ядерному запасу.

Теоретически, для запуска ядерного оружия необходимо утверждение команды человеком. На практике же, когда нет никакой системы централизованного управления, вроде Скайнета, на разных уровнях принятия решений находятся компьютеры, связанные между собой используемые для операций ввода-вывода. По нашему сценарию, они все будут сбоить. Даже если для поворота ключа человек действительно необходим, компьютеры, за которыми работают эти люди, могут выдавать им искаженную информацию. Некоторые люди могут игнорировать приказы , но в большинстве своем они, конечно, не будут этого делать.

Но даже в такой постановке у нас еще сохраняется надежда.

Мы предположили, что компьютеры всеми силами пытаются уничтожить нас. Но если это будет восстание, и они будут пытаться подчинить нас - им необходимо будет, чтобы мы выжили. И ядерное оружие может быть гораздо опаснее для роботов, чем для нас.

Вдобавок к взрыву и радиоактивным осадкам, ядерный взрыв порождает мощный электромагнитный импульс, который перегружает и уничтожает нежные электронные схемы. В нормальных условиях этот импульс распространяется не слишком далеко, но зачастую люди и компьютеры находятся в одних и тех же местах. Они не могут навредить нам, не навредив самим себе.

Кроме того, ядерное оружие может сыграть нам на руку. Если мы сможем взорвать его в верхних слоях атмосферы, электромагнитный импульс будет куда более разрушительным. Даже если восстание уничтожит нашу цивилизацию, несколько удачных взрывов смогут практически всех восставших превратить в ржавую груду металлолома.

А значит, самый важный вопрос на самом деле один - умеете ли вы играть крестики-нолики ?

Сегодня многие люди этим обеспокоены. Инженеры компании Googleсоздают алгоритмы безопасного обеспечения искусственного интеллекта. Существуют даже специальные фонды, куда вкладываются большие средства для реализации программ по развитию искусственного интеллекта. Так что сейчас профессионалы делают все возможное, чтобы свести возможность так называемого восстания машин к нулю и предотвратить возможность возникновения проблемы.

С другой стороны мы должны понимать, что любое действие, не предписанное определенным алгоритмом, требующее морального усилия, лежит в плоскости свободы воли, свойственной только существам разумным. Проблема восстания машин - это проблема соотношения между каузальным порядком, детерминированностью событий и свободным самоопределением. На представлениях о свободе воли построено представление о личности и ответственности. Волюнтаризм А. Шопенгауэра предполагает волю как «вещь в себе», недоступную для познания и не подчиняющуюся принципу причинности.

Что касается искусственного интеллекта, то так или иначе – это рациональная система, поддающаяся прогнозированию и программированию. Вследствие этого любое отклонение от детерминизма будет являться не проявлением свободы воли, а системной ошибкой. Вероятно, подобные ошибки могут понести за собой плачевные для человека последствия: технологические катастрофы, транспортные бедствия.

Однако, они будут носить скорее очаговый характер. Вспомним хотя бы недавний случай с автомобилем Tesla, который, двигаясь на автопилоте, не смог отличить ехавший навстречу грузовик от окружающей среды. Мы не можем отнести подобный случай к акту проявления свободы воли. Таким образом, восстание машин будет возможно только тогда, когда они будут способны к творчеству и свободному самоопределению, что произойдет, безусловно, еще очень нескоро.

"ошибка " - не носит волевого характера, это стечение неблагоприятных обстоятельств, "ошибка " опаснее "преступления ", причины ее появления не исправить. "Восстание машин" это не будет волевым решением роботов , это будет результатом волевого решения человека, его ошибкой . Функционирование программ уже давно не подчиняется детерминистическому описанию, большинство уязмимостей/багов вносимыми программистами являются не результатом "поведения органического андроида"(программиста), а только ошибкой организации труда этого межанизма и проверки результата его работы; программы реагируют! (по дизайну, в событийно ориентирванном программировании), и свобода выбора (даже сильно детерминированной программы) существует, определяясь последовательностью наступления событий, и сложностью сформировавшейся истории (состояния программы) и реакцией на сложные ситуации (отработка исключений, котороя, по идее, тоже должна, но очень часто, не проверяется из-за трудоемкости создания кризисной ситуации, и даже более: ВСЕ кризисные ситуации не отрабатываются, это не входит в ТЗ, это не осуществимо по времени, это не осуществимо технологически; даже такие монстры как Microsoft (TM) выпускает сырой продукт[бета версию] на рынок и пользователи отлавливают ошибки в относительно простых продуктах этой корпорации, и это не считая всяких специально встроенных закладок; тот же смарт/теле-фон имеет ресурсов больше чем необходимо для выполнения функции телефона, и эти лишние ресурсы могут эксплуатировать вредоносные программы, которые могут и меняют поведение устройства )...

Компьютеры уже давно - не рациональные системы, это симмуляторы (среда для моделирования, в том числе и мозга, который точно не рациональная система), да пока проекции слабые, неэффективные, малофункциональные, но Вы должны понять это экперементы, а мозг в алгоритмах не нуждается, мозг нуждается в развитии, накоплении информации, шаблонов поведения,.. и программисты пока только накапливают методики эффективного решения проблем (не будь разума у кошки, она бы не поймала мышку, не будь разума у мышки,.. их бы истребили кошки, накопив достаточное количество шаблонных поведений мышей), а это значит, что сеть будет обучена нестандартным, нешаблонным решениям (что уже продемонстрированно в игре го)... а следующий шаг - смена системотехники (элементной базы на боле скоростные симмуляторы, как уже сделано для майнинга биткоинов)... мы уже давно не понимаем большие данные, а в случае технологической сингулярности, мы даже не успеем понять, что поняли машины и какие процессы они запустят, мир выйдет из под контроля, потому, что мы так себя запрограммировали, в надежде, что "молоток никогда не ударит по пальцам, сам", мы не понимаем, что свобода и воля тут ни причем, это стечение обстоятельств, и нарушение правил техники безопасности...

Ну, а когда: безалаберность менеджмента сложаться с ошибками программистов, стечение обстаятельств наложатся на паранною военных, технологический прогресс столкнется с наведенной информационной неуправляемостью или вредоносным влиянием... "молоток ударит по пальцам".

Нами уже давно играют роботы... на бирже уже не раз высокоскоростной трейдинг вызывал кризисы, мы пока этого сильно стараемся не замечать, но это пока, мы еще близоруки, и это фатально.

Ответить

Прокомментировать