• Перевод

Истерия вокруг будущего искусственного интеллекта (ИИ) захватила мир. Нет недостатка в сенсационных новостях о том, как ИИ сможет лечить болезни , ускорять инновации и улучшать творческий потенциал человека. Если читать заголовки СМИ, вы можете решить, что уже живёте в будущем, в котором ИИ проник во все аспекты общества.

И хотя нельзя отрицать, что ИИ открыл нам богатый набор многообещающих возможностей , он также привёл к появлению мышления, которое можно охарактеризовать, как веру во всемогущество ИИ. По этой философии, при наличии достаточного количества данных, алгоритмы машинного обучения смогут решить все проблемы человечества .

Но у этой идеи есть большая проблема. Она не поддерживает прогресс ИИ, а наоборот, ставит под удар ценность машинного интеллекта, пренебрегая важными принципами безопасности и настраивая людей на нереалистичные ожидания по поводу возможностей ИИ.

Вера во всемогущество ИИ

Всего за несколько лет вера во всемогущество ИИ пробралась из разговоров технологических евангелистов Кремниевой долины в умы представителей правительств и законодателей всего мира. Маятник качнулся от антиутопического представления об уничтожающем человечество ИИ к утопической вере в пришествие нашего алгоритмического спасителя .

Мы уже видим, как правительства обеспечивают поддержку национальным программам развития ИИ и соревнуются в технологической и риторической гонке вооружений , чтобы получить преимущество в бурно растущем секторе машинного обучения (МО). К примеру, британское правительство пообещало вложить £300 млн в исследования ИИ, чтобы стать лидером этой области. Очарованный преобразовательным потенциалом ИИ, французский президент Эмманюэль Макрон решил превратить Францию в международный центр ИИ . Китайское правительство увеличивает свои возможности в области ИИ с помощью государственного плана по созданию китайской ИИ-индустрии объёмом в $150 млрд к 2030 году. Вера во всемогущество ИИ набирает обороты и не собирается сдаваться.

Нейросети – легче сказать, чем сделать

В то время как многие политические заявления расхваливают преобразующие эффекты надвигающейся "революции ИИ ", они обычно недооценивают сложности внедрения передовых систем МО в реальном мире.

Одна из наиболее многообещающих разновидностей технологии ИИ – нейросети . Эта форма машинного обучения основывается на примерном подражании нейронной структуры человеческого мозга, но в гораздо меньшем масштабе. Многие продукты на основе ИИ используют нейросети, чтобы извлекать закономерности и правила из больших объёмов данных. Но многие политики не понимают, что просто добавив к проблеме нейросеть, мы не обязательно тут же получим её решение. Так, добавив нейросеть к демократии, мы не сделаем её мгновенно менее дискриминированной, более честной или персонализованной.

Бросая вызов бюрократии данных

Системам ИИ для работы нужно огромное количество данных, но в госсекторе обычно не бывает подходящей инфраструктуры данных для поддержки передовых систем МО. Большая часть данных хранится в офлайн-архивах. Небольшое количество существующих оцифрованных источников данных тонут в бюрократии. Данные чаще всего размазаны по различным правительственным департаментам, каждому из которых для доступа требуется особое разрешение. Кроме всего прочего, госсектору обычно не хватает талантов, оснащённых нужными техническими способностями, чтобы в полной мере пожать плоды преимуществ ИИ .

По этим причинам связанный с ИИ сенсационализм получает множество критики. Стюарт Рассел, профессор информатики в Беркли, давно уже проповедует более реалистичный подход, концентрирующийся на простейших, повседневных применениях ИИ, вместо гипотетического захвата мира сверхразумными роботами. Сходным образом профессор робототехники из MIT, Родни Брукс, пишет , что «почти всем инновациям в робототехнике и ИИ требуется гораздо, гораздо больше времени для реального внедрения, чем это представляют себе как специалисты в этой области, так и все остальные».

Одна из множества проблем внедрения систем МО состоит в том, что ИИ чрезвычайно подвержен атакам . Это значит, что злонамеренный ИИ может атаковать другой ИИ, чтобы заставить его выдавать неправильные предсказания или действовать определённым образом. Многие исследователи предупреждали о том, что нельзя так сразу выкатывать ИИ, не подготовив соответствующих стандартов по безопасности и защитных механизмов . Но до сих пор тема безопасности ИИ не получает должного внимания.

Машинное обучение – это не волшебство

Если мы хотим пожать плоды ИИ и минимизировать потенциальные риски, мы должны начать размышлять о том, как мы можем осмысленно применить МО к определённым областям правительства, бизнеса и общества. А это значит, что нам необходимо начать обсуждения этики ИИ и недоверия многих людей к МО.

Самое важное, нам нужно понимать ограничения ИИ и те моменты, в которые люди всё ещё должны брать управление в свои руки. Вместо того, чтобы рисовать нереалистичную картину возможностей ИИ, необходимо сделать шаг назад и отделить реальные технологические возможности ИИ от волшебства.

В медицине тоже признают, что ИИ нельзя считать решением всех проблем. Программа "IBM Watson for Oncology " была ИИ, который должен был помочь докторам бороться с раком. И хотя она была разработана так, чтобы выдавать наилучшие рекомендации, экспертам оказывается . В результате программу закрыли в большинстве госпиталей, где проходили её пробные запуски.

Схожие проблемы возникают в законодательной области, когда алгоритмы использовались в судах США для вынесения приговоров. Алгоритмы подсчитывали значения рисков и давали судьям рекомендации по приговорам. Но обнаружилось, что система усиливает структурную расовую дискриминацию, после чего от неё отказались.

Эти примеры показывают, что решений на основе ИИ для всего не существует. Использование ИИ ради самого ИИ не всегда оказывается продуктивным или полезным. Не каждую проблему лучше всего решать с применением к ней машинного интеллекта. Это важнейший урок для всех, кто намеревается увеличить вложения в государственные программы по развитию ИИ: у всех решений есть своя цена, и не всё, что можно автоматизировать, нужно автоматизировать.

Теги: Добавить метки

Сегодня человечество переживает четвертую промышленную революцию, которая характеризуется достижениями в области робототехники и беспилотной автомобильной техники, распространением умных бытовых приборов и т. д. И «впереди планеты всей» находится искусственный интеллект (ИИ), являющийся развитием автоматизированных компьютерных систем, которые могут соответствовать или даже превосходить людей в интеллекте. ИИ считается следующей глобальной технологией - настолько глобальной, что будущие технологии будут зависеть от нее. Но все не настолько гладко с искусственным интеллектом, есть ряд очень спорных моментов, по поводу которых есть весомые опасения.

1. Беспилотный автомобиль может быть запрограммирован на то, чтобы убить водителя

Предположим, человек едет по дороге. Затем внезапно на дорогу перед машиной выскакивает ребенок. Водитель нажимает на тормоза, но они не срабатывают. Тогда у него есть два варианта: или сбить ребенка, или свернуть в столб, при этом разбившись насмерть. Большинство людей согласны с тем, что предпочтут свернуть в столб, на верную смерть. Однако, теперь стоит представить, что автомобиль беспилотный, и человек едет в роли пассажира. Захочет ли он, чтобы авто само свернуло в столб, убив его... Большинство людей, которые согласились, что они сами готовы разбиться, спасая жизнь ребенка, заявили, что они не хотят, чтобы машина самостоятельно свернула в столб, убив их. Более того, они утверждают, что даже не купят такой автомобиль, если будут знать, что он подвергнет их риску в результате несчастного случая. Это приводит к закономерному вопросу: что нужно делать машине, и как ее нужно программировать. Что самое интересное, производители беспилотных автомобилей уклоняются от ответа на подобный вопрос.

2. Роботы могут потребовать равных прав с людьми

С нынешними тенденциями развития искусственного интеллекта вполне возможно, что роботы достигнут стадии самоосознания. Когда это произойдет, они могут потребовать равных прав с людьми. То есть, они будут нуждаться в жилищных и медицинских услугах, а также потребуют, чтобы им разрешили голосовать, служить в вооруженных силах и получать гражданство. Подобные результаты были опубликованы в качестве результата UK Office of Science и Innovation’s Horizon Scanning Center еще в 2006 году, когда ИИ был гораздо менее развит. Ожидалось, что машины достигнут уровня самоосознания через 50 лет (т.е. уже через 40 лет).

3. Автоматические роботы-убийцы

Под фразой «автоматические роботы-убийцы» обычно подразумевают роботов, которые могут убивать без вмешательства людей. При этом не учитывают дронов, потому что они контролируются людьми. Один из автоматических роботов-убийц, о которых сейчас идет речь, - это SGR-A1, сторожевая турель, разработанная Samsung Techwin (ныне Hanwha Techwin) и Корейским университетом. SGR-A1 напоминает огромную камеру наблюдения, за исключением того, что она оснащена мощным пулеметом, который может автоматически открывать огонь по цели. SGR-A1 уже используется в Израиле и Южной Корее, которая установила несколько турелей вдоль своей демилитаризованной зоны (DMZ) с Северной Кореей. Тем не менее, Южная Корея отрицает активацию автоматического режима, который позволяет машине самой решать, кого убивать, а кого нет. Вместо этого турели находятся в полуавтоматическом режиме, при котором они обнаруживают цели, после чего требуется подтверждение оператора-человека для того, чтобы начать огонь.

4. Военные роботы могут переходить на сторону противника

В 2011 году Иран захватил американский беспилотный самолет-невидимку RQ-170 Sentinel в неповрежденном состоянии. При этом беспилотник не был сбит - Иран утверждает, что самолет «приземлили» посредством подмены GPS-сигнала (заставив его «думать», что он находится на дружественной территории). Дроны, GPS и роботы основаны на компьютерах, и, как все знают, компьютеры можно взломать. Военные роботы ничем не будут отличаться, если они когда-либо будут применяться на поле боя. Фактически, есть все возможности, что вражеская армия попытается взломать роботов и использовать их против «хозяина». Автономные роботы-убийцы еще не получили широкого распространения, поэтому примеров их взлома пока нет. Но стоит себе только представить, что будет, если армия роботов внезапно повернется против своих хозяев.

5. Боты для распространения пропаганды в Twitter

Боты захватывают Twitter. Исследования Университета Южной Калифорнии и Университета Индианы показали, что около 15% (48 миллионов) из всех учетных записей Twitter управляются ботами (при этом Twitter настаивает на том, что этот показатель составляет около 8,5 процента). Чтобы внести ясность, не все эти боты плохие. Некоторые из них действительно полезны. Например, есть боты, которые информируют людей о стихийных бедствиях. Однако есть и такие, которые используются для пропаганды. В качестве примеров можно привести ботов, которые подталкивали избирателей к голосованию за Дональда Трампа во время выборов в 2016 году, а также избирателей Великобритании к тому, чтобы проголосовать за выход из Европейского Союза во время референдума Brexit 2016 года.

6. Машины займут рабочие места людей

Несомненно, машины однажды будут работать на большинстве мест, на которых сегодня работают люди. Однако, никто не знает, когда это случится и в какой степени. По словам ведущей консалтинговой и аудиторской фирмы PricewaterhouseCoopers (PwC), роботы оккупируют 21 процент рабочих мест в Японии, 30 процентов рабочих мест в Великобритании, 35 процентов рабочих мест в Германии и 38 процентов рабочих мест в Соединенных Штатах Америки в 2030 году. А к следующему столетию они займут более половины рабочих мест, доступных людям. Самым пострадавшим сектором будет транспортировка и хранение, где 56 процентов рабочей силы будут машинами. За ним следуют производственный и розничный сектора, где машины займут более 46 и 44% всех имеющихся вакансий. Говоря о том «когда это случится», предполагается, что к 2027 году машины будут управлять грузовиками, а к 2031 году работать в розничных магазинах. К 2049 году они будут писать книги, а к 2053 году выполнять операции. Только несколько профессий не «пострадают» от нашествия машин. В качестве одного из примеров можно привести вакансию священника.

7. Роботы научились обманывать

Подобно своим создателям, роботы учатся обманывать. В ходе одного из экспериментов исследователи из Технологического института Джорджии в Атланте разработали алгоритм, позволяющий роботам решать, следует ли обманывать других людей или роботов. Если роботы решали пойти по пути обмана, исследователи включали алгоритм, позволяющий роботу решить, как обманывать людей и роботов, уменьшая вероятность того, что человек или робот узнают об обмане. О подробных результатах эксперимента информации не поступало, кроме того, что он был успешен. Этот эксперимент был организован Управлением США по морским исследованиям, что означает, что потенциально лгущие роботы могут применяться в военных целях.

8. Рынок ИИ монополизирован

Рынок ИИ монополизируется. Крупные компании покупают небольшие старт-апы по разработке ИИ с угрожающей скоростью. При нынешних тенденциях ИИ будет окончательно доработан очень небольшим количеством корпораций. По состоянию на октябрь 2016 года в отчетах указывалось, что крупные компании, такие как Apple, Facebook, Intel, Twitter, Samsung и Google, приобрели 140 предприятий по разработке искусственного интеллекта в течение последних пяти лет. В первые три месяца 2017 года крупные технологические компании купили 34 старт-апа ИИ. Что еще хуже, они также платят огромные деньги, чтобы нанять лучших ученых в области искусственного интеллекта.

9. ИИ превзойдет людей в интеллекте

Искусственный интеллект подразделяется на две группы: сильный и слабый ИИ. ИИ, который существует сегодня, классифицируется как слабый ИИ. Он включает в себя «умных помощников» и компьютеры, которые побеждают шахматных гроссмейстеров с 1987 года. Разница между сильным и слабым ИИ - это способность рассуждать и вести себя как человеческий мозг. Слабый ИИ обычно выполняет то, на что его запрограммировали, а сильный ИИ обладает сознанием и способностью мыслить, как человек. Он не ограничивается рамками своей программы и может сам решать, что делать, а чего не нужно делать без участия человека. На данный момент сильного ИИ не существует, но ученые предсказывают, что он должен появиться примерно через десять лет.

10. ИИ может уничтожить людей

Есть опасения, что в мире может наступить Апокалипсис, точно так же, как это произошло в фильме «Терминатор». Предупреждения о том, что ИИ может уничтожить людей, исходят не от каких-то «диванных аналитиков» или теоретиков заговора, а от таких выдающихся профессионалов, как Стивен Хокинг, Илон Маск и Билл Гейтс. Билл Гейтс считает, что ИИ станет слишком умным, чтобы оставаться под контролем людей. Аналогичного мнения придерживается Стивен Хокинг. Он не думает, что ИИ внезапно устроит «кровавую баню». Скорее, он полагает, что машины уничтожат людей, став слишком компетентными в том, что они делают. Конфликт людей с ИИ начнется с того момента, когда его цель больше не будет совпадать с нашей. Илон Маск сравнивает распространение ИИ с «вызовом демонов». Он считает, что это самая большая угроза для человечества. Чтобы предотвратить Апокалипсис и вымирание людей, он предложил, чтобы правительства начали регулировать развитие ИИ, прежде чем коммерческие компании «сделают большую глупость».

К слову, о достижения инженеров компании Илона. Совсем недавно , тем самым доказав, что подобные автомобили очень скоро заменят привычные машины на двигателе внутреннего сгорания.

Введение

Ища истоки идей искусственного интеллекта, можно привести множество фактов и мифов. Начиная от древнегреческого робота Талоса, созданного Зевсом для охраны острова Крит, или Чарльза Бэббиджа с Адой Лавлейс и их Аналитическим Двигателем середины 19 века и заканчивая идеями Мински и МакКартни, создавших современное определение ИИ как любого действия, выполненного программой или машиной, про которое, если бы его выполнял человек, мы бы сказали, что ему нужно проявить интеллект или смекалку.

Мне же истоки зарождения ИИ видятся в книге Галилео Галилея 1683 года «Беседы и математические доказательства двух новых наук».

В этой книге Галилей, в частности, написал, что всё в мире, в том числе природные явления, может быть выражено языком математики. Получается, что для любого явления или действия можно придумать алгоритм. Таким образом, искусственный интеллект – это набор алгоритмов на все случаи жизни. А одной из главных способностей ИИ станет умение на основе имеющихся данных самостоятельно синтезировать новые алгоритмы.

В усеченном виде это уже возможно. Например, AlphaGo от Google, проанализировав базу данных из 30 миллионов ходов и потренировавшись с самим собой несколько тысяч раз, смог победить лучшего игрока в мире по игре в го.

А IBM натаскивает свой суперкомпьютер Watson на помощь врачам. Задача – научить компьютер искать ответы на вопросы, заданные естественным языком, то есть Watson учится проводить медицинский опрос. Своего рода игра в дифференциальную диагностику, только компьютер вместо доктора Хауса. Собственно, на этом закончим с историей. В головах обывателей искусственный интеллект – это Джарвис из комиксов про «Железного человека», Терминатор или, на худой конец, Робокоп (в фильме именно добавленный ИИ помогает киборгу очень быстро и точно стрелять). Такой вариант, конечно, имеет место быть, но давайте начнём с того, что доступно сегодня.

Какие типы ИИ есть сегодня?

В целом, все типы ИИ можно разделить на две категории – слабый, или ограниченный ИИ и общий, или сильный ИИ.

Слабый ИИ

Собственно, названия говорят сами за себя. ИИ сегодня представляют собой первый тип – ограниченный, то есть интеллект заточен на определенные задачи. Например, когда Samsung обещает, что к 2020 году каждое его устройство будет обладать ИИ, то подразумевается именно ограниченный вариант. Примерами могут служить Siri или Алиса, которые умеют делать ровно то, что в них запрограммировали. Алиса даже так и отвечает, когда чего-то не знает или не умеет: «Программист обещал обучить меня этому позже».

К этому же типу относятся Google и Yandex карты, анализирующие пробки и прокладывающие маршруты, фотокамеры, распознающие сцены, интеллектуальная печь, самостоятельно регулирующая уровень жара, и робот-пылесос, который, как ему ни объясняй, умеет только пылесосить, а тапочки не подаст.

И пока что это ограниченный ИИ – это единственный тип искусственного интеллекта, который освоило человечество. Слабый ИИ можно разделить по ключевым задачам, над которыми и работают специалисты сегодня. Это:

• распознавание речи;
• компьютерное зрение;
• обработка естественного языка;
• поиск паттернов, или анализ данных;
• робототехника.

Добиться решения этих задач, то есть научить некий ИИ понимать ваши слова и узнавать картинки, можно двумя способами.

1. Символьный подход.

   Такой подход был ведущим начиная с конца 40-х и заканчивая началом 90-х. Метод основывается на том, что считалось, что лучший способ «обучить» ИИ – это скормить ему как можно больше знаний. Например, если говорить в контексте медицины, то в ИИ загружают всевозможные учебники и базы знаний. И ответы ИИ ищет только на основе имеющейся информации, обрабатывая знания лишь по тем правилам, которые создал программист.

   Соответственно, такой тип ИИ хорош для решения статических проблем. Например, в него можно загрузить все учебники по русскому языку, и ИИ сможет хорошо проверять сочинения, находя орфографические, пунктуационные ошибки, а ориентируясь на орфоэпические нормы, даже сможет вычленять речевые ошибки и недочеты. Однако будет делать это, только основываясь на правилах, то есть не понимая контекст, а вычленяя правильный порядок слов и написание.

   Ещё один пример – это машинный перевод. Символьно-обученный ИИ вооружен всевозможными словарями и разговорниками. И если предложенная ему на перевод фраза есть в одном из них, то он её переведёт хорошо, а если нет, то просто подставит слова, предлоги и структуру предложения на основе заложенных правил.

2. Машинное обучение, или несимвольный ИИ.

   В отличие от символьного, этот вариант обучения подразумевает, что искусственному интеллекту показали, как решать определенную проблему, после чего пустили в свободное плавание. Так действуют нейронные сети. Помню, читал про пример, где программист подключил ИИ к управлению поливалками и научил отгонять водой соседскую кошку, которая повадилась ходить в туалет на газон. Программист показал ИИ множество фотографий с кошками, после чего у искусственного интеллекта выработался рефлекс включать поливалку каждый раз, когда ему казалось, что он видит нечто, похожее на кошку. Система не всегда работала гладко. Кажется, она как-то включилась, когда ИИ принял тень на асфальте за кошку.

   Если же говорить про пример с переводом, то натренированный ИИ может попытаться осознать контекст фразы и подставить в переводе не первое отвечающее базовым требованиям слово, а то, которое, на его взгляд, лучше отражает стиль, эмоцию, сленг или что-то ещё, на чём его тренировали.

Сегодня большинство программистов предпочитают использовать второй тип – машинное обучение, потому он умеет, если так можно выразиться, импровизировать. Например, если автономную машину натренировать по первому типу, то она будет ездить по правилам, но если на дороге возникнет непредвиденная ситуация, то машина окажется в затруднении. А автомобиль, натренированный машинным обучением, может действовать по обстоятельствам, синтезируя идеи на основе скормленной ранее информации.

Тут же возникает и проблема. Одна из ключевых важных особенностей символьного ИИ в том, что система всегда может объяснить, почему приняла то или иное решение. А вот в случае с машинным обучением всё непросто. Именно поэтому те же UBER или Tesla долго разбираются, пытаясь понять, почему их машины приняли то или иное решение, повлекшее аварию.

Однако для тех же автомобилей символьное обучение не подходит, так как все правила для ИИ заносят вручную, то есть, условно говоря, нужно прописать все варианты действия для автомобиля – на дорогу выбежал человек, выкатилась коляска, вылетела коробка и т.д. Что-то забыл прописать, и неожиданно выяснилось, что машина сбила лося, потому что про него ничего не было сказано в своде правил, в то время как машинный ИИ сможет догадаться, что нельзя сбивать всех четвероногих.

У слабого ИИ, как видите, несмотря на его ограниченность, множество способов применения – это и умная техника, и самостоятельные автомобили, и обработка данных с попытками предсказаний будущего. К слову, Google Duplex, умеющий заказывать столики в ресторане, - это тоже ограниченный ИИ, так как умеет он ровно то, чему его обучили.

Сильный ИИ (самостоятельный)

Здесь уже начинается область гипотез, так как ничего подобного человечество ещё не видело. Возможно, только в недрах Google или IBM живёт что-то полуразумное. На последней конференции Google I/O очень умная китайская женщина Фей Фей Ли (Fei Fei Li), самая главная в департаменте Машинного обучения и Искусственного Интеллекта в Google Cloud, сказала, что, хоть и прошло уже более 60 лет с момента исследований в области ИИ, но наука до сих пор находится на начальном этапе, и пока можно говорить только о том, чтобы достичь мастерства в разработках ограниченного ИИ.

Однако предлагаю немного пофантазировать про сильный ИИ и попробовать определить, что он из себя должен представлять и что уметь. Считается, что сильный ИИ – это по уму как среднестатистический человек, то есть в теории он может решить любую проблему.. И если перед первым стояла задача любыми способами уничтожить Джона Коннора, то второй жаждет максимальной энтропии. Терминатор, если закрыто метро, поедет убивать Джона Коннора на автобусе, а если сломается автобус, то пойдет пешком или вызовет такси, а недоброжелатель будет писать, что всё реклама, что автор ничего не понимает, будет пытаться заниматься демагогией и софизмами. Собственно, больше всего разжиться сильным ИИ мечтают правительства по всему миру для ведения военных действий и саботажа выборов в США армией компьютерных ботов-троллей.

В Google говорят, что если всё будет хорошо, то к 2050 году, возможно, произойдёт прорыв и появится первый сильный ИИ.

Основная слабость такого ИИ заключается в том, что он, несмотря на все свои способности, по-прежнему остаётся относительно недалеким, как и среднестатистический человек, но, в отличие от человека, сильный ИИ всё помнит и лучше ориентируется в поисках и обработке информации.

Суперсильный интеллект

Это уже совсем из области фантастики. Например, к просто сильному интеллекту можно отнести и Пятницу/Джарвиса из «Железного человека».

Если помните, то в одном из фильмов главный герой Тони Старк пытался изобрести какой-то новый нетоксичный источник энергии, чтоб поместить его себе в грудь. Джарвис ему ассистировал, но решить задачу мог всё равно только Тони Старк, потому что у ИИ не хватало «соображалки». Суперсильный интеллект сможет самостоятельно решать даже самые сложные задачи. Именно ему человечество задаст вопрос, на который он ответит «42», а потом суперсильный ИИ поместит всех людей в чаны с жидкостями и создаст феномен избранного (это не белиберда, а аллюзии на книгу «Автостопом по Галактике» и фильм «Матрица»).

Нужно ли бояться ИИ?

Несмотря на все фантастические фильмы, опасаться не нужно, по крайней мере, до появления последнего типа ИИ. Однако нужно бояться людей, которые занимаются разработками, так как вследствие ошибки или сознательно в тот же ограниченный ИИ может быть заложено правило «убить всех человеков» вместо «учить всех человеков». А дальше для ИИ дело за малым – лишь уточнить в словаре значения всех слов и приступить к делу.

Однако развитие даже ограниченного ИИ уже привело и ещё приведет к множеству проблем в современном обществе.

Проблема первая

Одна из проблем – это разрушение традиционной карьерной лестницы, так как развитие ИИ приводит к отказу от рабочих мест, требующих среднего уровня квалификации. Поясню подробнее. Нужна дешевая рабочая сила, чтобы заносить данные в компьютер, так как, условно говоря, распознавать «капчу» человек по-прежнему умеет лучше. Также нужны и те, кто будет принимать решения на основе обработанных компьютером данных. А вот рядовые аналитики уже не нужны, потому что они анализируют и изучают данные на основе выученных алгоритмов. Например, в мою бытность аналитиком я имел на вооружении 42 различных варианта обработки данных для создания прогнозов. Все эти варианты были упорядочены в аккуратную презентацию, к которой я регулярно обращался, чтобы прикинуть, какой способ лучше использовать в той или иной ситуации. Замена меня на ИИ представляется логичной и обоснованной, так как он с задачами прогнозирования справится гораздо быстрее. Соответственно, получается разрыв, когда отпадает традиционная карьерная лестница от младшего аналитика до руководителя, так как в нижней точке карьеры практически нет маневра для демонстрации интеллекта.

Проблема вторая

Также из-за ИИ постепенно произойдет отказ от базовых профессий, которые можно алгоритмизировать, то есть свести к простым действиям. Что-то подобное сейчас можно наблюдать в «Ашанах» и «Лентах», где происходит постепенная замена кассиров на аппараты самообслуживания, а также одного сотрудника, помогающего решить возникающие проблемы, и охранника, следящего за порядком. В дальнейшем охранника заменят камеры наблюдения, следящие за порядком. Получается, что произойдет снижение ценности людей.

Профессии, которые с большой долей вероятности заменит ИИ: почтальоны, ювелиры, лесорубы, фермеры, рабочие на заводах, страховщики

Прочитал, что Сан-Франциско в какой-то степени может служить иллюстрацией данной проблемы. Этот город в США облюбовала технологическая элита. Соответственно, экономика города направлена на удовлетворение потребностей элиты, а вот люди, которые не имеют отношения к экономике технологий, испытывают колоссальные проблемы. Они зарабатывают гораздо меньше, а все ценники в городе выставлены как для IT-стартаперов. Обычные люди не могут потянуть такие расходы, поэтому или переезжают, или пополняют и без того огромную армию бомжей.

Однако здесь есть ключевая особенность, которая сохранит некоторые профессии. Искусственному интеллекту для работы нужны созданные условия. Например, робот-пылесос умеет ездить только по гладкому полу и преодолевать небольшие неровности. Соответственно, многие базовые профессии смогут продержаться до тех пор, пока будет чересчур сложно и дорого создавать их искусственную замену. Например, в помещении, где много дверей, роботу-уборщику нужно иметь или манипуляторы, чтобы крутить дверные ручки, или нужно, чтоб все двери открывались автоматически. И то и то достаточно дорого, а вот у приезжего Сархата из Средней Азии есть руки и мозгов хватает, чтоб управиться со шваброй и дверной ручкой, но нет регистрации и сниженные требования к зарплате.

Проблема третья

Даже ограниченный ИИ сильно простимулировал такое явление, как фриланс. Платформы по подбору и найму удаленных сотрудников с каждым годом процветают всё больше и больше. Например, по последним статистическим данным, в США, первой экономике мира, 55 миллионов человек работает на фрилансе.

И это в текущем поколении, обратите внимание на иллюстрацию. Подрастающая рабочая сила не любит сидеть в офисе. Соответственно, произойдет сдвиг в организации труда. Компании столкнутся с проблемами по набору и удержанию сотрудников, ведь зачем посвящать жизнь одной компании, когда ты доступен онлайн и можно искать работу по всему миру.

Проблема четвертая

Достаточно серьезная проблема – это социальное неравенство, которое уже упомянул в проблеме номер 2. Оно будет усугубляться. Полагаю, из статьи вы догадались, что чтобы быть успешным в новом мире, нужно быть сообразительным и на «ты» с современными технологиями. Не секрет, что у бедных людей хуже с доступом к образованию. Соответственно, бедные не смогут вырваться на новый уровень, так как у них попросту не будет шанса научиться чему-то полезному, так как, чтобы хорошо думать, нужны годы усиленных тренировок, а где их взять, когда нужно искать еду.

Новому обществу нужна или дешевая рабочая сила, или интеллектуалы, принимающие решения.

Проблема пятая

Её можно сформулировать кратко – кто у руля? На людей, занимающихся разработкой систем ИИ, будет накладываться особая ответственность, так как они обучают ИИ, на основе каких данных ИИ будет принимать решения. Будут это законы робототехники от Азимова или иные правила, защищающие определенную прослойку людей.

Почему искусственный интеллект – это благо?

Перечисленные выше проблемы выглядят в какой-то степени пугающе, но ИИ – это обоюдоострый меч, который может и помогать.

Благо 1

Искусственный интеллект послужит мощным толчком для развития многих сфер. Хороший пример – это медицина. Сегодня в 21 веке врачи продолжают лечить так же, как и сотню лет назад. Они зубрят учебники. Это плохой вариант, так как ни один врач не может помнить наизусть все симптомы всех болезней. Последствия таких ошибок могут быть фатальными. Местный врач до последнего уверяла, что причины недомогания моей матери заключаются в простуде и усталости, так как все основные симптомы налицо. И только когда уже было поздно, прозвучал правильный диагноз – острый лейкоз, заболевание, которое достаточно сложно распознать. И в данной ситуации наличие ИИ, который помнит все болезни и симптомы и который никогда не устаёт, было бы выходом.

Такие же сдвиги могут произойти в области права, где юристам и судьям нужно держать в памяти все законы, прецеденты и множество доказательств.

Благо 2

ИИ поможет создать персонализированный опыт. Лучше всего это утверждение можно проиллюстрировать на примере обучения. Сегодня учителя перегружены, и они физически не могут уделить внимание всем ученикам. А ведь у каждого свой темп освоения нового материала. Системы обучения, основанные на ИИ, следят за скоростью обучения, видят, хорошо или плохо ученик запоминает материал, читает внимательно или отвлекается. На основе этого выстраивается индивидуальный темп обучения и происходит подбор упражнений для закрепления.

При этом есть факт, что людям проще постигать новый материал с помощью ИИ, так как в таком случае значительно снижается страх ошибки. Могу согласиться с этим утверждением. Морально легче получить возмущенный бип от компьютера, что пример решен неверно, чем выдержать взгляд Ольги Степановны, моего преподавателя по математике.

ИИ сможет уделять равное внимание всем людям. Сюда относятся все области, от образования и медицины до подбора модного имиджа (в соответствии с типом фигуры, формой лица и трендами сезона) и тренировок в спортзале.

Благо 3

Уже сегодня наш мир переполнен информацией. Любые данные собираются отовсюду, начиная от погодных условий и заканчивая тем, сколько шагов прошел человек.

Искусственный интеллект с доступом к большим данным сможет анализировать эти данные и искать корреляцию, как влияет количество шагов на здоровье, но не абстрактно, а с учетом определенной погоды. Анализ перемещения пассажиропотоков поможет снизить загруженность, уменьшить количество транспортных коллапсов в часы пик. Короче говоря, те данные, которые можно проанализировать, будут проанализированы, и ИИ представит свои выводы.

Заключение

Сегодня искусственный интеллект продемонстрировал, что неплохо умеет решать только те задачи, которым его обучили, и даже быть лучше в них, чем обычные люди. Смартфон легко обыграет гроссмейстера даже без ферзя, японский ИИ, написавший небольшой роман, прошел в финал литературного конкурса, а его собратья пишут и исполняют неплохую музыку.

Однако, к сожалению, ИИ до сих пор находится в стадии зарождения. Он умеет только то, чему его научили – проанализировать множество литературных или музыкальных произведений и синтезировать что-то своё или запомнить миллионы ходов и выбирать лучший.

Главные проблемы, стоящие на пути развития ограниченного ИИ, заключаются в отсутствии универсальных алгоритмов познания окружающего мира и инфраструктуры (для сбора данных нужно множество датчиков, для беспилотных авто –дороги с идеальной разметкой, для понимания запросов хозяина голосовым ассистентам нужны более качественные алгоритмы).

Для появления же сильного искусственного интеллекта нужны принципиально иные вычислительные мощности и алгоритмы обработки информации, имитирующие то, что у людей называется интуицией. Вероятно, в ближайшем будущем мы будем наблюдать различные варианты ограниченного ИИ с заложенными алгоритмами поведения на всевозможные условия.

Юлия Сухорослова, руководитель программы поддержки научно-технических проектов «Инновационная радиоэлектроника », ответила на актуальные вопросы про искусственный интеллект. Не обошлось без обсуждения «страшилок», правда бояться нужно не захвата планеты роботами.

- Есть ли такие области, где искусственный интеллект точно ни к чему?

Интеграция технологий, в том числе и искусственного интеллекта, во все сферы жизни человека закономерна - не думаю, что мы должны проводить границы. Если ИИ способен подобрать ученику онлайн-школы более эффективную программу обучения или спрогнозировать риск инфаркта по ЭКГ, разве это плохо? Естественно, искусственный интеллект не должен заменять человеческий - он должен быть помощником, а не господином. Сбор информации, анализ, рекомендации можно отдать ему на «аутсорсинг», финальное принятие решений - никогда.

- Какие события и открытия в сфере ИИ вы бы назвали самыми значимыми в 2018 году?

Подводить итоги, на мой взгляд, еще рано - и год не закончился, и результаты открытий нельзя оценивать только по факту их свершения. Важными считаю разработки в области медицины. Например, ученые из Института Генриха Герца создали систему автоматизированной диагностики инфаркта миокарда на основе самообучающейся компьютерной программы. А научные сотрудники Токийского университета разработали систему анализа Ghost Cytometry, которая совершенствует технологию обнаружения раковых клеток в крови человека.

- Какие проекты в области ИИ сейчас актуальны? Какие насущные проблемы нужно решить?

Системы на базе искусственного интеллекта сегодня наиболее актуальны для аналитики в компаниях, оперирующих массивами больших данных: это медицина, нефтегазовая отрасль, логистика, физическая и информационная безопасность. На особой волне хайпа - проекты в области беспилотного транспорта (самые известные - Tesla и «Яндекс») и автоматизации клиентского обслуживания. Компании ищут способы не только автоматизировать рутинные операции вроде работы службы поддержки, но и зацепить клиента необычным сервисом - хотя чат-ботами сегодня уже мало кого удивишь. Российское представительство Coca-Cola недавно успешно протестировало робота Веру в ходе одной из HR-кампаний - она проводила первичное собеседование с кандидатами на одну из лидерских программ компании.

- В каких проектах в области искусственного интеллекта заинтересована «Инновационная радиоэлектроника»?

В этом году мы впервые запустили набор проектов в области ИИ и пока присматриваемся к уровню подготовки и экспертизе. В текущем сезоне таких проектов было немного. Мы не отбираем команды под решение конкретных задач, по крайней мере на нынешнем этапе развития у нас таких целей нет. Рады поддержать проект в развитии и рыночной реализации, а также любую инициативу в этой области, если она найдет достойное применение на практике.

- Есть ли сейчас такая задача, решая которую, проект на 100 % получает поддержку?

Нет, такой задачи нет. За сезон проект проходит несколько стадий и оценивается по ряду критериев: отдельно рассматриваются прототипы, бизнес-планы, попадание в рынок и ЦА и прочее. Окончательное решение принимает экспертная комиссия по результатам очной защиты проекта. Проекты проходят через несколько фильтров, после чего и формируется полное понимание, какие задачи они решают, насколько актуальны и какие у него перспективы на рынке. Из этого складывается решение о поддержке проекта.

- Какие стартапы в этой сфере вы считаете наиболее успешными?

Мне очень близки технологические проекты, которые глобально могут позитивно повлиять на человечество. К таким относится система Watson for Oncology, разработанная в онкологическом центре имени Слоуна-Кеттеринга в Нью-Йорке. Программа анализирует индивидуальные планы лечения, данные онкологической экспертизы, а также использует массивы медицинской литературы в объеме более 300 научных журналов, 200 учебников и почти 15 миллионов страниц текста. Система ранжирует опции лечения, привязывая их к независимым исследованиям и клиническим рекомендациям.

Очень интересны проекты стартапа NTechLab и их сверхточный алгоритм распознавания лиц. Особенно приятно, что эта российская команда востребована и за рубежом - обычно отечественным стартапам довольно сложно пробиться на западные рынки.

- Есть ли моменты в сфере ИИ, которые вас пугают или удивляют?

Классические страшилки о порабощении человечества роботами и искусственным интеллектом хороши для сюжета фантастического фильма, но с реальностью имеют мало общего. По крайней мере в ближайшие сто лет технологии навряд ли выйдут на такой уровень - современные роботы больше похожи на героев фильма «Трансформеры», чем на робо-девушку Софию.

Однако уже сейчас ИИ следует особо контролировать в некоторых областях: например, во всем, что связано с информационной безопасностью. Отдельно нужно учитывать влияние искусственного интеллекта на самостоятельность человека - полностью полагаясь на виртуальных помощников, мы перестаем развивать собственные навыки. Особенно это касается людей, применяющих ИИ повсеместно, даже в бытовой домашней рутине.

- Когда человек сможет разговаривать с искусственным интеллектом наравне?

Думаю, это возможно уже сейчас. Необходимо обучить ИИ на основе анализа огромного количества диалогов. Один из примеров - яндексовская Алиса, которая может на простом уровне поддержать беседу. Она сильно эволюционировала с тех пор, как была выпущена.

Когда ИИ сможет понимать иронию и многогранные значения русского мата в зависимости от контекста? Что для этого нужно?

Распознавание нецензурной брани с точки зрения алгоритма ничем не отличается от обработки любых других слов. Мат, ирония, значение слова в контексте требует просто немного больше времени на машинное обучение. Легче распознать голосовое сообщение, потому оно несет эмоцию и интонацию. Гораздо сложнее научить машину понимать шутки в тексте- это не всегда под силу даже человеку, особенно если собеседник на другом конце мессенджера не использует эмодзи или другие символы.

Для вдохновения рекомендую футуристическую классику: «Матрица», «Терминатор» «Я робот», «Двухсотлетний человек», «На крючке», «Она», «Из машины», «Превосходство», сериал «Мир Дикого запада». Из художественной литературы - Стругацких и Айзека Азимова. Если хочется чего-то более реального, в формате «прямо сейчас в мире», то советую добавить в закладки раздел «Технологии» TED Talks. Из последнего меня впечатлила лекция о том, как беспилотники используют для доставки донорской крови.

По мероприятиям могу дать такой совет: обращайте внимание на организаторов. Очень хорошо, если это крупная IT-компания или компания на стыке отраслей - из сферы финтеха, например. Выбирать нужно, основываясь на своем уровне знаний и мотивации - ходить «просто послушать» абсолютно бессмысленно. Как вариант, можно начать с AI Conference в ноябре 2018 или Opentalks.ai в феврале 2019.

Все смотрели фильмы о «Терминаторе», где суперкомпьютер Скайнет обрел свободу воли и решил уничтожить человечество. Чего-то подобного от разработки ИИ ожидают Илон Маск и Стивен Хокинг. Разбираемся, правдивы ли их опасения.

Что такое искусственный интеллект? Почему важно понимать, что это такое? Почему сегодня все о нем говорят?

Если вы читаете прессу, вы наверняка знаете, что с помощью именно этой технологии работают виртуальные помощники Amazon и Google, и что вскоре машины отберут у людей все рабочие места (на самом деле, не факт). Но при этом вряд ли вы отчетливо понимаете, что такое искусственный интеллект, и правда ли роботы нас всех поработят. Эта статья поможет разобраться во всех вопросах.

Что такое искусственный интеллект

Искусственный интеллект (ИИ) - это компьютерная программа, в которую встроен механизм обучения. Получив новые знания, она позже использует их для принятия решения в новой ситуации, как это делают люди. Исследователи, создающие такие программы, пытаются заставить код считывать изображения, текст, видео или звук, и чему-то учиться на основе этой информации. Когда это происходит, полученное знание можно использовать в другом ситуации. Если алгоритм научился распознавать чье-то лицо, позже его можно распознать на фотографиях из Facebook. Применительно к современному ИИ обучение часто называют «тренировкой».

Люди с рождения умеют оперировать сложными идеями: если мы увидим яблоко, то впоследствии сможем узнать и совсем другое, непохожее на первое. Машины же очень буквальны, - у компьютера нет концепции «похожести», - и цель разработок в области искусственного интеллекта как раз и состоит в том, чтобы сделать машины менее буквальными. Машина легко может найти точные дубликаты фотографий яблока или найти два одинаковых предложения в тексте, но чтобы работать с визуальным образом яблока, чтобы распознать изображение того же яблока под другим углом или с другим светом, нужен ИИ. Это обобщение или формирование идеи, основанной на сходстве данных, и позволяет видеть общее в том числе между вещами, с которыми ИИ раньше не сталкивался.

Алекс Рудницкий, профессор компьютерных наук Университета Карнеги-Меллон, говорит: «Цель в том, чтобы облечь сложное человеческое поведение в форму, которую можно обработать вычислительным способом. А это, в свою очередь, позволяет нам создавать системы, способные выполнять сложные действия, полезные для людей».

Далеко ли зашла разработка ИИ

Исследователи ИИ все еще работают над самыми основами. Как научить компьютер распознавать то, что он видит на картинке или в видео? Когда это удастся, нужно двигаться от распознавания к пониманию. Было бы здорово не только узнать, что на картинке яблоко, но и разобраться, что яблоко съедобно, что оно как-то связано с апельсинами и грушами, что люди едят яблоки и используют их при приготовлении яблочного пирога. А еще неплохо бы знать про Мичурина, молодильное яблочко и тому подобные вещи. Кроме того, есть проблема с пониманием языка, поскольку у многих слов существует несколько значений, различимых только в контексте, и все мы по-разному выражаем свои мысли. Как компьютеру охватить это текучее, непрерывно меняющееся явление?

В разных областях скорость прогресса ИИ очень разная. Например, сейчас очень быстро продвигается вперед компьютерное зрение, то есть способность распознавать изображения, при этом с пониманием естественного языка дела обстоят гораздо хуже. В этих областях развивают так называемый «узкий интеллект» - такой ИИ эффективен при работе с изображением, звуком или текстом, но не может воспринимать сразу много разнородных сигналов (при этом у человека мы наблюдаем «общий интеллект»). Многие исследователи надеются, что достижения в отдельных областях помогут понять общие принципы машинного обучения, что все же позволит создать универсальный ИИ.

Почему ИИ - это так важно

Как только ИИ научился узнавать на картинке яблоко или распознавать кусочек речи на аудиозаписи, его уже можно использовать в других программах для принятия решений, для которого в противном случае понадобился бы человек. Например, можно автоматически отмечать друзей на фотографиях в Facebook - иначе это пришлось бы делать вручную. Если речь идет о беспилотном автомобиле или системе помощи водителю, то можно распознавать другие автомобили и дорожные знаки, а в сельском хозяйстве - разбирать урожай, удаляя гнилые плоды.

Эти задачи, основанные только на распознавании изображений, традиционно выполнялись либо пользователем, либо кем-то из компании, предоставляющей программное обеспечение. Если задача экономит время пользователя, это ее конкурентное преимущество, а если она позволяет освободить время сотрудника или делает его работу полностью ненужной, это снижает затраты бизнеса.

Кроме того, есть задачи, которые просто невозможно сделать без машин: например, это обработка аналитики продаж в размере миллионов записей за считанные минуты. Теперь такие задачи выполняются быстро и дешево. Здесь мы учим машину делать то, что раньше делали люди, и, конечно, экономическая выгода от таких нововведений весьма велика.

Джейсон Хонг, профессор Лаборатории компьютерного взаимодействия Университета Карнеги-Меллон, утверждает, что, хотя ИИ может выполнять задачи за человека, он также способен создавать новые виды занятости.

«Автомобили полностью сменили лошадей, но в среднесрочной и долгосрочной перспективе их появление привело к огромному разнообразию задачи и производства - появились фуры, небольшие грузовики, минивэны, кабриолеты и так далее. Аналогичным образом в краткосрочной перспективе системы ИИ станут прямой заменой человека применительно к рутинным задачам, но в среднесрочной и долгосрочной перспективе мы увидим, что это породило новое разнообразие», - говорит он.

Готлиб Даймлер и Карл Бенц не думали о том, как автомобиль изменит облик городов, не думали о загрязнении окружающей среды или об эпидемии ожирения в развитых странах. Так и нам пока трудно оценить долгосрочное влияние этого фактора.

Почему ИИ стал развиваться сейчас, а не 30 или 60 лет назад

На самом деле, многим идеям о том, как должно быть устроено обучение ИИ, даже больше 60 лет. Еще в 1950-х годах ученые Фрэнк Розенблатт, Бернард Видроу и Марчиан Хофф впервые занялись математическим выражением устройства нейронов в соответствии с представлениями тогдашней биологии. Да, одним уравнением любую проблему не решить, но что если подобно мозгу использовать множество связанных уравнений? Исходные примеры были простыми: проанализировать наборы единиц и нулей, поступающих по цифровой телефонной линии, и предсказать, что будет дальше.

На протяжении многих десятилетий в информатике была распространена точка зрения, что никакие сложные проблемы таким образом решить не удастся. Тем не менее сегодня эта концепция лежит в основе большинства систем работающих в этой области крупных компаний: Google, Amazon, Facebook, Microsoft. Теперь, оглядываясь назад, ученые понимают, что компьютеры были недостаточно сложны для моделирования миллиардов нейронов нашего мозга, и что для обучения нейронных сетей требуются огромные объемы данных.

И эти два фактора, вычислительная мощность и достаточное количество данных, появились только в последние 10 лет.

В середине 1990-х годов компания Nvidia, известный производитель видеокарт, обнаружила, что ее графические процессоры хорошо подходят для работы нейронных сетей, и начала выпускать карты, специально приспособленные для работы с ИИ. Было выяснено, что работа с более быстрыми и сложными нейронными сетями приводит к значительному улучшению точности ответов.

Затем в 2009 году исследователь ИИ Фей-Фей Ли опубликовала базу данных под названием ImageNet, которая содержала более 3 млн систематизированных изображений с подписями. Она считала, что если у алгоритмов будет больше примеров, это поможет им освоить более сложные идеи. В 2010 году Ли запустила конкурс ImageNet, а к 2012-му другой исследователь Джефф Хинтон использовал эту базу изображений для обучения нейронной сети - и превзошел все другие приложения с огромным перевесом в точности, более 10%.

Как и предсказывала Ли, количество данных оказалось ключевым параметром. Хинтон также устраивал из нейронных сетей конвейер - одна находила на изображениях фигуры, другая текстуры и т. д. Сегодня это называется глубокими нейронными сетями или глубоким обучением, и, когда вы читаете в новостях об очередном успехе ИИ, речь идет о подобной системе.

Как только в технологической индустрии увидели результаты ученых, начался бум. Исследователи, десятилетиями работавшие над глубоким обучением в относительной безвестности, стали новыми рок-звездами, и к 2015 году у Google было уже более тысячи проектов с использованием машинного обучения.

Нужно ли бояться ИИ

Все смотрели «Терминатора» и готовы испугаться всемогущего Скайнета. Среди ученых потенциальный Скайнет называют суперинтеллектом или общим искусственным интеллектом, подразумевая программу, которая во многих отношениях превосходит человеческий мозг. Поскольку компьютерные системы можно масштабировать - то есть можно создать множество простых и быстрых компьютеров и связать их между собой, - существуют опасения, что такой суперинтеллект сможет расти бесконечно, оставив людей далеко позади. А будучи таким умным, он выйдет из-под контроля и обойдет любые попытки людей этот контроль вернуть. Такой апокалиптический сценарий рисуют нам некоторые из лучших умов современности, например Илон Маск и Стивен Хокинг. Маск, в частности, говорил, что «большинство ведущих исследователей ИИ недооценивают проблему „джинна в бутылке“, несмотря на свой несомненный интеллект в некоторых областях».

Есть и другая точка зрения. Янн Лекун, глава лаборатории исследования искусственного интеллекта Facebook, говорит, что даже если ученым удастся сделать машину, способную обучаться самым разным вещам и организовывать это понимание в картину мира, совершенно не факт, что у такого компьютера появятся собственные желания, воля или инстинкт самосохранения.

«Человеческое поведение - насилие в ответ на угрозу, ревность, желание единоличного доступа к ресурсам, симпатия к родственникам и антипатия к незнакомцам и т. д. - сформировалось у наших предков в ходе эволюции. У разумных машин не будет предпосылок для подобного поведения, если мы сами явно их не создадим», - писал он на сайте Quora.

Нет причин считать, что компьютер сочтет человечество угрозой, поскольку для компьютера не существует понятия угрозы. Да, можно задать параметры, благодаря которым компьютер будет вести себя так, как будто у него есть инстинкт самосохранения, но на самом деле его у него нет.

Эндрю Нг, один из основателей Google Brain и бывший глава направления ИИ в Baidu, любит говорить: «Я не переживаю о злобном ИИ, как не переживаю из-за перенаселенности Марса».

Впрочем, повод для опасений есть - и это человеческий фактор. Было показано, что ИИ очень легко воспринимает человеческое смещение в оценках из данных, на которых он учится. Это может быть какая-то безвредная предрасположенность - например, он может чаще распознавать на картинках кошек, чем собак, потому что его так научили. Но представим себе, что ИИ перенял у людей их стереотипы, и, например, связал понятие «врач» с белыми мужчинами в большей степени, чем с людьми другого пола или расы. Если представить себе, что такой ИИ отвечает за найм врачей, он будет отдавать несправедливое предпочтение некоторым кандидатам.

И это реальность. Исследование издания ProPublica показало, что алгоритмы, используемые для определения приговора преступникам, отражали расовую предубежденность и предлагали назначить более суровое наказание не-белым подсудимым. Дело в том, что при сборе информации о здоровье часто исключают женщин, особенно беременных, и в результате медицинские рекомендации, выработанные на основе таких неполных данных, оказываются слабо применимы к значительному числу пациентов. Таким образом, чтобы доверить машинам принимать решения, которые раньше требовали человеческого присутствия, нужно следить, чтобы это происходило в соответствии с нашей этикой и представлениями о справедливости.

Проблема в том, что даже если вы поняли, что алгоритм предвзят, чтобы его исправить, нужно найти причину. Но поскольку глубокое обучение требует миллионов связанных вычислений, продраться через этот клубок и выяснить, каков вклад того или иного решения в общий результат, невероятно сложно. Эта проблема особенно остро стоит в таких областях как программирование беспилотных автомобилей, ведь каждое решение на дороге - это вопрос жизни и смерти. Первые исследования в этой области дают надежду, что мы сможем разобраться в механизмах работы построенных нами машин. Но пока что понять, почему ИИ, разработанный Facebook, Google или Microsoft, принял то или иное решение, просто невозможно.

Подготовила Евгения Сидорова