Взросление искусственного интеллекта

Системы искусственного интеллекта (ИИ) все глубже проникают в нашу жизнь. Они становятся более точными и реже ошибаются. В некоторых областях их возможности уже достигли и даже превосходят человеческие. Мир превращается в арену ожесточенной конкуренции ведущих держав за владение системами ИИ. А ученые и философы все громче говорят о рисках этического порядка — как с точки зрения применения, так и влияния ИИ на человека.   

Невидимое рядом

Прошлым летом около 400 заказчиков российской дизайнерской студии Артемия Лебедева были поставлены перед фактом, что согласованные с ними и оплаченные работы (логотипы компаний, динамические заставки блогов, роспись посуды и т. д.) выполнил не удаленный сотрудник студии Николай Иронов, а искусственный интеллект, названный тем же именем.

Судя по тому, что никто из заказчиков не поднял шумиху и протест против подмены человека бездушной машиной, результатами работы Иронова все остались довольны. Студия Лебедева отрекламировала себя законодателем рыночной моды. А сама история наглядно продемонстрировала, что степень проникновения ИИ в современную жизнь превышает наши об этом познания.

Действительно, системы искусственного интеллекта уже научились понимать тексты лучше, чем большинство человеческих индивидуумов, комбинировать ноты и изображения в связную музыку и видео так, что их можно выдать за труд композитора или съемочной группы. Прямо на наших глазах активно развиваются проекты автономного вождения автотранспорта. ИИ все чаще привлекают к анализу рентгеновских снимков, данных МРТ и разработке новых лекарственных препаратов. Ну а COVID-19, в некотором роде, стал для ИИ двигателем прогресса. 

В прошлом месяце один из крупнейших мировых центров по изучению искусственного интеллекта — Стэнфордский университет (США) — опубликовал ежегодный отчет Artificial Intelligence Index Report 2021. В нем утверждается, что в год пандемии количество опубликованных научных исследований по теме ИИ по сравнению с 2018-2019 гг. более чем удвоилось. Рост составил 40% против 19,6% в прошлые периоды. Без преувеличения можно говорить о лавинообразной динамике научных публикаций — с 5 500 в 2015 г. до почти 35 000 в 2020 г.

Страновые особенности

В прошлом году впервые в истории Китай обогнал США по числу исследований в области искусственного интеллекта. Однако в ретроспективе Соединенные Штаты по-прежнему продолжают удерживать первенство по сравнению с другими странами.

Особенность регионального интереса к ИИ в том, что в Китае и странах Евросоюза его основным заказчиком является государство (в 2019 и 2020 гг. — 4 352 и 3 623 исследования соответственно). Тогда как в США движители прогресса в этой области — корпорации (5 513 научных работ).

В 2020 году Китай опередил конкурентов — как по общему числу материалов в научных журналах, так и по объему рецензированных публикаций (проверенных независимыми экспертами, а не сотрудниками изданий). В первом случае на долю КНР приходится 22,4% от общего количества научных статей (у Евросоюза — 16,4%, у США — 14, 6%). Во втором случае — 18% (США — 12,3%, ЕС — 8,6%).

Однако американцы по-прежнему лидируют по объему исследований, подготовленных совместно научными учреждениями и технологическими компаниями. А это зачастую играет первостепенную роль для быстрого воплощения идей в реальность. Поэтому, как считает Джек Кларк, сопредседатель Стэнфордского Института ориентированного на человека искусственного интеллекта[u1] , США и Китай внесли примерно равный вклад в разработку ИИ.

Что нужно?

По данным авторов Индекса ИИ, в 2020 году объем мировых инвестиций в технологию составил $67,9 млрд (крупнейшими сегментами были частные вложения капитала, а также слияния и поглощения). Из громких событий можно вспомнить удачное IPO компании C3.ai американского миллиардера Тома Зибеля, разместившей на бирже акции стоимостью $573,5 млн, или привлечение стартапом Scale AI Алекса Вана, оказывающим услуги по обработке данных, $155 млн от группы инвесторов во главе с хедж-фондом Tiger Global.

Однако инвестиции растут, а круг их получателей сужается. В 2020 г. последних насчитывалось менее 1 000 по сравнению с 4 000 в 2017 г. Тенденция объясняется более высокой готовностью технологий и пониманием инвесторов, осознающих, чего они хотят и где могут это получить.

Больше всего денег в 2020 г. — $13,8 млрд — получили медицинские стартапы, использующие ИИ для поиска формул новых препаратов (в том числе, от рака и COVID-19), анализа медицинских данных и историй болезней пациентов, что помогло бы разработать более эффективные методы лечения.  

Один из прорывов прошлого года — созданный DeepMind Technologies (принадлежит Alphabet) алгоритм AlphaFold, умеющий предсказывать форму сворачивания белковых молекул. Он позволяет понять, как трехмерные структуры различных белков влияют на заболевания и создавать более совершенные лекарства. 

Далее в списке следуют разработчики беспилотного транспорта ($4,5 млрд) и образовательных продуктов на базе искусственного интеллекта ($4,1 млрд).

Одно из важнейших направлений в работе ИИ занимают задачи семантической сегментации, имеющие массу применений — от считывания медицинской информации до управления автомобилем и беспилотником.  

Цель — научить ИИ различать и классифицировать изображения городских пейзажей на уровне пикселей (дома, деревья, автомобили, автобусы, люди, животные и т. д.), что затем используется для автономного управления транспортными средствами. Так же попиксельно можно разбивать человеческую фигуру и оценивать положения тела. Технология применяется для поиска преступников при сборе данных с видеокамер.

Возможности подобных технологий проверяются на соревнованиях типа ImageNet, где алгоритмы выполняют одни и те же задания. И если в 2012 г., размечая картинки по классам, лучшие ИИ допускали 4 ошибки из 10, то сейчас в простых задачах достигают 90% и 99% точности. 

Особенно актуальными в настоящее время являются интерактивные или воплощенные системы ИИ. Например, робот, способный обозревать здание, самостоятельно по нему перемещаясь, или ИИ, собирающий конструктор по инструкции.

Тонкая грань между подлинником и копией

Не так давно Facebook запустила приложение, позволявшее наложить собственное лицо на лик героя какого-нибудь фильма или музыкального клипа. Однако, как выяснилось, аналогичная технология, получившая название Deep Fake, использовалась не только для безобидных развлечений, но и для фабрикации порно и другого компрометирующего контента в отношении конкретных людей. Все более размытые границы между настоящим и искусственным, подлинником и копиями заставили заговорить об этических нормах применительно к искусственному интеллекту.  

Один из самых известных документов — «Принципы использования ИИ» — обнародован 28 февраля нынешнего года во время конференции, организованной Ватиканом совместно с Microsoft и IBM. Папа Римский Франциск неоднократно обращался к теме роботизации окружающей среды и даже призывал молиться за роботов.

По мнению католической церкви, системы ИИ должны быть доступными для понимания, учитывать потребности всех людей, а их разработчикам следует действовать ответственно, прозрачно и беспристрастно, гарантируя справедливость и сохранение человеческого достоинства. Искусственному интеллекту, считают католики, должна быть присуща надежность, безопасность и уважение принципа конфиденциальности личных данных пользователей.

Эти требования получили название фундаментальных элементов «полезных инноваций». Однако нетрудно заметить, что большинство из них относится к людям, а не к машинам. Между тем сами разработчики ИИ, похоже, копнули несколько глубже.

Например, громкий резонанс в минувшем году вызвало увольнение из Google Тимнит Гебру, руководившей командой по этическому использованию ИИ технологического гиганта. Она прославилась скандальными заявлениями о том, что большие языковые модели типа GPT-3, разработанные компанией OpenAI (в число основателей входит Илон Маск), неспособны избегать трансляции общественных стереотипов, из-за чего могут страдать отдельные угнетенные группы общества.

GPT-3 известна как самая «плотная» языковая модель, имеющая 175 млрд параметров. Для ее обучения использовалось 570 Гб текста. GPT-3 способна писать тексты, не отличимые от человеческих, и имеет огромное количество применений, начиная от чат-ботов и заканчивая генерацией компьютерных кодов для поиска.  

Тимнит Гебру утверждала, что алгоритмы распознавания лиц, разработанные Google, хуже идентифицируют темнокожих людей, поскольку больше натренированы на белых. После увольнения из компании она заявила о предвзятом к себе отношении.

С другой стороны, в минувшем году в самый разгар беспорядков в США, связанных с движением BLM, компания IBM приняла решение прекратить разработку технологии распознавания лиц. СЕО IBM Арвинд Кришна охарактеризовал ее как используемую «для массового наблюдения и нарушения базовых прав и свобод человека». Он предложил Конгрессу США отказаться от закупки технологии у других поставщиков и начать национальный диалог о возможностях ее применения правоохранительными органами. Как заявил Кришна, IBM готова сотрудничать с конгрессом в обеспечении справедливости и расового равенства.

В общем, учитывая аморальность ИИ (в смысле неприменимости к машинам категорий морали), вопросы этики по мере развития технологии возникнут еще не раз. Вслед за системами, способными продуцировать фейковые тексты, изображения и видео, немедленно создаются алгоритмы для их распознания.

В этом смысле весьма симптоматичной выглядит попытка AI Index Report выяснить, кто занимается созданием ИИ на планете. Оказалось, что среди представителей ученого сообщества, работающих в этой области, достаточно много квиров, а также людей, подвергавшихся ранее насилию со стороны других членов общества. Никаких выводов из этого факта авторы исследования не делают. Но на ум почему-то сразу приходят сюжеты с участием супергероев, которые хотят освободить планету от зла и негодяев, но зачастую сами оказываются в плену предрассудков, из-за чего страдают те, кого они пытались защитить. На смену им приходят новые супергерои, и мировой порядок всякий раз оказывается восстановлен.