Искусственный интеллект поставили в рамки: Европа наводит порядок

Свершилось: ЕС обнародовал сводку правил, регламентирующих сферу искусственного интеллекта (ИИ). На эти нормативы Европа возлагает большие надежды, желая сравняться со странами-лидерами отрасли — США и Китаем. Нововведения в законодательстве помогут развеять тревогу пользователей касательно вмешательства ИИ в частную жизнь. Чем эти правила стали привлекательны для общественности, и действительно ли искусственный разум нуждается в контроле?

Чем вызвано внимание ЕС?

Тема контроля ИИ поднималась еще в сентябре 2020 года. Президент Еврокомиссии Урсула фон дер Ляйен, выступая перед Парламентом, говорила не только о перспективах применения технологии, но и о необходимости ее регулирования.

«Эффективная сельскохозяйственная деятельность, постановка точных медицинских диагнозов, высокий уровень безопасности при использовании функции автопилота в автомобилях — искусственный интеллект способен открыть новый мир. Но он же нуждается и в правилах. Наша цель — в том, чтобы во главу угла был поставлен в первую очередь человек», — заявила она с трибуны.

В ЕС ждут не дождутся, чтоб искусственный разум помог преодолеть пропасть в развитии между странами Европы и государствами, занимающими передовые позиции в этом направлении.

Директор Центра инноваций в области данных Фонда информационных технологий и инноваций (ITIF) Даниэль Кастро утверждает: «Соединенным Штатам и ЕС необходимо обратить внимание и отреагировать на действия Китая в сфере ИИ. Потому что страны, которые станут первыми в этой отрасли, будут определять ее будущее и получат серьезное преимущество на рынке таких технологий. Отстающие же лишатся шанса стать конкурентоспособными в области ИИ».

О претензиях Китая на лидерство говорит тот факт, что из 500 самых мощных суперкомпьютеров в мире 214 произведены на его территории. Согласно данным за 2018 год, в КНР были представлены около 25 000 научных работ, связанных с ИИ. Для сравнения: в этот же период в ЕС опубликовано 20 418 трудов, в США эта цифра еще ниже — 16 233 исследования.

Тем не менее США до сих пор занимает первое место в мире по разработке микросхем для ИИ-систем. А технологические компании, такие как Apple, Google, Microsoft, Facebook, Accenture, вкладывают немалые средства в развитие этого направления.

Отчет Global Data показал, что за последние 5 лет Apple приобрела более 25 стартапов, занимающихся разработками в области ИИ. А остальные 4 гиганта из перечисленных суммарно поглотили еще 35 компаний. Только в 2020 году они наняли на работу около 15 000 новых сотрудников, обладающих знаниями в сфере искусственного интеллекта и машинного обучения. Теперь понятно, почему Европа стремится наверстать упущенное время и активизировала усилия для развития отрасли.

Кропотливая деятельность по разработке новых правил (с привлечением представителей всех государств — членов объединенной Европы) велась в стенах Европарламента больше года. Усвоив горькие уроки отставания в интернет-технологиях из-за недооценки их перспектив, ЕС намерен взять реванш. Правда, некоторые эксперты выражают определенные опасения. Из-за спешки Брюссель рискует совершить ошибку, допустив чересчур жесткое или наоборот слишком свободное регулирование отрасли.

До чего додумались авторы проекта

С текстом документа успели ознакомиться журналисты France24. Основной упор в законодательном акте делается на ограничение угрозы правам человека и общечеловеческим ценностям. В частности, запрещается:

• несанкционированная слежка за населением;
• любые манипуляции общественным мнением и поведением людей;
• влияние на принимаемые человеком решения;
• разделение жителей на группы по поведенческим и личностным признакам.

При этом под требования не подпадают силовые структуры: армия, полиция, спецслужбы. Для них планируется разработать особые нормы. Это стало довольно неожиданным, учитывая опубликованный доклад Комитета по юридическим вопросам Европарламента в декабре прошлого года. В нем была указана важность введения ограничений для ИИ в рамках военного применения, и сообщалось об активном внедрении систем с использованием ИИ-технологий в сфере вооружений. Последнее вызвало много вопросов этического плана, а потому Комитет незамедлительно рекомендовал:

• приступить к разработке правил по использованию таких вооружений в современных военных конфликтах;
• изучить потенциальные угрозы для мирного населения от их применения.

Авторы доклада считают, что введение боевых комплексов, управляемых ИИ, этически приемлемо лишь тогда, когда окончательную команду на поражение цели отправляет живой оператор.

В тексте документа прямо говорится: «Автономные боевые системы следует использовать только в качестве крайней меры. Это решение будет признано обоснованным, если его принимает человек, способный сделать выбор между жизнью и смертью».

При этом разработчики вооружений на ИИ обязаны предустановить протоколы для внесения корректировок в принимаемые компьютером решения, чтобы при необходимости иметь возможность их отмены или полного отключения комплекса.

К тому же необходимо ввести систему идентификации оператора боевых систем — для однозначного определения виновного, к примеру, в случае незаконного использования оружия.

В Комитете рекомендуют изучить подход Министерства обороны США, выделившего 5 этических принципов применения ИИ-технологий в военных целях:

• Подчинение. Использование умного оружия предусматривает не только полное выполнение поставленной задачи, но и санкционированное вмешательство в его работу. Оператор должен обладать возможностью определения и предотвращения нецелевого использования арсенала. А также отменять боевую задачу или непосредственно деактивировать оружие.
• Надежность. Все виды вооружений с использованием ИИ должны быть безопасны в течение предусмотренного срока эксплуатации. Их соответствие требованиям необходимо обеспечить практическими испытаниями.
• Обучение. Производители применяемых ИИ-систем должны снабдить войска учебными материалами и методологическими пособиями по принципам работы и эксплуатации изделий. Это необходимо для подготовки квалифицированных кадров.
• Ответственность. Персонал, управляющий умным оружием, должен уметь оценивать последствия его использования. А также нести прямую ответственность за принятие решений.
• Беспристрастность. Заказчик в лице Минобороны США должен непредвзято расследовать все случаи и потенциальные возможности нежелательного использования военных ИИ-технологий. При обнаружении таковых предпринять все усилия для их устранения.

Как будут наказывать?

Нарушителей правил использования технологий ИИ ждут суровые последствия. В зависимости от вида и серьезности нарушения компания-разработчик или эксплуатант будут оштрафованы на сумму до 4% своего годового оборота. Да и просто заявиться на рынке, особенно при выпуске продукции с высоким риском, теперь не выйдет: для этого необходимо получить лицензию у регулирующих органов. К ней чиновники отнесли, например, биометрические программы идентификации или системы безопасности для критической инфраструктуры.

Как реагируют заинтересованные стороны?

Мировые IT-гиганты пристально наблюдают за развитием ситуации с регулированием отрасли ИИ. Например, Google уже неоднократно критиковал Брюссель за попытки введения чрезмерного контроля в этой области.

Александр де Стрил — академик университета Намюра и содиректор аналитического центра CERRE — говорит о трудностях поиска баланса между эффективным использованием новых технологий и защитой прав человека. По его мнению, разработанные в ЕС правила допускают слишком вольную трактовку многих вопросов. А это недопустимо в таком серьезном деле. Ведь последствия ошибок при принятии решений могут нанести серьезный удар по темпам развития всей отрасли в Европе. Также вероятно снижение привлекательности рынка для потенциальных инвесторов.

С другой стороны, некоторые эксперты в области права высказывают тревогу о недостаточной защите от злоупотреблений при использовании новых возможностей в сфере ИИ. Это может привести к негативным последствиям, влияние которых на права и свободы людей трудно поддаются оценке, считают они.

Представитель правозащитной организации Liberties Орсолья Рейх констатирует: «Предложенные правила регламентируют только отдельные случаи, например, общий биометрический контроль за населением. ЕС должен занять более радикальную позицию и запретить любые варианты слежки за людьми, безо всяких исключений».

Не вызывает сомнений, что развитие и применение ИИ-технологий способно принести неоценимую пользу во многих аспектах нашей жизни, от медицины до пивоварения.

Но не стоит забывать слова Стивена Хокинга, произнесенные им в ходе видеоконференции в Пекине в 2017 году: «Развитие искусственного интеллекта может стать как наиболее прогрессивным, так и самым трагичным фактором для человечества. Мы должны осознавать опасность, которую он собой представляет».

Сегодня жизненно важно ввести разумные ограничения на работы в этой области. Это позволит избежать неприятных ситуаций в будущем.