Искусственный интеллект поставили в рамки: Европа наводит порядок

Искусственный интеллект поставили в рамки: Европа наводит порядок

09.06.2021

Время прочтения - 6 мин.

Свершилось: ЕС обнародовал сводку правил, регламентирующих сферу искусственного интеллекта (ИИ). На эти нормативы Европа возлагает большие надежды, желая сравняться со странами-лидерами отрасли — США и Китаем. Нововведения в законодательстве помогут развеять тревогу пользователей касательно вмешательства ИИ в частную жизнь. Чем эти правила стали привлекательны для общественности, и действительно ли искусственный разум нуждается в контроле?

Чем вызвано внимание ЕС?

Тема контроля ИИ поднималась еще в сентябре 2020 года. Президент Еврокомиссии Урсула фон дер Ляйен, выступая перед Парламентом, говорила не только о перспективах применения технологии, но и о необходимости ее регулирования.

«Эффективная сельскохозяйственная деятельность, постановка точных медицинских диагнозов, высокий уровень безопасности при использовании функции автопилота в автомобилях — искусственный интеллект способен открыть новый мир. Но он же нуждается и в правилах. Наша цель — в том, чтобы во главу угла был поставлен в первую очередь человек», — заявила она с трибуны.

В ЕС ждут не дождутся, чтоб искусственный разум помог преодолеть пропасть в развитии между странами Европы и государствами, занимающими передовые позиции в этом направлении.

Директор Центра инноваций в области данных Фонда информационных технологий и инноваций (ITIF) Даниэль Кастро утверждает: «Соединенным Штатам и ЕС необходимо обратить внимание и отреагировать на действия Китая в сфере ИИ. Потому что страны, которые станут первыми в этой отрасли, будут определять ее будущее и получат серьезное преимущество на рынке таких технологий. Отстающие же лишатся шанса стать конкурентоспособными в области ИИ».

О претензиях Китая на лидерство говорит тот факт, что из 500 самых мощных суперкомпьютеров в мире 214 произведены на его территории. Согласно данным за 2018 год, в КНР были представлены около 25 000 научных работ, связанных с ИИ. Для сравнения: в этот же период в ЕС опубликовано 20 418 трудов, в США эта цифра еще ниже — 16 233 исследования.

Тем не менее США до сих пор занимает первое место в мире по разработке микросхем для ИИ-систем. А технологические компании, такие как Apple, Google, Microsoft, Facebook, Accenture, вкладывают немалые средства в развитие этого направления.

Отчет Global Data показал, что за последние 5 лет Apple приобрела более 25 стартапов, занимающихся разработками в области ИИ. А остальные 4 гиганта из перечисленных суммарно поглотили еще 35 компаний. Только в 2020 году они наняли на работу около 15 000 новых сотрудников, обладающих знаниями в сфере искусственного интеллекта и машинного обучения. Теперь понятно, почему Европа стремится наверстать упущенное время и активизировала усилия для развития отрасли.

Кропотливая деятельность по разработке новых правил (с привлечением представителей всех государств — членов объединенной Европы) велась в стенах Европарламента больше года. Усвоив горькие уроки отставания в интернет-технологиях из-за недооценки их перспектив, ЕС намерен взять реванш. Правда, некоторые эксперты выражают определенные опасения. Из-за спешки Брюссель рискует совершить ошибку, допустив чересчур жесткое или наоборот слишком свободное регулирование отрасли.

До чего додумались авторы проекта

С текстом документа успели ознакомиться журналисты France24. Основной упор в законодательном акте делается на ограничение угрозы правам человека и общечеловеческим ценностям. В частности, запрещается:

  • несанкционированная слежка за населением;
  • любые манипуляции общественным мнением и поведением людей;
  • влияние на принимаемые человеком решения;
  • разделение жителей на группы по поведенческим и личностным признакам.

При этом под требования не подпадают силовые структуры: армия, полиция, спецслужбы. Для них планируется разработать особые нормы. Это стало довольно неожиданным, учитывая опубликованный доклад Комитета по юридическим вопросам Европарламента в декабре прошлого года. В нем была указана важность введения ограничений для ИИ в рамках военного применения, и сообщалось об активном внедрении систем с использованием ИИ-технологий в сфере вооружений. Последнее вызвало много вопросов этического плана, а потому Комитет незамедлительно рекомендовал:

  • приступить к разработке правил по использованию таких вооружений в современных военных конфликтах;
  • изучить потенциальные угрозы для мирного населения от их применения.

Авторы доклада считают, что введение боевых комплексов, управляемых ИИ, этически приемлемо лишь тогда, когда окончательную команду на поражение цели отправляет живой оператор.

В тексте документа прямо говорится: «Автономные боевые системы следует использовать только в качестве крайней меры. Это решение будет признано обоснованным, если его принимает человек, способный сделать выбор между жизнью и смертью».

При этом разработчики вооружений на ИИ обязаны предустановить протоколы для внесения корректировок в принимаемые компьютером решения, чтобы при необходимости иметь возможность их отмены или полного отключения комплекса.

К тому же необходимо ввести систему идентификации оператора боевых систем — для однозначного определения виновного, к примеру, в случае незаконного использования оружия.

В Комитете рекомендуют изучить подход Министерства обороны США, выделившего 5 этических принципов применения ИИ-технологий в военных целях:

  • Подчинение. Использование умного оружия предусматривает не только полное выполнение поставленной задачи, но и санкционированное вмешательство в его работу. Оператор должен обладать возможностью определения и предотвращения нецелевого использования арсенала. А также отменять боевую задачу или непосредственно деактивировать оружие.
  • Надежность. Все виды вооружений с использованием ИИ должны быть безопасны в течение предусмотренного срока эксплуатации. Их соответствие требованиям необходимо обеспечить практическими испытаниями.
  • Обучение. Производители применяемых ИИ-систем должны снабдить войска учебными материалами и методологическими пособиями по принципам работы и эксплуатации изделий. Это необходимо для подготовки квалифицированных кадров.
  • Ответственность. Персонал, управляющий умным оружием, должен уметь оценивать последствия его использования. А также нести прямую ответственность за принятие решений.
  • Беспристрастность. Заказчик в лице Минобороны США должен непредвзято расследовать все случаи и потенциальные возможности нежелательного использования военных ИИ-технологий. При обнаружении таковых предпринять все усилия для их устранения.

Как будут наказывать?

Нарушителей правил использования технологий ИИ ждут суровые последствия. В зависимости от вида и серьезности нарушения компания-разработчик или эксплуатант будут оштрафованы на сумму до 4% своего годового оборота. Да и просто заявиться на рынке, особенно при выпуске продукции с высоким риском, теперь не выйдет: для этого необходимо получить лицензию у регулирующих органов. К ней чиновники отнесли, например, биометрические программы идентификации или системы безопасности для критической инфраструктуры.

Как реагируют заинтересованные стороны?

Мировые IT-гиганты пристально наблюдают за развитием ситуации с регулированием отрасли ИИ. Например, Google уже неоднократно критиковал Брюссель за попытки введения чрезмерного контроля в этой области.

Александр де Стрил — академик университета Намюра и содиректор аналитического центра CERRE — говорит о трудностях поиска баланса между эффективным использованием новых технологий и защитой прав человека. По его мнению, разработанные в ЕС правила допускают слишком вольную трактовку многих вопросов. А это недопустимо в таком серьезном деле. Ведь последствия ошибок при принятии решений могут нанести серьезный удар по темпам развития всей отрасли в Европе. Также вероятно снижение привлекательности рынка для потенциальных инвесторов.

С другой стороны, некоторые эксперты в области права высказывают тревогу о недостаточной защите от злоупотреблений при использовании новых возможностей в сфере ИИ. Это может привести к негативным последствиям, влияние которых на права и свободы людей трудно поддаются оценке, считают они.

Представитель правозащитной организации Liberties Орсолья Рейх констатирует: «Предложенные правила регламентируют только отдельные случаи, например, общий биометрический контроль за населением. ЕС должен занять более радикальную позицию и запретить любые варианты слежки за людьми, безо всяких исключений».

Не вызывает сомнений, что развитие и применение ИИ-технологий способно принести неоценимую пользу во многих аспектах нашей жизни, от медицины до пивоварения.

Но не стоит забывать слова Стивена Хокинга, произнесенные им в ходе видеоконференции в Пекине в 2017 году: «Развитие искусственного интеллекта может стать как наиболее прогрессивным, так и самым трагичным фактором для человечества. Мы должны осознавать опасность, которую он собой представляет».

Сегодня жизненно важно ввести разумные ограничения на работы в этой области. Это позволит избежать неприятных ситуаций в будущем.

Подпишись на наш телеграм канал

только самое важное и интересное

Подписаться
Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Читать также

Хроники Джи: часы с датчиком температуры и умные грузовики

Хроники Джи: часы с датчиком температуры и умные грузовики

Apple Watch Series 8 смогут определять, повышена ли у человека температура тела, Google удалит данные пользователей о посещениях клиник, делающих аборты, а на дорогах США появятся грузовики без водителей в салоне. «Доктор» Apple Watch  Apple Watch Series 8 будут оснащены датчиком температуры тела, который может определить, есть ли у владельца жар, говорится в отчете аналитика IT-сферы Марка Гурмана из Bloomberg.  Гурман считает, что вместо того, чтобы давать человеку точные показания, часы до...

вчера

Цукерберг и Meta отказываются от криптопроекта Novi

Цукерберг и Meta отказываются от криптопроекта Novi

Марк Цукерберг и его компания Meta Platforms решили закрыть с 1 сентября проект цифровых платежей Novi. Об этом сообщает The Street. Цукерберг удачно выбрал момент: криптосектор сейчас переживает беспрецедентный кризис доверия, отмеченный падением цен на цифровые валюты. Согласно данным CoinGecko, BTC потерял уже 71,3% своей стоимости с момента исторического максимума 10 ноября. ETH также упал на 78% по сравнению со своим максимумом ноября. В целом рынок криптовалют лишился более $2,1 трлн за в...

вчера

В ЕС хотят направить €500 млрд на восстановление Украины

В ЕС хотят направить €500 млрд на восстановление Украины

В понедельник, 4 июля, Украина представит план того, как она будет восстанавливаться после российского вторжения, которое разрушило города, оставило миллионы людей без крова и привело экономику в упадок. План, который будет продемонстрирован на двухдневной конференции в швейцарском городе Лугано, включает инвестиции в инфраструктуру, климат и цифровые технологии. Об этом сообщает Bloomberg.  Отдельно президент Еврокомиссии Урсула фон дер Ляйен представит платформу для координации пожертвований...

4 июля 2022 г.

Хроники Джи: киберспорт, VR и первые злодеи метавселенной

Хроники Джи: киберспорт, VR и первые злодеи метавселенной

Рассказываем о новом бренде для кибергеймеров от Sony, новых возможностях для обладателей очков виртуальной реальности Quest 2 V, и о том, как владелец Meta — Марк Цукерберг хочет обложить обитателей метавселенной новыми налогами.  

1 июля 2022 г.

Облачный майнинг: как получить выгоду и избежать рисков

Облачный майнинг: как получить выгоду и избежать рисков

Cloud mining — процесс использования удаленного центра обработки данных для добычи криптовалют. В этом случае вы не сами им занимаетесь, а нанимаете для выполнения работы третьих лиц. И вам не нужно покупать и обслуживать специальные майнинговые установки или запускать блокчейн-узел. Разберемся в вопросе подробнее. Есть нюансы При облачном майнинге участники обычно арендуют либо оборудование, либо хеш-мощность. Владелец при этом должен иметь ферму или управлять ею. В идеале поставщик услуги и...

26 июня 2022 г.

Украина стала кандидатом в члены ЕС. Что дальше?

Украина стала кандидатом в члены ЕС. Что дальше?

Российское вторжение в Украине и героическое сопротивление агрессии резко ускорили евроинтеграционный процесс. Однако чтобы сохранить прогресс, украинской власти предстоит проделать еще много работы.

24 июня 2022 г.

Регуляторы ЕС ужесточают требования к дата-центрам IT-гигантов

Регуляторы ЕС ужесточают требования к дата-центрам IT-гигантов

В связи с сокращением поставок энергоносителей из-за войны России с Украиной, политические показатели для объектов обработки данных в Европе теперь меняются. Так, два проекта были приостановлены из-за массового сопротивления со стороны местных жителей и активистов-экологов. Об этом пишет Bloomberg. Люксембург, Нидерланды, Бельгия, Германия и Дания объединились, чтобы предложить более строгие меры по повышению эффективности к дата-центрам IT-гигантов на встрече министров энергетики Европейского...

23 июня 2022 г.

{"type":"article","id":1647,"isAuthenticated":false,"user":null}