Искусственный интеллект поставили в рамки: Европа наводит порядок

Искусственный интеллект поставили в рамки: Европа наводит порядок

09.06.2021

Время прочтения - 6 мин.

Свершилось: ЕС обнародовал сводку правил, регламентирующих сферу искусственного интеллекта (ИИ). На эти нормативы Европа возлагает большие надежды, желая сравняться со странами-лидерами отрасли — США и Китаем. Нововведения в законодательстве помогут развеять тревогу пользователей касательно вмешательства ИИ в частную жизнь. Чем эти правила стали привлекательны для общественности, и действительно ли искусственный разум нуждается в контроле?

Чем вызвано внимание ЕС?

Тема контроля ИИ поднималась еще в сентябре 2020 года. Президент Еврокомиссии Урсула фон дер Ляйен, выступая перед Парламентом, говорила не только о перспективах применения технологии, но и о необходимости ее регулирования.

«Эффективная сельскохозяйственная деятельность, постановка точных медицинских диагнозов, высокий уровень безопасности при использовании функции автопилота в автомобилях — искусственный интеллект способен открыть новый мир. Но он же нуждается и в правилах. Наша цель — в том, чтобы во главу угла был поставлен в первую очередь человек», — заявила она с трибуны.

В ЕС ждут не дождутся, чтоб искусственный разум помог преодолеть пропасть в развитии между странами Европы и государствами, занимающими передовые позиции в этом направлении.

Директор Центра инноваций в области данных Фонда информационных технологий и инноваций (ITIF) Даниэль Кастро утверждает: «Соединенным Штатам и ЕС необходимо обратить внимание и отреагировать на действия Китая в сфере ИИ. Потому что страны, которые станут первыми в этой отрасли, будут определять ее будущее и получат серьезное преимущество на рынке таких технологий. Отстающие же лишатся шанса стать конкурентоспособными в области ИИ».

О претензиях Китая на лидерство говорит тот факт, что из 500 самых мощных суперкомпьютеров в мире 214 произведены на его территории. Согласно данным за 2018 год, в КНР были представлены около 25 000 научных работ, связанных с ИИ. Для сравнения: в этот же период в ЕС опубликовано 20 418 трудов, в США эта цифра еще ниже — 16 233 исследования.

Тем не менее США до сих пор занимает первое место в мире по разработке микросхем для ИИ-систем. А технологические компании, такие как Apple, Google, Microsoft, Facebook, Accenture, вкладывают немалые средства в развитие этого направления.

Отчет Global Data показал, что за последние 5 лет Apple приобрела более 25 стартапов, занимающихся разработками в области ИИ. А остальные 4 гиганта из перечисленных суммарно поглотили еще 35 компаний. Только в 2020 году они наняли на работу около 15 000 новых сотрудников, обладающих знаниями в сфере искусственного интеллекта и машинного обучения. Теперь понятно, почему Европа стремится наверстать упущенное время и активизировала усилия для развития отрасли.

Кропотливая деятельность по разработке новых правил (с привлечением представителей всех государств — членов объединенной Европы) велась в стенах Европарламента больше года. Усвоив горькие уроки отставания в интернет-технологиях из-за недооценки их перспектив, ЕС намерен взять реванш. Правда, некоторые эксперты выражают определенные опасения. Из-за спешки Брюссель рискует совершить ошибку, допустив чересчур жесткое или наоборот слишком свободное регулирование отрасли.

До чего додумались авторы проекта

С текстом документа успели ознакомиться журналисты France24. Основной упор в законодательном акте делается на ограничение угрозы правам человека и общечеловеческим ценностям. В частности, запрещается:

  • несанкционированная слежка за населением;
  • любые манипуляции общественным мнением и поведением людей;
  • влияние на принимаемые человеком решения;
  • разделение жителей на группы по поведенческим и личностным признакам.

При этом под требования не подпадают силовые структуры: армия, полиция, спецслужбы. Для них планируется разработать особые нормы. Это стало довольно неожиданным, учитывая опубликованный доклад Комитета по юридическим вопросам Европарламента в декабре прошлого года. В нем была указана важность введения ограничений для ИИ в рамках военного применения, и сообщалось об активном внедрении систем с использованием ИИ-технологий в сфере вооружений. Последнее вызвало много вопросов этического плана, а потому Комитет незамедлительно рекомендовал:

  • приступить к разработке правил по использованию таких вооружений в современных военных конфликтах;
  • изучить потенциальные угрозы для мирного населения от их применения.

Авторы доклада считают, что введение боевых комплексов, управляемых ИИ, этически приемлемо лишь тогда, когда окончательную команду на поражение цели отправляет живой оператор.

В тексте документа прямо говорится: «Автономные боевые системы следует использовать только в качестве крайней меры. Это решение будет признано обоснованным, если его принимает человек, способный сделать выбор между жизнью и смертью».

При этом разработчики вооружений на ИИ обязаны предустановить протоколы для внесения корректировок в принимаемые компьютером решения, чтобы при необходимости иметь возможность их отмены или полного отключения комплекса.

К тому же необходимо ввести систему идентификации оператора боевых систем — для однозначного определения виновного, к примеру, в случае незаконного использования оружия.

В Комитете рекомендуют изучить подход Министерства обороны США, выделившего 5 этических принципов применения ИИ-технологий в военных целях:

  • Подчинение. Использование умного оружия предусматривает не только полное выполнение поставленной задачи, но и санкционированное вмешательство в его работу. Оператор должен обладать возможностью определения и предотвращения нецелевого использования арсенала. А также отменять боевую задачу или непосредственно деактивировать оружие.
  • Надежность. Все виды вооружений с использованием ИИ должны быть безопасны в течение предусмотренного срока эксплуатации. Их соответствие требованиям необходимо обеспечить практическими испытаниями.
  • Обучение. Производители применяемых ИИ-систем должны снабдить войска учебными материалами и методологическими пособиями по принципам работы и эксплуатации изделий. Это необходимо для подготовки квалифицированных кадров.
  • Ответственность. Персонал, управляющий умным оружием, должен уметь оценивать последствия его использования. А также нести прямую ответственность за принятие решений.
  • Беспристрастность. Заказчик в лице Минобороны США должен непредвзято расследовать все случаи и потенциальные возможности нежелательного использования военных ИИ-технологий. При обнаружении таковых предпринять все усилия для их устранения.

Как будут наказывать?

Нарушителей правил использования технологий ИИ ждут суровые последствия. В зависимости от вида и серьезности нарушения компания-разработчик или эксплуатант будут оштрафованы на сумму до 4% своего годового оборота. Да и просто заявиться на рынке, особенно при выпуске продукции с высоким риском, теперь не выйдет: для этого необходимо получить лицензию у регулирующих органов. К ней чиновники отнесли, например, биометрические программы идентификации или системы безопасности для критической инфраструктуры.

Как реагируют заинтересованные стороны?

Мировые IT-гиганты пристально наблюдают за развитием ситуации с регулированием отрасли ИИ. Например, Google уже неоднократно критиковал Брюссель за попытки введения чрезмерного контроля в этой области.

Александр де Стрил — академик университета Намюра и содиректор аналитического центра CERRE — говорит о трудностях поиска баланса между эффективным использованием новых технологий и защитой прав человека. По его мнению, разработанные в ЕС правила допускают слишком вольную трактовку многих вопросов. А это недопустимо в таком серьезном деле. Ведь последствия ошибок при принятии решений могут нанести серьезный удар по темпам развития всей отрасли в Европе. Также вероятно снижение привлекательности рынка для потенциальных инвесторов.

С другой стороны, некоторые эксперты в области права высказывают тревогу о недостаточной защите от злоупотреблений при использовании новых возможностей в сфере ИИ. Это может привести к негативным последствиям, влияние которых на права и свободы людей трудно поддаются оценке, считают они.

Представитель правозащитной организации Liberties Орсолья Рейх констатирует: «Предложенные правила регламентируют только отдельные случаи, например, общий биометрический контроль за населением. ЕС должен занять более радикальную позицию и запретить любые варианты слежки за людьми, безо всяких исключений».

Не вызывает сомнений, что развитие и применение ИИ-технологий способно принести неоценимую пользу во многих аспектах нашей жизни, от медицины до пивоварения.

Но не стоит забывать слова Стивена Хокинга, произнесенные им в ходе видеоконференции в Пекине в 2017 году: «Развитие искусственного интеллекта может стать как наиболее прогрессивным, так и самым трагичным фактором для человечества. Мы должны осознавать опасность, которую он собой представляет».

Сегодня жизненно важно ввести разумные ограничения на работы в этой области. Это позволит избежать неприятных ситуаций в будущем.

Подпишись на наш телеграм канал

только самое важное и интересное

Подписаться
Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Читать также

Игла Амура: как приложения для знакомств способствуют вакцинации

Игла Амура: как приложения для знакомств способствуют вакцинации

Вакцинироваться или нет? На решение этого вопроса активно влияют различные факторы. К убеждению в необходимости прививок подключились даже сайты знакомств и авиаперевозчики. Чем прогрессивнее страна, тем ощутимее давление. Какие же «плюшки» предлагают за укол? Читайте в нашем материале.

12 октября 2021 г.

Ядерное перевооружение энергетики

Ядерное перевооружение энергетики

Чуть более полувека назад на атомную энергетику множество людей во всем мире возлагали большие надежды. Казалось, что цепная ядерная реакция открывает человечеству неисчерпаемый источник сравнительно дешевой энергии, при этом не будет ни затопления огромных территорий, ни углеродного загрязнения атмосферы... Но с тех пор иллюзии развеяны. Что же предлагает ядерная энергетика сегодня?

9 октября 2021 г.

Поколение 6G: техногиганты нацелены на будущее

Поколение 6G: техногиганты нацелены на будущее

Пока во всем мире полным ходом идет освоение пятого поколения мобильной связи, крупные корпорации уже ставят на следующий стандарт. Его появление будет реальностью в конце текущего десятилетия.

8 октября 2021 г.

Урожай: шесть букв по вертикали

Урожай: шесть букв по вертикали

Рост населения Земли влечет увеличение спроса на продовольствие. Поэтому в последние годы остро встал вопрос эффективности земель аграрного назначения. В результате появились и стали внедряться новые технологии, в числе которых — гидропоника и вертикальное земледелие.

7 октября 2021 г.

Возвращение авосек: Украина вступила в беспластиковую эру

Возвращение авосек: Украина вступила в беспластиковую эру

Полиэтиленовые пакеты в XXI веке получили такое широкое хождение, что начали представлять серьезную проблему для окружающей среды. По данным ООН, если ничего не предпринимать, к середине века человечество будет производить 33 млрд тонн синтетической продукции в год, что в 110 раз превышает сегодняшний объем.

13 июля 2021 г.

Лето без COVID отменяется?

Лето без COVID отменяется?

Самонадеянность государств Южной Европы, распахнувших границы иностранным туристам, уже привела к ужесточению местных ограничений, а в дальнейшем может вылиться в новый парад локаутов. С 1 июля в ЕС начали действовать сертификаты вакцинации: по замыслу их создателей, они призваны облегчать пересечение границ между странами. Однако все идет к тому, что многие европейцы поездке на южные курорты предпочтут отдых дома. Так, министр Франции по европейским делам Клеман Бон уже предостерег сограждан...

9 июля 2021 г.

Исчезающие татуировки пойдут по рукам

Исчезающие татуировки пойдут по рукам

Стартап Ephemeral Tattoo, разработавший технологию исчезающих со временем татуировок, уже через 4 месяца после открытия первой студии собрал $20 млн и стремится расширить географию на 10–20 локальных рынков. Об этом сегодня, 7 июля, сообщает Bloomberg. Для временных татуировок используются такие же иглы, что и для настоящих. Сама технология нанесения тату не очень отличается от традиционной. Ее изюминкой являются полимерные биорассасывающиеся чернила, которые полностью выцветают за 9–15 месяцев...

7 июля 2021 г.

Кастомизация: на вкус и цвет товарищи есть

Кастомизация: на вкус и цвет товарищи есть

Видеоруководство по самостоятельной сборке компьютера уже доступно на сайте каждого второго маркетплейса электроники. Вскоре такой же обыденной станет и возможность подбирать из списка комплектацию автомобиля понравившейся модели, начиная от типа двигателя и заканчивая обивкой салона.

6 июля 2021 г.

{"type":"article","id":1647,"isAuthenticated":false,"user":null}