20 000 профессионалов proAV > 1500 компаний > 570 городов > 6 стран ближнего зарубежья > 1 сообщество

Присоединяйтесь!

Подписка на дайджест
Рубрикатор новостей

Еврокомиссия запретила системы искусственного интеллекта

28 апреля 2021
Еврокомиссия запретила системы искусственного интеллекта

Еврокомиссия опубликовала «Предложения о регулировании искусственного интеллекта на основе европейского подхода» (Proposal for a Regulation on a European approach for Artificial Intelligence) – документ, который декларирует необходимость полного запрета на применение систем искусственного интеллекта (ИИ) в ряде случаев.

Объявлены следующие цели регулирования ИИ в Евросоюзе:

  • обеспечить, чтобы ИИ-системы на рынке ЕС были безопасны и соответствовали закону об основных правах и ценностях Евросоюза;
  • обеспечить правовую определённость использования ИИ-систем, чтобы содействовать инвестициям и инновациям в области ИИ;
  • усовершенствовать регулирование, обеспечить эффективное соблюдение существующего законодательства об основных правах и требованиях безопасности применительно к ИИ-системам;
  • способствовать развитию единого, нефрагментированного рынка законных, безопасных и надёжных ИИ-систем.

Европа стремится стать сверхдержавой в вопросах этики, морали и кибербезопасности в связи с разработкой и использованием ИИ. Ничего другого ей, впрочем, не остаётся, поскольку ЕС существенно (возможно, даже безнадёжно) отстаёт в развитии технологий ИИ от Китая и США, и в области ИИ может рассматриваться даже как киберколония.

Мнение профессора, директора «Центра Сколтеха» по научным и инженерным вычислительным технологиям для задач с большими массивами данных Максима Фёдорова, участника европейской конференции 2019 года, посвящённой влиянию ИИ на права человека, демократию и верховенство права таково:

Благополучную развитую Европу, привыкшую к жизни по веками совершенствовавшимся, устоявшимся правилам, более всего заботит, как сохранить статус-кво в обстановке, быстро меняющейся под давлением новых технологий, в частности, ИИ. Жить по-старому в новых условиях – негласный девиз Евросоюза. Подтверждается это, например, тем, что государственное финансирование ИИ-исследований в ЕС гораздо скромнее того, что тратят на ИИ США и Китай

Впрочем, тем больше оснований изучить европейский опыт разработки законов об ИИ, регулирования ИИ-систем с упором на достижение этических целей и обеспечение прав человека.

«Предложения о регулировании искусственного интеллекта на основе европейского подхода» содержит прямые запреты на использование ИИ-систем при определённых условиях и для определённых целей, за нарушение которых компании могут получить штраф в размере до 6% их глобальной выручки.

Прежде всего запрет касается «удалённой биометрической идентификации» в режиме реального времени в общедоступных местах для целей правоохранительной деятельности (речь о видеонаблюдении и технологии распознавания лиц). Однако упоминание режима реального времени, а также оговорка «если не применяются определённые ограниченные исключения» позволяют предположить, что полиция не будет стеснена в возможностях использовать ИИ-системы для слежки за гражданами. Поскольку есть «ограниченные исключения», есть и возможность прописать в этих исключениях всё, что желательно полиции. Например, если нельзя распознавать лица в реальном времени – значит, видео можно записать, а потом его проанализировать.

Полный и безусловный запрет распознавания лиц в реальном времени в общественных местах был бы гарантией от повторения скандалов, подобных тем, которые случились про вине американской компании Clearview AI. Однако Еврокомиссия не сумела ввести этот запрет на ранней стадии разработки законодательства об ИИ – хотя и намеревалась, судя по сообщениям, предшествовавшим публикации документа.

Ранее имели место попытки использовать для запрета систем распознавания GPPR европейский закон о защите персональных данных. В 2018 году в Швеции регулятор оштрафовал одну из школ, где ученики добровольно согласились на применение системы распознавания лиц для контроля посещаемости.

Под запрет попали также следующие применения ИИ:

  • присвоение человеку «социальных кредитных баллов», ограничивающее его доступ к банковским кредитам и иным ресурсам – по произволу машины, без принятия решения другим человеком;
  • любое использование ИИ-систем, способное причинить физический вред людям (например, неконтролируемое врачом назначение лечения ИИ-системой);
  • манипулирование поведением людей с помощью «подсознательных сигналов» (насколько люди некритично воспринимают прочитанное в социальных сетях и насколько подвержены влиянию, свидетельствуют результаты многих исследований).

Представлявшая документ еврокомиссар по вопросам конкуренции Маргрете Вестагер заявила: «Мы запрещаем это вообще, поскольку считаем просто неприемлемым», пишет The Verge.

Принцип «если не запрещено, то разрешено» в отношении ИИ-систем в Европе действовать не будет: документ распределяет ИИ-системы по уровням риска для человека, определяя для каждого уровня свои ограничения. На нижнем уровне находятся ИИ-системы, работа которых непосредственно с людьми не связана. Таковы, например, самообучающиеся системы фильтрации спама – для них и подобных им систем новое регулирование не будет применяться вообще.

Второй уровень – ИИ-системы ограниченного риска: например, чат-боты для заказа билетов или технологии, потенциально применимые для создания deep fake. Регулирование таких систем предусмотрено и будет разработано.

Высший уровень – высокорискованные ИИ-системы, управляющие критически важными механизмами, непосредственно влияющие на материальные аспекты жизни людей и на их здоровье. Именно на таких системах документ и сосредоточен. Пример высокорискованных ИИ-систем – беспилотные автомобили.

Для таких ИИ-систем декларируется обязательное использование высококачественных обучающих данных (цель – минимизировать риск «предвзятости», то есть фиксации в ИИ-системе не обязательно правильной практики, сложившейся к моменту обучения нейросети), обязательный «надзор» со стороны людей, подробное документирование, позволяющее регулятору и гражданам понять, как «рассуждает» ИИ. В первую очередь это относится к ИИ-системам, непосредственно взаимодействующим с людьми.

Новый документ Еврокомиссии при ближайшем рассмотрении не содержат ничего нового, ничего такого, о чём не было бы сказано ранее специалистами или примкнувшими к ним представителями других организаций, далёких от науки и технологий. Его ценность состоит в самом факте их появления, в попытке кодифицировать в юридически значимом тексте этические принципы использования обслуживающих человека машин, способных к самостоятельному принятию решений.

Документ ставит, но ещё не решает такую задачу. Для создания действующих законов об ИИ потребуются, очевидно, годы.

Читайте АВ Клуб в Telegram

Источник: www.d-russia.ru
Видео
Виртуальные технологии готовят врачей к борьбе с COVID-19
Ваш эффективный Digital Signage: оборудование и ПО BrightSign
Все видео
«Люди играют в пейнтбол, а проектор погружает их в условия боя» «Люди играют в пейнтбол, а проектор погружает их в условия боя»
О сферах применения проекторов Canon рассказывает специалист компании по проекционному направлению Алексей Макаров.
О российском рынке Digital Signage – из первых рук О российском рынке Digital Signage – из первых рук
Digital Signage, пришедший на смену статическим информационно-рекламным вывескам, становятся все более востребованным.
Major Sound – новый игрок на рынке Pro Audio. Играет за Meyer Sound Major Sound – новый игрок на рынке Pro Audio. Играет за Meyer Sound
В апреле 2017 пришла неожиданная новость: в ходе прямой онлайн-трансляции в АВ Клубе основатели и бессменные руководители &nb...
10 правил установки видеооборудования в операционных 10 правил установки видеооборудования в операционных
В последние годы в операционных все чаще применяются современные технологии. Важно грамотно их подключить и применять!
6 сфер, где применение 4К по-настоящему нужно и эффективно 6 сфер, где применение 4К по-настоящему нужно и эффективно
Вице-президент компании RGB Spectrum - о тех отраслях, где без применения технологии 4К сегодня не обойтись.
5 простых шагов для создания профессионального видеоролика 5 простых шагов для создания профессионального видеоролика
Пошаговая инструкция создания качественного видеоролика для их трансляции на Digital Signage системах.
Все статьи
ВКС-система крупнейшего амбулаторного учреждения Москвы ВКС-система крупнейшего амбулаторного учреждения Москвы
Unitsolutions установила дополнительную систему видеосвязи и современное конференц-оборудование в зале ООО «Лечебный Центр».
Медучреждения Свердловской области перешли на удаленные осмотры Медучреждения Свердловской области перешли на удаленные осмотры
Unitsolutions поставила программно-аппаратные терминалы для телемедицинских комплексов в 100 медучреждений Свердловской области.
Решения BenQ повысили эффективность службы скорой помощи Дубая Решения BenQ повысили эффективность службы скорой помощи Дубая
Partner Tech Middle East произвела модернизацию технического оснащения конференц-зала Дубайской корпорации служб скорой помощи.
Передовые AV-технологии на службе Росздравнадзора Передовые AV-технологии на службе Росздравнадзора
Компания «Атанор» переоборудовала конференц-зал Федеральной службы по надзору в сфере здравоохранения и социального развития.
Живая трансляция прямо из операционной Живая трансляция прямо из операционной
Симпозиум по эндоскопии при помощи RGB-лазерной проекции и 4K-системы распределения сигналов провел прямую трансляцию операции.
Зал-трансформер Международного Медицинского кластера Зал-трансформер Международного Медицинского кластера
Компания Брюллов Консалтинг выступила поставщиком оборудования для оснащения одного из крупнейших медицинских проектов России.
Все кейсы
WIZE каталог продукции
WIZE каталог продукции
Крепления для профессиональных инсталляций, русский, 64 полосы, А4.
OPTOMA: QUADShow - решение для прокатного рынка
OPTOMA: QUADShow - решение для прокатного рынка
QUADShow - готовое кастомизированное решение для прокатного рынка, русский, 2 полосы, формат А4.
Все файлы
7 вариантов креативного использования Digital Signage в фойе
Тобби Гарет
“В статье рассматриваются варианты эффективного использования Digital Signage в фойе и технологии для них.”
Тобби Гарет
Synergy CT
Исцеление аневризмы аорты по выделенному каналу или "Телемедицина, которая всегда с тобой"
Флёров Евгений
“На экране - человеческое сердце бьется под скальпелем хирурга, как будто пытается увернуться от него. Но ему не дают: если не сделать...”
Флёров Евгений
заведующий лабораторией телемедицины РНЦХ РАМН
Все мнения