Евросоюз первым в мире принимает закон о регулировании развития систем искусственного интеллекта

Евросоюз первым в мире принимает закон, который будет регулировать развитие систем искусственного интеллекта (ИИ) и защищать от них граждан. В среду Закон об ИИ принял Европарламент, а в силу он вступит после согласования и утверждения всеми странами ЕС в Европейском совете, информирует BBC News.

Сообщается, что центральные европейские органы разрабатывали этот документ два года, а также недавно внесли новые правки в связи с появлением феномена ChatGPT-4.

В законе системы ИИ разделены на четыре группы по степеням риска, который они несут для европейских граждан и потребителей. В частности, речь идет о группе«неприемлемого риска», группе «высокого риска», «генерирующих» системах и группе «ограниченного риска». При этом для каждой из них введены свои ограничения и меры контроля.

«В группу «неприемлемого риска» зачислены системы, созданные для воздействия на подсознание людей, системы социального рейтинга, разделяющего людей на категории по их поведению, социально-экономическому положению и прочим личным характеристикам, а также системы распознавания в режиме реального времени», - говорится в сообщении.

Отмечается, что эти системы будут запрещены в Европе. Исключение сделано для использования систем распознавания правоохранительными органами постфактум и с разрешения суда.

В группу «высокого риска» вошли системы, применяющиеся в товарах и услугах, которые в ЕС попадают под лицензирование в рамках защиты потребителей (например, игрушки, автомобили, авиация, медицинская аппаратура), системы управления критически важной инфраструктурой.

Кроме того, сюда включены системы, применяемые в образовательных учреждениях или в работе с персоналом фирм и учреждений, а также в правоохранительных органах, работе с мигрантами и беженцами и в охране границ.

Указанные системы ИИ будут оцениваться до их внедрения и по ходу применения и регистрироваться в специальной базе данных ЕС.

При этом владельцы систем, генерирующих контент, таких как ChatGPT, должны будутпомечать созданный ими контент, программировать их так, чтобы они не создавали противозаконный контент, а также обнародовать списки данных, которые защищены авторским правом и на которых обучалась система.

Все прочие системы ИИ включены в группу «низкого риска», от которых требуется лишь быть достаточно открытыми: чтобы пользователь знал, что имеет дело с ИИ, и имел достаточно информации, чтобы принять обоснованное решение, пользоваться ли им дальше.

«Депутаты Европарламента хотят гарантировать, чтобы системы ИИ контролировались людьми, были безопасны, прозрачны, отслеживаемы, не дискриминировали пользователей и способствовали защите окружающей среды», - объясняла пресс-служба Европарламента в мае во время подготовки законопроекта.

В дебатах, которые прошли 13 июня, депутаты Европарламента больше всего внимания обратили на пункты о системах распознавания лиц. В проекте предлагается разрешить применение таких систем только «постфактум» (а не в режиме реального времени) для поиска преступников, террористов и пропавших людей и по решению суда.

Большинство евродепутатов выступают за такое решение, но небольшое меньшинство призывает совсем запретить системы распознавания лиц. В Европарламенте также говорилось, что даже сильно ограниченное применение систем распознавания лиц с ИИ ведет к произволу спецслужб и попранию прав граждан, как в Китае.

Представитель Пиратской партии Германии Патрик Брайер заявил, что системы распознавания лиц ошибаются в 99% случаев, и это ведет к задержаниям невиновных людей. Его многочисленные оппоненты возражали с трибуны Европарламента, что система распознавания полезна в поиске террористов или пропавших детей, и что сравнение с Китаем некорректно.