После более 36 часов переговоров, продолжавшихся в течение трех дней на уходящей неделе, представителям трех институтов Евросоюза удалось достичь согласия по таким спорным вопросам, как прогнозируемое применение, распознавание лиц и использование искусственного интеллекта правоохранительными органами.
Ожидается, что потребуется больше технической работы над текстом закона, чтобы усовершенствовать достигнутое политическое соглашение.
"ЕС становится первым континентом, который установил четкие правила использования ИИ", – заявил еврокомиссар по вопросам внутреннего рынка Тьерри Бретон.
"Закон об ИИ – это гораздо больше, чем свод правил, это стартовая площадка для стартапов и исследователей из ЕС, которые возглавят мировую гонку ИИ", – добавил он.
Депутат Драгош Тудораш, один из содокладчиков закона об ИИ в Европарламенте, заявил: "Мы первые в мире, кто установил реальное регулирование для [ИИ] и для будущего цифрового мира, управляемого ИИ, направляя развитие и эволюцию этой технологии в направлении, ориентированном на человека".
Как пишет AFP, решающее влияние на начало переговорного процесса оказало появление в конце прошлого года системы ChatGPT – генератора текста от калифорнийской компании OpenAI, способного за считанные секунды писать эссе, стихи или переводы.
Эта система, как и системы, способные создавать звуки или изображения, открыла миру огромный потенциал искусственного интеллекта, но также и определенные риски. Например, распространение фейковых фотографий в социальных сетях показало опасность манипулирования общественным мнением.
В основе проекта ЕС лежит перечень правил, которые распространяются только на системы, которые считаются "высокорисковыми" и используются преимущественно в таких чувствительных сферах, как критическая инфраструктура, образование, человеческие ресурсы, правоохранительные органы и тому подобное. На эти системы будет возложен ряд обязательств, таких как обеспечение человеческого контроля над машиной, составление технической документации или внедрение системы управления рисками.
Законодательство предусматривает введение особого надзора за системами искусственного интеллекта, взаимодействующими с человеком. Оно заставит их информировать пользователя о том, что он взаимодействует с машиной.
Документ также предусматривает редкое применение запретов, которые будут касаться преимущественно тех применений, которые противоречат европейским ценностям. В качестве примера, которому не следует следовать, приводится Китай, где существуют системы оценки граждан, массового наблюдения или удаленной биометрической идентификации людей в общественных местах. Относительно последнего пункта, однако, странам ЕС была предоставлена свобода действий для определенных видов правоохранительной деятельности, таких как борьба с терроризмом.
Соглашение также предусматривает, что европейское законодательство будет оснащено мерами наблюдения и санкциями, а в Европейской комиссии будет создан Европейский офис по искусственному интеллекту. За наиболее серьезные правонарушения будут налагаться штрафы в размере до 7 процентов от оборота, с нижним пределом в 35 миллионов евро.