В Евроcоюзе в воскресенье, 2 февраля, вступили в силу новые правила обращения с искусственным интеллектом (ИИ).
Закон ЕС об искусственном интеллекте (AI Act) – первое в мире международное законодательство о применении ИИ.
Согласно Закону ЕС об ИИ (AI Act), теперь запрещены системы ИИ, представляющие "неприемлемые риски" для безопасности, здоровья или основных прав, за исключением случаев, связанных с "национальной безопасностью".
Так, в числе прочего, в ЕС запрещается использование ИИ-программ, которые оценивают социальное поведение человека. Этот метод, известный как "социальный рейтинг", применяется, например, в Китае, где граждан делят на категории по поведению и соответственно поощряют или наказывают. В ЕС также не допускается распознавание эмоций на рабочих местах или в образовательных учреждениях.
По-прежнему запрещены манипулятивные системы ИИ, использующие обманные технологии для воздействия на поведение людей. В эту категорию попадают, например, голосовые игрушки, которые побуждают детей к опасному поведению.
В список запретов ЕС включены системы ИИ, использующие уязвимости людей или социальных групп. В эту категорию входят, к примеру, автоматизированные "роботизированные звонки", которые могут использоваться для мошенничества в отношении пожилых людей.
Распознавание лиц в общественных местах, в том числе с помощью камер видеонаблюдения, также будет в принципе запрещено, но предусмотрены исключения: полиция и другие правоохранительные органы смогут использовать такую технологию для расследования преступлений, связанных с торговлей людьми и терроризмом.
Со 2 февраля компании, разрабатывающие или использующие ИИ, должны будут оценивать уровень риска своих систем и принимать необходимые меры для их приведения в соответствие с законодательными требованиями.
Согласно заявлению Еврокомиссии, цель нового регулирования – не только защита прав потребителей, но и обеспечение надлежащего использования ИИ. Поставщики и операторы систем ИИ теперь должны гарантировать, что все лица, связанные с разработкой или эксплуатацией таких систем, обладают достаточным уровнем "ИИ-компетенций".