Поставщики базовых моделей должны будут заявить, используют ли они материалы, защищенные авторским правом, для обучения ИИ. Для технологических компаний, таких как Google и Microsoft, штрафы за нарушения могут исчисляться миллиардами долларов.
• Следующим шагом являются трехсторонние переговоры с участием государств-членов, парламентов и Европейской комиссии. Основной областью разногласий является использование распознавания лиц. Европейский парламент проголосовал за запрет использования распознавания лиц в режиме реального времени, но остаются вопросы о том, следует ли допускать исключения в целях национальной безопасности и других правоохранительных целях.
14 июня по местному времени на пленарном заседании Европарламента, состоявшемся в Страсбурге, Франция, депутаты приняли участие в голосовании по «Законопроекту об искусственном интеллекте».
14 июня по местному времени «Закон Европейского Союза об искусственном интеллекте (Закон об ИИ)» сделал важный шаг на пути к тому, чтобы стать законом: Европейский парламент проголосовал за принятие законопроекта, запрещающего распознавание лиц в реальном времени и накладывающего ограничения на инструменты генеративного искусственного интеллекта. таких как ChatGPT.Введены новые требования к прозрачности.
Законопроект об искусственном интеллекте теперь вступит в завершающую стадию, прежде чем регулирование будет запущено в ЕС. Чиновники попытаются достичь компромисса по законопроекту с исполнительной властью ЕС и государствами-членами, где остаются разногласия. Законодательный процесс должен быть завершен в январе, если законопроект должен вступить в силу до выборов в ЕС в следующем году.
«Этот момент очень важен, — сказал TIME старший политический аналитик брюссельского офиса Access Now Даниэль Лойфер, — То, что, по словам ЕС, представляет собой неприемлемый риск для прав человека, будет рассматриваться как план для мир."
В одобренной ЕС версии закона предлагается, чтобы любой ИИ, применяемый в случаях использования с «высоким риском», таких как трудоустройство, пограничный контроль и образование, должен соответствовать ряду требований безопасности, включая оценку рисков, обеспечение прозрачности и отправку журналов. Законопроект не будет автоматически считать ИИ «общего назначения», такой как ChatGPT, высоким риском, но наложит требования прозрачности и оценки рисков на «базовые модели» или мощные системы ИИ, обученные на огромных объемах данных. Например, поставщики базовых моделей, включая OpenAI, Google и Microsoft, должны будут указать, использовали ли они материалы, защищенные авторским правом, для обучения ИИ. Однако аналогичного требования указывать, используются ли персональные данные во время обучения, нет.
** Как работают эти правила? **
Впервые предложенный в 2021 году «Закон Европейского Союза об искусственном интеллекте» будет применяться к любому продукту или услуге, в которых используются системы искусственного интеллекта.
Законопроект классифицирует системы ИИ на основе 4 уровней риска, от минимального до неприемлемого. К приложениям с более высоким уровнем риска, таким как вербовка и технологии, ориентированные на детей, будут предъявляться более строгие требования, включая большую прозрачность и использование точных данных.
Одной из основных целей ЕС является защита от любой угрозы здоровью и безопасности, исходящей от искусственного интеллекта, а также защита основных прав и ценностей.
Это означает, что некоторые виды использования ИИ абсолютно запрещены, например, системы «социальной оценки», которые оценивают людей на основе их поведения, и ИИ, который эксплуатирует уязвимые группы (включая детей) или использует подсознательные манипуляции, которые могут причинить вред, например поощрять опасное интерактивное поведение. диалоговый инструмент. Инструменты прогнозирования, используемые полицией для прогнозирования совершения преступлений, также будут запрещены.
Кроме того, к системам ИИ, используемым в таких категориях, как занятость и образование, которые влияют на ход жизни человека, будут предъявляться строгие требования, такие как прозрачность для пользователей и принятие мер для оценки и снижения риска предвзятости, создаваемого алгоритмами.
Европейская комиссия заявила, что большинство систем ИИ, таких как видеоигры или спам-фильтры, попадают в категорию с низким или нулевым риском.
Основной областью разногласий является использование распознавания лиц. Европейский парламент проголосовал за запрет использования распознавания лиц в режиме реального времени, но остаются вопросы о том, следует ли допускать исключения в целях национальной безопасности и других правоохранительных целях. Еще одно правило запрещает компаниям извлекать биометрические данные из социальных сетей для создания баз данных.
В тот же день группа правых законодателей в Европейском парламенте попыталась в последнюю минуту отменить предложенный законопроектом запрет на распознавание лиц в реальном времени, но законодатели отклонили его.
Обеспечение соблюдения правил будет зависеть от 27 государств-членов ЕС. Регуляторы могут заставить компании отозвать приложения с рынка. В крайних случаях нарушения могут привести к штрафам в размере до 30 миллионов евро (около 33 миллионов долларов) или 6 процентов от годового глобального дохода компании, а для технологических компаний, таких как Google и Microsoft, штрафы могут достигать миллиардов долларов.
Какая связь между ** и ChatGPT? **
Первоначальная мера законопроекта мало что говорила о чат-ботах, требуя только, чтобы они были помечены, чтобы пользователи знали, что они взаимодействуют с машиной. Позже участники переговоров добавили положения, охватывающие популярные AGI, такие как ChatGPT, что сделало технологию отвечающей некоторым из тех же требований, что и системы с высоким уровнем риска.
Ключевым дополнением является то, что законопроект требует тщательной документации любого защищенного авторским правом материала, используемого для обучения систем ИИ для создания текста, изображений, видео и музыки, подобных человеческим работам. Это позволит создателям контента узнать, использовались ли их сообщения в блогах, электронные книги, научные статьи или песни для обучения алгоритмов, которые питают такие системы, как ChatGPT. Затем они могут решить, можно ли копировать их работу, и потребовать компенсацию.
Некоторые эксперты, обеспокоенные рисками безопасности, создаваемыми моделями ИИ, утверждают, что законопроект не устанавливает ограничений на вычислительную мощность, которую могут использовать системы ИИ. С каждым новым выпуском объем вычислений, используемых большой языковой моделью, такой как ChatGPT, увеличивается в геометрической прогрессии, что значительно улучшает ее возможности и производительность. "Чем больше вычислений используется для обучения системы ИИ, тем мощнее будет ИИ. Чем больше возможностей, тем выше потенциал риска и опасности", — Андреа Ми, директор по стратегии и управлению стартапа по безопасности ИИ. Гипотеза Андреа Миотти рассказала Time.
Миотти отметил, что исследователям относительно легко измерить общую вычислительную мощность системы, потому что чипы, используемые для обучения самых передовых ИИ, являются физическим ресурсом.
**Почему регулирование ЕС важно? **
«Время» указывало, что ЕС не является важным игроком в развитии ультрасовременного искусственного интеллекта. Эту роль играют США и Китай, но ЕС часто играет роль задающего тон.Глашатаи корпоративной мощи .
Эксперты говорят, что огромный размер единого рынка ЕС с 450 миллионами потребителей облегчает компаниям соблюдение требований, а не разработку разных продуктов для разных регионов. Устанавливая общие правила для ИИ, ЕС также пытается расширить рынок, внушая доверие пользователям.
«Это обязательное регулирование, и тот факт, что компании будут привлечены к ответственности, имеет большое значение», поскольку такие страны, как США, Сингапур и Великобритания, предоставили только «руководство и совет», — сказал Крис Шри, старший научный сотрудник Ирландской комиссии по гражданским свободам. «Другие страны могут захотеть адаптировать и скопировать» правила ЕС, сказал Крис Шрисак, исполнительный директор страны.
Некоторые другие страны также наращивают темпы регулирования. Например, премьер-министр Великобритании Риши Сунак планирует этой осенью провести всемирный саммит по безопасности ИИ. «Я хочу, чтобы Великобритания была не просто интеллектуальным домом, но и географическим домом для глобального регулирования безопасности ИИ», — сказал Сунак на технической конференции на этой неделе. по «Многосторонним рамкам».
Франсин Беннетт, исполняющая обязанности директора Института Ады Лавлейс, сказала The New York Times: «Быстро развивающиеся и быстро перепрофилированные технологии, конечно, трудно регулировать, потому что даже компании, разрабатывающие технологию, не знают, как все будет развиваться. безусловно, для всех нас будет хуже, если они продолжат работать без надлежащего регулирования».
Однако Ассоциация компьютерной и коммуникационной промышленности утверждает, что ЕС следует избегать чрезмерно широкого регулирования, которое задушит инновации. Бонифаций де Шампри, менеджер агентства по европейской политике, сказал: «Новые европейские правила ИИ должны эффективно устранять четко определенные риски, предоставляя разработчикам достаточную гибкость для предоставления приложений ИИ на благо европейцев».
**Что дальше? **
На то, чтобы законопроект полностью вступил в силу, могут уйти годы. Следующим шагом являются трехсторонние переговоры с участием государств-членов, парламента и Европейской комиссии, которые могут столкнуться с дополнительными изменениями, прежде чем они попытаются согласовать формулировку.
По словам Руффо, на предстоящем этапе трехстороннего диалога Совет Европы, который представляет правительства государств-членов, будет решительно выступать за освобождение инструментов ИИ, используемых правоохранительными органами и пограничными службами, от требований к системам «высокого риска».
Ожидается, что законопроект получит окончательное одобрение к концу года, после чего у предприятий и организаций будет льготный период для адаптации, обычно около двух лет. Но Брандо Бенифеи, член Европейского парламента от Италии, который возглавляет работу над законопроектом, сказал, что они будут настаивать на правилах, позволяющих быстрее внедрять быстрорастущие технологии, такие как генеративный ИИ.
Чтобы восполнить пробелы до того, как закон вступит в силу, Европа и США разрабатывают добровольный кодекс поведения, который чиновники пообещали в конце мая составить в течение нескольких недель и потенциально распространить на другие «страны-единомышленники».
Посмотреть Оригинал
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
Европейский парламент одобрил законопроект об искусственном интеллекте, требующий раскрытия авторских прав на генеративные обучающие данные ИИ
Источник: Бумага
Репортер Фан Сяо
Поставщики базовых моделей должны будут заявить, используют ли они материалы, защищенные авторским правом, для обучения ИИ. Для технологических компаний, таких как Google и Microsoft, штрафы за нарушения могут исчисляться миллиардами долларов.
• Следующим шагом являются трехсторонние переговоры с участием государств-членов, парламентов и Европейской комиссии. Основной областью разногласий является использование распознавания лиц. Европейский парламент проголосовал за запрет использования распознавания лиц в режиме реального времени, но остаются вопросы о том, следует ли допускать исключения в целях национальной безопасности и других правоохранительных целях.
14 июня по местному времени «Закон Европейского Союза об искусственном интеллекте (Закон об ИИ)» сделал важный шаг на пути к тому, чтобы стать законом: Европейский парламент проголосовал за принятие законопроекта, запрещающего распознавание лиц в реальном времени и накладывающего ограничения на инструменты генеративного искусственного интеллекта. таких как ChatGPT.Введены новые требования к прозрачности.
Законопроект об искусственном интеллекте теперь вступит в завершающую стадию, прежде чем регулирование будет запущено в ЕС. Чиновники попытаются достичь компромисса по законопроекту с исполнительной властью ЕС и государствами-членами, где остаются разногласия. Законодательный процесс должен быть завершен в январе, если законопроект должен вступить в силу до выборов в ЕС в следующем году.
«Этот момент очень важен, — сказал TIME старший политический аналитик брюссельского офиса Access Now Даниэль Лойфер, — То, что, по словам ЕС, представляет собой неприемлемый риск для прав человека, будет рассматриваться как план для мир."
В одобренной ЕС версии закона предлагается, чтобы любой ИИ, применяемый в случаях использования с «высоким риском», таких как трудоустройство, пограничный контроль и образование, должен соответствовать ряду требований безопасности, включая оценку рисков, обеспечение прозрачности и отправку журналов. Законопроект не будет автоматически считать ИИ «общего назначения», такой как ChatGPT, высоким риском, но наложит требования прозрачности и оценки рисков на «базовые модели» или мощные системы ИИ, обученные на огромных объемах данных. Например, поставщики базовых моделей, включая OpenAI, Google и Microsoft, должны будут указать, использовали ли они материалы, защищенные авторским правом, для обучения ИИ. Однако аналогичного требования указывать, используются ли персональные данные во время обучения, нет.
** Как работают эти правила? **
Впервые предложенный в 2021 году «Закон Европейского Союза об искусственном интеллекте» будет применяться к любому продукту или услуге, в которых используются системы искусственного интеллекта.
Законопроект классифицирует системы ИИ на основе 4 уровней риска, от минимального до неприемлемого. К приложениям с более высоким уровнем риска, таким как вербовка и технологии, ориентированные на детей, будут предъявляться более строгие требования, включая большую прозрачность и использование точных данных.
Одной из основных целей ЕС является защита от любой угрозы здоровью и безопасности, исходящей от искусственного интеллекта, а также защита основных прав и ценностей.
Это означает, что некоторые виды использования ИИ абсолютно запрещены, например, системы «социальной оценки», которые оценивают людей на основе их поведения, и ИИ, который эксплуатирует уязвимые группы (включая детей) или использует подсознательные манипуляции, которые могут причинить вред, например поощрять опасное интерактивное поведение. диалоговый инструмент. Инструменты прогнозирования, используемые полицией для прогнозирования совершения преступлений, также будут запрещены.
Кроме того, к системам ИИ, используемым в таких категориях, как занятость и образование, которые влияют на ход жизни человека, будут предъявляться строгие требования, такие как прозрачность для пользователей и принятие мер для оценки и снижения риска предвзятости, создаваемого алгоритмами.
Европейская комиссия заявила, что большинство систем ИИ, таких как видеоигры или спам-фильтры, попадают в категорию с низким или нулевым риском.
Основной областью разногласий является использование распознавания лиц. Европейский парламент проголосовал за запрет использования распознавания лиц в режиме реального времени, но остаются вопросы о том, следует ли допускать исключения в целях национальной безопасности и других правоохранительных целях. Еще одно правило запрещает компаниям извлекать биометрические данные из социальных сетей для создания баз данных.
В тот же день группа правых законодателей в Европейском парламенте попыталась в последнюю минуту отменить предложенный законопроектом запрет на распознавание лиц в реальном времени, но законодатели отклонили его.
Обеспечение соблюдения правил будет зависеть от 27 государств-членов ЕС. Регуляторы могут заставить компании отозвать приложения с рынка. В крайних случаях нарушения могут привести к штрафам в размере до 30 миллионов евро (около 33 миллионов долларов) или 6 процентов от годового глобального дохода компании, а для технологических компаний, таких как Google и Microsoft, штрафы могут достигать миллиардов долларов.
Какая связь между ** и ChatGPT? **
Первоначальная мера законопроекта мало что говорила о чат-ботах, требуя только, чтобы они были помечены, чтобы пользователи знали, что они взаимодействуют с машиной. Позже участники переговоров добавили положения, охватывающие популярные AGI, такие как ChatGPT, что сделало технологию отвечающей некоторым из тех же требований, что и системы с высоким уровнем риска.
Ключевым дополнением является то, что законопроект требует тщательной документации любого защищенного авторским правом материала, используемого для обучения систем ИИ для создания текста, изображений, видео и музыки, подобных человеческим работам. Это позволит создателям контента узнать, использовались ли их сообщения в блогах, электронные книги, научные статьи или песни для обучения алгоритмов, которые питают такие системы, как ChatGPT. Затем они могут решить, можно ли копировать их работу, и потребовать компенсацию.
Некоторые эксперты, обеспокоенные рисками безопасности, создаваемыми моделями ИИ, утверждают, что законопроект не устанавливает ограничений на вычислительную мощность, которую могут использовать системы ИИ. С каждым новым выпуском объем вычислений, используемых большой языковой моделью, такой как ChatGPT, увеличивается в геометрической прогрессии, что значительно улучшает ее возможности и производительность. "Чем больше вычислений используется для обучения системы ИИ, тем мощнее будет ИИ. Чем больше возможностей, тем выше потенциал риска и опасности", — Андреа Ми, директор по стратегии и управлению стартапа по безопасности ИИ. Гипотеза Андреа Миотти рассказала Time.
Миотти отметил, что исследователям относительно легко измерить общую вычислительную мощность системы, потому что чипы, используемые для обучения самых передовых ИИ, являются физическим ресурсом.
**Почему регулирование ЕС важно? **
«Время» указывало, что ЕС не является важным игроком в развитии ультрасовременного искусственного интеллекта. Эту роль играют США и Китай, но ЕС часто играет роль задающего тон.Глашатаи корпоративной мощи .
Эксперты говорят, что огромный размер единого рынка ЕС с 450 миллионами потребителей облегчает компаниям соблюдение требований, а не разработку разных продуктов для разных регионов. Устанавливая общие правила для ИИ, ЕС также пытается расширить рынок, внушая доверие пользователям.
«Это обязательное регулирование, и тот факт, что компании будут привлечены к ответственности, имеет большое значение», поскольку такие страны, как США, Сингапур и Великобритания, предоставили только «руководство и совет», — сказал Крис Шри, старший научный сотрудник Ирландской комиссии по гражданским свободам. «Другие страны могут захотеть адаптировать и скопировать» правила ЕС, сказал Крис Шрисак, исполнительный директор страны.
Некоторые другие страны также наращивают темпы регулирования. Например, премьер-министр Великобритании Риши Сунак планирует этой осенью провести всемирный саммит по безопасности ИИ. «Я хочу, чтобы Великобритания была не просто интеллектуальным домом, но и географическим домом для глобального регулирования безопасности ИИ», — сказал Сунак на технической конференции на этой неделе. по «Многосторонним рамкам».
Франсин Беннетт, исполняющая обязанности директора Института Ады Лавлейс, сказала The New York Times: «Быстро развивающиеся и быстро перепрофилированные технологии, конечно, трудно регулировать, потому что даже компании, разрабатывающие технологию, не знают, как все будет развиваться. безусловно, для всех нас будет хуже, если они продолжат работать без надлежащего регулирования».
Однако Ассоциация компьютерной и коммуникационной промышленности утверждает, что ЕС следует избегать чрезмерно широкого регулирования, которое задушит инновации. Бонифаций де Шампри, менеджер агентства по европейской политике, сказал: «Новые европейские правила ИИ должны эффективно устранять четко определенные риски, предоставляя разработчикам достаточную гибкость для предоставления приложений ИИ на благо европейцев».
**Что дальше? **
На то, чтобы законопроект полностью вступил в силу, могут уйти годы. Следующим шагом являются трехсторонние переговоры с участием государств-членов, парламента и Европейской комиссии, которые могут столкнуться с дополнительными изменениями, прежде чем они попытаются согласовать формулировку.
По словам Руффо, на предстоящем этапе трехстороннего диалога Совет Европы, который представляет правительства государств-членов, будет решительно выступать за освобождение инструментов ИИ, используемых правоохранительными органами и пограничными службами, от требований к системам «высокого риска».
Ожидается, что законопроект получит окончательное одобрение к концу года, после чего у предприятий и организаций будет льготный период для адаптации, обычно около двух лет. Но Брандо Бенифеи, член Европейского парламента от Италии, который возглавляет работу над законопроектом, сказал, что они будут настаивать на правилах, позволяющих быстрее внедрять быстрорастущие технологии, такие как генеративный ИИ.
Чтобы восполнить пробелы до того, как закон вступит в силу, Европа и США разрабатывают добровольный кодекс поведения, который чиновники пообещали в конце мая составить в течение нескольких недель и потенциально распространить на другие «страны-единомышленники».