Постачальники базових моделей повинні будуть декларувати, чи використовують вони матеріали, захищені авторським правом, для навчання ШІ. Для технологічних компаній, таких як Google і Microsoft, штрафи можуть досягати мільярдів доларів за порушення.
• Наступним кроком є тристоронні переговори за участю держав-членів, парламентів та Європейської комісії. Основною сферою суперечок є використання розпізнавання обличчя. Європейський парламент проголосував за заборону використання розпізнавання обличчя в режимі реального часу, але залишаються питання щодо того, чи повинні бути дозволені винятки для національної безпеки та інших правоохоронних цілей.
14 червня за місцевим часом на пленарній сесії Європейського парламенту, що проходила у Страсбурзі, Франція, депутати взяли участь у голосуванні щодо «законопроекту про штучний інтелект».
14 червня за місцевим часом «Закон Європейського Союзу про штучний інтелект (Акт)» зробив важливий крок до того, щоб стати законом: Європейський парламент проголосував за прийняття законопроекту, який забороняє розпізнавання облич у реальному часі та вводить обмеження на генеративні інструменти штучного інтелекту. наприклад ChatGPT.Введено нові вимоги до прозорості.
Зараз законопроект про штучний інтелект перейде на завершальну стадію перед запуском регулювання в ЄС. Чиновники намагатимуться досягти компромісу щодо законопроекту з виконавчою владою ЄС та країнами-членами, де залишаються розбіжності. Законодавчий процес має бути завершений у січні, якщо законопроект має набути чинності до виборів до ЄС наступного року.
«Цей момент дуже важливий, — сказав TIME Даніель Лойфер, старший політичний аналітик брюссельського офісу Access Now, який спеціалізується на штучному інтелекті. світ».
Схвалена в ЄС версія закону передбачає, що будь-який штучний інтелект, застосовуваний до «високоризикових» випадків використання, таких як працевлаштування, прикордонний контроль і освіта, повинен відповідати ряду вимог безпеки, включаючи оцінку ризиків, забезпечення прозорості та подання журналів. Законопроект не буде автоматично вважати штучний інтелект «загального призначення», такий як ChatGPT, високим ризиком, але встановлюватиме вимоги щодо прозорості та оцінки ризиків для «базових моделей» або потужних систем штучного інтелекту, які навчаються на величезних обсягах даних. Наприклад, постачальники базових моделей, включаючи OpenAI, Google і Microsoft, повинні будуть декларувати, чи використовували вони захищений авторським правом матеріал для навчання ШІ. Однак немає подібної вимоги декларувати, чи використовуються персональні дані під час навчання.
** Як працюють ці правила? **
Вперше запропонований у 2021 році «Акт Європейського Союзу про штучний інтелект» застосовуватиметься до будь-якого продукту чи послуги, які використовують системи штучного інтелекту.
Законопроект класифікує системи ШІ за 4 рівнями ризику, від мінімального до неприйнятного. До програм підвищеного ризику, таких як вербування та технології, орієнтовані на дітей, пред’являтимуться суворіші вимоги, включаючи більшу прозорість і використання точних даних.
Однією з головних цілей ЄС є захист від будь-якої загрози здоров’ю та безпеці з боку штучного інтелекту та захист основних прав і цінностей.
Це означає, що певні види використання штучного інтелекту абсолютно заборонені, як-от системи «соціальних оцінок», які оцінюють людей на основі їхньої поведінки, а також штучний інтелект, який використовує вразливі групи (включно з дітьми) або використовує підсвідомі маніпуляції, які можуть завдати шкоди, наприклад заохочення небезпечної поведінки в інтерактивному режимі. діалоговий інструмент. Інструменти інтелектуальної поліції, які використовуються для передбачення злочинців, також будуть заборонені.
Крім того, до систем штучного інтелекту, які використовуються в таких категоріях, як працевлаштування та освіта, які впливають на хід життя людини, пред’являтимуться суворі вимоги, наприклад, бути прозорими для користувачів і вживати заходів для оцінки та зменшення ризику упередженості, створеного алгоритмами.
Європейська комісія заявила, що більшість систем штучного інтелекту, таких як відеоігри або спам-фільтри, належать до категорії з низьким або нульовим ризиком.
Основною сферою суперечок є використання розпізнавання обличчя. Європейський парламент проголосував за заборону використання розпізнавання обличчя в режимі реального часу, але залишаються питання щодо того, чи повинні бути дозволені винятки для національної безпеки та інших правоохоронних цілей. Інше правило забороняє компаніям знімати біометричні дані з соціальних мереж для створення баз даних.
Того ж дня група правих депутатів Європейського парламенту в останню хвилину спробувала скасувати запропоновану законопроектом заборону розпізнавання обличчя в реальному часі, але законодавці відхилили її.
Виконання правил залежатиме від 27 країн-членів ЄС. Регулятори можуть змусити компанії вилучити програми з ринку. У крайніх випадках порушення можуть призвести до штрафів у розмірі до 30 мільйонів євро (близько 33 мільйонів доларів США) або 6 відсотків річного глобального доходу компанії, а для технологічних компаній, таких як Google і Microsoft, штрафи можуть досягати мільярдів доларів.
Який зв'язок між ** і ChatGPT? **
Початковий захід законопроекту мало говорив про чат-ботів, вимагаючи лише позначення їх, щоб користувачі знали, що вони взаємодіють з машиною. Пізніше учасники переговорів додали положення, які охоплюють такі популярні AGI, як ChatGPT, завдяки чому технологія відповідає деяким тим самим вимогам, що й системи високого ризику.
Ключовим доповненням є те, що законопроект вимагає ретельного документування будь-якого захищеного авторським правом матеріалу, який використовується для навчання систем штучного інтелекту генерувати текст, зображення, відео та музику, подібні до людських творів. Це дозволить творцям вмісту знати, чи використовувалися їхні дописи в блогах, електронні книги, наукові статті чи пісні для навчання алгоритмів, які живлять такі системи, як ChatGPT. Потім вони можуть вирішити, чи можна скопіювати їхню роботу, і вимагати компенсації.
Деякі експерти, стурбовані ризиками безпеки, створеними моделями ШІ, стверджують, що законопроект не встановлює обмежень на обчислювальну потужність, яку можуть використовувати системи ШІ. З кожним новим випуском обсяг обчислень, які використовує така велика мовна модель, як ChatGPT, експоненціально зростає, що значно покращить її можливості та продуктивність. «Чим більше обчислень використовується для навчання системи штучного інтелекту, тим потужнішим буде штучний інтелект. Чим більше можливостей, тим більший потенціал для ризику та небезпеки», — Андреа Мі, директор зі стратегії та управління стартапу з безпеки штучного інтелекту. Припущення Андреа Міотті розповів Time.
Міотті зазначив, що дослідникам відносно легко виміряти загальну обчислювальну потужність системи, оскільки чіпи, які використовуються для навчання більшості передових ШІ, є фізичним ресурсом.
**Чому регулювання ЄС є важливим? **
«Тайм» зазначав, що ЄС не є значущим гравцем у розробці передового штучного інтелекту, цю роль відіграють США та Китай, але ЄС часто відіграє роль визначника. .
За словами експертів, величезний розмір єдиного ринку ЄС із 450 мільйонами споживачів полегшує компаніям дотримання вимог, а не розробку різних продуктів для різних регіонів. Встановлюючи загальні правила для ШІ, ЄС також намагається розвивати ринок, вселяючи довіру серед користувачів.
«Це законодавче положення, і той факт, що компанії будуть притягнуті до відповідальності, має важливе значення», оскільки такі країни, як США, Сінгапур і Великобританія, надають лише «вказівки та поради», — сказав Кріс Шрі, старший науковий співробітник Комісії з громадянських свобод Ірландії. «Інші країни можуть захотіти адаптувати та скопіювати» правила ЄС, сказав Кріс Шрісак, виконавчий директор країни.
Деякі інші країни також прискорюють темпи регулювання. Наприклад, британський прем’єр-міністр Ріші Сунак планує провести світовий саміт з безпеки ШІ цієї осені. "Я хочу, щоб Велика Британія була не просто інтелектуальним домом, а географічним домом для глобального регулювання безпеки штучного інтелекту", - сказав Сунак на технічній конференції цього тижня. Британський саміт об'єднає людей "академії, бізнесу та уряду", які працюватимуть разом на «багатосторонній основі».
Франсін Беннетт, виконувач обов’язків директора Інституту Ади Лавлейс, сказала The New York Times: «Технології, що швидко розвиваються та швидко перепрофільовуються, звичайно, важко регулювати, тому що навіть компанії, які розробляють технології, не знають, як все розвиватиметься. Але безумовно, для всіх нас буде гірше, якщо вони продовжуватимуть працювати без належного регулювання».
Проте Асоціація комп’ютерної та комунікаційної індустрії стверджує, що ЄС повинен уникати надмірного регулювання, яке б пригнічувало інновації. Боніфас де Шампрі, менеджер з питань європейської політики агентства, сказав: «Нові європейські правила штучного інтелекту повинні ефективно вирішувати чітко визначені ризики, надаючи розробникам достатньо гнучкості для доставки програм ШІ на користь європейців».
**Що далі? **
Можуть пройти роки, щоб законопроект повністю набув чинності. Наступним кроком є тристоронні переговори за участю держав-членів, парламенту та Європейської комісії, які можуть зіткнутися з іншими змінами, перш ніж вони спробують узгодити формулювання.
За словами Руффо, під час майбутньої фази тристороннього діалогу Рада Європи, яка представляє уряди держав-членів, рішуче виступатиме за звільнення інструментів штучного інтелекту, які використовуються правоохоронними та прикордонними силами, від вимог щодо систем «високого ризику».
Очікується, що законопроект отримає остаточне схвалення до кінця року, після чого настане пільговий період для підприємств і організацій на адаптацію, зазвичай близько двох років. Але Брандо Беніфей, італійський член Європейського парламенту, який очолює роботу над законопроектом, сказав, що вони будуть наполягати на правилах, які дозволять швидше запровадити швидкозростаючі технології, такі як генеративний ШІ.
Щоб заповнити прогалини до того, як законодавство набуде чинності, Європа та Сполучені Штати розробляють проект добровільного кодексу поведінки, який офіційні особи пообіцяли наприкінці травня розробити протягом кількох тижнів і потенційно поширити на інші «країни-однодумці».
Переглянути оригінал
Контент має виключно довідковий характер і не є запрошенням до участі або пропозицією. Інвестиційні, податкові чи юридичні консультації не надаються. Перегляньте Відмову від відповідальності , щоб дізнатися більше про ризики.
Європейський парламент схвалив законопроект про штучний інтелект, який вимагає розкриття авторських прав на генеративні навчальні дані ШІ
Джерело: The Paper
Репортер Фан Сяо
Постачальники базових моделей повинні будуть декларувати, чи використовують вони матеріали, захищені авторським правом, для навчання ШІ. Для технологічних компаній, таких як Google і Microsoft, штрафи можуть досягати мільярдів доларів за порушення.
• Наступним кроком є тристоронні переговори за участю держав-членів, парламентів та Європейської комісії. Основною сферою суперечок є використання розпізнавання обличчя. Європейський парламент проголосував за заборону використання розпізнавання обличчя в режимі реального часу, але залишаються питання щодо того, чи повинні бути дозволені винятки для національної безпеки та інших правоохоронних цілей.
14 червня за місцевим часом «Закон Європейського Союзу про штучний інтелект (Акт)» зробив важливий крок до того, щоб стати законом: Європейський парламент проголосував за прийняття законопроекту, який забороняє розпізнавання облич у реальному часі та вводить обмеження на генеративні інструменти штучного інтелекту. наприклад ChatGPT.Введено нові вимоги до прозорості.
Зараз законопроект про штучний інтелект перейде на завершальну стадію перед запуском регулювання в ЄС. Чиновники намагатимуться досягти компромісу щодо законопроекту з виконавчою владою ЄС та країнами-членами, де залишаються розбіжності. Законодавчий процес має бути завершений у січні, якщо законопроект має набути чинності до виборів до ЄС наступного року.
«Цей момент дуже важливий, — сказав TIME Даніель Лойфер, старший політичний аналітик брюссельського офісу Access Now, який спеціалізується на штучному інтелекті. світ».
Схвалена в ЄС версія закону передбачає, що будь-який штучний інтелект, застосовуваний до «високоризикових» випадків використання, таких як працевлаштування, прикордонний контроль і освіта, повинен відповідати ряду вимог безпеки, включаючи оцінку ризиків, забезпечення прозорості та подання журналів. Законопроект не буде автоматично вважати штучний інтелект «загального призначення», такий як ChatGPT, високим ризиком, але встановлюватиме вимоги щодо прозорості та оцінки ризиків для «базових моделей» або потужних систем штучного інтелекту, які навчаються на величезних обсягах даних. Наприклад, постачальники базових моделей, включаючи OpenAI, Google і Microsoft, повинні будуть декларувати, чи використовували вони захищений авторським правом матеріал для навчання ШІ. Однак немає подібної вимоги декларувати, чи використовуються персональні дані під час навчання.
** Як працюють ці правила? **
Вперше запропонований у 2021 році «Акт Європейського Союзу про штучний інтелект» застосовуватиметься до будь-якого продукту чи послуги, які використовують системи штучного інтелекту.
Законопроект класифікує системи ШІ за 4 рівнями ризику, від мінімального до неприйнятного. До програм підвищеного ризику, таких як вербування та технології, орієнтовані на дітей, пред’являтимуться суворіші вимоги, включаючи більшу прозорість і використання точних даних.
Однією з головних цілей ЄС є захист від будь-якої загрози здоров’ю та безпеці з боку штучного інтелекту та захист основних прав і цінностей.
Це означає, що певні види використання штучного інтелекту абсолютно заборонені, як-от системи «соціальних оцінок», які оцінюють людей на основі їхньої поведінки, а також штучний інтелект, який використовує вразливі групи (включно з дітьми) або використовує підсвідомі маніпуляції, які можуть завдати шкоди, наприклад заохочення небезпечної поведінки в інтерактивному режимі. діалоговий інструмент. Інструменти інтелектуальної поліції, які використовуються для передбачення злочинців, також будуть заборонені.
Крім того, до систем штучного інтелекту, які використовуються в таких категоріях, як працевлаштування та освіта, які впливають на хід життя людини, пред’являтимуться суворі вимоги, наприклад, бути прозорими для користувачів і вживати заходів для оцінки та зменшення ризику упередженості, створеного алгоритмами.
Європейська комісія заявила, що більшість систем штучного інтелекту, таких як відеоігри або спам-фільтри, належать до категорії з низьким або нульовим ризиком.
Основною сферою суперечок є використання розпізнавання обличчя. Європейський парламент проголосував за заборону використання розпізнавання обличчя в режимі реального часу, але залишаються питання щодо того, чи повинні бути дозволені винятки для національної безпеки та інших правоохоронних цілей. Інше правило забороняє компаніям знімати біометричні дані з соціальних мереж для створення баз даних.
Того ж дня група правих депутатів Європейського парламенту в останню хвилину спробувала скасувати запропоновану законопроектом заборону розпізнавання обличчя в реальному часі, але законодавці відхилили її.
Виконання правил залежатиме від 27 країн-членів ЄС. Регулятори можуть змусити компанії вилучити програми з ринку. У крайніх випадках порушення можуть призвести до штрафів у розмірі до 30 мільйонів євро (близько 33 мільйонів доларів США) або 6 відсотків річного глобального доходу компанії, а для технологічних компаній, таких як Google і Microsoft, штрафи можуть досягати мільярдів доларів.
Який зв'язок між ** і ChatGPT? **
Початковий захід законопроекту мало говорив про чат-ботів, вимагаючи лише позначення їх, щоб користувачі знали, що вони взаємодіють з машиною. Пізніше учасники переговорів додали положення, які охоплюють такі популярні AGI, як ChatGPT, завдяки чому технологія відповідає деяким тим самим вимогам, що й системи високого ризику.
Ключовим доповненням є те, що законопроект вимагає ретельного документування будь-якого захищеного авторським правом матеріалу, який використовується для навчання систем штучного інтелекту генерувати текст, зображення, відео та музику, подібні до людських творів. Це дозволить творцям вмісту знати, чи використовувалися їхні дописи в блогах, електронні книги, наукові статті чи пісні для навчання алгоритмів, які живлять такі системи, як ChatGPT. Потім вони можуть вирішити, чи можна скопіювати їхню роботу, і вимагати компенсації.
Деякі експерти, стурбовані ризиками безпеки, створеними моделями ШІ, стверджують, що законопроект не встановлює обмежень на обчислювальну потужність, яку можуть використовувати системи ШІ. З кожним новим випуском обсяг обчислень, які використовує така велика мовна модель, як ChatGPT, експоненціально зростає, що значно покращить її можливості та продуктивність. «Чим більше обчислень використовується для навчання системи штучного інтелекту, тим потужнішим буде штучний інтелект. Чим більше можливостей, тим більший потенціал для ризику та небезпеки», — Андреа Мі, директор зі стратегії та управління стартапу з безпеки штучного інтелекту. Припущення Андреа Міотті розповів Time.
Міотті зазначив, що дослідникам відносно легко виміряти загальну обчислювальну потужність системи, оскільки чіпи, які використовуються для навчання більшості передових ШІ, є фізичним ресурсом.
**Чому регулювання ЄС є важливим? **
«Тайм» зазначав, що ЄС не є значущим гравцем у розробці передового штучного інтелекту, цю роль відіграють США та Китай, але ЄС часто відіграє роль визначника. .
За словами експертів, величезний розмір єдиного ринку ЄС із 450 мільйонами споживачів полегшує компаніям дотримання вимог, а не розробку різних продуктів для різних регіонів. Встановлюючи загальні правила для ШІ, ЄС також намагається розвивати ринок, вселяючи довіру серед користувачів.
«Це законодавче положення, і той факт, що компанії будуть притягнуті до відповідальності, має важливе значення», оскільки такі країни, як США, Сінгапур і Великобританія, надають лише «вказівки та поради», — сказав Кріс Шрі, старший науковий співробітник Комісії з громадянських свобод Ірландії. «Інші країни можуть захотіти адаптувати та скопіювати» правила ЄС, сказав Кріс Шрісак, виконавчий директор країни.
Деякі інші країни також прискорюють темпи регулювання. Наприклад, британський прем’єр-міністр Ріші Сунак планує провести світовий саміт з безпеки ШІ цієї осені. "Я хочу, щоб Велика Британія була не просто інтелектуальним домом, а географічним домом для глобального регулювання безпеки штучного інтелекту", - сказав Сунак на технічній конференції цього тижня. Британський саміт об'єднає людей "академії, бізнесу та уряду", які працюватимуть разом на «багатосторонній основі».
Франсін Беннетт, виконувач обов’язків директора Інституту Ади Лавлейс, сказала The New York Times: «Технології, що швидко розвиваються та швидко перепрофільовуються, звичайно, важко регулювати, тому що навіть компанії, які розробляють технології, не знають, як все розвиватиметься. Але безумовно, для всіх нас буде гірше, якщо вони продовжуватимуть працювати без належного регулювання».
Проте Асоціація комп’ютерної та комунікаційної індустрії стверджує, що ЄС повинен уникати надмірного регулювання, яке б пригнічувало інновації. Боніфас де Шампрі, менеджер з питань європейської політики агентства, сказав: «Нові європейські правила штучного інтелекту повинні ефективно вирішувати чітко визначені ризики, надаючи розробникам достатньо гнучкості для доставки програм ШІ на користь європейців».
**Що далі? **
Можуть пройти роки, щоб законопроект повністю набув чинності. Наступним кроком є тристоронні переговори за участю держав-членів, парламенту та Європейської комісії, які можуть зіткнутися з іншими змінами, перш ніж вони спробують узгодити формулювання.
За словами Руффо, під час майбутньої фази тристороннього діалогу Рада Європи, яка представляє уряди держав-членів, рішуче виступатиме за звільнення інструментів штучного інтелекту, які використовуються правоохоронними та прикордонними силами, від вимог щодо систем «високого ризику».
Очікується, що законопроект отримає остаточне схвалення до кінця року, після чого настане пільговий період для підприємств і організацій на адаптацію, зазвичай близько двох років. Але Брандо Беніфей, італійський член Європейського парламенту, який очолює роботу над законопроектом, сказав, що вони будуть наполягати на правилах, які дозволять швидше запровадити швидкозростаючі технології, такі як генеративний ШІ.
Щоб заповнити прогалини до того, як законодавство набуде чинності, Європа та Сполучені Штати розробляють проект добровільного кодексу поведінки, який офіційні особи пообіцяли наприкінці травня розробити протягом кількох тижнів і потенційно поширити на інші «країни-однодумці».