Французька поліція обшукує офіс X у Парижі у рамках розслідування Grok AI та незаконного контенту

Коротко

• Французькі слідчі обшукали офіси X у Парижі в рамках розслідування щодо нелегального контенту та практик алгоритмів.
• Справа розширилася після скарг на використання Grok для створення неза consentual sexual images, зокрема дітей.
• Регулятори Великої Британії відкрили паралельні розслідування відповідно до законів про захист даних та онлайн-безпеку.

Французькі органи влади обшукали офіси соціальної мережі X у Парижі у вівторок у рамках розширеного кримінального розслідування щодо ймовірної дитячої порнографії, пов’язаної з AI-чатботом платформи, Grok. Згідно з повідомленням Sky News, обшук був проведений спеціалізованим підрозділом Франції з кіберзлочинності у співпраці з Європолом. Прокуратура повідомила, що власник X, Ілон Маск, був викликаний на допит разом із кількома нинішніми та колишніми керівниками, зокрема колишньою генеральною директоркою Ліндою Якаріно. “Розслідування стосується низки підозрюваних кримінальних правопорушень, пов’язаних із функціонуванням та використанням платформи, зокрема поширенням нелегального контенту та інших форм онлайн-злочинної діяльності,” — йдеться у заяві Європолу. “Європол готовий і надалі підтримувати французькі органи влади у процесі розслідування.”

 Розслідування щодо Grok, яке розпочалося минулого місяця, зосереджене на звинуваченнях у тому, що X був співучасником у поширенні матеріалів сексуального насильства над дітьми та іншого нелегального контенту, при цьому влада стверджує, що Grok використовувався для створення понад 23 000 сексуалізованих зображень дітей. Минулого серпня xAI запустила “Spicy Mode” спеціально для створення NSFW-контенту, включаючи високопрофільний випадок із глибокими фейками Тейлор Свіфт. У повідомленні на X, департамент глобальних урядових справ соціальної мережі заперечив будь-які правопорушення, назвавши обшук “політизованим кримінальним розслідуванням щодо ймовірної маніпуляції алгоритмами та фальсифікації даних.”

“Сьогоднішній інсценований обшук підтверджує нашу впевненість у тому, що це розслідування спотворює французьке законодавство, обходить належний процес і ставить під загрозу свободу слова,” — написали вони. “X прагне захищати свої основні права та права своїх користувачів. Нас не залякають дії французьких судових органів сьогодні.” Громадські організації захисту прав споживачів стверджують, що коли регулятори розслідують розробників AI, чиї інструменти використовуються для створення нелегального контенту, вони повинні досліджувати, чи могла компанія обґрунтовано передбачити, як ці інструменти можуть бути зловживані. “Регулятори мають дослідити, чи зробили дизайнерські рішення компанії передбачуваними для незаконного зловживання, чи були адекватними оцінки ризиків і чи були засоби безпеки суттєво протестовані перед запуском,” — сказав J.B. Branch, адвокат відповідальності великих технологій у Public Citizen, у Decrypt. “Платформи, що отримують прибуток від швидкого розгортання, повинні нести відповідальність за шкоду, яку таке розгортання створює. Це саме те, що відбувається в інших галузях.” Хоча чинні закони проти неза consentual sexual imagery та дитячих матеріалів сексуального насильства залишаються важливими, Branch зазначив, що вони не були створені для AI, який може “масово виробляти шкоду з масштабованою швидкістю.” “Нам потрібні ясніші, проактивні обов’язки, що зобов’язують компанії запобігати зловживанням AI до їхнього виникнення, включаючи незалежне тестування регуляторами, яке може напружено перевірити проблеми перед виходом AI-продуктів на ринок,” — сказав він. “Коли трапляється щось таке серйозне, інструмент має бути негайно вилучений.” Розслідування тривають Розслідування щодо чатбота тепер поширилися на кілька юрисдикцій, включаючи Великобританію, ЄС, Індію, Австралію та США. У той самий день, коли французькі чиновники обшукали офіс X у Парижі, Британська служба з питань інформації (ICO) оголосила, що також відкрила розслідування щодо Grok. “Ми зробили цей крок у відповідь на повідомлення про те, що Grok використовувався для створення неза consentual sexual imagery осіб, зокрема дітей,” — сказав виконавчий директор ICO з регуляторних ризиків і інновацій Вільям Малькольм у заяві. “Створення та поширення такого контенту викликає серйозні занепокоєння відповідно до закону Великої Британії про захист даних і становить ризик значної потенційної шкоди для громадськості.”

За словами Малькольма, ці занепокоєння стосуються того, чи було оброблено особисті дані законно, справедливо та прозоро, і чи були вбудовані відповідні засоби безпеки у дизайн і розгортання Grok для запобігання створенню шкідливих маніпульованих зображень із використанням особистих даних. “Якщо ці засоби безпеки не працюють, особи втрачають контроль над своїми особистими даними у спосіб, що ставить їх під серйозну загрозу,” — написав він. “Вивчення цих ризиків є центральною частиною ролі ICO у захисті прав людей і притягненні організацій до відповідальності за розробку та впровадження AI-технологій.” Дії в Європі є останніми у цій серії, оскільки минулого місяця британський регулятор медіа Ofcom відкрив розслідування щодо можливого порушення X своїх зобов’язань відповідно до Закону про онлайн-безпеку. У січні, після міжнародної критики Grok, xAI заявила, що обмежила можливості чатбота щодо редагування зображень і заблокувала певні запити, пов’язані з створенням зображень людей. Обшук у Парижі відбувся за день після того, як Маск оголосив, що SpaceX придбала xAI, стартап штучного інтелекту, який раніше поглинув X, помістивши платформу соціальних мереж і її системи AI під корпоративний дах SpaceX у зв’язку з посиленням регуляторного контролю. “Ми знаємо, що X або Grok тепер пропонують ‘Spicy Mode’, що показує явний сексуальний контент із деякими виходами, згенерованими з дитячими зображеннями,” — сказав представник Європейської комісії Томас Регньєр під час недавньої прес-конференції у Брюсселі. “Це не spicy. Це незаконно. Це жахливо. Це огидно. Це не має місця в Європі.” SpaceX і xAI не відповіли негайно на запити про коментар від Decrypt.