Китайська влада розпочала перевірку розробників штучного інтелекту DeepSeek і Moonshot AI після звинувачень у масовому перенаправленні запитів користувачів до американської нейромережі Claude. За даними Anthropic, через таку практику за межі Китаю могли потрапити не лише запитання до чатботів, а й персональні та корпоративні дані.
Адміністрація кіберпростору Китаю викликала керівників технологічних лабораторій для пояснень щодо використання американських ШІ-систем. У центрі уваги регулятора опинилися DeepSeek, яка розробляє відкриті моделі штучного інтелекту, та Moonshot AI — компанія, що створила чатбот Kimi.
Підставою для перевірки стали звинувачення американської компанії Anthropic, розробника Claude. Вона стверджує, що китайські конкуренти масово надсилали запити до її моделі, а отримані відповіді використовували для вдосконалення власних ШІ-продуктів.
За підрахунками Anthropic, із травня до липня Moonshot AI спрямувала до Claude понад 23 мільйони користувацьких запитів. DeepSeek, за твердженням американської компанії, перенаправила 12,1 мільйона повідомлень лише протягом 14 днів у липні.
Таке використання відповідей однієї нейромережі для навчання іншої називають дистиляцією. Метод дає змогу розробникам покращувати результати власних моделей за допомогою відповідей потужнішої системи. Водночас сам по собі цей підхід не доводить, що модель лише передає запити іншому сервісу замість генерувати власні відповіді.
Американські ШІ-компанії раніше вже звинувачували китайських конкурентів у несанкціонованому використанні своїх систем для навчання моделей. Проте китайський регулятор, за повідомленням медіа, зосередився насамперед на іншому питанні: чи передавали компанії за кордон інформацію, яку користувачі довіряли їхнім сервісам.
Anthropic заявляє, що серед перенаправлених запитів були персональні дані користувачів щонайменше 12 мовами. Компанія повідомила про виявлення імен, електронних адрес, корпоративної інформації великих міжнародних компаній, а також відомостей, пов’язаних із державними структурами.
Користувачі надсилали ці дані до DeepSeek та Moonshot AI, розраховуючи, що взаємодіють саме з китайськими сервісами. Якщо запити справді перенаправляли до Claude, інформація могла потрапляти до американської компанії без відома людей, які її вводили.
На думку Anthropic, така практика може суперечити вимогам щодо захисту персональних даних і правилам обслуговування самих китайських ШІ-сервісів. Чи встановив китайський регулятор порушення, у повідомленні про початок перевірки не зазначено.
Перевірка відбувається напередодні очікуваної зустрічі адміністрації президента США Дональда Трампа з головою Китаю Сі Цзіньпіном. Серед можливих тем переговорів називають регулювання штучного інтелекту. Водночас припущення про те, що розслідування має стати дипломатичним сигналом Вашингтону, не підтверджене офіційними заявами китайської влади.
🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover