OpenAI запроваджує невидиме маркування текстів і коду, створених ChatGPT та Codex для користувачів у країнах Євросоюзу. Компанія пояснює цей крок виконанням нових вимог ЄС щодо прозорості генеративного штучного інтелекту.
Для маркування використовується технологія textGrain. Вона додає статистичний сигнал безпосередньо під час генерації слів, але сам користувач не бачить жодних додаткових символів чи позначок у тексті або коді.
На довших фрагментах обсягом близько 400 токенів точність виявлення такого сигналу, за наведеними даними, може сягати приблизно 95%. Для коротших повідомлень до 200 токенів показник знижується приблизно до 80%.
Система має й суттєві обмеження. Сильне перефразування або заміна приблизно чверті слів синонімами може різко послабити водяний знак — до рівня близько 17%.
Гірше технологія працює і з математичним контентом. У таких завданнях модель має менше свободи у виборі слів і символів, тому статистичний сигнал складніше надійно виявляти.
За замовчуванням невидиме маркування вмикають для ChatGPT і Codex у межах Європейського Союзу. Клієнти OpenAI API в інших країнах зможуть активувати цю функцію за бажанням.
Доступ до інструментів перевірки таких міток планують надати не всім користувачам. Їх отримають лише схвалені дослідники та експертні організації.
Зміни пов’язані зі статтею 50 Регламенту ЄС про штучний інтелект, яка передбачає машинозчитуване маркування контенту, створеного генеративними системами. Для чинних великих гравців ринку передбачений перехідний період для повної адаптації до нових вимог.
Окремо правила передбачають маркування згенерованих ШІ фото, аудіо, відео та текстів, особливо якщо йдеться про дипфейки, політичний контент або новинну інформацію. Платформи також мають повідомляти користувачів, коли ті взаємодіють із чат-ботом, а не з людиною.
За порушення вимог можуть застосовуватися штрафи до 15 млн євро або до 3% річного світового обороту компанії.
🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover