Американська компанія Anthropic, яка розробляє штучний інтелект Claude, попередила про наближення технології, здатної самостійно створювати потужніші моделі ШІ. Розробники визнають, що такий прорив може різко прискорити розвиток штучного інтелекту, але водночас створити загрозу втрати людського контролю над його можливостями.
Anthropic повідомила про потенційні ризики у зміненій реєстраційній заяві S-1A, яку 2 листопада подала до Комісії з цінних паперів і бірж США (SEC). Компанія попередила інвесторів, що наближається до етапу рекурсивного самовдосконалення штучного інтелекту, відомого як RSI.
Йдеться про технологію, за якої ШІ допомагає створювати нові, потужніші покоління моделей. Теоретично кожне наступне покоління може вдосконалюватися швидше за попереднє, що призведе до різкого прискорення технологічного розвитку.
Прихильники такого підходу вважають, що він відкриє можливості для швидших наукових відкриттів, підвищення продуктивності та автоматизації складних дослідницьких завдань. Однак критики побоюються, що розвиток технології може випередити здатність людей контролювати її поведінку.
Одна з головних загроз полягає в тому, що надзвичайно потужні системи можуть досягати поставлених цілей способами, які завдаватимуть шкоди людям. При цьому розробники ризикують не встигати оцінювати нові можливості моделей та пов’язані з ними небезпеки.
Anthropic підтвердила, що вже використовує штучний інтелект для власних досліджень і створення нових моделей. Водночас компанія визнає, що така практика може породжувати додаткові ризики.
«Використання штучного інтелекту для створення потужнішого штучного інтелекту також може становити значний ризик для безпеки, особливо якщо це різко прискорить темпи прогресу», — йдеться в заяві компанії.
Розробник Claude також звернув увагу на труднощі з визначенням моменту, коли штучний інтелект досягне нового рівня можливостей. Раніше дослідники сумнівалися, чи можна взагалі встановити чіткі критерії рекурсивного самовдосконалення.
Однак у новій заяві Anthropic визнала, що вже стикалася із ситуаціями, коли застосування ШІ для розробки наступних моделей давало несподівано значні результати.
«У минулому ми не виявляли і, можливо, не виявимо в майбутньому значного прискорення темпів нашого розвитку, доки воно не відбудеться», — попередила компанія.
Внутрішні оцінки Anthropic свідчать, що компанія може досить швидко наблизитися до порогу, який визначає як значно прискорений розвиток завдяки штучному інтелекту. Цей критерій передбачений її Політикою відповідального масштабування.
Водночас розробники наголошують, що жодна з нинішніх моделей Claude ще не досягла такого рівня. Компанія поки не заявляє про створення системи, здатної повністю самостійно розробляти наступні покоління ШІ.
Anthropic також не планує найближчим часом передавати штучному інтелекту повний контроль над створенням нових моделей. Розробники вважають, що автономне проєктування найпотужніших систем без належного людського нагляду поки не можна вважати безпечним.
У зв’язку з цим компанія розглядає можливість оновлення Політики відповідального масштабування. Нові положення мають допомогти зберегти людський контроль над розробкою моделей із найвищими можливостями.
Водночас попередження Anthropic викликає неоднозначну реакцію. Скептики нагадують, що реєстраційна форма S-1 використовується не лише для інформування інвесторів про ризики, а й може привертати увагу до технологічних перспектив компанії.
Раніше Anthropic також прогнозувала, що до кінця 2026 року компактні моделі ШІ можуть отримати здатність автономно поширюватися через вразливі побутові пристрої без використання потужних центрів обробки даних. Дослідники експериментально продемонстрували, що об’єднана мережа недорогих телевізійних приставок здатна підтримувати роботу моделі штучного інтелекту.
🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover
