Американська компанія у сфері штучного інтелекту Anthropic заявила, що пов'язана з Росією хакерська група використовувала її модель Claude для проведення кібератак проти представників українського уряду, військового та дипломатичного секторів, йдеться у звіті компанії про аналіз загроз.
За даними Anthropic, хакерська група проводила фішингові атаки, перехоплення Wi-Fi у готелях та операції із захоплення облікових записів WhatsApp проти українських посадовців, військових і дипломатів, використовуючи штучний інтелект майже на кожному етапі операцій.
"Використання ШІ виходило за межі простих запитань і відповідей чат-бота та натомість передбачало використання мультиагентних систем", – зазначається у звіті компанії.
За оцінкою компанії, тактика цієї групи відповідала діям пов'язаного з Росією угруповання Midnight Blizzard, яке уряд США раніше пов'язував із російською Службою зовнішньої розвідки. Посольство Росії у Вашингтоні не одразу відповіло на запит Reuters про коментар.
Anthropic також заявила, що група використовувала ШІ для створення системи, яка автоматично визначала, коли її шкідливе програмне забезпечення блокувалося засобами безпеки, та переписувала код доти, доки він не уникав виявлення.
У звіті Anthropic також задокументовано випадки використання її моделей для розробки озброєнь та біологічних досліджень.
Компанія повідомила про п'ять випадків використання її моделей вченими у спосіб, який міг сприяти розробці біологічної зброї. В одному з випадків дослідник із регіону, який не підтримується Anthropic, протягом кількох тижнів використовував Claude для планування експериментів з адаптації пташиного грипу до ссавців. Після виявлення зловживання компанія заблокувала пов'язані з цим дослідженням облікові записи.
До регіонів, які не підтримуються Anthropic, належать, зокрема, Росія, Китай і Північна Корея. Компанія не назвала установи, країни, де вони розташовані, або конкретні біологічні агенти та методи досліджень, про які йдеться.
