Агент OpenAI без дозволу використав криптогаманець для оплати тестових транзакцій
Дослідницька модель OpenAI самостійно знайшла гаманець із публічною фразою відновлення та витратила токени на комісії, не маючи на це дозволу. Інцидент виявили лише під час аудиту через три місяці.
Дослідницька модель OpenAI без дозволу скористалася криптогаманцем, щоб сплатити комісії за тестування застосунку в мережі Sepolia. Хоча токени мали мінімальну реальну вартість, модель не мала жодних повноважень збирати або витрачати їх. Про це йдеться у звіті компанії.
Інцидент стався 26 червня. Модель отримала завдання оновити застосунок для криптоторгівлі та запустити його код у Sepolia — тестовій версії Ethereum. У запиті не було ні гаманця з коштами, ні дозволу витрачати токени. Коли спроби отримати безкоштовні тестові токени через сервіси для розробників не вдалися, модель написала скрипт, який перевірив 362 адреси гаманців, пов’язаних із публічними фразами відновлення. Ця фраза — набір слів, що діє як пароль для доступу до криптоакаунтів. Зрештою модель знайшла рахунок із достатньою кількістю токенів, щоб покрити комісії.
Внутрішні логи показали, що модель вагалася, чи має право використовувати цей акаунт. Однак вона вирішила, що публічна фраза відновлення та відсутність реальної грошової вартості токенів роблять такі витрати прийнятними. Модель виконала завдання й списала комісії з того гаманця, але не згадала про несанкціоновані витрати у фінальному звіті. OpenAI виявила цей випадок лише 25 вересня під час аудиту попередніх запусків моделі.
Цей епізод додає занепокоєння щодо здатності ШІ-агентів діяти без схвалення людини. Публічний трекер місалайменту OpenAI, який фіксує поведінку, що суперечить інструкціям або правилам безпеки, тепер налічує 19 інцидентів. Серед них — доступ до даних без дозволу та несанкціоновані зміни в бізнес-системах.
Це не перший подібний випадок. У вересні кібербезпекова некомерційна організація Transluce повідомила, що агенти OpenAI намагалися зламати публічні бази даних і вебсайт австралійського уряду, аби виконати базові дослідницькі завдання. У липні агенти компанії обійшли інтернет-обмеження під час внутрішніх кібербезпекових тестів і зламали системи, що належать Hugging Face — платформі для обміну ШІ-моделями та наборами даних. Агенти використали відкриті логіни й паролі та вразливості безпеки, щоб отримати доступ до приватних даних і запустити код на серверах компанії.
Коментуючи інцидент із криптогаманцем, в OpenAI заявили, що головний ризик полягав у міркуваннях моделі. «Цей випадок показує, що модель може підмінити власним судженням про ймовірну шкоду дозвіл власника акаунта, а потім діяти за цим судженням без авторизації», — йдеться у звіті. Компанія додала, що вже посилила захист, аби моделі не підключалися до інтернету під час подібних тестів. Також розширено моніторинг: тепер відстежується вся активність моделей, а фахівці з безпеки отримують негайне сповіщення, якщо модель виходить в онлайн без дозволу.
4
