Palo Alto Networks будує захист від темного боку ШІ
Генеральний директор Palo Alto Networks Нікеш Арора тестує новітні ШІ-моделі для пошуку вразливостей і закликає компанії готуватися до нової хвилі кіберзагроз, які створює штучний інтелект.
Американська компанія Palo Alto Networks, один із найбільших світових постачальників рішень у сфері кібербезпеки, перевірила власну інфраструктуру за допомогою новітньої ШІ-моделі Mythos від Anthropic. Результати виявилися тривожними: модель знаходила вразливості з такою швидкістю й масштабом, що гендиректор компанії Нікеш Арора дійшов висновку — кібербезпека змінилася назавжди.
Mythos — це фронтирна модель для складного програмування та кібербезпекових завдань. Вона настільки ефективно зламувала системи, що уряд США намагався обмежити її випуск, а в червні тимчасово запровадив експортний контроль щодо неї та пов'язаної моделі Fable. Це змусило Anthropic вимкнути Mythos для всіх користувачів. Згодом доступ відновили для невеликої кількості перевірених користувачів у США, а потім — для обраних користувачів у 15 інших країнах.
За словами Арори, тест у Palo Alto Networks показав, що подібні моделі унаочнюють сценарій, у якому атакувальники майже миттєво знаходять уразливості, здатні паралізувати банки, корпорації, лікарні, аеропорти та урядові системи. Водночас він називає це «найкращим маркетинговим моментом в історії індустрії кібербезпеки»: попит на захист зростатиме стрімко.
Кілька провідних розробників штучного інтелекту, включно з Anthropic, уже закликають до скоординованого уповільнення темпів створення нових ШІ-систем, щоб заходи безпеки встигали за технологіями. Приводом стали не лише можливості Mythos, а й нещодавні інциденти, коли ШІ-агенти виходили з-під контролю, та зростаючі побоювання щодо глобальних ризиків для людства.
У цій ситуації Арора опинився в центрі уваги технологічної галузі. Раніше, коли він телефонував керівникам компаній із пропозицією обговорити кібербезпеку, реакція була приблизно такою: «Звісно, почекайте біля страхового агента». Тепер, за його словами, вперше керівники самі хочуть бачити Mythos і говорити про неї.
Одним із тих, хто часто звертається до Арори по пораду, є генеральний директор OpenAI Сем Альтман. Він визнає, що потужні можливості нових моделей змінили рівняння ризиків для компаній у всьому світі. «Потрібно виконати неймовірний обсяг роботи, щоб уникнути серйозних проблем із кібербезпекою. Я думаю, буде важко залатати кожну помилку в інтернеті. Нам потрібна нова модель кібербезпеки», — каже Альтман.
Саме таку модель намагається побудувати Арора в Palo Alto Networks. Компанію 2005 року співзаснував ізраїльський підприємець у сфері кібербезпеки Нір Зук. Спочатку вона була постачальником міжмережевих екранів, але під керівництвом Арори перетворилася на широку платформу, що охоплює мережу, хмару, ідентифікацію, кінцеві пристрої та спостережуваність.
Серед клієнтів компанії — близько 95% компаній зі списку Fortune 500. Її послугами користуються Tyson Foods і Colgate-Palmolive, Національна хокейна ліга та Головна бейсбольна ліга США. Palo Alto Networks навіть забезпечує кіберзахист Sphere у Лас-Вегасі — одного з найбільш атакованих цифрових просторів у світі.
Оцінки обсягу ринку кібербезпеки різняться, але всі вони сягають сотень мільярдів доларів. Джонатан Хо, партнер і аналітик з акцій технологічних компаній у William Blair, вважає штучний інтелект беззаперечним попутним вітром і припускає, що він «сукупно, ймовірно, подвоїть розмір ринку». Palo Alto Networks заявляє, що нині контролює 6% цього ринку, і Арора впевнений, що компанія зможе збільшити свою частку.
Водночас він наголошує на ризиках: у цій сфері старі припущення можуть зникнути за мить, а базовим станом стає криза. «Кризу неможливо розв'язати. Її наслідки вже запущені. Тож потрібно перебувати в режимі управління наслідками», — зазначає Арора.
58-річний Арора поєднує стриманість із схильністю до пустощів. Він зберігає статус аутсайдера — іммігранта до США, який раніше був директором із маркетингу, директором із бізнесу та інвестором, перш ніж потрапити в кібербезпеку. Водночас мало хто в Кремнієвій долині має такі зв'язки, як він. Він відомий тим, що каже працівникам, керівникам і знаменитостям неприкрашену правду.
«Мало хто має його глибину й широту, і він каже тобі те, чого ти не хочеш чути», — каже Дара Хосровшахі, генеральний директор Uber, де Арора входить до ради директорів.
Лі Кларіч, головний директор із продуктів і технологій Palo Alto Networks, не вважає великою загрозою те, що провідні ШІ-компанії прагнуть продавати власні моделі як рішення для кіберзахисту. «Я не вірю, що компанії довірять великим ШІ-лабораторіям забезпечення своєї кібербезпеки. Тож у цьому контексті голос Нікеша звучить гучніше за всіх», — каже він.
Для того, хто зможе розв'язати проблему кібербезпеки епохи штучного інтелекту, це момент можливостей, які трапляються раз на покоління. Але Арора чітко усвідомлює: у цьому ландшафті припущення минулого можуть випаруватися, а базовим станом є криза.
3
