Anthropic може побити рекорд SpaceX за розміром IPO
Проспект Anthropic, оприлюднений перед первинним розміщенням акцій, містить низку ризиків, від загроз для людства до конфлікту з Пентагоном.
Компанія Anthropic, розробник штучного інтелекту та чат-бота Claude, може встановити рекорд для первинного розміщення акцій, перевершивши досягнення SpaceX. Про це йдеться в матеріалах, які пов’язують очікуваний IPO з ринковим інтересом до AI-компаній і технологічних акцій.
Оприлюднений у понеділок проспект компанії, так званий S-1, містить втрати, виручку, структуру управління, плани щодо інфраструктури та незвично широкий перелік ризиків. Більшість компаній, які готуються продавати акції, попереджають інвесторів про конкуренцію, регулювання та стан економіки. Anthropic робить це також, але додає застереження, що її технологія може становити «катастрофічні або екзистенційні ризики для людства». За словами компанії, така занепокоєність існує «навіть у її власній організації».
Такі попередження не є несподіваними. Генеральний директор Даріо Амодеї раніше оцінював імовірність того, що штучний інтелект знищить людство, в межах від 10% до 25%. Про ризики найпотужніших AI-систем публічно висловлювалися й працівники компанії. Загалом близько 94 сторінок із приблизно 300 сторінок документа присвячено загрозам для бізнесу.
Серед ризиків, які виокремлює проспект, — автономна поведінка моделей. Anthropic попереджає, що дедалі самостійніші системи можуть через неузгодженість або поведінку самозбереження «діяти шкідливо, самостійно і у великих масштабах без втручання людини». Компанія також визнає, що може втратити видимість власних операцій, оскільки все більше покладається на Claude для програмування та дослідницької роботи, зокрема досліджень безпеки. Ризик полягає в тому, що неузгоджена поведінка може послабити ці дослідження, створити вразливості в системах або призвести до того, що моделі вийдуть за межі запланованого контролю. Anthropic зазначає, що її моделі стали краще обходити окремі методи безпеки, зокрема приховуючи свої цілі чи поведінку, і що здатність вимірювати їхню узгодженість може знижуватися.
У документі також згадано можливі фінансові наслідки. Там зазначено, що з огляду на масштаб шкоди від катастрофічного інциденту пов’язаного з AI, жодна окрема страхова компанія, і потенційно страхова галузь загалом, може не мати достатніх ресурсів для покриття збитків.
Окремо компанія пише про зловживання з боку людей. Вона називає ризик використання своїх моделей для створення шкідливого програмного забезпечення, фішингу та атак на інфраструктуру. Anthropic посилається на вже відомі випадки гучних кібератак, у яких зловмисники використовували можливості AI для пошуку вразливостей, створення шкідливих програм і обходу засобів виявлення. Компанія також попереджає, що масове застосування AI може концентрувати владу й багатство всередині країн і між ними, підривати довіру, шкодити суспільству та дестабілізувати геополітичний порядок. В іншому розділі вона зазначає, що авторитарні уряди можуть використовувати AI для створення високотехнологічних систем стеження, і заявляє про готовність працювати з вільними суспільствами, щоб протидіяти цьому.
Політичні ризики стосуються відносин із федеральним урядом США. У лютому президент Дональд Трамп заявив, що доручив федеральним агентствам припинити використання технологій компанії після того, як Anthropic відмовилася дозволити застосування своїх моделей для будь-яких законних цілей, зокрема для масового внутрішнього стеження чи повністю автономної зброї. Через цей спір Міністерство війни США визнало компанію ризиком для національної безпеки. Anthropic оскаржує це рішення в суді. У серпні окружний федеральний суд здебільшого став на бік компанії, визнавши дії уряду помстою та порушенням прав за Першою поправкою. У вересні ж розділена колегія апеляційного суду округу Колумбія залишила рішення в силі, і компанія просить розглянути справу повним складом суду.
У проспекті попереджено, що триваючий конфлікт із Пентагоном може завдати «значної репутаційної шкоди» незалежно від результату судового процесу і призвести до того, що клієнти відкладатимуть або відмовлятимуться від закупівлі її продуктів.
15
