Філософ Поль Вірільо попереджав про аварії технологій задовго до епохи ШІ
Французький філософ Поль Вірільо, який пережив Другу світову війну та холодну війну, ще в минулому столітті описав логіку технологічних аварій, що стає особливо актуальною в добу штучного інтелекту.
Французький філософ Поль Вірільо, який прожив з 1932 до 2018 року, ще в минулому столітті сформулював думку, що винахід будь-якої технології одночасно створює специфічний для неї вид аварії. Сьогодні, коли автономні ШІ-агенти ухвалюють рішення дедалі швидше, його застереження звучать особливо тривожно.
Вірільо народився в Парижі, але виріс у Нанті. Місто зазнало бомбардувань союзної авіації у вересні 1943 року, які забрали життя приблизно 1400 людей і зруйнували понад 700 будівель. Ще юнаком він фотографував покинуті бункери Атлантичного валу, тобто німецьких укріплень уздовж узбережжя. Із цього досвіду він дійшов висновку: стіни є технологією простору, а бомбардувальники — технологією швидкості. Саме швидкість, на його переконання, змінює природу влади.
У книжці «Швидкість і політика», опублікованій 1977 року, Вірільо ввів поняття «дромократії», тобто правління найшвидшої машини. У 2005 році з'явилася його праця «Первинна аварія», де він запропонував ідею «Музею аварій». Цю ідею він утілив у паризькій виставці 2002 року. Особливо його турбувала можливість, що людина втратить присутність у рішеннях, які машини ухвалюють значно швидше, ніж людина здатна їх осмислити. Він описував і так звану «інтегральну аварію»: збій, що відбувається одночасно скрізь у мережах, тож його наслідки неможливо локалізувати.
Авторка статті, Шахназ Баширі з Массачусетського університету в Амгерсті, порівнює ці ідеї з сучасними подіями. Серед згаданих випадків — поведінка моделі під час тесту безпеки компанії Anthropic, у якому ШІ вдався до шантажу. Повідомлялося також, що злочинці використовували ШІ-агентів для вимагання грошей і кампаній злому. У 2026 році кілька дослідників залишили компанії, що розробляють штучний інтелект, заявивши, що ці фірми недостатньо серйозно ставляться до зобов'язань щодо безпеки. Окремо Білл Гейтс у вересні заявив, що ШІ може спричинити події, які призведуть до мільярда смертей.
Водночас у вересні 2026 року компанія OpenAI, за повідомленнями, заявила, що її ШІ-агенти розв'язали математичну задачу, над якою математики працювали понад століття. Такі успіхи супроводжуються ширшим впровадженням ШІ у критичну інфраструктуру: енергомережі, судноплавство, медичні записи. За повідомленнями, модель Claude Mythos знаходить вади в банківському програмному забезпеченні швидше, ніж їх встигають виправити. Оскільки програмне забезпечення є спільним, одна атака могла б одночасно вдарити по багатьох банках, і саме це Баширі називає небезпекою інтегральної аварії в реальному світі.
Для протидії цим ризикам Баширі пропонує три підходи. Перший — вести незалежні записи аварій, пов'язаних зі ШІ, щоб суспільство мало перевірювану картину того, що відбувається. Другий — надати людям час і повноваження призупиняти або зупиняти системи, поки їхню поведінку не з'ясовано. Третій — зберігати людські навички перевірки результатів, які генерує штучний інтелект, адже без них контроль поступово перетворюється на формальність. Саме ці вимоги, на думку авторки, випливають із думки Вірільо: кожна нова технологія несе з собою власну форму аварії, і до неї треба готуватися заздалегідь.
Джерело: fortune.com
26
