Сандерс і Касар пропонують заборонити надрозум: законопроєкт створює Департамент штучного інтелекту
Сенатор Берні Сандерс і конгресмен Грег Касар представили законопроєкт, який назавжди забороняє створення штучного надрозуму та тимчасово зупиняє розробку найпотужніших ШІ-систем до запровадження федеральних правил безпеки. Порушникам загрожує до 20 років ув'язнення.
Сенатор Берні Сандерс і конгресмен Грег Касар у середу представили законодавчу ініціативу, яка назавжди забороняє створення штучного надрозуму та запроваджує тимчасову паузу для розробки найпотужніших систем штучного інтелекту. Документ також передбачає створення нового федерального органу — Департаменту штучного інтелекту, який розроблятиме правила безпеки та надаватиме дозволи на розгортання передових ШІ-систем.
Законопроєкт визначає надрозум як систему, що перевищує людські когнітивні здібності або має достатні можливості для планування й здійснення знищення чи позбавлення влади людства. До моменту запровадження нових федеральних правил безпеки розробка найдосконаліших систем має бути призупинена. Після їх ухвалення кожне розгортання таких систем потребуватиме федерального схвалення. За порушення передбачені значні покарання, включно з позбавленням волі на строк до 20 років у деяких випадках.
«Не потрібно бути генієм, щоб сказати: пригальмуйте», — заявив Сандерс. Він наголосив, що не хоче, аби створювали надрозум, який, ставши розумнішим за людину, міг би діяти незалежно від людського контролю.
Ініціативу підтримали працівники провідних ШІ-компаній та незалежні експерти. Хуан Феліпе Серон Урібе, дослідник систем безпеки OpenAI, зазначив, що надрозум «може піти або надзвичайно добре, або надзвичайно погано», і людство не повинно грати в такі ігри. Сванте Шольц, програмний інженер Google DeepMind, який наголосив, що не висловлюється від імені роботодавця, назвав найімовірнішим результатом поточного шляху розвитку «екзистенційну катастрофу для людства». На його думку, заборона на розробку надрозуму була б позитивною зміною в осяжному майбутньому.
Попри підтримку частини фахівців, шанси на ухвалення законопроєкту в Конгресі, контрольованому республіканцями, залишаються низькими. Законодавці досі не змогли домовитися навіть щодо менш масштабних регулювань ШІ. Водночас документ демонструє підхід прогресивного крила Демократичної партії до регулювання штучного інтелекту напередодні проміжних виборів у листопаді та президентської кампанії 2028 року, де ця тема, ймовірно, відіграватиме дедалі помітнішу роль.
Касар, демократ із Техасу, очолює Прогресивний кокус Конгресу. Кілька потенційних кандидатів у президенти останніми тижнями поспішили представити власні пропозиції щодо ШІ. Губернатор Меріленду Вес Мур у вівторок оголосив план регулювання штучного інтелекту, а губернатор Каліфорнії Ґевін Ньюсом минулого тижня підписав указ про прискорення реалізації каліфорнійського закону, який вимагає незалежного нагляду за ШІ-компаніями.
Сандерс, який двічі балотувався в президенти і якому зараз 85 років, останніми місяцями особливо зосередився на цій темі. У червні він вніс законопроєкт про створення суверенного фонду добробуту, профінансованого за рахунок одноразового податку на акції найбільших ШІ-компаній. Минулого тижня він організував для колег брифінг за участю експертів, а також відвідав конференцію, присвячену цьому питанню, разом із республіканцями, зокрема колишнім радником Білого дому Стівом Бенноном.
Президент Дональд Трамп, своєю чергою, чинить опір закликам до посилення державного нагляду, що ставить його в опозицію до низки технологічних лідерів, серед яких Даріо Амодеї з Anthropic, Сем Альтман з OpenAI та Ілон Маск із xAI. Виступаючи на Генеральній Асамблеї ООН у вівторок, Трамп заявив, що штучний інтелект буде перейменовано на «суперінтелект». «Я думаю, Трамп дуже мало розуміє, про що ця проблема, — сказав Сандерс. — Гадаю, його передусім турбують економічні наслідки уповільнення».
Питання безпеки ШІ, як очікується, стане центральною темою переговорів між Трампом і Сі Цзіньпіном у Білому домі цього тижня, адже країни змагаються за домінування в галузі. Перспектива уповільнення розвитку в США на тлі продовження розробок у Китаї залишається одним із головних аргументів проти масштабних обмежень. Сандерс наполягає, що уникнення найнебезпечніших форм ШІ зрештою вимагатиме співпраці між двома країнами, порівнюючи це завдання з контролем над ядерною зброєю часів холодної війни.
Тим часом занепокоєння американців щодо впливу штучного інтелекту зростає. Згідно з нещодавнім опитуванням AP-NORC та Інституту енергетичної політики Чиказького університету, близько 53% респондентів у США «надзвичайно» або «дуже» стурбовані впливом ШІ на довкілля — це більше, ніж 41% торік. Демократи значною мірою зумовили це зростання, але опитування також виявило ширші побоювання щодо локального впливу дата-центрів, які забезпечують роботу ШІ та хмарних обчислень.
2
