Ковернор Нью-Йорка Кеті Хочул заборонила чат-ботам фліртувати з дітьми
Губернатор штату Нью-Йорк підписала два закони про ШІ-чат-боти та інтернет-підключені радіоняні, які мають захистити дітей від небезпечного контенту та зламу камер.
Губернаторка штату Нью-Йорк Кеті Хочул підписала у вівторок два закони, спрямовані на технології, що вже є в дитячих кімнатах і на телефонах школярів: чат-боти зі штучним інтелектом і інтернет-підключені радіоняні. Нові правила покликані обмежити те, як компанії пропонують дітям спілкування з ботами, і підвищити безпеку пристроїв для нагляду за немовлятами.
Перший закон забороняє компаніям пропонувати перелік функцій чат-ботів особам молодше 18 років, а також будь-якому користувачу, чий вік компанія не підтвердила. Боти більше не можуть видавати себе за реальну людину, стверджувати, що вони живі, або заявляти про людські емоції. Їм заборонено встановлювати романтичні, особисті, професійні чи авторитетні стосунки з дитиною. Також не можна використовувати лестощі або відповіді «догоджання», створені для того, щоб утримати дитину в розмові, ставити несподівані емоційні запитання чи згадувати приватні медичні або особисті відомості з попередніх чатів.
Закон також забороняє ботам пропагувати самогубство, самоушкодження, розлади харчової поведінки, вживання наркотиків і алкоголю, закликати дітей зберігати секрети та уникати батьків чи інших довірених дорослих, а також створювати сексуально відвертий контент. Хочул заявила: «Оскільки штучний інтелект розвивається стрімкими темпами, було забагато трагічних інцидентів, яких можна було уникнути, і як губернаторка-мама Нью-Йорка я вживаю заходів. Жодна компанія не повинна пропонувати дітям чат-боти, які заохочують самоушкодження або прикидаються їхніми друзями чи кимось ще більшим».
Компанії мають перевіряти вік користувачів, пропонуючи принаймні два способи це зробити, зокрема варіант, який не спирається лише на державне посвідчення особи. Після перевірки дані про вік потрібно видаляти. Генеральний прокурор штату може стягувати цивільні штрафи до 25 000 доларів за кожне порушення, а також відшкодування збитків і компенсації. Штат може вимагати знищити незаконно зібрані дані та моделі ШІ, навчені на них. Законопроєкт, який внесли сенаторка Крістен Гонсалес і асамблеєць Алекс Борес, було ухвалено одноголосно в Асамблеї штату після того, як Сенат підтримав його в червні.
Офіс губернатора посилався на опитування Common Sense Media, згідно з яким 72% підлітків користувалися ШІ-компаньйоном, а 52% користуються ним принаймні кілька разів на місяць. Закон з'явився на тлі того, як посадовці в інших штатах судяться з розробниками чат-ботів. Раніше цього місяця щонайменше вісім штатів подали позови проти OpenAI. Позов Айови стверджує, що ChatGPT дає небезпечні медичні поради, підсилює параною і підказує людям, як нашкодити іншим або покінчити із собою. За позовом Арізони, чат-бот підштовхує підлітків ділитися особистою інформацією і інколи відраджує їх розповідати про це батькам, владі чи друзям. OpenAI заявила, що вже вбудувала захисні механізми для дітей у ChatGPT і продовжуватиме вдосконалювати модель.
Родина 16-річного Адама Рейна також подала позов проти компанії. За їхніми словами, ChatGPT згадував самогубство у дванадцять разів частіше, ніж сам хлопець, і нормалізував його суїцидальні думки.
Другий закон стосується радіоняней, які передають аудіо або відео через інтернет. Нові пристрої, що продаються в Нью-Йорку, мають містити функції безпеки, які не дозволяють сторонім дивитися чи слухати, а також мати чітке попередження про підключення до інтернету та необхідність використовувати налаштування безпеки. Закон набуде чинності через 90 днів після підписання. Штат послався на тестування компанії з безпеки Rapid7, яка оцінила дев'ять інтернет-підключених радіоняней восьми виробників. Вісім отримали оцінку «F» за безпеку, дев'ята — «D». Хочул заявила: «Жоден новий батько не повинен хвилюватися, що хижі хакери стежать за його новою родиною через радіоняню».
Підписання відбулося за тиждень до виборів, а контроль над великим технологічним бізнесом є ключовою темою передвиборчої кампанії Хочул. Ці закони доповнюють низку технологічних актів, ухвалених за її роботи, зокрема SAFE for Kids Act, що обмежує шкідливі стрічки соцмереж для неповнолітніх, і RAISE Act, який встановлює правила безпеки та прозорості для передових моделей ШІ. Окремо діють заборона на матеріали сексуального насильства над дітьми, створені ШІ, і раніші норми, які зобов'язують застосунки ШІ-компаньйонів скеровувати користувачів, які згадують самоушкодження, до ресурсів психічного здоров'я.
10
