Засновник CLEAR: швидкий ШІ може бути безпечним, якщо виправити рівень ідентифікації
Засновник CLEAR заявляє, що безпека штучного інтелекту залежить від надійної ідентифікації користувачів, а не від уповільнення технологій. На його думку, паролі та контрольні запитання більше не захищають, адже генеративний ШІ може відтворити голос і обличчя людини.
Швидкий розвиток штучного інтелекту не обов’язково створює загрозу безпеці, якщо бізнес і держава вирішать фундаментальну проблему встановлення справжньої ідентичності людини. Про це заявив засновник компанії CLEAR, яка понад 16 років займається верифікацією осіб і має сертифікацію Qualified Anti-Terrorism Technology від Міністерства внутрішньої безпеки США.
За його словами, сучасні методи підтвердження особи — паролі, контрольні запитання, номери документів — більше не гарантують, що за ними стоїть саме та людина, за яку вона себе видає. Витоки даних дають зловмисникам правильні факти, а генеративний ШІ здатен згенерувати відповідне обличчя й голос. Таким чином, зловмисник може знати те саме, що й справжній користувач, виглядати як він і говорити його голосом, залишаючись при цьому іншою особою.
Особливо гостро ця проблема постає на тлі переходу від ШІ, який лише створює контент, до ШІ-агентів, які виконують дії від імені людини. Агенти можуть купувати товари, переказувати гроші та відкривати доступ до чутливих систем. Це відкриває величезні можливості для ефективності, швидкості та інновацій, але водночас підвищує ставки у питанні правильної ідентифікації.
Прикладом є платіжна сфера. Google, Visa і Mastercard уже будують системи, які дозволяють ШІ-агентам здійснювати платежі та отримувати доступ до таких даних, як номери кредитних карток. Якщо ці інновації не матимуть надійного фундаменту, вони ризикують опинитися на піску.
Засновник CLEAR наводить сценарій, у якому шахрай видає себе за керівника під час дзвінка до служби підтримки, перехоплює його акаунт і реєструє ШІ-агента. У результаті відбуваються шахрайські транзакції. Формально система безпеки працює — агент виконує інструкції того, хто його зареєстрував. Але якби особу було підтверджено належним чином, збитків можна було б уникнути.
На думку автора, все залежить від першого рішення щодо ідентифікації. Сьогодні воно часто зводиться до пароля, контрольного запитання та телефонного дзвінка, жоден із яких не доводить, що це правильна людина. Саме тому підтвердження особи має бути основою безпеки агентів, а не окремою процедурою відповідності.
Традиційні докази не можуть вважатися достатніми. Якщо інформацію можна знайти у відкритих джерелах, купити в даркнеті або згенерувати моделлю, вона не є доказом ідентичності. Паролі та ідентифікаційні номери створюють нові вразливості. Замість цього доказ особи має «подорожувати» разом із людиною — між нею та її ідентичністю потрібен незмінний зв’язок, який можна безперервно й ретельно підтверджувати всюди, де це потрібно.
Автор наголошує, що сучасні технології дозволяють зробити це без зайвих незручностей для користувача. На його переконання, дискусія про ШІ часто зводиться до вибору між швидкістю та безпекою, але на практиці можна мати і те, і інше. Уповільнення ШІ не є рішенням, як і запуск агентів на слабких облікових даних. Коли довірену ідентичність вбудовано в систему, вона відповідає на два ключові запитання: чи людина авторизувала дію і чи була ця людина надійно верифікована.
Багато підприємств поки не можуть дати відповідь на друге запитання, але саме тут, на думку засновника CLEAR, криється найбільша можливість рухатися швидко й безпечно одночасно. Він висловлює оптимізм щодо потенціалу ШІ і вважає, що довіра до ідентичності — це шлях до швидшого впровадження технологій із безпекою та простотою, яких усі прагнуть.
4
