Державні регулятори пропонують банкам нову систему оцінки ризиків, пов’язаних із використанням штучного інтелекту.
Конференція державних банківських наглядачів (CSBS) оприлюднила рекомендаційний документ, який містить вісім запитань для екзаменаторів та три рівні ризиків, з якими стикаються банки під час використання штучного інтелекту (ШІ).
З початку другого терміну адміністрації Трампа, коли очікувалося послаблення регулювання, деякі державні установи зайняли позицію, що їм доведеться заповнювати прогалини в тих сферах, де федеральні регулятори зменшували нагляд.
Можливо, саме з цієї точки зору, Конференція державних банківських наглядачів у середу опублікувала необов’язковий (тобто, не примусовий) документ, який екзаменатори банків, що працюють за державними ліцензіями, можуть використовувати для оцінки використання фінансовими установами штучного інтелекту.
Федеральна резервна система, Управління контролера грошового обігу та Федеральна корпорація зі страхування депозитів у квітні оновили рекомендації щодо тестування та нагляду банків за моделями, які керують кредитуванням, ціноутворенням та прийняттям рішень щодо ризиків.
Однак вони значною мірою виключили ШІ.
“Генеративні та агентські моделі ШІ є новими та швидко розвиваються”, — зазначили тоді агентства. “Як такі, вони не входять до сфери дії цих рекомендацій”.
У прес-релізі, що представляє п’ять запропонованих документів для екзаменаторів, генеральний директор CSBS Брендон Мілхорн назвав структуру своєї організації “підходом, що базується на принципах… призначеним для того, щоб допомогти фінансовим установам досліджувати та впроваджувати ШІ з додатковою впевненістю”, оскільки “будь-яка нова технологія може становити ризики”.
Слід зазначити, що банки, які працюють за державними ліцензіями, не були цільовою аудиторією федеральних рекомендацій від квітня, які не стосувалися ШІ.
Однак майже 80% із 4 233 установ країни, що мають страхування FDIC, перебувають під наглядом державних регуляторів.
Рекомендації CSBS включають основний посібник для екзаменаторів, робочу програму, яка окреслює запропоновані процедури для екзаменаторів, додаток для небанківських установ, робочий аркуш, який класифікує використання ШІ банками за рівнями, та список джерел, з яких випливає ця структура.
Особливу увагу привертають вісім запитань, які, на думку CSBS, екзаменатори повинні розглянути під час оцінки використання ШІ в банках, що перебувають під наглядом:
- Чи використовує банк ШІ?
- Чи визначено, де саме?
- Як ШІ впливає на клієнтів або формує рішення?
- Чи походить ШІ банку від постачальників або зовнішніх платформ?
- Чи перевіряв банк наявність ШІ, вбудованого в продукти постачальників, які він зараз використовує?
- Чи використовує банк генеративний ШІ?
- Чи класифікує банк своє використання ШІ за рівнем ризику?
- Чи проходить конфіденційна інформація (клієнтська, банківська або інша) через ШІ?
Іншим, мабуть, найважливішим елементом структури є система рівнів, за допомогою якої CSBS пропонує екзаменаторам розглядати ризики, пов’язані з ШІ. Існує три рівні, від найнижчого до найвищого ризику.
CSBS вважає банк “Рівнем 1”, коли використання ШІ обмежене “внутрішнім використанням, результатами, перевіреними людиною, обмеженим впливом на споживача, обмеженою конфіденційністю даних та низьким потенційним шкодою від помилок або збоїв”, згідно з документом.
Банк досягає Рівня 2, або помірного ризику, коли йому надається “роль, орієнтована на споживача або підтримка прийняття рішень” за допомогою ШІ, або коли існує “помірна конфіденційність даних, винятковий людський нагляд або помірний потенційний шкода від помилок або збоїв”, — заявили в CSBS.
Рівень 3, тим часом, виникає, коли “випадки використання включають прямі результати для споживачів, конфіденційні особисті дані, обмежений людський перегляд, значну операційну залежність або матеріальний потенційний шкода від помилок або збоїв”, — згідно з CSBS.
Як зазначили в CSBS, ця структура щодо ШІ призначена не лише для регуляторів.
“Вона також слугує ресурсом для галузі”, — заявили в організації.
“Фінансові установи можуть використовувати цю структуру для оцінки власних програм ШІ, встановлення надійної системи управління ШІ та управління ризиками, а також для підготовки до перевірок”, — зазначили в CSBS.