Чому врядування важливе саме зараз
Кожна організація в Перській затоці, що використовує ШІ, — чи то банк, який оцінює заявки на фінансування, чи лікарня, що сортує пацієнтів, чи ритейлер, що рекомендує товари, — ухвалює рішення щодо людей через машину. Більшість із цих рішень корисні. Деякі будуть хибними, а окремі — несправедливими, непрозорими чи шкідливими. Врядування — це просто дисципліна, яка забезпечує, щоб організація знала, що роблять її системи, могла це пояснити й могла це виправити.
Це важливіше тепер з трьох причин. Системи ШІ використовуються для рішень із суттєвими наслідками, а не лише для рекомендацій. Регулятори в регіоні перейшли від рекомендацій до законів, особливо щодо персональних даних. А втрачену суспільну довіру дорого повертати. Якщо все зроблено правильно, врядування — не гальмо для інновацій; це те, що дозволяє організації рухатися швидко, не ламаючи того, що має значення.
П'ять принципів простою мовою
Рамки відповідального ШІ по всьому світу сходяться на невеликому наборі ідей, і версії Перської затоки — не виняток.
Справедливість означає, що система не повинна ставитися до людей по-різному на підставі характеристик, що не стосуються рішення, таких як громадянство чи стать, якщо немає законної причини. Прозорість означає, що люди, яких стосується рішення, повинні мати змогу дізнатися, що був задіяний ШІ, і — у змістовних термінах — чому результат був саме таким. Приватність означає, що дані про людей збираються для заявленої мети, зберігаються безпечно і не використовуються для чогось іншого без згоди чи правової підстави. Підзвітність означає, що за кожну систему відповідає названа особа або функція; «алгоритм так вирішив» — ніколи не відповідь. Людський нагляд означає, що для рішень із реальними наслідками людина може переглянути, оскаржити та скасувати рішення системи і має для цього час та інформацію.
Жоден із цих принципів не чужий цінностям регіону. Справедливість, чесність у справах, збереження довіреного та особиста відповідальність глибоко вкорінені в ісламській етиці та соціальних нормах Перської затоки. Відповідальний ШІ надає їм технічної форми.
Регіональний напрям
ОАЕ були серед перших урядів у світі, що зробили ШІ національним пріоритетом, призначивши окремого міністра зі штучного інтелекту та опублікувавши національну стратегію ШІ з довгостроковим горизонтом. І Дубай, і федеральний уряд видали принципи та настанови з етики ШІ, якими організації можуть користуватися як орієнтиром, а в країні діє федеральний закон про захист персональних даних.
Саудівська Аравія створила національне управління з питань даних і штучного інтелекту, яке опублікувало принципи етики ШІ та очолює національну стратегію з даних і ШІ, узгоджену з «Баченням 2030» (Vision 2030). Закон Королівства про захист персональних даних встановлює правила збирання та обробки персональних даних, яких має дотримуватися будь-яка організація, що впроваджує ШІ.
Деталі цих документів змінюються, і організаціям слід звертатися до чинних офіційних текстів та своїх юридичних радників. Напрям, однак, чіткий і послідовний: обидві країни хочуть широкого впровадження ШІ, і обидві очікують, що воно буде відповідальним.
Де на практиці щось іде не так
Упередженість рідко виникає як свідомий вибір. Вона проникає через навчальні дані, що відображають минулі рішення, клієнтів або практику найму. Модель, навчена на тому, кого схвалювали раніше, навчиться схвалювати подібних людей. Ліки — досліджувати дані до того, як модель існує, тестувати результати по групах, коли вона з'явиться, і продовжувати тестування після впровадження, бо поведінка дрейфує зі зміною даних.
Нагляд часто зазнає невдачі тихо. Людина-рецензент, яка бачить триста рекомендацій ШІ на день і має тридцять секунд на кожну, не здійснює нагляд; вона ставить підпис. Реальний нагляд вимагає посильного навантаження, повноважень і можливості бачити логіку системи.
Постачальники — третє слабке місце. Купівля продукту ШІ не передає відповідальності за його результати. Організаціям слід запитувати постачальників, як навчалися моделі, яке тестування проводилося і які дані залишають країну.
Практичний чеклист врядування
- Ведіть інвентаризацію кожної системи ШІ у використанні, її власника та рішень, на які вона впливає.
- Розподіліть системи за рівнями ризику: чат-бот, що відповідає на запитання про години роботи, — не те саме, що система, яка відбирає кандидатів на роботу.
- Для систем вищого ризику задокументуйте джерела даних, протестуйте на відмінності між групами та зафіксуйте результати.
- Визначте, хто може скасувати рішення системи, і забезпечте їм час та інформацію для цього.
- Повідомляйте людям, коли ШІ використовується в рішеннях щодо них, і дайте їм шлях для оскарження.
- Переглядайте кожну систему щонайменше раз на рік і щоразу, коли змінюються дані або спосіб використання.
З чого почати
Почніть з інвентаризації; більшість організацій дивується тому, що знаходить. Призначте невелику міжфункціональну групу з представників технологій, юридичного відділу, операцій і когось, хто представляє людей, яких це стосується, з мандатом розподілити системи за рівнями та встановити правила для найвищого рівня. Напишіть правила на кількох сторінках, а не на сотні. Потім застосуйте їх до однієї системи високого ризику від початку до кінця, зробіть висновки та поширте. Хороше врядування — це менше про документи, ніж про звички, а звички формуються по одній системі за раз.
