Довірити рішення машині: де ми приймаємо алгоритми, а де ще шукаємо людину

Кілька років тому "алгоритм" звучав як щось далеке – слово зі світу програмістів, соціальних мереж та рекламних систем. Сьогодні алгоритми вирішують, чи варто нам надавати кредит, скільки платити за страховку, який діагноз перевіряти в першу чергу в лікарні, які кандидати мають дійти до співбесіди та навіть який запобіжний захід отримати обвинуваченому. Парадокс полягає в тому, що чим більше їхні рішення впливають на наше життя, тим гостріше постає питання: "Кому вірити більше – людині чи машині?"

"Алгоритм як друга думка" в медицині

У лікарнях алгоритми все частіше входять у роль помічника – системи штучного інтелекту, які розшифровують візуальні дослідження, пропонують ймовірні діагнози або підказують, які пацієнти мають вищий ризик ускладнень. Лікарі описують ці інструменти як "клінічна навігація": машина, яка переглядає тисячі випадків за секунди та пропонує гіпотези, на які інакше пішли б години. Для рідкісних захворювань або складних комбінацій симптомів така система може заощадити час, а іноді й життя.

Незважаючи на це, небагато пацієнтів готові "просто повірити" екрану зі статистикою. Для довіри недостатньо знати, що алгоритм точний – важливо, хто за ним стоїть, хто його використовує і хто нестиме відповідальність. Тому найлегше люди приймають машину як другу думку, а не як останню інстанцію: "Я не проти лікаря, який використовує алгоритм для порівняння та перевірки. Але я хочу, щоб людина пояснила мені, прийняла рішення і стала за ним своїм ім'ям."

Кредити та фінанси: між "безпристрасною" математикою та прихованими забобонами

У банках та фінтех-компаніях алгоритми вже давно є невидимим "суддею" за рішеннями щодо кредиту. Вони оцінюють доходи, історію платежів, навіть модель наших витрат і за секунди кажуть "так" або "ні". Для клієнтів це часто зручно – немає незручних питань, немає суб’єктивного настрою службовця, рішення швидке. І в багатьох випадках люди приймають машину за більш справедливу, тому що вірять, що "цифри не брешуть".

Але саме тут випливає інший бік – алгоритм працює над даними, а дані часто несуть у собі стару нерівність. Якщо цілі групи людей історично отримували менше кредитів або гірші умови, машина може "навчитись" цьому і повторити це у формі "об’єктивної оцінки". Для людини, яка отримала відмову без пояснень, відчуття дивне: "Мене не відкинула людина, щоб я запитав, чому. Мене відкинула система, до мотиву якої я не маю доступу."

Коли в гру вступають суд та поліція

Найчутливіші реакції виникають, коли алгоритми проникають у такі сфери, як правосуддя та поліція. У деяких країнах вже використовуються системи, які оцінюють ризик того, що людина вчинить новий злочин і підтримують рішення про запобіжний захід, умовні вироки або нагляд. Теоретично це має зробити процес більш послідовним – замість суб’єктивної оцінки "мені подобається/не подобається", суддя отримує ризик, розрахований за тією самою схемою для всіх.

На практиці багато людей відчувають неспокій, коли думають, що "якийсь алгоритм" брав участь у рішенні про те, чи варто когось затримувати. Тут на перший план виходять такі концепції, як справедливість і гідність: "Коли йдеться про вирок, я не хочу бути просто входом у таблицю. Я хочу, щоб мене почув чоловік, побачив контекст, оцінив поза числами." Навіть якщо алгоритм статистично більш послідовний, відсутність людського обличчя робить довіру крихкою.

Де ми спокійніше довіряємо машині

Цікаво, що в більш безпечних сферах люди часто не мають проблем з тим, щоб залишити рішення алгоритму. Рекомендації на потокових платформах, цільова реклама, пропоновані маршрути в навігації – там помилка коштує найбільше часу чи розчарування, але не здоров’я чи свободи. У таких випадках машину часто сприймають як кращу за людину: "Додаток знає, він стежить за трафіком, я не впораюся краще за нього."

Подібне положення і з деякими прогнозами – погода, транспорт, аналіз тенденцій. Тут алгоритм має перевагу – обробляє величезні масиви даних, на які людина просто не має потужності. Помилки приймаються легше: "Ну це прогноз, а не пророцтво." Чим нижча ставка для нашого особистого життя, тим легше ми схильні довіряти машинному рішенню.

Що нам потрібно, щоб повірити алгоритму в "серйозних" сферах

Коли мова заходить про медицину, правосуддя, кредити чи роботу, довіра до алгоритмів будується на кількох простих, але складних умовах. Перше – це точність – знати, що система доказово помиляється рідше або принаймні не більше, ніж людина. Друге – справедливість – бути впевненим, що вона не дискримінує за прихованими ознаками і не відтворює старі забобони у вигляді "об’єктивного результату". Третє – зрозумілість.

Багато людей кажуть: "Я готовий приймати рішення, в яких бере участь алгоритм, якщо хтось зможе по-людськи пояснити мені, як дійшов до них." Не потрібно розуміти кожну формулу, але нам потрібні значущі відповіді – які фактори враховуються, що важить найбільше, що ми можемо змінити, щоб отримати інший результат. Без такого пояснення машина відчувається як закрита чорна скринька, а чорним скринькам важко вірити.

Чому ми хочемо "людину в циклі"

Навіть у ситуаціях, коли люди визнають, що алгоритми точніші, багато хто наполягає на тому, щоб у "циклі" була жива людина – хтось, хто б дивився, оцінював, ніс відповідальність. Причина не лише емоційна. Людина може бачити контекст, який не входить у дані – особисту історію, раптові обставини, нюанси поведінки. Крім того, ми маємо інтуїтивну потребу знати, до кого звернутися, коли щось піде не так.

У цьому сенсі найбільш прийнятними для більшості людей є гібридні моделі: алгоритм, який виконує важку роботу – сортує, оцінює, пропонує – і людина, яка приймає остаточне рішення та пояснює його. Ще одна думка повторюється в розмовах: "Алгоритми не мають сумління. Вони просто роблять те, чого їх навчили. Тому нам потрібна людина, яка знатиме, коли сказати: тут машина помиляється."

Що говорить довіра до алгоритмів про нас самих

Те, як ми приймаємо або відкидаємо алгоритми, насправді розповідає менше про технології та більше про суспільство. Там, де інституції слабкі, люди менше вірять, що алгоритм буде чесним – бо бояться, що його "налаштують" на чиюсь користь. Там, де система охорони здоров’я чи правосуддя вже страждає від недовіри, ще одна "чорна скринька" часто звучить як ще один рівень непрозорості.

З іншого боку, у сферах, де ми звикли до хаосу, корупції чи випадкових рішень, іноді машина сприймається як шанс для більшого порядку: "Я віддаю перевагу алгоритму, якщо це означає, що всіх оцінюватимуть за однаковими правилами." Довіра до алгоритмів йде рука об руку з довірою до людей та інституцій, які їх створюють, контролюють та виправляють.

Майбутнє: не "машини замість людей", а "машини з людьми"

Зрештою, питання не в тому, чи алгоритми прийматимуть рішення замість нас – у багатьох сферах це вже відбувається. Справжнє питання полягає в тому, як і за якими правилами. Де ми готові їм повністю довіряти, де ми хочемо, щоб людина мала останнє слово, і які механізми контролю та оскарження у нас будуть, коли машинний вибір виявиться несправедливим.

Можливо, найзрілішою відповіддю є не крайнощі "тільки люди" чи "тільки алгоритми", а чесне поєднання обох. Машини можуть забезпечити швидкість, послідовність та аналіз величезних масивів даних. Люди – контекст, співчуття та відповідальність. Довіра до алгоритмів буде тим сильнішою, чим більше ми зможемо зберегти ці дві ролі – замість того, щоб очікувати, що машина стане людиною або що людина працюватиме як машина.