Да повериш решението на машина: къде приемаме алгоритми и къде още търсим човека

Преди няколко години "алгоритъм" звучеше като нещо далечно – дума от света на програмисти, социални мрежи и рекламни системи. Днес алгоритми решават дали да ни отпуснат кредит, колко да платим за застраховка, каква диагноза да се провери първо в болницата, кои кандидати да стигнат до интервю за работа и дори каква мярка за неотклонение да получи обвиняем. Парадоксът е, че колкото повече техните решения влияят на живота ни, толкова по-остро излиза въпросът: "На кого вярвам повече – на човека или на машината?"

"Алгоритъмът като второ мнение" в медицината

В болниците алгоритмите все по-често влизат в ролята на помощник – системи за изкуствен интелект, които разчитат образни изследвания, предлагат вероятни диагнози или подсказват кои пациенти са с по-висок риск от усложнения. Лекарите описват тези инструменти като "клинична навигация": машина, която преглежда хиляди случаи за секунди и предлага хипотези, които иначе биха отнели часове. За редки заболявания или сложни комбинации от симптоми такава система може да спести време, а понякога и живот.

Въпреки това малцина пациенти са готови "просто да повярват" на екран със статистика. За доверие не стига да знаем, че алгоритъмът е точен – важно е кой стои зад него, кой го използва и кой ще носи отговорност. Затова и най-лесно хората приемат машината като второ мнение, а не като последна инстанция: "Нямам против лекарят да използва алгоритъм, за да сравнява и проверява. Но искам човекът да ми обясни, да вземе решението и да застане с името си зад него."

Кредити и финанси: между "безпристрастната" математика и скритите предразсъдъци

В банките и финтек компаниите алгоритмите отдавна са невидимият "съдия" зад решенията за кредит. Те оценяват доходи, история на плащанията, дори модела на разходите ни и за секунди казват "да" или "не". За клиентите това често е удобно – няма неудобни въпроси, няма субективно настроение на служител, решението е бързо. И в много случаи хората приемат машината за по-справедлива, защото вярват, че "цифрите не лъжат".

Но именно тук изплува другата страна – алгоритъмът работи върху данни, а данните често носят в себе си стари неравенства. Ако цели групи хора исторически са получавали по-малко кредити или по-лоши условия, машината може да "научи" това и да го повтори под формата на "обективна оценка". За човек, получил отказ без обяснение, усещането е странно: "Не ме отхвърли човек, за да го попитам защо. Отхвърли ме система, до чийто мотив нямам достъп."

Когато в играта влизат съд и полиция

Най-чувствителните реакции възникват, когато алгоритмите навлизат в сфери като правосъдието и полицията. В някои страни вече се използват системи, които оценяват риска даден човек да извърши ново престъпление и подпомагат решения за мярка за неотклонение, условни присъди или надзор. На теория това трябва да направи процеса по-последователен – вместо субективна преценка "харесва ми/не ми харесва", съдията получава риск, изчислен по една и съща схема за всички.

На практика много хора се чувстват неспокойни при мисълта, че "някакъв алгоритъм" е участвал в решението дали някой да бъде задържан. Тук на преден план излизат concepts като справедливост и достойнство: "Когато става дума за присъда, не искам да съм просто вход в таблица. Искам човек да ме чуе, да види контекста, да прецени отвъд числата." Дори и алгоритъмът да е статистически по-последователен, липсата на човешко лице прави доверието крехко.

Къде сме по-спокойни да вярваме на машина

Интересното е, че в по-безопасни сфери хората често нямат проблем да оставят решението на алгоритъм. Препоръките в стрийминг платформи, насочените реклами, предлаганите маршрути в навигацията – там грешката струва най-много време или разочарование, но не и здраве или свобода. В такива случаи машината често се възприема като по-добра от човека: "Приложението си знае, то следи трафика, аз няма да се справя по-добре от него."

Подобно е положението и при някои прогнози – времето, транспорта, анализи на тенденции. Тук алгоритъмът има предимство – обработва огромни масиви от данни, за които човек просто няма капацитет. Грешките се приемат по-леко: "Та това е прогноза, не пророчество." Колкото по-нисък е залогът за личния ни живот, толкова по-лесно сме склонни да се доверим на машинно решение.

Какво ни трябва, за да повярваме на алгоритъм в "сериозните" сфери

Когато става дума за медицина, правосъдие, кредити или работа, доверието към алгоритмите се гради върху няколко прости, но трудни условия. Първото е точност – да знаем, че системата доказуемо греши по-рядко или поне не повече от човека. Второто е справедливост – да сме уверени, че не дискриминира по скрити признаци и не възпроизвежда стари предразсъдъци под формата на "обективен резултат". Третото е обяснимост.

Много хора казват: "Готов съм да приемам решения, в които участва алгоритъм, ако някой може човешки да ми обясни как е стигнал до тях." Не е нужно да разбираме всяка формула, но имаме нужда от смислени отговори – какви фактори са взети предвид, какво тежи най-много, какво можем да променим, за да получим различен резултат. Без такова обяснение машината се усеща като затворена черна кутия, а на черни кутии трудно се вярва.

Защо искаме "човек в цикъла"

Дори в ситуации, в които хората признават, че алгоритмите са по-точни, мнозина настояват да има жив човек "в цикъла" – някой, който да гледа, да преценява, да носи отговорност. Причината не е само емоционална. Човекът може да види контекст, който не влиза в данните – лична история, внезапни обстоятелства, нюанси в поведението. Освен това имаме интуитивна нужда да знаем към кого да се обърнем, когато нещо се обърка.

В този смисъл най-приемливи за повечето хора са хибридните модели: алгоритъм, който прави тежката работа – сортира, оценява, предлага – и човек, който взема финалното решение и го обяснява. Още една мисъл се повтаря в разговорите: "Алгоритмите нямат съвест. Те просто правят това, за което са обучени. Затова ни трябва човек, който да знае кога да каже: тук машината греши."

Какво казва доверието към алгоритмите за нас самите

Начинът, по който приемаме или отхвърляме алгоритмите, всъщност разказва по-малко за технологиите и повече за обществото. Там, където институциите са слаби, хората по-трудно вярват, че алгоритъмът ще е честен – защото се страхуват, че той ще бъде "настроен" в нечия полза. Там, където здравната или правосъдната система вече страда от недоверие, една допълнителна "черна кутия" често звучи като още едно ниво на непрозрачност.

От друга страна, в сфери, където сме свикнали с хаос, корупция или случайни решения, понякога машината се възприема като шанс за повече ред: "Предпочитам алгоритъм, ако това означава, че всички ще се оценяват по еднакви правила." Доверието към алгоритмите върви ръка за ръка с доверието към хората и институциите, които ги създават, контролират и коригират.

Бъдещето: не "машини вместо хора", а "машини с хора"

В крайна сметка въпросът не е дали алгоритмите ще вземат решения вместо нас – в много сфери това вече се случва. Истинският въпрос е как и при какви правила. Къде сме готови да им се доверим напълно, къде искаме човек да има последната дума и какви механизми за контрол и обжалване ще имаме, когато машинният избор се окаже несправедлив.

Може би най-зрелият отговор не е в крайностите "само хора" или "само алгоритми", а в честната комбинация от двете. Машините могат да носят скорост, последователност и анализ на огромни масиви данни. Хората – контекст, състрадание и отговорност. Доверието към алгоритмите ще бъде толкова по-силно, колкото повече успеем да пазим тези две роли – вместо да очакваме от машината да стане човек или от човека да работи като машина.