Доверять решения машине: где мы принимаем алгоритмы, а где еще ищем человека

Несколько лет назад "алгоритм" звучало как нечто далекое - слово из мира программистов, социальных сетей и рекламных систем. Сегодня алгоритмы решают, стоит ли нам предоставить кредит, сколько платить за страховку, какой диагноз следует проверить в первую очередь в больнице, какие кандидаты должны пройти собеседование на работу и даже какая мера пресечения должна быть применена к обвиняемому. Парадокс заключается в том, что чем больше их решения влияют на нашу жизнь, тем острее возникает вопрос: "Кому я больше верю - человеку или машине?"

"Алгоритм как второе мнение" в медицине

В больницах алгоритмы все чаще входят в роль помощника - системы искусственного интеллекта, которые расшифровывают образы, предлагают вероятные диагнозы или указывают, какие пациенты подвержены более высокому риску осложнений. Врачи описывают эти инструменты как "клиническую навигацию": машина, которая просматривает тысячи случаев за секунды и предлагает гипотезы, на которые в противном случае потребовались бы часы. При редких заболеваниях или сложных сочетаниях симптомов такая система может сэкономить время, а иногда и жизнь.

Тем не менее, немногие пациенты готовы "просто поверить" экрану со статистикой. Для доверия недостаточно знать, что алгоритм точен - важно, кто за ним стоит, кто его использует и кто будет нести ответственность. Поэтому людям легче всего воспринимать машину как второе мнение, а не как последнюю инстанцию: "Я не против, чтобы врач использовал алгоритм для сравнения и проверки. Но я хочу, чтобы человек объяснил мне, принял решение и поручился за него своим именем."

Кредиты и финансы: между "беспристрастной" математикой и скрытыми предубеждениями

В банках и финтех-компаниях алгоритмы уже давно являются невидимым "судьей" за решениями по кредитам. Они оценивают доход, историю платежей, даже модель наших расходов и за секунды говорят "да" или "нет". Для клиентов это часто удобно - нет неудобных вопросов, нет субъективного настроения сотрудника, решение принимается быстро. И во многих случаях люди считают машину более справедливой, потому что верят, что "цифры не лгут".

Но именно здесь всплывает другая сторона - алгоритм работает с данными, а данные часто несут в себе старое неравенство. Если целые группы людей исторически получали меньше кредитов или худшие условия, машина может "выучить" это и повторить в виде "объективной оценки". Для человека, получившего отказ без объяснения, ощущение странное: "Меня не отверг человек, чтобы я спросил его, почему. Меня отвергла система, к мотивам которой я не имею доступа."

Когда в игру вступают суд и полиция

Самые чувствительные реакции возникают, когда алгоритмы вторгаются в такие сферы, как правосудие и полиция. В некоторых странах уже используются системы, которые оценивают риск того, что человек совершит новое преступление, и помогают принимать решения о мерах пресечения, условных приговорах или надзоре. Теоретически это должно сделать процесс более последовательным - вместо субъективной оценки "нравится мне/не нравится", судья получает риск, рассчитанный по одной и той же схеме для всех.

На практике многие люди чувствуют себя неспокойно при мысли о том, что "какой-то алгоритм" участвовал в решении о задержании кого-либо. Здесь на первый план выходят такие понятия, как справедливость и достоинство: "Когда дело доходит до приговора, я не хочу быть просто записью в таблице. Я хочу, чтобы меня выслушали, увидели контекст, оценили вне чисел." Даже если алгоритм статистически более последователен, отсутствие человеческого лица делает доверие хрупким.

Где мы спокойнее доверяем машине

Интересно, что в более безопасных сферах люди часто не против оставить решение алгоритму. Рекомендации на стриминговых платформах, таргетированная реклама, предлагаемые маршруты в навигации - там ошибка стоит максимум времени или разочарования, но не здоровья или свободы. В таких случаях машина часто воспринимается как лучшая, чем человек: "Приложение знает свое дело, оно следит за трафиком, я не справлюсь лучше него."

Подобное положение и в некоторых прогнозах - погода, транспорт, анализ тенденций. Здесь у алгоритма преимущество - он обрабатывает огромные массивы данных, на которые у человека просто нет возможностей. Ошибки воспринимаются легче: "Это прогноз, а не пророчество." Чем ниже ставка для нашей личной жизни, тем легче мы склонны доверять машинному решению.

Что нам нужно, чтобы поверить алгоритму в "серьезных" сферах

Когда речь идет о медицине, правосудии, кредитах или работе, доверие к алгоритмам строится на нескольких простых, но трудных условиях. Первое - точность - знать, что система доказуемо ошибается реже или хотя бы не больше, чем человек. Второе - справедливость - быть уверенными, что она не дискриминирует по скрытым признакам и не воспроизводит старые предубеждения в виде "объективного результата". Третье - объяснимость.

Многие люди говорят: "Я готов принимать решения, в которых участвует алгоритм, если кто-то может по-человечески объяснить мне, как они были приняты." Не нужно понимать каждую формулу, но нам нужны осмысленные ответы - какие факторы были учтены, что значит больше всего, что мы можем изменить, чтобы получить другой результат. Без такого объяснения машина ощущается как закрытый черный ящик, а черным ящикам трудно доверять.

Почему мы хотим "человека в цикле"

Даже в ситуациях, когда люди признают, что алгоритмы точнее, многие настаивают на том, чтобы живой человек был "в цикле" - кто-то, кто будет смотреть, оценивать, нести ответственность. Причина не только эмоциональная. Человек может видеть контекст, который не входит в данные - личную историю, внезапные обстоятельства, нюансы в поведении. Кроме того, у нас есть интуитивная потребность знать, к кому обратиться, когда что-то пойдет не так.

В этом смысле наиболее приемлемы для большинства людей гибридные модели: алгоритм, который делает тяжелую работу - сортирует, оценивает, предлагает - и человек, который принимает окончательное решение и объясняет его. Еще одна мысль повторяется в разговорах: "У алгоритмов нет совести. Они просто делают то, чему их научили. Поэтому нам нужен человек, который знает, когда сказать: здесь машина ошибается."

Что говорит доверие к алгоритмам о нас самих

То, как мы принимаем или отвергаем алгоритмы, на самом деле рассказывает меньше о технологиях и больше об обществе. Там, где институты слабы, люди с трудом верят, что алгоритм будет честным - потому что боятся, что его "настроят" в чью-то пользу. Там, где система здравоохранения или правосудия уже страдает от недоверия, дополнительный "черный ящик" часто звучит как еще один уровень непрозрачности.

С другой стороны, в сферах, где мы привыкли к хаосу, коррупции или случайным решениям, иногда машина воспринимается как шанс для большего порядка: "Я предпочитаю алгоритм, если это означает, что все будут оцениваться по одинаковым правилам." Доверие к алгоритмам идет рука об руку с доверием к людям и институтам, которые их создают, контролируют и корректируют.

Будущее: не "машины вместо людей", а "машины с людьми"

В конечном счете, вопрос не в том, будут ли алгоритмы принимать решения вместо нас - во многих сферах это уже происходит. Настоящий вопрос - как и по каким правилам. Где мы готовы полностью им доверять, где мы хотим, чтобы человек имел последнее слово, и какие механизмы контроля и обжалования будут у нас, когда машинный выбор окажется несправедливым.

Возможно, самый зрелый ответ не в крайностях "только люди" или "только алгоритмы", а в честной комбинации того и другого. Машины могут принести скорость, последовательность и анализ огромных массивов данных. Люди - контекст, сострадание и ответственность. Доверие к алгоритмам будет тем сильнее, чем больше мы сможем сохранить эти две роли - вместо того, чтобы ожидать от машины, что она станет человеком, или от человека, что он будет работать как машина.