Отказы в социальных выплатах, которые принимаются с использованием алгоритмов, должны пересматриваться с участием человека в течение пяти дней. В случае других значимых решений, таких как прием на работу или выдача кредита, срок пересмотра может достигать десяти рабочих дней. С таким предложением выступил бизнес-аналитик и преподаватель Колледжа мировой экономики и передовых технологий Александр Высоких в беседе с Газетой.Ru.
«Если решение алгоритма существенно влияет на жизнь человека, у него должно быть гарантированное право на пересмотр живым специалистом. Причем специалистом, который действительно может изменить решение, а не просто объяснить, почему компьютер отказал», — отметил Высоких.
По мнению аналитика, формального участия сотрудника недостаточно, поскольку он может согласиться с выводом системы, не проверив все обстоятельства. Поэтому необходимо объяснять человеку, какие сведения использовал алгоритм, откуда они были получены и что повлияло на результат, считает эксперт.
Высоких также подчеркнул, что система может опираться на устаревшую информацию; например, человек мог сменить работу или улучшить финансовое положение, но модель продолжает оценивать прежние данные. При этом он призвал различать искусственный интеллект и обычную автоматическую проверку сведений, так как ошибки возможны в обоих случаях.
Статья 16 закона «О персональных данных» уже ограничивает принятие значимых для человека решений исключительно на основе автоматизированной обработки. Этот закон предусматривает возможность подачи возражения, которое оператор обязан рассмотреть в течение 30 дней.
При подозрении на ошибку Высоких рекомендовал письменно запрашивать основания отказа, проверять исходные данные и сохранять документы и переписку.
По его мнению, ответственность за принятое решение должна оставаться на организации, которая его приняла. Ссылаться на алгоритм как на самостоятельного виновника ошибки нельзя, заключил аналитик.
