Компютърът казва не и берлинският надзорен орган реагира
Берлинският комисар за защита на данните и свободата на информацията (BlnBDI) наложи глоба от 300 000 евро на банка заради липса на прозрачност при автоматизирано индивидуално решение. Банката отказва да предостави на клиента изчерпателна информация за причините за автоматичното отхвърляне на заявление за кредитна карта.
Автоматизираното решение е решение, взето от IT система, базирано единствено на алгоритми и без човешка намеса. В този случай Общият регламент относно защитата на данните (GDPR) предвижда специални задължения за прозрачност. Личните данни трябва да се обработват по начин, който е разбираем за субектите на данни. Засегнатите лица имат право на обяснение на взетото решение след съответна оценка. Ако субектите на данни поискат информация от администратора на данни, те трябва да предоставят съдържателна информация относно логиката на автоматизираното решение.
Банката не е се съобразява с това в дигиталното си приложение. Чрез онлайн формуляр банката иска различни данни за доходите, професията и личните данни на кандидата. Въз основа на поисканата информация и допълнителни данни от външни източници, алгоритъмът на банката отхвърля заявлението на клиента без конкретна обосновка. Алгоритъмът се основава на предварително определени от банката критерии и правила.
Тъй като клиентът има добър кредитен рейтинг и редовен висок доход, той се усъмнява в автоматичното отхвърляне. Когато банката е попитана, предоставя само обща информация за процеса на оценяване, извън конкретния случай. Тя отказва да му каже защо го отхвърля. Следователно жалбоподателят не е могъл да разбере на коя база данни и фактори се основава отхвърлянето и по кои критерии молбата му за кредитна карта е отхвърлена. Без тази индивидуална обосновка за него също не е възможно да оспори автоматизираното индивидуално решение.
Майке Камп, берлински комисар по защитата на данните и свободата на информацията, казва, че когато компаниите вземат автоматизирани решения, те са длъжни да ги обосноват по валиден и разбираем начин. Засегнатите трябва да могат да разберат автоматизираното решение. Фактът, че банката не предоставя прозрачна и разбираема информация за автоматизирания отказ в този случай, дори при поискване, води до глоба. Банката е длъжна да информира клиентите за основните причини за отказ, когато взема автоматизирано решение за кандидатстване за кредитна карта. Това включва специфична информация за базата данни и факторите за вземане на решения, както и критериите за отхвърляне в отделни случаи.
При определяне на глобата BlnBDI се съобразява с оборота на банката, проектирането на процеса за кандидатстване, признаването на нарушението, внедряването на промени в процесите и допълнителни подобрения.