Foodinho използва дискриминиращи алгоритми и така нарушава GDPR

Италианският надзорен орган глоби компанията 2,6 милиона евро

Санкция от 2,6 милиона евро към платформа на групата Glovo наложи  италианският надзорен орган за защита на данните Garante.

Компанията Foodinho, контролирана от GlovoApp23, ще трябва да промени обработката на данните на своите служители, извършена чрез използването на дигитална платформа, и да провери дали алгоритмите за поръчки на храна и продукти не са дискриминационни.

Решението на Garante  идва след проверки за обработката на данните на служителите от основните компании за доставка на храна в Италия.

Във Foodinho са констатирани множество нарушения на законодателството за защита на данните, италианския закон за отношенията между работодател и служител и наскоро приетия закон за защита на работниците, използващи дигитални платформи.

За първи път се извършва и съвместна операция за европейско сътрудничество, съгласно GDPR, с испанския надзорен орган (AEPD), за да провери функционирането на дигиталната платформа, собственост на компанията майка GlovoApp23.

Garante установява поредица от тежки нарушения, по-специално по отношение на алгоритмите, използвани за работа със служителите. Компанията например не е информирала адекватно работниците за функционирането на системата и не е гарантирала точността и коректността на резултатите от алгоритмичните системи, използвани за оценката им. Също така не гарантира процедури за защита на правото на човешка намеса, изразяване на мнение и оспорване на решенията, приети чрез използването на въпросните алгоритми, включително изключването на част от хората от възможностите за работа.

Garante изисква от компанията да определи мерки за защита на правата и свободите на служителите при автоматизирани решения, включително профилиране.

На Foodinho е възложено да провери точността и уместността на данните, използвани от системата (чат, имейл и телефонни разговори между водачите и обслужването на клиенти, геолокация на всеки 15 секунди и показване на картата на маршрута, прогнозно и действително време за доставка, подробности за обработката на текущи и минали поръчки, обратна връзка от клиенти и партньори, ниво на батерията на устройството и др.).

Това има за цел да се сведе до минимум рискът от грешки и отклонения, които например могат да доведат до намаляване на задачите за доставка, възложени на определен водач, или до изключване от платформата. Тези рискове също произтичат от рейтинговата система, базирана на прилагането на математическа формула, която наказва водачи, които не приемат поръчката незабавно или я отхвърлят, като предпочитат тези, които го правят в рамките на установените срокове или доставят най-голям брой поръчки.

Компанията също така ще трябва да определи мерки, които предотвратяват неправилното или дискриминационно използване на механизми на обратна връзка от клиенти и бизнес партньори.

При изчисляване на глобата от 2,6 милиона евро на италианската компания Foodinho за извършеното незаконно обработване, надзорният орган е взел предвид и лошото сътрудничество на компанията по време на разследването, и големия брой водачи от Италия, около 19 000 по време на проверката. Испанската компания GlovoApp23 е обект на отделна процедура, провеждана от AEPD, в сътрудничество с италианския орган.

На Foodinho са дадени 60 дни за предприемане на необходимите мерки за коригиране на откритите сериозни нарушения и още 90 дни за завършване на корекциите по алгоритмите.

Можете да споделите: