Miha Lobnik na konferenci o umetni inteligenci in diskriminaciji

Miha Lobnik na konferenci o umetni inteligenci in diskriminaciji

20. 7. 2021

V sklopu predsedovanja Slovenije Svetu Evropske unije poteka mednarodna konferenca o regulaciji umetne inteligence, ki jo organizira Ministrstvo za pravosodje. Dogodek na najvišji politični ravni naslavlja tveganja, ki jih za spoštovanje človekovih pravic in enake obravnave predstavlja uveljavljanje umetne inteligence na številnih področjih. Na konferenci je v imenu Zagovornika načela enakosti in Evropske mreže organov za enakost Equinet aktivno sodeloval tudi zagovornik Miha Lobnik.

Lobnik je izpostavil, da je področje umetne inteligence eno najbolj vznemirljivih, saj lahko prispeva k izboljšanju kakovosti življenja ljudi. Hkrati pa uvajanje umetne inteligence pomeni tveganje in dejansko ogroža spoštovanje človekovih pravic, kot sta pravici do enake obravnave in enakih možnosti.

Strokovnjaki na področju umetne inteligence in strojnega učenja poskušajo doseči, da bi računalniki znali misliti podobno, kot mislimo in se učimo ljudje, in tudi opravljali naloge namesto nas. Temelj za takšno delovanje strojev so programski algoritmi, ki določajo, kako naj določen stroj deluje. Razvijalci strojnega učenja lahko v te algoritme hote ali nehote zapišejo vzorce, ki povzročijo diskriminacijo. Program, ki se uči iz podatkovnih baz o človeškem delu in odločanju, se lahko priuči obstoječih (diskriminatornih) vzorcev delovanja in potem to prakso reproducira. Za strojno učenje pa se lahko uporabljajo tudi baze podatkov, ki so zgolj na videz nevtralne, dejansko pa pristranske ali pomanjkljive in povzročijo diskriminacijo.

Evropski organi za enako obravnavo in enake možnosti se zato vse bolj posvečajo tudi tej temi, je dejal zagovornik in pojasnil, da so »prijave diskriminacije zaradi algoritemskega odločanja sicer še redke, kar pa bi lahko pripisali tudi zakritosti delovanja umetne inteligence. Če namreč niti ne slutimo, da smo bili deležni diskriminatorne obravnave, tega ne moremo prijaviti.«

Opisal  je finski primer, ko je finančna ustanova za ocenjevanje kreditne sposobnosti strank uporabila program, ki je pri oceni neupravičeno upošteval osebne okoliščine strank, kot so kraj bivanja, spol, starost in materni jezik. To so po evropski zakonodaji za varstvo pred diskriminacijo osebne okoliščine, zaradi katerih nihče ne sme biti deležen slabše obravnave.

Predstavil je tudi algoritemsko diskriminacijo s Švedske, ko je program nekaterim onemogočil dostop do storitev samo zato, ker so imeli enako ime kot ljudje, ki jih je Organizacija združenih narodov uvrstila na seznam teroristov.

Kot primer diskriminacije na podlagi pristranskih baz podatkov pa je navedel uporabo tehnologije za prepoznavanje obrazov, katere nenatančnost se je izrazila v slabši obravnavi ljudi z določenimi osebnimi okoliščinami in prav zaradi teh njihovih osebnih okoliščin.

V prispevku na konferenci se je posvetil še predlogu Akta o umetni inteligenci, ki ga je pripravila Evropska komisija v katerem poudarja nujo po zagotavljanju preglednosti sistemov umetne inteligence. »To je za zagotavljanje enake obravnave in drugih temeljnih pravic ključno,« je dejal Lobnik. »Da bi lahko zavarovali svoje pravice, moramo biti nujno seznanjeni s tem, kdaj o nas odločajo sistemi umetne inteligence. Vedeti pa moramo tudi, kaj točno ti sistemi upoštevajo pri sprejemanju odločitev in kako do teh odločitev pridejo.«

Izpostavil je še, da je treba v postopke priprave zakonodaje, ki bo urejala uporabo umetne inteligence, vključiti tudi strokovnjake državnih organov, ki se ukvarjajo z zaščito ljudi pred diskriminacijo. Sodelujejo pa lahko tudi pri osveščanju strokovnjakov s področja umetne inteligence in strojnega učenja.

Slovenska vlada je maja 2021 sprejela Nacionalni program spodbujanja razvoja in uporabe umetne inteligence do leta 2025. Zagovornik načela enakosti je na osnutek programa podal svoja priporočila, ki so bila v končni različici dokumenta tudi upoštevana. Najdete jih na povezavi https://zagovornik.si/wp-content/uploads/2021/03/Priporocilo_UI.pdf.

Deli objavo

Ostale novice

Denar

Zagovornik ugotovil diskriminacijo pri merilih za poslovno in delovno uspešnost

Zagovornik načela enakosti je obravnaval primer, ko je podjetje diskriminatorno določilo tako merila za dodelitev nagrade iz naslova poslovne uspešnosti družbe kot nagrade za delovno...
7. 12. 2022
Ob dnevu človekovih pravic Zagovornik načela enakosti s partnerji začel projekt Soočimo se z diskriminacijo

Ob dnevu človekovih pravic Zagovornik načela enakosti s partnerji začel projekt Soočimo se z diskriminacijo

Zagovornik načela enakosti je skupaj z Akademijo za gledališče, radio, film in televizijo Univerze v Ljubljani (AGRFT), Skupnostjo občin Slovenije (SOS) in Fundacijo Prizma pridobil...
5. 12. 2022
EURO

Obdavčenost odpravnin z delodajalci povezanih oseb po oceni Zagovornika ni diskriminatorna

Zakon o dohodnini določa, da odpravnine ob odpovedi pogodbe o zaposlitvi do višine desetih povprečnih mesečnih plač niso obdavčene, kar pa ne velja za odpravnine,...
2. 12. 2022
dostopnost

Zagovornik: Odgovorni za javne objekte morajo poskrbeti, da bodo ti prilagojeni ljudem z invalidnostmi

Zagovornik načela enakosti ob mednarodnem dnevu invalidov opozarja na to, da je treba najkasneje do 11. decembra 2025 zagotoviti, da bodo obstoječi objekti v javni...
1. 12. 2022
Gledanje TV

Zagovornika načela enakosti za večjo dostopnost prenosov športnih prireditev

Zagovornik načela enakosti priporoča vodstvu RTV SLO, da bi bili prenosi tekem svetovnega prvenstva v nogometu, kot tudi prenosi drugih športnih prireditev dostopni tudi za...
29. 11. 2022
zne2

Zagovornik za dopolnitev vladnega predloga novele Kazenskega zakonika

Zagovornik načela enakosti poslancem državnega zbora priporoča sprejetje takšnega besedila novele Kazenskega zakonika, ki bi zajelo vse oblike kaznivih dejanj, storjenih iz nagibov sovraštva in...
28. 11. 2022
zelena pentlja - druševno zdravje

Zakon o socialnem vključevanju invalidov po oceni Zagovornika diskriminatoren

Po Zakonu o socialnem vključevanju invalidov (ZSVI) polnoletnim osebam, ki si zaradi invalidnosti in nezmožnosti za delo ne morejo zagotavljati socialne varnosti in se vključevati...
24. 11. 2022
trgovina

Pogojevanje nekaterih popustov z uporabo mobilne aplikacije ni diskriminacija

Zagovornik načela enakosti je ugotovil, da trgovsko podjetje ni diskriminiralo strank na podlagi njihovih osebnih okoliščin starosti, invalidnosti in premoženjskega stanja, ko je upravičenost do...
23. 11. 2022
Grosuplje železniška postaja

Zagovornik: Novogradnja je nov primer diskriminacije gibalno oviranih

Zagovornik načela enakosti je ugotovil, da je Direkcija RS za infrastrukturo pri nadgradnji železniške postaje Grosuplje kršila prepoved diskriminacije. V okviru prenove železniške postaje je...
15. 11. 2022
Denar

Zagovornik ugotovil diskriminacijo pri merilih za poslovno in delovno uspešnost

Zagovornik načela enakosti je obravnaval primer, ko je podjetje diskriminatorno določilo tako merila za dodelitev nagrade iz naslova poslovne uspešnosti družbe kot nagrade za delovno...
7. 12. 2022
Ob dnevu človekovih pravic Zagovornik načela enakosti s partnerji začel projekt Soočimo se z diskriminacijo

Ob dnevu človekovih pravic Zagovornik načela enakosti s partnerji začel projekt Soočimo se z diskriminacijo

Zagovornik načela enakosti je skupaj z Akademijo za gledališče, radio, film in televizijo Univerze v Ljubljani (AGRFT), Skupnostjo občin Slovenije (SOS) in Fundacijo Prizma pridobil...
5. 12. 2022
EURO

Obdavčenost odpravnin z delodajalci povezanih oseb po oceni Zagovornika ni diskriminatorna

Zakon o dohodnini določa, da odpravnine ob odpovedi pogodbe o zaposlitvi do višine desetih povprečnih mesečnih plač niso obdavčene, kar pa ne velja za odpravnine,...
2. 12. 2022
dostopnost

Zagovornik: Odgovorni za javne objekte morajo poskrbeti, da bodo ti prilagojeni ljudem z invalidnostmi

Zagovornik načela enakosti ob mednarodnem dnevu invalidov opozarja na to, da je treba najkasneje do 11. decembra 2025 zagotoviti, da bodo obstoječi objekti v javni...
1. 12. 2022
Gledanje TV

Zagovornika načela enakosti za večjo dostopnost prenosov športnih prireditev

Zagovornik načela enakosti priporoča vodstvu RTV SLO, da bi bili prenosi tekem svetovnega prvenstva v nogometu, kot tudi prenosi drugih športnih prireditev dostopni tudi za...
29. 11. 2022
zne2

Zagovornik za dopolnitev vladnega predloga novele Kazenskega zakonika

Zagovornik načela enakosti poslancem državnega zbora priporoča sprejetje takšnega besedila novele Kazenskega zakonika, ki bi zajelo vse oblike kaznivih dejanj, storjenih iz nagibov sovraštva in...
28. 11. 2022
zelena pentlja - druševno zdravje

Zakon o socialnem vključevanju invalidov po oceni Zagovornika diskriminatoren

Po Zakonu o socialnem vključevanju invalidov (ZSVI) polnoletnim osebam, ki si zaradi invalidnosti in nezmožnosti za delo ne morejo zagotavljati socialne varnosti in se vključevati...
24. 11. 2022
trgovina

Pogojevanje nekaterih popustov z uporabo mobilne aplikacije ni diskriminacija

Zagovornik načela enakosti je ugotovil, da trgovsko podjetje ni diskriminiralo strank na podlagi njihovih osebnih okoliščin starosti, invalidnosti in premoženjskega stanja, ko je upravičenost do...
23. 11. 2022
Grosuplje železniška postaja

Zagovornik: Novogradnja je nov primer diskriminacije gibalno oviranih

Zagovornik načela enakosti je ugotovil, da je Direkcija RS za infrastrukturo pri nadgradnji železniške postaje Grosuplje kršila prepoved diskriminacije. V okviru prenove železniške postaje je...
15. 11. 2022