Miha Lobnik na konferenci o umetni inteligenci in diskriminaciji

Miha Lobnik na konferenci o umetni inteligenci in diskriminaciji

20. 7. 2021

V sklopu predsedovanja Slovenije Svetu Evropske unije poteka mednarodna konferenca o regulaciji umetne inteligence, ki jo organizira Ministrstvo za pravosodje. Dogodek na najvišji politični ravni naslavlja tveganja, ki jih za spoštovanje človekovih pravic in enake obravnave predstavlja uveljavljanje umetne inteligence na številnih področjih. Na konferenci je v imenu Zagovornika načela enakosti in Evropske mreže organov za enakost Equinet aktivno sodeloval tudi zagovornik Miha Lobnik.

Lobnik je izpostavil, da je področje umetne inteligence eno najbolj vznemirljivih, saj lahko prispeva k izboljšanju kakovosti življenja ljudi. Hkrati pa uvajanje umetne inteligence pomeni tveganje in dejansko ogroža spoštovanje človekovih pravic, kot sta pravici do enake obravnave in enakih možnosti.

Strokovnjaki na področju umetne inteligence in strojnega učenja poskušajo doseči, da bi računalniki znali misliti podobno, kot mislimo in se učimo ljudje, in tudi opravljali naloge namesto nas. Temelj za takšno delovanje strojev so programski algoritmi, ki določajo, kako naj določen stroj deluje. Razvijalci strojnega učenja lahko v te algoritme hote ali nehote zapišejo vzorce, ki povzročijo diskriminacijo. Program, ki se uči iz podatkovnih baz o človeškem delu in odločanju, se lahko priuči obstoječih (diskriminatornih) vzorcev delovanja in potem to prakso reproducira. Za strojno učenje pa se lahko uporabljajo tudi baze podatkov, ki so zgolj na videz nevtralne, dejansko pa pristranske ali pomanjkljive in povzročijo diskriminacijo.

Evropski organi za enako obravnavo in enake možnosti se zato vse bolj posvečajo tudi tej temi, je dejal zagovornik in pojasnil, da so »prijave diskriminacije zaradi algoritemskega odločanja sicer še redke, kar pa bi lahko pripisali tudi zakritosti delovanja umetne inteligence. Če namreč niti ne slutimo, da smo bili deležni diskriminatorne obravnave, tega ne moremo prijaviti.«

Opisal  je finski primer, ko je finančna ustanova za ocenjevanje kreditne sposobnosti strank uporabila program, ki je pri oceni neupravičeno upošteval osebne okoliščine strank, kot so kraj bivanja, spol, starost in materni jezik. To so po evropski zakonodaji za varstvo pred diskriminacijo osebne okoliščine, zaradi katerih nihče ne sme biti deležen slabše obravnave.

Predstavil je tudi algoritemsko diskriminacijo s Švedske, ko je program nekaterim onemogočil dostop do storitev samo zato, ker so imeli enako ime kot ljudje, ki jih je Organizacija združenih narodov uvrstila na seznam teroristov.

Kot primer diskriminacije na podlagi pristranskih baz podatkov pa je navedel uporabo tehnologije za prepoznavanje obrazov, katere nenatančnost se je izrazila v slabši obravnavi ljudi z določenimi osebnimi okoliščinami in prav zaradi teh njihovih osebnih okoliščin.

V prispevku na konferenci se je posvetil še predlogu Akta o umetni inteligenci, ki ga je pripravila Evropska komisija v katerem poudarja nujo po zagotavljanju preglednosti sistemov umetne inteligence. »To je za zagotavljanje enake obravnave in drugih temeljnih pravic ključno,« je dejal Lobnik. »Da bi lahko zavarovali svoje pravice, moramo biti nujno seznanjeni s tem, kdaj o nas odločajo sistemi umetne inteligence. Vedeti pa moramo tudi, kaj točno ti sistemi upoštevajo pri sprejemanju odločitev in kako do teh odločitev pridejo.«

Izpostavil je še, da je treba v postopke priprave zakonodaje, ki bo urejala uporabo umetne inteligence, vključiti tudi strokovnjake državnih organov, ki se ukvarjajo z zaščito ljudi pred diskriminacijo. Sodelujejo pa lahko tudi pri osveščanju strokovnjakov s področja umetne inteligence in strojnega učenja.

Slovenska vlada je maja 2021 sprejela Nacionalni program spodbujanja razvoja in uporabe umetne inteligence do leta 2025. Zagovornik načela enakosti je na osnutek programa podal svoja priporočila, ki so bila v končni različici dokumenta tudi upoštevana. Najdete jih na povezavi https://zagovornik.si/wp-content/uploads/2021/03/Priporocilo_UI.pdf.

Deli objavo

Ostale novice

zne2

Zagovornik s priporočilom za sprejem novele Družinskega zakonika

Zagovornik načela enakosti (Zagovornik) je Državnemu zboru Republike Slovenije priporočil sprejem novele Družinskega zakonika. Ministrstvo za delo, družino, socialne zadeve in enake možnosti je novelo...
23. 9. 2022
zne2

Zagovornik Vladi RS priporoča sprejetje štirih nacionalnih načrtov na področju varstva pred diskriminacijo

Zagovornik načela enakosti (Zagovornik) je Vladi Republike Slovenije priporočil, da čim prej pristopi k pripravi in sprejme štiri manjkajoče strateške načrte na nacionalni ravni. Ti...
21. 9. 2022
305975187_1701381733581756_906566812495127781_n

Zagovornik načela enakosti na Otroškega bazarju

Zagovornika načela enakosti se je med 9. in 11. septembrom udeležil 15. Otroškega bazarja, ki je potekal na Gospodarskem razstavišču v Ljubljani. Otroci so prek...
12. 9. 2022
Simbolna fotografija. Roka drži rešetko.

Zagovornik s priporočili za več družabnih aktivnosti za obsojenke iz zapora na Igu

Zagovornik načela enakosti v postopku ugotavljanja diskriminacije obsojenk na prestajanju zaporne kazni v zaporu Ig ni ugotovil diskriminacije na podlagi spola pri resocializacijskih dejavnostih. Razlike...
12. 9. 2022
diskriminacija trgovec

Zagovornik ugotovil diskriminacijo pri izplačilu nagrad in dodatkov k plači v trgovskem podjetju

Zagovornik načela enakosti je o merilih za dodelitev nagrad, stimulacij in dodatkov, ki jih je trgovsko podjetje izplačevalo zaposlenim, ugotovil, da so bila diskriminatorna. Višina...
6. 9. 2022
varstvo potrošnikov

Zagovornik načela enakosti priporoča dopolnitev predloga zakona o varstvu potrošnikov

Zagovornik načela enakosti je poslankam in poslancem Državnega zbora priporočil, naj v zakonu o varstvu potrošnikov zagotovijo večjo stopnjo varstva pred diskriminacijo. Predlagal je, naj...
30. 8. 2022
zne

Zakon o urejanju trga dela po oceni Zagovornika diskriminatoren do nekaterih tujcev

Zagovornik načela enakosti je v postopku ocene diskriminatornosti zakona o urejanju trga dela ocenil, da povzroča 8.a člen tega zakona diskriminatorno obravnavo nekaterih tujcev. Da...
26. 8. 2022
DSCF0407-1

Zagovornik Miha Lobnik z ministrom za izobraževanje dr. Igorjem Papičem

Zagovornik načela enakosti Miha Lobnik je ministru za izobraževanje, znanost in šport dr. Igorju Papiču predstavil delovanje Zagovornika in redno letno poročilo Zagovornika za leto...
25. 8. 2022
DSCF0325-1

Zagovornik Miha Lobnik z ministrico za javno upravo Sanjo Ajanović Hovnik

Zagovornik načela enakosti Miha Lobnik je ministrici za javno upravo Sanji Ajanović Hovnik predstavil redno letno poročilo organa za varstvo pred diskriminacijo za leto 2021....
24. 8. 2022
zne2

Zagovornik s priporočilom za sprejem novele Družinskega zakonika

Zagovornik načela enakosti (Zagovornik) je Državnemu zboru Republike Slovenije priporočil sprejem novele Družinskega zakonika. Ministrstvo za delo, družino, socialne zadeve in enake možnosti je novelo...
23. 9. 2022
zne2

Zagovornik Vladi RS priporoča sprejetje štirih nacionalnih načrtov na področju varstva pred diskriminacijo

Zagovornik načela enakosti (Zagovornik) je Vladi Republike Slovenije priporočil, da čim prej pristopi k pripravi in sprejme štiri manjkajoče strateške načrte na nacionalni ravni. Ti...
21. 9. 2022
305975187_1701381733581756_906566812495127781_n

Zagovornik načela enakosti na Otroškega bazarju

Zagovornika načela enakosti se je med 9. in 11. septembrom udeležil 15. Otroškega bazarja, ki je potekal na Gospodarskem razstavišču v Ljubljani. Otroci so prek...
12. 9. 2022
Simbolna fotografija. Roka drži rešetko.

Zagovornik s priporočili za več družabnih aktivnosti za obsojenke iz zapora na Igu

Zagovornik načela enakosti v postopku ugotavljanja diskriminacije obsojenk na prestajanju zaporne kazni v zaporu Ig ni ugotovil diskriminacije na podlagi spola pri resocializacijskih dejavnostih. Razlike...
12. 9. 2022
diskriminacija trgovec

Zagovornik ugotovil diskriminacijo pri izplačilu nagrad in dodatkov k plači v trgovskem podjetju

Zagovornik načela enakosti je o merilih za dodelitev nagrad, stimulacij in dodatkov, ki jih je trgovsko podjetje izplačevalo zaposlenim, ugotovil, da so bila diskriminatorna. Višina...
6. 9. 2022
varstvo potrošnikov

Zagovornik načela enakosti priporoča dopolnitev predloga zakona o varstvu potrošnikov

Zagovornik načela enakosti je poslankam in poslancem Državnega zbora priporočil, naj v zakonu o varstvu potrošnikov zagotovijo večjo stopnjo varstva pred diskriminacijo. Predlagal je, naj...
30. 8. 2022
zne

Zakon o urejanju trga dela po oceni Zagovornika diskriminatoren do nekaterih tujcev

Zagovornik načela enakosti je v postopku ocene diskriminatornosti zakona o urejanju trga dela ocenil, da povzroča 8.a člen tega zakona diskriminatorno obravnavo nekaterih tujcev. Da...
26. 8. 2022
DSCF0407-1

Zagovornik Miha Lobnik z ministrom za izobraževanje dr. Igorjem Papičem

Zagovornik načela enakosti Miha Lobnik je ministru za izobraževanje, znanost in šport dr. Igorju Papiču predstavil delovanje Zagovornika in redno letno poročilo Zagovornika za leto...
25. 8. 2022
DSCF0325-1

Zagovornik Miha Lobnik z ministrico za javno upravo Sanjo Ajanović Hovnik

Zagovornik načela enakosti Miha Lobnik je ministrici za javno upravo Sanji Ajanović Hovnik predstavil redno letno poročilo organa za varstvo pred diskriminacijo za leto 2021....
24. 8. 2022