Algoritmiliste süsteemide mõjude reguleerimise väljatöötamise kavatsus („krati VTK“)

EISi teade Eelnõude infosüsteemis (EIS) on algatatud kooskõlastamine. Eelnõu toimik: JUM/20-0999 - Algoritmiliste süsteemide mõjude reguleerimise väljatöötamise kavatsus („krati VTK“) Kohustuslikud kooskõlastajad: Majandus- ja Kommunikatsiooniministeerium; Haridus- ja Teadusministeerium; Kultuuriministeerium; Kaitseministeerium; Siseministeerium; Maaeluministeerium; Rahandusministeerium; Sotsiaalministeerium; Keskkonnaministeerium; Välisministeerium Kooskõlastajad: Arvamuse andjad: Kooskõlastamise tähtaeg: 30.09.2020 23:59 Link eelnõu toimiku vaatele: https://eelnoud.valitsus.ee/main/mount/docList/93ebe63d-de8c-4662-9908-3232aa7f987c Link kooskõlastamise etapile: https://eelnoud.valitsus.ee/main/mount/docList/93ebe63d-de8c-4662-9908-3232aa7f987c?activity=1 Eelnõude infosüsteem (EIS) http://eelnoud.valitsus.ee/main 14.08.2020 Algoritmiliste süsteemide mõjude reguleerimise väljatöötamise kavatsus („krati VTK“) Sissejuhatus I. Probleem, sihtrühm ja eesmärk II. Hetkeolukord, uuringud ja analüüsid III. Probleemi võimalikud mitteregulatiivsed lahendused IV. Probleemi võimalikud regulatiivsed lahendused V. Regulatiivsete võimaluste mõjude eelanalüüs ja mõju olulisus VI. Kavandatav õiguslik regulatsioon ja selle väljatöötamise tegevuskava Sissejuhatus Algoritmilised süsteemid, eeskätt tehisintellekt on praegu kõikjal maailmas tähelepanu keskpunktis. Mitmeid algatusi on käivitatud nii Euroopa Liidus, Euroopa Nõukogus kui ka teistes rahvusvahelistes organisatsioonides.1 Paljud riigid soovivad olla esirinnas homse maailma kujundamisel; tehisintellektist loodetakse nii hüpet majanduse tootlikkuses kui ka uut taset avalike ülesannete kvaliteedis. On leitud lausa, et sellised süsteemid „muudavad fundamentaalselt seda, kuidas me loome väärtusi, teeme äri, ja kuidas me väärtustame iseendid inimolenditena“.2 Eestis alustati tehisintellekti küsimuste uurimisega põhjalikumalt 2018. aastal, kui Majandus- ja Kommunikatsiooniministeeriumi ja Riigikantselei eestvõttel loodi riigiasutuste ja erasektori esindajatest koosnev ekspertrühm.3 Ekspertrühma aruande pinnalt koostati Eesti tehisintellekti strateegia ja võeti vastu Eesti riiklik tehisintellekti alane tegevuskava 2019-2021.4 Tegevuskava kohaselt peab Justiitsministeerium välja töötama eelnõu, milles tehakse kehtivasse õigusesse tehisintellekti kasutuselevõtuks vajalikud muudatused. Siinkohal tuleb selgitada, mida üldse peetakse silmas tehisintellekti all. Tänaseni puudub maailmas tehisintellekti üks ja üldtunnustatud definitsioon.5 Et tehisintellekti mõistes valitseb ebaselgus ning 1 https://ec.europa.eu/digital-single-market/en/artificial-intelligence; https://www.coe.int/en/web/artificial-intelligence; https://www.oecd.org/going-digital/ai/principles/; https://en.unesco.org/artificial-intelligence; https://www.nato- pa.int/document/2019-stcttc-2019-report-artificial-intelligence-tonin-149-stctts-19-e-rev1-fin. 2 M. Boyd, N. Wilson. Rapid developments in Artificial Intelligence: how might the New Zealand government respond?. Vol 13 No 4 (2017): Policy Quarterly, lk 36. 3 Krattide projekti raames kutsusid Majandus- ja Kommunikatsiooniministeerium ning Riigikantselei 2018. aasta augustis kokku riigiasutuste ja erasektori esindajatest koosneva ekspertrühma. Ekspertrühma ülesandeks oli töötada välja 2019. aasta maikuuks konkreetsed ettepanekud selle kohta, millistel aladel oleks krattidest Eestile enim kasu ja milliste meetmetega nende kasutuselevõttu toetada. Sealjuures töötati välja krattide kasutamisega seotud ettepanekud Eesti õigusruumi arendamiseks, et tagada õigusselgus ja vajalik ohutus. Ekspertrühma aruandest lähtuvalt koostati kratikava ehk Eesti tehisintellekti strateegia. https://www.kratid.ee/. 4 Arvutivõrgus: https://www.mkm.ee/sites/default/files/eesti_kratikava_juuli2019.pdf. 5 EL AI ekspertgrupp tegi ettepaneku kasutada järgmist tehisintellekti uuendatud määratlust: „Tehisintellekti süsteemid on inimeste projekteeritud tarkvaralised ja võimalik et ka riistvaralised süsteemid, millele antakse keerukas eesmärk ja mis toimivad füüsilises või digitaalses mõõtmes, tajudes oma keskkonda andmehõive abil, tõlgendades kogutud struktureeritud ja struktureerimata andmeid, tehes teadmuse põhjal järeldusi või töödeldes kõnealustest andmetest saadud teavet ja otsustades, millised on antud eesmärgi saavutamiseks parimad toimingud. Tehisintellekti süsteemid võivad kasutada kas sümbolreegleid või õppida selgeks arvmudeli ning samuti saavad nad kohandada oma käitumist, analüüsides seda, kuidas nende varasemad toimingud mõjutavad keskkonda. Teadusvaldkonnana hõlmab tehisintellekt mitut lähenemisviisi ja meetodit, näiteks masinõpet (mille konkreetseteks näideteks on süvaõpe ja stiimulõpe), masinloogikat (mis hõlmab kavandamist, plaanimist, teadmuse esitamist ja järelduste tegemist, otsimist ja optimeerimist) ning robootikat (mis hõlmab juhtimist, tajumist, andureid ja täiturseadmeid ning ka kõigi muude meetodite lõimimist küberfüüsikalistesse süsteemidesse).“ Tehisintellekti määratlus, lk 8. https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60659. 1 arusaam on pidevas muutumises, on naljatletud, et „tehisintellekt on lihtsalt alati see, mida arvutid praegusel hetkel veel teha ei oska“.6 Kritiseeritud on ka, et tehisintellekti mõiste ebaselgus võimaldab seda mõistet kasutada mistahes IT-arenduste kontekstis.7 Käesolevas väljatöötamiskavatsuses lähtutakse Riigikantselei ja Majandus- ja Kommunikatsiooniministeeriumi koostatud Eesti tehisintellekti kasutuselevõtu eksperdirühma aruandest, milles EL vastavatele seisukohtadele tuginedes selgitatakse, et tehisintellekti all mõeldakse süsteeme, mis ilmutavad intelligentset käitumist, analüüsides ümbritsevat keskkonda ja võttes vastu teatud ulatuses iseseisvalt otsuseid, et saavutada teatud eesmärke.8 Mõiste „kratt“ all peetakse silmas tehisintellekti süsteemi, mis põhineb tarkvaralisel algoritmil, mis on autonoomne, õppimisvõimeline ning täidab traditsiooniliselt inimese poolt tehtavaid toiminguid.9 Algoritm on üldisemalt täpne etapiviisiline tegevusjuhis mingi kindla ülesande lahendamiseks.10 Digitaalses maailmas tähendab algoritm lihtsustatult arvutiprogrammi. Eristada tuleb algoritme, mille tööparameetrid määrab täielikult inimene, ja iseõppivaid algoritme, mis muudab oma parameetreid õppimise käigus. Avaliku halduse traditsioonilised otsustusprotsessi automatiseerivad süsteemid (ekspertsüsteemid) põhinevad esimestel.11 Algoritmilise süsteemi all tuleb mõista rakendusi, mis täidavad ühte või mitut ülesannet, nagu näiteks andmete kogumine, kombineerimine, puhastamine, sorteerimine, klassifitseerimine ja järelduste tegemine, aga ka selekteerimine, prioritiseerimine, soovituste andmine või otsuste langetamine.12 Kuivõrd ka tehisintellektiks mitteolevad algoritmid mõjutavad teatud juhtudel põhiõigusi, käsitletakse käesolevas väljatöötamiskavatsuses nii iseõppimisvõimelisi algoritme (kratte) kui ka algoritme, millel selline oskus puudub, kasutades üldmõistena Euroopa Nõukogu 08.04.2020 soovituse13 eeskujul mõistet „algoritmilised süsteemid“. I. Probleem, sihtrühm ja eesmärk 1. Probleemi kirjeldus ja selle tekke põhjus 1.1 Algoritmiliste süsteemide mõjud põhiõigustele 1.1.1. Euroopa Liidust ja Euroopa Nõukogust tulenev taust Andmetöötlusvõimekuse tohutu kasv, mis tuleneb algoritmiliste süsteemide rakendamisest, loob mitmeid lisamugavusi inimeste ja ettevõtjate jaoks. Mitmeid protsesse on võimalik automatiseerida, 6 Guggenberger, Einsatz künstlicher Intelligenz. NVwZ 2019, lk 844, viited 19 ja 20. 7 Herberger, „Künstliche Intelligenz“ und Recht. NJW 2018, 2826, viide 5 ja 6. 8https://www.riigikantselei.ee/sites/default/files/riigikantselei/strateegiaburoo/eesti_tehisintellekti_kasutuselevotu_ekspe rdiruhma_aruanne.pdf lk 15, viitega EL tehisintellekti definitsioonile. 9 https://www.kratid.ee/. Lisaks selgitatakse Eesti tehisintellekti kasutuselevõtu aruandes (lk 7) tehisintellekti definitsiooni kohta, et „Tehisintellekti peamine erinevus klassikalistest tarkvaralahendustest seisneb asjaolus, et kui viimaste puhul täidavad arvutiprogrammid neile programmeerija poolt etteantud käske, siis tehisintellekti algoritmide puhul rangelt etteantud programmiloogika puudub ja kratt peab õige lahenduseni jõudma erinevate masinõppe algoritmide kaudu“. Arvutivõrgus: https://www.riigikantselei.ee/sites/default/files/riigikantselei/strateegiaburoo/eesti_tehisintellekti_kasutuselevotu_eksper diruhma_aruanne.pdf. 10 Näiteks Terviseameti juhendid tervishoiuteenuse osutajatele koroonaviirusesse SARS-Cov-2 nakatumise kahtluse korral, vrd nt Hooldekodudes isoleerimise skeem (algoritm): https://www.terviseamet.ee/sites/default/files/Nakkushaigused/Juhendid/COVID-19/algoritm_01.04.2020_.pdf 11 I. Pilving, M. Mikiver. Kratt haldusorganiks: algoritmilised otsused ja haldusõiguse põhimõtted: https://aastaraamat.riigikohus.ee/kratt-haldusorganiks-algoritmilised-otsused-ja-haldusoiguse-pohimotted/. 12 Recommendation CM/Rec(2020)1 of the Committee of Ministers to member States on the human rights impacts of algorithmic systems (Adopted by the Committee of Ministers on 8 April 2020 at the 1373rd meeting of the Ministers’ Deputies) p 2. 13 Vt viide nr 12. 2 lihtsamaid ja trafaretsemaid ülesandeid delegeerida, aga ka hoida kokku aega suuremahuliste andmekogumite analüüsilt. Avaliku võimu puhul nähakse samuti võimalust automatiseerida menetlusi ja teatud etappe menetlusest, selleks et vähendada kulusid, vabastada ametnikke trafaretsetest ülesannetest ja muuta inimestel võimuga suhtlemine veelgi kiiremaks ja mugavamaks. Automatiseerimine võimaldab kiiremaks ja efektiivsemaks muuta ka riiklikku järelevalvet. Algoritmi poolt antud hinnang või tehtud otsus võib aga avaldada olulist mõju põhiõigustele – ja seda sõltumata sellest, kas tegemist on iseõppiva või inimese poolt määratud algoritmiga. Teiste riikide kogemuste pinnalt võib tuua mitmeid näiteid, kus algoritmi poolt tehtud otsuses tuvastatakse viga; kus algoritmi hinnangud on olnud eelarvamuslikud, stereotüüpsed ning kallutatud14; kus kohtus pole ametiasutus olnud suuteline selgitama algoritmi tehtud otsuse põhilisi kaalutlusi. Näiteks USA-s Houstonis kasutati algoritmilist otsustusprotsessi õpetajatega töölepingute lõpetamisel. Kohtuvaidluse käigus ei suutnud kooli pidaja selgitada algoritmi toimimist, väites, et see tehnoloogia pole tema valduse ega kontrolli all.15 Hispaanias jäi 500 000 inimesel elektrikulude toetus saamata, millele neil teatud tingimustel olnuks subjektiivne õigus. Otsuse tegi algoritm, mille koodi avaldamise üle käib kohtuvaidlus.16 Rootsis peatas vigane algoritm, mille veaprotsendiks osutus hiljem 10-15%, maksed 70 000 töötule.17 Austria tööhõiveameti algoritmi põhiparameetrid hindavad negatiivselt naisi, puudega isikuid ja üle 30-aastaseid isikuid; ka naisi, kel on lapsed, kuid mitte lapsi omavaid mehi (vt selle algoritmi põhiparameetrite väljavõtet järgnevalt).18 Detsembris 2019 lõpetas Poola valitsus töötute profileerimise rakenduse kasutamise, kuivõrd see oli diskrimineeriv, läbipaistmatu ja rikkus andmekaitsenõudeid.19 Saksamaal muutis õigekirjaviga seni võlakohustusi väga korrektselt täitnud mehe krediidireitingu negatiivseks.20 14 Mõistagi on ka olukordi, kus algoritm on seadistatud laitmatult ja kaalutlusviga tekib ikka inimfaktorist lähtuvalt. Vt näiteks: L. Well: Unsere Untersuchung der Hartz-IV-Algorithmen zeigt: Hier diskriminiert der Mensch und nicht die Maschine. 15 United States District Court, S.D. Texas, Houston Division: Hous. fed’n of Teachers. - 251 F. Supp. 3d (2017), lk 1168. Samuti pole suudetud selgitada algoritme, mis soovitavad politseipatrullidel teatud isikuid peatada ja kontrollida. S. Valentine. Impoverished Algorithms: Misguided Governments, Flawed Technologies, and Social Control. - Fordham Urb. L. J. 46 (2019), lk 372–373, 367. 16 https://algorithmwatch.org/story/spanien-rechtsstreit-um-den-code-eines-algorithmus/ 17 https://algorithmwatch.org/story/rogue-algorithm-in-sweden-stops-welfare-payments/ 18 https://algorithmwatch.org/en/story/austrias-employment-agency-ams-rolls-out-discriminatory-algorithm/ 19 https://panoptykon.org/sites/default/files/leadimage-biblioteka/panoptykon_profiling_report_final.pdf; https://algorithmwatch.org/story/polnische-regierung-schafft-umstrittenes-scoring-system-fuer-arbeitslose-ab/. 20 https://algorithmwatch.org/story/kreditscore-crif-buergel/. 3 Mitmeid juhtumeid võib leida USA praktikast, kus näiteks vea teinud intelligentse näotuvastussüsteemi otsuse tõttu peatati vale isiku juhiloa kehtivus või loeti vale isik terroristiks.21,22 Üks tuntumaid algoritmilise süsteemi eelarvamuslikkuse juhtumeid on USAs kasutatav retsidiivsuse prognoosimise programm COMPAS, mis ennustas Aafrika-Ameerika ja Kaukaasia etniliste rühmade puhul retsidiivsust tegelikkusest märksa suuremas ulatuses.23 Algoritmiliste süsteemide, sh tehisintellekti kasutuselevõtuga seonduvate mõjude tõttu põhiõigustele on need küsimused Euroopa Liidu ja ka Euroopa Nõukogu teravdatud tähelepanu all.24 Ka Euroopa Komisjoni 19.02.2020 avaldatud tehisintellekti valges raamatus25 rõhutatakse, et kratt võib teha palju head, muutes näiteks tooteid ja protsesse turvalisemaks, ent see võib teha ka palju kahju. Kahju võib olla nii materiaalne (inimeste turvalisus ja tervis, sh isegi elu kaotus, vara kahjustamine) kui ka mittevaraline (privaatsuse kadu, väljendusvabaduse ja inimväärikuse piiramine, diskrimineerimine). 26 Tõdetakse, et probleemid võivad olla tingitud vigadest selles, kuidas tehisintellektisüsteemid on projekteeritud, või andmete kasutamisest ilma, et oleks korrigeeritud võimalikku kallutatust (näiteks on süsteemi treenitud ainult või peamiselt meestelt pärinevate andmetega, mistõttu naiste puhul ei ole saadavad tulemused optimaalsed).27 Seetõttu „… on eluliselt tähtis, et Euroopa tehisintellekt tugineks liidu sellistele väärtustele ja põhiõigustele nagu inimväärikus ja privaatsuse kaitse“.28 Olemasolevate erinevate reeglite kohaldamist ja täitmise tagamist võib raskendada tehisintellekti läbipaistmatus.29 Et iseõppiv algoritm tähendab sisuliselt seda, et õppimise käigus algoritmi parameetrid muutuvad, ei ole praeguses arenguetapis inimene (isegi kogenud informaatik ega ka lausa selle algoritmi looja) suuteline tehisintellekti hinnanguid või otsuseid selgitama (läbipaistmatus ehk musta kasti (black box) efekt).30 Valges raamatus konstateeritakse: „Tehisintellekti erinevate väljundite eriomadused, sealhulgas läbipaistmatus (nn musta kasti efekt), keerukus, ettearvamatus ja osaliselt autonoomne tegutsemine, võivad luua olukorra, kus on ülimalt raske kontrollida kooskõla põhiõiguste kaitseks mõeldud olemasolevate ELi õigusaktidega, ja pärssida nende täitmise tulemuslikku tagamist. Ei täitevasutustel ega puudutatud isikutel pruugi olla vahendeid, et kontrollida, kuidas jõuti konkreetse otsuseni, mille tegemisse oli kaasatud tehisintellekt, ja niisiis seda, kas asjaomastest normidest peeti kinni või mitte. Füüsilistel ja juriidilistel isikutel võib tekkida raskusi tulemusliku juurdepääsuga õigusemõistmisele olukordades, kus sellistel otsustel võib olla neile negatiivne mõju.“31 Seetõttu võib tehisintellekti süsteemide rakendamine viia ka põhiõiguste rikkumiseni. Euroopa Komisjoni valges raamatus on nähtud ohtu muuhulgas järgnevatele põhiõigustele: väljendusvabadus, kogunemisvabadus ja inimväärikus, võrdsuspõhiõigus ja privaatsus.32 21 https://www.wired.com/2014/11/algorithms-great-can-also-ruin-lives/. 22 Vt ka hiljutist uudist (24.06.2020) „This may be America's first known wrongful arrest involving facial recognition“: https://edition.cnn.com/2020/06/24/tech/aclu-mistaken-facial- recognition/index.html?fbclid=IwAR0jNmwMsMfhqZpay6zFHNFCKVOeU8_dlAyMPSMM4jJmszXxB_ksQ3ZuJdo. 23 Vt põhjalikumalt https://en.wikipedia.org/wiki/COMPAS_(software) 24 Vt joonealust viidet nr 1. 25 Euroopa Komisjon. VALGE RAAMAT. Tehisintellekt: Euroopa käsitus tipptasemel ja usaldusväärsest tehnoloogiast. 19.02.2020. Arvutivõrgus: https://op.europa.eu/et/publication-detail/-/publication/aace9398-594d-11ea-8b81- 01aa75ed71a1 (edaspidi Valge Raamat). 26 Valge raamat, lk 10. 27 Valge raamat, lk 12. 28 Valge raamat, lk 2. 29 Valge raamat, lk 11. 30 Vt põhjalikumalt I. Pilving, M. Mikiver. Kratt haldusorganiks: algoritmilised otsused ja haldusõiguse põhimõtted: https://aastaraamat.riigikohus.ee/kratt-haldusorganiks-algoritmilised-otsused-ja-haldusoiguse-pohimotted/. 31 Valge raamat, lk 13. 32 Valge raamat, lk 12. 4 Samuti on Euroopa Nõukogu hiljutises 08.04.2020 soovituses, mis keskendub algoritmiliste süsteemide mõjudele põhiõigustele, tõdetud, et algoritmilistel süsteemidel on nende läbipaistmatuse tõttu mitmeid negatiivseid mõjusid põhiõigustele, mille ärahoidmiseks tuleb riikidel astuda olulisi samme.33 Nii Euroopa Liidu kui ka Euroopa Nõukogu dokumendid lähtuvad seejuures põhimõttest, et mida suuremat riski põhiõigustele vastav rakendus endast kujutab, seda hoolikamalt tuleb kaasnev risk erinevate kohustuslike regulatsioonidega maandada.34 Seega leitakse, et uutest tehnoloogiatest lähtuvad spetsiifilised ohud põhiõigustele, mille ärahoidmist ei ole õiglane panna puudutatud isikute õlule, vaid sellest tuleneb riigi kohustus luua vajalikud regulatsioonid. Euroopa Komisjoni poolt väljendatud mured on asjakohased ka Eesti Vabariigi põhiseaduse valguses. 1.1.2. Eesti Vabariigi Põhiseadusest tulenev kontekst  Algoritmiliste süsteemide rakendamine avaliku võimu poolt Põhiseaduse (PS) § 3 lg 1 ls 1 järgi tohib riigivõimu teostada üksnes seaduse alusel. Riigivõimu teostamine võib põhiseadusest lähtuvalt toimuda tehisintellekti poolt tehtud otsusena, kui see vastab selle igakordsel rakendamisel täpselt seadusele. 2019. aasta kohtute aastaraamatus on seda probleemi selgitatud järgnevalt: „See aga eeldab, et inimene või iseõppiv süsteem suudab seaduse teisendada algoritmiks. Mõnelgi juhul oleks see põhimõtteliselt võimalik, kuigi tihti väga mahukas töö, mis eeldab arendajalt samal ajal nii infotehnoloogilisi, matemaatilisi kui ka juriidilisi süvateadmisi. Suurt osa õigusnorme aga ei ole võimalik kirjeldada algoritmile omaste ühemõtteliste muutujatena. Seda nii õiguse esitusvahendi – inimkeele – paratamatu ebamäärasuse kui ka taotluslike lõtkude tõttu, et tagada paindlikkus. Õigus kasutab sammsammuliste instruktsioonide (konditsionaalprogrammide) asemel sageli hoopis finaalseid programme: üldsõnalisi eesmärke, näiteks elukeskkonna parandamise, avalikkuse kaasamise ja teavitamise, huvide tasakaalustamise ja lõimimise, teabe piisavuse, otstarbeka, mõistliku ja säästliku maakasutuse põhimõtted (planeerimisseaduse §-d 8–12); kaalutlus- ehk diskretsioonivolitusi, näiteks korrakaitseasutuse õigus teha vastutavale isikule ettekirjutus ohu tõrjumiseks või korrarikkumise kõrvaldamiseks (korrakaitseseaduse – KorS – § 28); määratlemata õigusmõisteid, näiteks ülekaalukas avalik huvi (veeseaduse § 192 lg 2), oht (KorS § 5 lg 2); üldpõhimõtteid, näiteks inimväärikus, proportsionaalsus, võrdne kohtlemine (PS § 10, § 11 ls 2 ja § 12). Juriidilised subsumptsioonid (nt seaduse rakendamisel vajalikud otsustused, kas objekt on ehitis ehitusseaduse mõttes, kas isik on hankija riigihangete seaduse tähenduses, kas tegu on kestva tegevusega maaelutoetuse andmisel või kuidas piiritleda kaubaturg konkurentsijärelevalves) ei ole õiguse ebamäärasuse tõttu pelgalt formaalloogilised tehted, vaid nõuavad hinnanguid. Enne olukorra lahendamist tuleb otsustajal normi tõlgendada, et selgitada, kas seadusandja soovis või ei soovinud olukorra normile allutada. Enamgi veel, otsus tuleb teha ka olukordades, mille peale seadusandja ei osanudki mõelda, näiteks uus piiripealne maksude vältimise skeem. Siin on rakendajal tarvis hinnata, kas tegemist on lubatava optimeerimise või kuritarvitusega (MKS § 84). Nii tõlgendamisel kui ka 33 Recommendation CM/Rec(2020)1 of the Committee of Ministers to member States on the human rights impacts of algorithmic systems. 34 Euroopa tehisintellekti tulevase reguleeriva raamistiku kesksed elemendid, mis loovad ainulaadse usaldusväärse ökosüsteemi. Selleks peab raamistik tagama vastavuse ELi normidele, sealhulgas põhiõigusi ja tarbijate õigusi kaitsvatele sätetele, eriti mis puudutab selliseid ELis toimivaid tehisintellektisüsteeme, millega on seotud suur risk (valge raamat, lk 3); Õigusraamistiku fookuses peaks olema see, kuidas viia erinevate riskide võimalus miinimumini, eriti mis puudutab kõige suuremaid riske (lk 11). „In this recommendation, the term “high risk” is applied when referring to the use of algorithmic systems in processes or decisions that can produce serious consequences for individuals or in situations where the lack of alternatives prompts a particularly high probability of infringement of human rights, including by introducing or amplifying distributive injustice“ (viide nr 11). 5 lünkade täitmisel jätkavad seaduse rakendajad – ministrid, ametnikud, kohtunikud, lepingupooled – parlamendi alustatud reguleerimisprotsessi. Nad peavad seadust konkretiseerima. Tuleb tõdeda, et siin ilmneb mõningane sarnasus masinõppega: ka õppiv algoritm ei ole inimese loodud kujul veel lõplikult valmis, vaid arendab ennast edasi ning on võimeline just nimelt olukordade klassifitseerimiseks looma mudeleid.“35 Põhiseaduse §-st 10 tuleneb ka inimväärikuse põhimõte, mis tähendab „inimese väärtust iseenesest, tema olemist eesmärgiks ja mitte vahendiks, tema isiksust.“36 Ka Riigikohus on rõhutanud, et “[I]nimväärikus on kõigi isiku põhiõiguste alus ning põhiõiguste ja vabaduste kaitse eesmärk.”37 Inimväärikuse põhimõttest tulenevalt ei tohi riik ühelgi juhul taandada inimest riigivõimu objektiks. Silmas tuleb pidada veel, et „inimväärikus on põhiseaduse vabadusõiguste alus. Iga vabaduspõhiõigus kujutab endast inimväärikuse aluspõhimõtte mõne aspekti väljendust.“38 Põhiseadusest tulenevatest õigusriigi ja demokraatia39 ning hea halduse40 põhimõtetest peab riik tagama ka avaliku võimu tegevuse läbipaistvuse. Lisaks sätestab PS § 44 lg 2: „Kõik riigiasutused, kohalikud omavalitsused ja nende ametiisikud on kohustatud seaduses sätestatud korras andma Eesti kodanikule tema nõudel informatsiooni oma tegevuse kohta, välja arvatud andmed, mille väljaandmine on seadusega keelatud, ja eranditult asutusesiseseks kasutamiseks mõeldud andmed.“ Läbipaistvuse põhimõte on seni väljendunud eeskätt avaliku võimu poolt saadud või loodud teabe (klassikalises tähenduses – dokumentide) avalikustamises ja väljastamises. Avaliku võimu tegevuses algoritmiliste otsustusprotsesside rakendamisel tekib läbipaistvuse põhimõtte kontekstis probleem, kui algoritmi antava hinnangu või tehtava otsuse põhilised parameetrid ei ole avalikud või kui pole isegi mitte teada, et asjas osales ka algoritmiline süsteem. Haldusakti adressaat ei saa sel juhul kontrollida, ega haldusakti andmisel ei tehtud kaalutlusviga, mis võib seisneda nt valedest kaalutlustest lähtumises, olulise asjaolu arvesse võtmata jätmises vmt. Teiste riikide kogemustest lähtuvalt on esinenud algoritme, mis on toonud kaasa diskrimineeriva halduspraktika. Põhiseadusest tuleneb ka kohustus tagada võrdsed võimalused. Võrdse kohtlemise põhimõttest tuleneb diskrimineerimise keeld. Õiglaste otsuste tegemist teenivad ka riigi omavoli keeld ning üldine avaliku võimu seaduslikkuse põhimõte. PS § 26 kaitseb igaühe perekonna- ja eraelu puutumatust. Euroopa Inimõiguste Kohus on rõhutanud, et eraelu mõiste ammendava definitsiooni andmine ei ole võimalik.41 Euroopa Nõukogu Parlamentaarse Assamblee resolutsioonis nr 428 (1970) määratletakse eraelu kui õigust elada omaenda elu minimaalse sekkumisega. Sellele lisati resolutsiooniga nr 1165 (1998) õigus kontrollida enda kohta käivat informatsiooni.42 Eraelu ei piirdu Euroopa Inimõiguste Kohtu praktika järgi üksnes isiku sisemise sfääriga, vaid see hõlmab ka õiguse luua ja arendada suhteid teiste inimeste ja välismaailmaga, eeskätt omaenda isiksuse arendamiseks,43 aga ka võimude poolt isiku kohta käiva 35 Vt põhjalikumalt I. Pilving, M. Mikiver. Kratt haldusorganiks: algoritmilised otsused ja haldusõiguse põhimõtted. Kohtute aastaraamat 2019. https://aastaraamat.riigikohus.ee/kratt-haldusorganiks-algoritmilised-otsused-ja-haldusoiguse- pohimotted/. 36 Põhiseaduse kommentaarid § 10, p 5. https://pohiseadus.ee/index.php?sid=1&ptid=186&p=10#c5. 37 RKHKo 22.03.2006, 3-3-1-2-06, p 10; 28.03.2006, 3-3-1-14-06, p 11. 38 Põhiseaduse kommentaarid § 10, p 5. https://pohiseadus.ee/index.php?sid=1&ptid=186&p=10#c5. 39 Põhiseaduse kommentaarid § 10, p 23. https://www.pohiseadus.ee/index.php?sid=1&ptid=15&p=10. 40 Põhiseaduse kommentaarid § 14, p 19. https://www.pohiseadus.ee/index.php?sid=1&ptid=19&p=14. 41 Euroopa Inimõiguste Kohtu 16.12.1992 otsus asjas nr 13710/88, Niemietz v. Saksamaa. " In view of the new communication technologies which make it possible to store and use personal data, the right to control one’s own data should be added to this definition." Euroopa Nõukogu Parlamentaarse Assamblee resolutsioon nr 1165 (1998) "Right to privacy" p 5, arvutivõrgus kättesaadav: http://assembly.coe.int/main.asp?Link=/documents/adoptedtext/ta98/eres1165.htm.Euroopa Nõukogu Parlamentaarse Assamblee resolutsioon nr 1165 (1998) "Right to privacy" p 5, arvutivõrgus kättesaadav: http://assembly.coe.int/main.asp?Link=/documents/adoptedtext/ta98/eres1165.htm. 43 Euroopa Inimõiguste Kohtu 06.09.1978 otsus asjas nr 5029/71, Klass jt; Euroopa Inimõiguste Kohtu 26.03.1987 otsus asjas 9248/81, Leander v. Rootsi, Euroopa Inimõiguste Kohtu 25.09.2001 otsus asjas 44787/98, P.G. ja J.H. v. Ühendkuningriik. 6 informatsiooni kogumise ja talletamise.44 Eraelu puutumatust ohustavad järelikult ka isikuandmete kogumine, säilitamine ja juurdepääsu võimaldamine kolmandatele isikutele45. Seega hõlmab eraelu puutumatus ka õigust isikuandmete kaitsele. Eraldi on isikuandmete kaitse põhiõigus sätestatud Euroopa Liidu põhiõiguste harta artiklis 8, mille lõike 1 kohaselt on igaühel õigus tema isikuandmete kaitsele. Lõige 2 näeb ette, et isikuandmeid tuleb töödelda asjakohaselt ning kindlaksmääratud eesmärkidel ja asjaomase isiku nõusolekul või muul seaduses ettenähtud õiguslikul alusel. Igaühel on õigus tutvuda tema kohta kogutud andmetega ja nõuda nende parandamist. Lisaks PS §-le 26 on asjakohane viidata ka PS § 19 lõikele 1, mille kohaselt on igaühel õigus vabale eneseteostusele. PS § 19 lõikest 1 tuleneva enesemääramisõiguse üheks osaks on ka informatsiooniline enesemääramisõigus, mille põhiline tähendus on iga isiku võimalus ise otsustada, kas ja millises ulatuses tema enda kohta käivaid andmeid kogutakse ja salvestatakse.46 Kuigi üldjuhul kaitseb isikuid liigse andmetöötluse eest PS §-s 26 sätestatud eraelu puutumatuse nõue, tuleb PS § 19 lg 1 alusel isikut väliste negatiivsete mõjutuste eest kaitsta ka juhtudel, mis jäävad eraelu kaitseala sfäärist välja. Seega isegi kui isikuandmete töötlemine ei lange põhiseaduse § 26 kaitsealasse, tulenevad piirangud andmetöötlusele informatsioonilise enesemääramise õigusest põhiseaduse § 19 lg 1 alusel. Põhiseaduse §-st 12 tulenevad võrdsuspõhiõigus ja diskrimineerimiskeeld.47  Algoritmiliste süsteemide rakendamine erasektori poolt Põhiõiguste kolmikmõju põhimõttest48 lähtuvalt tuleb tagada põhiõiguste kaitse kõrge riskitasemega algoritmiliste süsteemide puhul ka eraõiguslikes suhetes. 1.1.3. Euroopa Liidu seisukoht seoses tehisintellektiga põhiõiguste kontekstis Euroopa Komisjoni valge raamat tugineb oma seisukohas ka EL sõltumatu kõrgetasemeline ekspertgrupi soovitustele, millest lähtuvalt on usaldusväärsel tehisintellektil kolm aspekti, mis iseloomustavad seda kogu süsteemi elutsükli jooksul: 1) see peaks olema õiguspärane ja tagama, et järgitakse kõiki kohaldatavaid õigusnorme; 2) see peaks olema eetiline ja tagatud peaks olema eetikapõhimõtete ja -väärtuste järgimine, ning 3) see peaks olema nii tehnilisest kui ka sotsiaalsest seisukohast töökindel, sest isegi kui kavatsused on head, võivad tehisintellekti süsteemid tekitada tahtmatut kahju.49 Sama ekspertgrupi järeldustest lähtuvalt on usaldusväärse tehisintellekti puhul tagatud: 1. Inimese toimevõime (human agency) ja järelevalve. Kaasa arvatud põhiõigused, inimese toimevõime ja järelevalve. 44 Euroopa Inimõiguste Kohtu 04.05.2000 otsus asjas nr 28341/95, Rotaru v. Rumeenia. 45 Põhiseaduse kommentaarid, § 26. 46 Põhiseaduse kommentaarid, § 19. 47 Vt lähemalt https://pohiseadus.ee/index.php?sid=1&ptid=17&p=12. 48 Põhiõigute kolmikmõju kohta vt kommentaar, § 19 p 17: https://pohiseadus.ee/index.php?sid=1&ptid=24&p=19. 49 EL sõltumatu kõrgetasemeline tehisintellekti eksperdirühm. Eetikasuunised usaldusväärse tehisintellekti arendamiseks. 2018, lk 6. Arvutivõrgus: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai. 7  2. Tehniline töökindlus ja ohutus. Kaasa arvatud rünnetele vastupidamise võime ja turvalisus, varuplaan ja üldine ohutus, täpsus, usaldusväärsus ja korratavus. 3. Privaatsus ja andmehaldus. Kaasa arvatud privaatsuse austamine, andmete kvaliteet ja terviklus ning juurdepääs andmetele. 4. Läbipaistvus. Kaasa arvatud jälgitavus, selgitatavus ja teabevahetus. 5. Mitmekesisus, mittediskrimineerimine ja õiglus. Kaasa arvatud ebaõiglase kallutatuse vältimine, juurdepääsetavus ja universaaldisain ning sidusrühmade osalemine. 6. Ühiskondlik ja keskkonnaalane heaolu. Kaasa arvatud kestlikkus ja keskkonnahoidlikkus, ühiskondlik mõju, ühiskond ja demokraatia. 7. Vastutuse võtmine. Kaasa arvatud auditeeritavus, negatiivse mõju minimeerimine ja sellest teavitamine, kompromissid ja õiguskaitse.50 Eesti seisab seega väljakutse ees leida lahendus küsimusele, millised regulatsioonid aitavad kaasa usaldusväärse (sh põhiõigusi järgiva) krati loomisele, hoidudes seejuures ülereguleerimisest ja pidurdamata ülemääraselt innovaatilisi lahendusi. Nii nagu ei ole vaja lapse mängudrooni, mis on võimeline vaid tubastes tingimustes mõne meetri kaugusele lendama, riiklikult reguleerida ja Lennuameti järelevalvele allutada (erinevalt võimsamatest, lennuliiklusele ohtu kujutavatest droonidest), ei ole vaja mis tahes algoritme n-ö sama vitsaga lüüa. Seadusandja peab tegelema vaid selliste algoritmidega, mille rakendamine on põhiõigusi silmas pidades probleemne. Eestis seati eesmärgiks võtta 2020. aastaks avalikus sektoris kasutusele juba 50 tehisintellekti süsteemi.51 Samas pole seni kehtestatud nõuet neid süsteeme ega nende mõjusid registreerida. Euroopa Komisjoni valges raamatus konstateeritakse tehisintellekti süsteemide registreerimise vajadust: „Saksa andme-eetika komisjon on kutsunud üles looma viieastmelise riskipõhise regulatiivse süsteemi: selle esimesel astmel oleksid kõige ohutumad tehisintellektisüsteemid, mida ei reguleeritaks, ja viimasel kõige ohtlikumad, mis keelataks täielikult.“52 Krattide registreerimise küsimus on oluline – kui riigis puudub keskne ülevaade tehisintellekti süsteemide erinevatest rakendustest, puudub ka teadmine nende süsteemide rakendamisega kaasnevatest mõjudest põhiõigustele (sh riive intensiivsus). Seetõttu puudub ka teadmine, milliste süsteemide puhul võib olla vajalik seaduslik alus, milliste puhul aga menetluslikud garantiid. Puuduvad ka muud menetluslikud nõuded, mis aitaksid kaasa usaldusväärse krati kriteeriumide elluviimisele, ning riikliku järelevalve süsteem. Need on olulised eeskätt avaliku sektori rakenduste puhul, aga ka suurema riskiga erasektori algoritmiliste süsteemide puhul.53 PROBLEEM Algoritmilised süsteemid omavad mõju põhiõigustele. Kui usaldusväärse krati kriteeriumid on reguleeritud vaid EL ja EN tasandi soovitusena (näiteks töökindlus, inimkontroll, selgitatavus jt), võivad need nõuded jääda praktikas tagamata. Sel juhul pole ka vastavate põhiõiguste kaitse tagatud. 1.2. Automatiseerimise regulatsioonide puudumine haldusmenetluses kui digiriigi arengu takistus 50 Samas, lk 16. 51 Eesti infoühiskonna arengukava, lk 28. https://www.mkm.ee/sites/default/files/eesti_infouhiskonna_arengukava.pdf. Krattide veebilehel ongi praeguseks kirjeldatud üle 50 kasutusjuhu: https://www.kratid.ee/kasutuslood. 52 Valge Raamat, lk 11. 53 Euroopa Nõukogu soovituse punkt C käib just erasektori kohta: C. Responsibilities of private sector actors with respect to human rights and fundamental freedoms in the context of algorithmic systems. 8 Nii Eesti kui ka teiste riikide avaliku halduse tehisintellekti süsteeme on võimalik paigutada järgmistesse kategooriatesse: inimestega suhtlemine, asutusesisesed tegevused, otsuste ettevalmistus ja otsuste tegemine. Järgnevalt tuuakse välja erinevate automatiseerimisjuhtumite pinnalt tekkivaid erinevaid probleeme. 1.2.1. Inimestega suhtlemise automatiseerimine: vestlusrobotid 1.2.1.1. Haldusorgani selgituskohustuse automatiseerimine Põhiseaduse §-st 14 tuletatud põhiõigus heale haldusele hõlmab lisaks haldustegevuse õiguspärasusele ka nn pehmeid väärtusi nagu viisakus, abivalmidus jms. Hea halduse tava nõuab haldusorganilt ka inimestega suhtlemist ning neile selges ja arusaavas keeles selgituste ja juhtnööride andmist.54 Mitmed ametiasutused on info parema kättesaadavuse nimel loonud „Korduma kippuvate küsimuste“ rubriigi oma veebilehel, suhtlevad inimestega ka asutuse sotsiaalmeedia konto kaudu või infotelefonile vastates. Tehisintellektil põhinevates ja 24/7 töötavates vestlusrobotites nähakse võimalust tuua riik inimesele veelgi lähemale. Vestlusroboti all peetakse silmas tarkvara, mis simuleerib inimsuhtlemist ja on võimeline sellest tulenevaid küsimusi tehisintellekti kasutades lahendama. Eesti Statistikaametis on kasutusele võetud virtuaalne assistent Iti, mis õpib ja areneb pidevalt, olles praegu võimeline andma vastuseid lihtsamatele küsimustele.55 Seoses 12.03.2020 välja kuulutatud eriolukorraga abistab mitmete ametiasutuste veebilehel inimesi seoses eriolukorraga ja koroonaviirusega tekkivate küsimustega vastusrobot Suve.56 Arenenumad vestlusrobotid aitavad täita ka taotluste formulare. Näiteks kasutatakse mitmetes riikides vestlusrobotit, mis aitab asüülitaotlejatel valida õige formulari ja täita vajalikud väljad ning annab teavet ka edasiste menetluslike sammude kohta.57 Eestis on arendamisel „bürokrati“ nime kandev virtuaalne assistent.58 Kui vestlusrobotid suudavad trafaretsemad küsimused ise ära vastata, on ametnikel võimalik rohkem tähelepanu pühendada keerukamatele küsimustele. Näiteks Austraalia maksuameti 2017. aastal kasutusele võetud virtuaalne assistent Alex suudab lahendada 80% pöördumistest iseseisvalt.59 PROBLEEM Vestlusrobotite puhul võib tekkida probleem, kui avaliku võimu kandja nimel tegutsev virtuaalne assistent annab ebakorrektseid juhiseid või lausa õigusvastaseid soovitusi. Riigikohus on rõhutanud, et „asutuse poolt isikule antav teave ei tohi olla eksitav, st väär, vastuoluline, fakte moonutav jne. Eksitav teave võib panna isikut tegema kahjulikke väärotsuseid oma õiguste ja vabaduste teostamisel.“60 54 Vt ka HMS § 7, § 36; kommentaarid PS § 14 kohta, p 19: https://pohiseadus.ee/index.php?sid=1&ptid=19&p=14. 55 Kui Iti vastust ei tea, oskab ta sisu alusel suunata päringu andmeesitaja või statistika tarbija klienditoe spetsialistile https://www.kratid.ee/statistikaameti-kasutuslugu. 56 EAS: Vestlusrobot aitab koroonaviiruse ja eriolukorra küsimustele vastata. https://www.eas.ee/vestlusrobot-aitab- koroonaviiruse-ja-eriolukorra-kusimustele-vastata/. 57 Vt nt BBC: The 'robot lawyer’ giving free legal advice to refugees. Arvutivõrgus: https://www.bbc.com/news/blogs- trending-39205935; aga ka nt https://asylumbot.be/. 58 Vt põhjalikumalt: https://www.kratid.ee/burokratt. 59 https://cxcentral.com.au/advanced-technology/virtual-assistant-to-improve-self-service/. 60 RKHKo 02.11.2015, nr 3-3-1-22-15, p 14. 9  Teine probleem võib tekkida, kui virtuaalne assistent muutub ebaviisakaks ja solvavaks. Nii näiteks tuli Microsoftil võtta vestlusrobot Tay kasutusest maha, kui ta õppis ära vihakõne.61 1.2.1.2. Haldusmenetluses seletuste, ütluste, vastuväidete võtmise automatiseerimine Vestlusroboteid on võimalik kasutada ka haldusmenetluses menetlusosalistelt seletuste ja vastuväidete või tunnistajatelt ütluste võtmiseks ja hindamiseks.62 Eestis pole sellist kratti veel teadaolevalt loodud, ent 2018. aastal käivitati Euroopa Liidu pilootprojekt iBorderCtrl, mille raames võimaldatakse inimestel Lätis, Ungaris ja Kreekas EL sisenemisel vabatahtlikult allutada end piiriületusmeetmetele, mille käigus tuleb osaleda intervjuus politsei vestlusrobotiga. Tegemist on tehisintellektiga, mis toimib ka valedetektorina. Samal ajal kui inimene peab vestlema mobiiltelefoni või arvuti videokõne kaudu tehisintellektiga, analüüsib see ka tema mittevebraalses mikromiimikas pettuse tunnuseid. Valedetektori läbimise tulemusi hindab piirikontrolli ametnik, võttes arvesse ka teisi andmeid.63 Testimisel oleva süsteemiga loodetakse tulevikus võimaldada kolmandate riikide kodanikele kiiremat ja tõhusamat piiriületust.64 Vestlusroboteid on kasutatud ka inimeste kaasamisel planeerimismenetluses.65 PROBLEEM Seesuguse vestlusroboti puhul tekib fundamentaalsem probleem põhiseadusest tuleneva inimväärikuse põhimõtte kontekstis, kas riik saab üldse kohustada inimesi robotiga suhtlema või peab inimesele olema tagatud võimalus soovi korral suhelda inimesega. Erinevalt ülalpool käsitletud pigem üldisi selgitusi andvast virtuaalsest nõustajast on siin tegemist juba konkreetse haldusmenetluse läbiviimisega, mille raames antud seletustel, ütlustel ja vastuväidetel on õiguslik tähendus. Näotuvastusfunktsionaalsus haldusmenetluses (ning sellega seotud valedetektor) muudab sellise rakenduse kõrge riskiga rakenduseks põhiõiguste riive kontekstis, mille puhul tekib küsimus, kas selline rakendus on lubatav üksnes siis, kui see tuleneb spetsiifilisest õiguslikust alusest. Sarnaselt selgitusi andva kratiga võib siin samuti tekkida probleem, kui robot ei suhtle enam viisakalt ja lugupidavalt. 1.2.2. Haldusvälise mõjuta tegevuste automatiseerimine Tehisintellekt oskab inimesest oluliselt tõhusamalt töödelda suuri andmemassiive, sellest vajalikke andmeid ära tunda ja erinevatesse formularidesse ja tabelitesse sisestada või neid üle kanda. Haldusorganisiseselt võib tehisintellekt pakkuda seega võimalusi automatiseerida lihtsamaid 61 Vt nt J. West. Microsoft’s disastrous Tay experiment shows the hidden dangers of AI. 02.04.2016. https://qz.com/653084/microsofts-disastrous-tay-experiment-shows-the-hidden-dangers-of-ai/. 62 HMS § 38 lg 2, § 40. 63 Stoklas: Bessere Grenzkontrollen durch Künstliche Intelligenz Aktuell 2018, 06363. 64 Rohkem infot: https://www.iborderctrl.eu/The-project. 65 Vt nt https://www.textizen.com/about. 10 protsesse, mida seni inimeste poolt tehakse. Loodetakse, et tehisintellekt hakkab tulevikus eelsorteerima ja suunama asutusele saabunud pöördumisi, samuti analüüsima muid semantilisi andmeid. Eestis võib näidetena tuua Muinsuskaitseameti kavandatava kratt Sälli, kes võtab enda peale muuseumiinventuurid,66 ja kratt Folli, kes aitab museaali kirjeldamist automatiseerida, osates seejuures piltidel ära tunda objektid, tegevused ning teemad.67 Tinglikult võib sellesse kategooriasse paigutada ka krati, kes puhastas avalikustatud kohtulahenditest isikuandmed.68 Et haldusvälise mõjuta protsesside automatiseerimisel põhiõiguste riive üldjuhul puudub, tuleb siia gruppi kuuluvaid kratte pidada vähese riskiga rakendusteks. 1.2.3. Haldusakti või toimingu ettevalmistus tehisintellekti poolt Arvestades tehisintellekti süsteemide tänast võimekust, nähakse nende suurimat potentsiaali haldusmeetmete ettevalmistamisel. Algoritme kasutatakse nii konkreetset isikut puudutavates menetlustes kui ka nn massandmetöötluses, kus alles erinevate andmete sõelumise tulemusel kooruvad välja võimalikud korrarikkujad. 1.2.3.1. (Riski)hindamise algoritmid konkreetsete isikute suhtes Juba praegu kasutatakse algoritme, mis võimaldavad hinnata teatud tegevuste või isikute omadusi, nt ohtlikkust. Algoritm leiab inimesele sobiva töö69 või prognoosib tõenäosust sooritada uus kuritegu.70 Algoritmilised hinnangud (näiteks riskihinnangud) ja otsused, kui nende käigus töödeldakse ka isikuandmeid, alluvad ka isikuandmete kaitse üldmäärusest (IKÜM)71 (aga ka vastavalt Isikuandmete automatiseeritud töötlemisel isiku kaitse konventsioonist (konventsioonist nr 108) koostoimes Isikuandmete automatiseeritud töötlemisel isiku kaitse konventsiooni muutmise protokolliga) tulenevatele reeglitele. Tegemist on profiilianalüüsiga. See hõlmab igasugust isikuandmete automatiseeritud töötlemist, mis hõlmab isikuandmete kasutamist füüsilise isikuga seotud teatavate isiklike aspektide hindamiseks, eelkõige selliste aspektide analüüsimiseks või prognoosimiseks, mis on seotud asjaomase füüsilise isiku töötulemuste, majandusliku olukorra, tervise, isiklike eelistuste, huvide, usaldusväärsuse, käitumise, asukoha või liikumisega.72 Profiilianalüüsil on kolm omadust: • tegemist peab olema automatiseeritud töötlemisega; 66 https://www.muinsuskaitseamet.ee/et/uudised/kratt-salli-muudab-muuseumiinventuurid-kiiremaks-ja-mugavamaks. 67 https://www.muinsuskaitseamet.ee/et/uudised/kratt-folli-tunneb-ara-mis-pildil. 68 https://www.just.ee/et/uudised/enamikust-kustunud-karistustega-kohtulahenditest-isikuandmed-eemaldatud. 69 „Tööotsijate ja vabade töökohtade automaatne sobitamine juba toimib – kümnete parameetrite võrdlemisel leiab süsteem töösoovijale sobivad vabad töökohad ja vastupidi. E-töötukassa töövahendus on vabalt kättesaadav kõigile uue töökoha või töötaja otsijatele.“ Töötukassa. Kõik muutub automaatseks: töötukassa IT-osakond ei istu päevad otsa mustades ülikondades, tõstes tuimalt pabereid ühest hunnikust teise. 18.06.2019. Arvutivõrgus: https://raha.geenius.ee/blogi/tootukassa- blogi/koik-muutub-automaatseks-tootukassa-it-osakond-ei-istu-paevad-otsa-mustades-ulikondades-tostes-tuimalt- pabereid-uhest-hunnikust-teise/. Teiste riikide praktikast leiab vastavaid näiteid ka tööle võtmistest ja kooli või ülikooli vastuvõtumenetlustest. 70 vt nt RKHKo 19.02.2019, nr 3-17-1545, p 29; RKHKo 03.05.2019, nr 3-18-89, p 14; RKHKo, 05.12.2019, nr 3-16-2123, p 12. 71 Euroopa Parlamendi ja Nõukogu määrus (EL) 2016/679, 27. aprill 2016, füüsiliste isikute kaitse kohta isikuandmete töötlemisel ja selliste andmete vaba liikumise ning direktiivi 95/46/EÜ kehtetuks tunnistamise kohta (isikuandmete kaitse üldmäärus, IKÜM). 72 IKÜM art 4 p 4. Profiilianalüüs, mille käigus hinnatakse füüsilise isikuga seotud isiklikke aspekte, mille eesmärk on eelkõige selliste aspektide analüüsimine ja prognoosimine, mis on seotud töötulemuste, majandusliku olukorra, tervise, isiklike eelistuste või huvide, usaldusväärsuse või käitumise, asukoha või liikumisega, kui see toob kaasa teda puudutavaid õiguslikke tagajärgi või avaldab talle samamoodi märkimisväärset mõju. 11  • seda tuleb teha isikuandmetega ning • profiilianalüüsi eesmärk peab olema füüsilise isikuga seotud isiklike aspektide hindamine.73 Profiilianalüüsi suhtes kohaldatakse IKÜM-st tulenevaid isikuandmete töötlemise õiguslikke aluseid ja põhimõtteid.74 Õiglase ja läbipaistva töötlemise põhimõte75 eeldab, et andmesubjekti teavitatakse isikuandmete töötlemise toimingu tegemisest ja selle eesmärkidest. Vastutav töötleja peaks esitama andmesubjektile igasuguse täiendava teabe, mis on vajalik õiglase ja läbipaistva töötlemise tagamiseks, võttes arvesse isikuandmete töötlemise konkreetseid asjaolusid ja konteksti. Lisaks tuleks andmesubjekti teavitada profiilianalüüsi olemasolust ja sellise analüüsi tagajärgedest.76 Igal andmesubjektil peaks seega olema õigus teada eelkõige isikuandmete töötlemise eesmärke, võimaluse korral isikuandmete töötlemise ajavahemikku, isikuandmete vastuvõtjaid, isikuandmete automaatse töötlemise loogikat ja sellise töötlemise võimalikke tagajärgi (vähemalt juhul, kui töötlemine põhineb profiilianalüüsil) ning saada eelneva kohta teade.77 Need protsessid võivad olla läbipaistmatud. Üksikisikud ei pruugi teada, et nende profiilianalüüsi tehakse, ega mõista, mida see endaga kaasa toob.78 Andmesubjekt pole sageli profiilianalüüsi protsessist teadlik. Selle käigus luuakse üksikisikute kohta tuletatud andmeid – „uusi“ isikuandmeid, mida andmesubjektid pole ise otse esitanud. Üksikisikute mõistmisvõime on erinev ning neil võib olla keeruline mõista profiilianalüüsi ja automatiseeritud otsuste tegemise protsessidega seotud keerukaid meetodeid. IKÜM artikli 12 lõike 1 kohaselt peab vastutav töötleja esitama andmesubjektidele kokkuvõtlikult, selgelt, arusaadavalt ning lihtsasti kättesaadavas vormis teabe nende isikuandmete töötlemise kohta. Otse andmesubjektilt kogutud andmete korral tuleks see teave esitada isikuandmete kogumise ajal (artikkel 13); kaudselt kogutud andmete korral tuleks see teave esitada artikli 14 lõikes 3 sätestatud aja jooksul.79 Mida olulisema tähendusega haldusmeetme adressaadi jaoks on algoritmi poolt antav hinnang, seda olulisem on tagada, et algoritm vastaks usaldusväärse tehisintellekti kriteeriumitele. PROBLEEM Algoritmi läbipaistmatus (musta kasti efekt) ja inimkontrolli puudumine selle toimimise üle loob ohu, et isiku suhtes antav statistilisel tõenäosusel põhinev hinnang võib olla ebaõige ja toob kaasa ülal punktis 1.1 nimetatud probleemid põhiõiguste kaitse osas. Teadmatus sellest, et inimese suhtes üleüldse algoritmilist süsteemi rakendati, ei anna talle võimalust oma õigusi vajadusel kaitsta. 1.2.3. 2. Algoritmid ohuennetuslikus ja proaktiivses massandmetöötluses Tehisintellekt võimaldab nn determineeritud algoritmidest veelgi paremini töödelda suuri andmehulkasid; see oskab sõeluda vajalikku informatsiooni suurtest, struktureerimata nn andmejärvedest ja leida teatud mustreid. Ka dokumendis „Kriminaalpoliitika põhialused aastani 2030“ 73 Artikkel 29 töörühm. Suunised automatiseeritud töötlusel põhinevate üksikotsuste tegemise ja profiilianalüüsi kohta määruse 2016/679 kohaldamisel. Lk 7. 74 IKÜM pp 73. 75 Vt IKÜM art 5 lg 1 punkt a. 76 IKÜM pp 60. 77 IKÜM pp 63. 78 Artikkel 29 töörühm. Suunised automatiseeritud töötlusel põhinevate üksikotsuste tegemise ja profiilianalüüsi kohta määruse 2016/679 kohaldamisel. Lk 5. 79 Samas, lk 10. 12 nähakse krattides suurt potentsiaali: "Tehnoloogia ja andmete abil on võimalik prognoosida kuritegevust ning pakkuda ka üha enam teenuseid. Tehisintellekt on Eestis veel kuriteoennetuses ja kuritegude lahendamises läbi mõtlemata ressurss, samas kui mujal seda juba kasutatakse ja testitakse“.80 Andmekaevet kasutatakse teistes riikides tavaliselt finants- ja maksujärelevalveasutuste poolt, et avastada suurandmete andmestruktuuride pinnalt kuritarvitusi.81 Ka Eestis võib märgata sarnaseid arenguid, sest mitmed asutused on koondanud oma tegevusega seonduvaid andmeid ulatuslikku andmekaevet võimaldavatesse andmeladudesse, mis võimaldavad nii poliitikakujundamise otsuseid kui ka andmete analüüsi konkreetsete meetmete kohaldamiseks riikliku järelevalve teostamisel. Maksu- ja Tolliamet (MTA) loodab luua tehisintellekti abil massandmetest efektiivse otsustusmudeli, et tuvastada tõhusalt ümbrikupalga maksmise tõenäosust.82 Ka ilma tehisintellekti abita kasutatakse nii MTA enda kui ka riigil tervikuna olemas olevaid andmeid, et tuvastada maksude vältimist üürisuhetes.83 Riigi erinevate andmekogude andmete omavaheline kombineerimine võimaldab kindlasti tuvastada võimalikke rikkujaid, ent selliste massandmetöötlustega tekib probleem inimeste eraelu puutumatuse ja informatsioonilise enesemääramise põhiõiguste kontekstis. Andmekaitse Inspektsioon on alates 2015. aastast oma aastaülevaadetes toonud välja täidesaatva võimu tendentsi sõeluda läbi erinevaid riigi andmekogusid eesmärgiga tuvastada võimalikke rikkujaid. AKI hinnangul on sellised ohuennetuseks toimuvad masspäringud lubatavad vaid seadusandja poolt kehtestatud raamides.84 AKI selgitas 2016. aasta ülevaates: „Üldiselt suhtutakse elanikkonna lausjälgimisse eitavalt. Euroopa Liidu Kohus on seda korduvalt väljendanud, sh sidevõrkude jälgimise osas. Üldine arusaam on, et kui kõik või suur osa inimestest on võimuasutuste pideva andmetraalimise objektiks ilma selleks põhjust andmata, tekib ühiskonnas hirmupaine. Inimene, kes teab, et salasilm võib teda iga hetk luurata, ei käitu enam loomulikult ja muutub manipuleeritavaks. Lausjälgimisest tekkinud andmemassiiv on omakorda väärkasutusriski allikaks.“85 2017. aastal märkis AKI, et „Erinevate andmekogude andmete ühendamise ja massanalüüsi soovi on meile tutvustanud vähemalt Maksu- ja Tolliamet, Politsei- ja Piirivalveamet ning Maanteeamet. Kõik need asutused on oma sellekohase tegevusega riiklikku järelevalvet teostavad korrakaitseorganid, kes soovivad erinevate andmekogude isikustatud andmete kombineerimise ja massanalüüsi kaudu koostada ohuprognoose, riskianalüüse ning tuvastada õigusrikkujad (näiteks vara võõrandamisest saadud tulu deklareerimata jätmine, ebakvaliteetne tehnoülevaatus või liiklusõpetus, kõikvõimalike kuritegude ja kurjategijate avastamine ning tabamine). Tõsi, ka EL ise nõuab terrorismi tõkestamise eesmärgil täiendavaid massandmetöötlusi (nt broneeringuinfo direktiiv), kuid reeglina on sellised töötlused piiratud konkreetsete tingimustega (töötlemine on lubatud üksnes raskete kuritegude avastamiseks ja menetlemiseks, andmete esmane massanalüüs toimub väga lühikese aja, nt 24 tunni jooksul, edasisele säilitamisele kuuluvad üksnes positiivsed leiud jms). Ka Euroopa Kohus on elektroonilise side andmete 80 Riigikogu otsuse "Kriminaalpoliitika põhialused aastani 2030“ heakskiitmine" eelnõu (52 OE). Seletuskiri, lk 14. 81 Guggenberger: Einsatz künstlicher Intelligenz in der Verwaltung, NVwZ 2019, 848. 82 Projekti eesmärk on saada selgus, kas on võimalik luua tehisintellekti abil andmemudelit, mis võimaldaks tänasega võrreldes efektiivsemat maksude kogumist. Ümbrikupalga maksmise tõenäosuse täpsem hindamine läbi käibe ja selle põhjal täpsem objektivaliku tegemine. Tulemiks on arusaamine tehisintellekti ja masinõppe abil massandmetest riskimudeli loomise võimalikkusest ehk kas selliselt on võimalik tuvastada efektiivselt ümbrikupalga maksmise tõenäosust. https://www.emta.ee/et/kontaktid-ja-ametist/ameti-struktuur-ulesanded-strateegia/maksu-ja-tolliameti-projekte-toetab- 1#33; https://raha.geenius.ee/rubriik/uudis/maksuamet-hakkab-tehisintellekti-abiga-umbrikupalga-maksjaid-leidma/. 83 Maksuamet nügib üürileandjaid: aastas jääb laekumata kümneid miljoneid. Kuigi üürituru deklareerimine on maksu- ja tolliameti andmetel mõne aastaga kasvanud poole võrra, on maksuauk paisunud 22,2 miljoni euroni: https://majandus24.postimees.ee/6887251/maksuamet-nugib-uurileandjaid-aastas-jaab-laekumata-kumneid- miljoneid?_ga=2.198474540.2039862133.1580404709-1120930609.1394797767. 84 https://www.aki.ee/et/teavitus-uudised/aastaraamatud. 85 https://www.aki.ee/et/teavitus-uudised/aastaraamatud. 13 teemal tehtud kahes lahendis /---/ tänaseks selgelt nõudnud, et igasugune taoline massandmetöötlus peab piirduma rangelt vajalikuga ning olema väga piiratud.“86 Kirjeldatud massandmetöötluste puhul tekib probleem ka isikuandmete töötlemise läbipaistvuse87 osas, millest lähtuvalt peaks andmesubjekt olema teadlik, kelle poolt ja millisel eesmärgil88 tema isikuandmeid töödeldakse.89 Just sarnaste probleemide tõttu peatas 5. veebruaril 2020 Hollandi kohus sealse riikliku maksupettuste ja tööseaduste rikkumise automatiseeritud riskihindamise.90 Lisaks eeltoodule kasutatakse ohuennetuses kaamerate ja droonide jälgimissalvestusi, kombineerides seda kuritegevuse statistikaga, et tuvastada teatud rikkumiste esinemise mustreid ja mudeldada kuritegude toimepanemise tõenäosust.91 Õigusrikkumiste ennetamiseks kasutatakse selles mudeldamises ka intelligentseid (näotuvastusvõimekusega) kaameraid, mis võimaldavad tõenäoliselt ohtliku isiku ilmumisel alarmeerida politseijõudusid.92 Sarnased eesmärgid on seatud ka Eesti siseturvalisuse arengukava 2020-2030 eelnõus.93 Proaktiivsete toetuste ja teenuste arendamisel seevastu on andmete töötlemisel tuginetud inimeste „eeldatavale tahtele“.94 Seetõttu on juba arutletud selle üle, kuidas panna ka tehisintellekt inimeste eeldatavat tahet ja kavatsusi välja selgitama, et riik saaks pakkuda inimestele proaktiivselt teenuseid.95 Nii nagu massandmetöötlusel korrakaitsemenetluses, tekivad massandmetöötlusel proaktiivsete toetuste menetlemisel küsimused nii privaatsuse kui ka inimväärikuse tagamisest. Igaühel on õigus sellele, et riik ei töötleks tema andmeid, kui see pole vältimatult vajalik. Igaühel on õigus ka sellele, et riik ei taandaks teda riigivõimu tahtetuks objektiks, kelle mõtteid ja kavatsusi riik inimesest endast pareminigi teab. Inimväärikuse olemust on oluliseks pidanud ka väliskaubandus- ja infotehnoloogiaminister R. Siem, kes rõhutas, et e-riigi edasisel arendamisel tuleb arvestada „[s]eda, et meie teenused ei võõrandaks meid meie endi olemusest. Kõik meie arendused ja rakendused peavad olema kantud sellest, et inimene peab jääma inimeseks.”96 Seega proaktiivsete teenuste 86 https://www.aki.ee/et/teavitus-uudised/aastaraamatud. 87 IKÜM art 5 p a: Isikuandmete töötlemisel tagatakse, et töötlemine on seaduslik, õiglane ja andmesubjektile läbipaistev („seaduslikkus, õiglus ja läbipaistvus“). 88 IKÜM art 5 lg 1 p b: Isikuandmete töötlemisel tagatakse, et isikuandmeid kogutakse täpselt ja selgelt kindlaksmääratud ning õiguspärastel eesmärkidel ning neid ei töödelda hiljem viisil, mis on nende eesmärkidega vastuolus /---/ („eesmärgi piirang“). 89 Aktiivse teavitamise kohustust ei ole IKÜM art 14 lg 5 punkti c kohaselt juhul, kui isikuandmete saamine või avaldamine on selgesõnaliselt sätestatud vastutava töötleja suhtes kohaldatavas liidu või liikmesriigi õiguses, milles nähakse ette asjakohased meetmed andmesubjekti õigustatud huvide kaitsmiseks. 90 The Dutch government’s risk indication system (SyRI) is a risk calculation model developed over the past decade by the social affairs and employment ministry to predict the likelihood of an individual committing benefit or tax fraud or violating labour laws. Deployed primarily in low-income neighbourhoods, it gathers government data previously held in separate silos, such as employment, personal debt and benefit records, and education and housing histories, then analyses it using a secret algorithm to identify which individuals might be at higher risk of committing benefit fraud. The court ruled that the SyRI legislation contained insufficient safeguards against privacy intrusions and criticised a “serious lack of transparency” about how it worked. It concluded in its ruling that, in the absence of more information, the system may, in targeting poor neighbourhoods, amount to discrimination on the basis of socioeconomic or migrant status. The system did not pass the test required by the European convention on human rights of a “fair balance” between its objectives, namely to prevent and combat fraud in the interest of economic wellbeing, and the violation of privacy that its use entailed, the court added, declaring the legislation was therefore unlawful. https://www.theguardian.com/technology/2020/feb/05/welfare- surveillance-system-violates-human-rights-dutch-court-rules; https://www.dutchnews.nl/news/2020/02/governments- fraud-algorithm-syri-breaks-human-rights-privacy-law/. 91 Guggenberger: Einsatz künstlicher Intelligenz in der Verwaltung, NVwZ 2019, 848. 92 Samas. 93 https://www.err.ee/1028998/siseministeerium-tahab-valvekaamerate-vorgustikku-uuendada. 94 Vabariigi Valitsuse 25.05.2017 määrusega nr 88 kehtestatud „Teenuste korraldamise ja teabehalduse alused“ § 2 lg 3: „Proaktiivne teenus on otsene avalik teenus, mida asutus osutab oma initsiatiivil, isikute eeldataval tahtel ja riigi infosüsteemi kuuluvate andmekogude andmete alusel. Proaktiivne teenus osutatakse automaatselt või isiku nõusolekul.“ 95 Vt K. Taveteri ettekannet 19.05.2020 seminaril „Sündmusteenused on tulevik“. 96 T. Sildami intervjuu IT-ministri R. Siemiga 01.06.2020. 14 arendamisel tuleb kaaluda, kuidas arvestada inimese enda tahet ning analüüsida nõusoleku kasutamist isikuandmete töötlemise õigusliku alusena. PROBLEEM Korrakaitseseaduses puudub ohuennetuse ja võimalike rikkujate tuvastamise eesmärgil andmekogude andmete kasutamist reguleeriv säte, mis annaks aluse ja raamid ohuennetuse eesmärgil toimuvale massandmetöötlusele. Andmetöötlus on inimeste jaoks läbipaistmatu, kui nad ei tea ega saa teada, et nende andmeid on ohuennetuslikul eesmärgil töödeldud (sh neile ohuhinnanguid antud). Andmeladudesse andmekogude kopeerimine ja selles isikuandmete töötlemine võib olla vastuolus seadusega, kuivõrd andmeladusid ei ole avaliku teabe seaduses reguleeritud. Erinevate andmekogude koondamine andmelattu on vastuolus ka riigi infosüsteemi hajusa (kuid koostöövõimelise) infrastruktuuri põhimõttega ning loob täiendavaid riske privaatsusele.97 Proaktiivsete teenuste arendamisel tehisintellekti poolt kõigi inimeste profileerimisel (inimeste kavatsuste tuvastamisel) tekib tõsine põhiseaduslik probleem inimväärikuse ja eraelu puutumatuse riive kontekstis. 1.2.3.3. Haldusmenetluses tõendamise automatiseerimine Eestis on PRIA juba võtnud kasutusele krati Satikas, mis kontrollib satelliitfotosid, et tuvastada niitmise fakt ja niitmise ulatus pindalapõhistes toetustes märgitud rohumaadel. Satika eesmärk on automatiseerida Euroopa Liidu põllumajandustoetuste kontroll, vähendades inspektorite välitöid. Niitmist ja selle ulatust tuvastab kratt järskude biomassi muutuste järgi satelliidi parameetrite aegreas.98 Sellist automatiseerimist võib ehk õigustada selliste EL toetuste puhul, mida ametnikud peaks niikuinii reaalselt välitööde käigus lauskontrollima. Ülimalt kvaliteetsed aerofotod loovad (koostoimes andmekogude ristkontrolliga) aga võimaluse automatiseerida mitmeid erinevaid järelevalveid. Nii oleks võimalik automatiseeritult kontrollida, ega keegi pole õigusvastaselt istutanud mõnda põõsast või puud, kaevanud mõnda auku oma kinnistule või kuhjanud pinnast, paigaldanud terrassi vmt.99 97 Majandus- ja kommunikatsiooniministeerium. Eesti infoühiskonna arengukava 2020, lk 7. 98 Protsess algab esialgsetest satelliidipiltidest, millest saab rida töödeldud andmekihte, mis on olemuselt samuti pildid. Seejärel arvutatakse iga kuupäeva pildi ja iga põllu kohta selle põllu keskväärtus. Nii moodustuvadki satelliidi parameetrite aegread, mille peal töötab süvaõppe algoritm, mis tuvastab niitmisi. SATIKASt saadud rohumaade niitmise info liigub edasi PRIA infosüsteemidesse. Kevadel ja varasuvel on optiliste mõõtmiste aegrida tihe: 2018. aastal saadi uus pilt isegi sagedasemalt kui korra nädalas. https://kosmos.ut.ee/et/uudised/infosusteem-satikas-aitab-satelliidiandmete-abil- rohumaade-niitmist-tuvastada. 99 Näiteks ühisveevärgi ja -kanalisatsiooniseaduse § 31 lg 2 sätestab: „Ühisveevärgi ja -kanalisatsiooni kaitsevööndis peab hoiduma tegevusest, mis võib ühisveevärgi ja -kanalisatsiooni ehitisi kahjustada, sealhulgas ei tohi: 1) tõkestada juurdepääsu ühisveevärgi ja -kanalisatsiooni ehitistele ega istutada puid; 2) ühisveevärgi ja -kanalisatsiooni omaniku loata ehitada, ladustada materjale ning teha lõhkamis-, puurimis-, kaevandamis-, vaia-, kaeve-, täite-, üleujutus- või kuivendustöid ja ehitiste juures ka tõstetöid; 3) veekogus asuva ühisveevärgi ja -kanalisatsiooni ehitiste juures teha süvendustöid, pinnase teisaldamistöid, uputada tahkeid aineid, ankurdada veesõidukit või vedada ankruid, kette, logisid, traale või võrke.“ Vedelkütuse-, soojustorustiku ja kaugküttevõrgu, gaasipaigaldise, elektripaigaldiste ja sideehitiste kaitsevööndis on keelatud ohustada ehitist, eemaldada ja kuhjata pinnast (ehitusseadustiku §70 lg 2). Muinsuskaitseseaduse § 52 lg 3 kohaselt on ainult spetsiaalse loa olemasolul lubatav 1) rajada kõrghaljastust, teha raie-, kaeve- ja muid pinnase teisaldamise või juurdeveoga seotud tööid arheoloogiamälestisel, ajaloolises looduslikus pühapaigas, ehitismälestisest pargis, ajaloomälestisest 15 Kahtlemata tõstaks see riikliku järelevalve efektiivsust märkimisväärselt, ent samal ajal tõstatab see põhimõttelise küsimuse sellise ulatusliku jälgimise ühilduvusest inimväärikuse põhimõttega.100 Teise maailmasõja järgne euroopalik väärtusruum lähtub inimväärikuse ja vabadusel põhineva ühiskonna ülimuslikkusest. Totaalne jälgmisühiskond kujutab endast olulist ohtu demokraatiale. Samuti võib see pärssida mistahes loovust ja innovaatilist mõtlemist ühiskonnas tervikuna.101 Ülle Madise kirjeldas 2012. aastal ohtu inimväärikusele tabavalt: „Üks kogenud vanaldane ametnik õpetas mu ametnikutee alguses umbes viisteist aastat tagasi, et riigi kätte liialt paljude andmete kogunemist pole tarvis peljata, sest „korralikul inimesel pole ju midagi karta“. Tegelikult peaksime me, enne kui jõuame superandmebaasideni, kus oleks võimalik luua inimese tervikprofiil ühe klõpsuga, üheksa korda mõtlema. Igaühe vabadus, igaühe privaatsfäär ja riigivõimule seatud piirangud inimesi puudutava informatsiooni kasutamisel on vaba ühiskonna säilitamiseks ääretult olulised. Vaba ühiskonna üks oluline mõte on selles, et inimesed tunnevad end vabalt, julgevad arvamust avaldada, halvale vastu hakata ja uusi lähenemisi pakkuda.“102 PROBLEEM Kuigi haldusmenetluses uurimispõhimõtte ulatuslik automatiseerimine aitab muuta riiki tõhusamaks, võib ilma piirideta automatiseerimine kaasa tuua ohu inimväärikuse põhimõttele ning privaatsusele kui sellisele. 1.2.4. Automaatsed haldusaktid 1.2.4. Automaatsed haldusaktid ja dokumendid103 Tehniline areng on veel kaugel sellest, et adressaadi suhtes õiguslikke tagajärgi loovate haldusaktide104 andmise võiks delegeerida iseõppivale tehisintellektile, mis suudaks inimmõistuse sarnaselt (st mitte üksnes statistilist meetodit kasutades) kaalutlusotsuse langetada ja selle põhjendused kirja panna.105 Automaatsed haldusaktid on kehtivas õiguses siiski juba olemas. Automaatse haldusakti andmise kohta ei ole küll haldusmenetluse seaduses veel eriregulatsiooni, küll aga on automaatse haldusakti ja lahingupaigas, kirikuaias, kalmistul ja muinsuskaitsealal; 2) teha haljastustöid ehitismälestisest pargis, kirikuaias, kalmistul ja ajaloolises looduslikus pühapaigas; 3) valmistada ette maapinda metsaseaduse tähenduses arheoloogiamälestisel ja ajaloolises looduslikus pühapaigas. Maapõueseaduse kohaselt on maavara ning maavarana arvele võtmata kivimit, setendit, vedelikku ja gaasi füüsilisest isikust kinnisasja omanikul üldjuhul õigus talle kuuluva kinnisasja piires võtta kaevandamisloata isiklikus majapidamises kasutamise eesmärgil, kuid tal on kohustus sellest teavitada. Teatud tegevusteks on aga nõutav Keskkonnaameti luba (vt eeskätt §-d 95, 96, 97). Lisaks kohalike omavalitsuste kaevetööde eeskirjadest ja ehitusseadustikust tulenevad piirangud. 100 Inimväärikuse kohta vt põhiseaduse kommentaarid, § 10. https://pohiseadus.ee/index.php?sid=1&ptid=15&p=10. 101 Vrd nt J. Benthami panoptikumi: https://en.wikipedia.org/wiki/Panopticon, samuti paljutsiteeritud G. Orwelli „1984“. 102 Ülle Madise: põhiseaduslik demokraatia kaasaja Eestis. Arvamus. 20.05.2012. Arvutivõrgus: https://www.err.ee/371780/ulle-madise-pohiseaduslik-demokraatia-kaasaja-eestis. 103 Automaatsete haldusaktide andmisega seonduvaid probleeme on põhjalikumalt käsitletud I. Pilvingu ja M. Mikiveri artiklis: „Kratt haldusorganiks: algoritmilised otsused ja haldusõiguse põhimõtted“, mis ilmus 22.04.2020 avaldatud „Eesti kohtute aastaraamat 2019“. https://www.riigikohus.ee/et/uudiste-arhiiv/eesti-kohtute-aastaraamat-2019-uurib-oigusemoistmise- suhet-infotehnoloogiaga. 104 HMS § 51 lg 1 kohaselt on haldusakt haldusorgani poolt haldusülesannete täitmisel avalikõiguslikus suhtes üksikjuhtumi reguleerimiseks antud, isiku õiguste või kohustuste tekitamisele, muutmisele või lõpetamisele suunatud korraldus, otsus, ettekirjutus, käskkiri või muu õigusakt. 105 Musta kasti probleem, vt põhjalikumalt Pilving, Mikiver (Kratt haldusorganiks: algoritmilised otsused ja haldusõiguse põhimõtted: https://aastaraamat.riigikohus.ee/kratt-haldusorganiks-algoritmilised-otsused-ja-haldusoiguse-pohimotted/). Küll aga rakendas Singapur Covid-19 haigusega seonduva sotsiaalse distanseerumise nõuete täitmise tagamiseks juba robotkoera, kes nõudis inimestelt reeglite täitmist: „Singapuri parki on lahti lastud robotkoer, kes loeb inimesed üle ning mängib ette hoiatusteate, kui jalutajad üksteisele liiga ligidale lähevad“. Vt lähemalt: https://tehnika.postimees.ee/6970496/singapuris-hoiab-koroonakorda-robotkoer. 16 dokumendi andmine sätestatud alates 01.01.2019 maksukorralduse seaduses,106 milles peetakse selle all silmas andmesüsteemi vahendusel ilma ametniku vahetu sekkumiseta koostatud haldusakti või dokumenti.107 Eelnõu koostamisel ei seatud eesmärgiks maksuhaldurile piiramatut õigust anda haldusakte või dokumente automatiseeritult. Seletuskirjas selgitatakse, et automatiseeritud menetlus ei ole kasutatav kaalutlusõiguse korral, mil tuleb haldusorganil endiselt tagada kaalutlusõiguse kohaldamine ning eelnevalt ka menetlusosalise ärakuulamine.108 Automaatsed haldusaktid ja dokumendid tulevad kõne alla seega vaid juhtudel, mil maksuhalduril on olemas piisavalt andmeid otsuse või toimingu tegemiseks, kaalutlusruum on praktiliselt olematu ning maksukohustuslase jaoks on saabuv tagajärg ettenähtav.109 01.01.2019 jõustus sarnane muudatus ka keskkonnatasude seaduses.110 Seletuskirjas rõhutatakse samuti, et automatiseeritud haldusakte ja otsuseid on võimalik koostada vaid juhtudel, mil maksuhalduril on olemas piisavalt andmeid otsuse või toimingu tegemiseks ning kaalutlusruum sisuliselt puudub.111 Täpsem loetelu, millistel puhkudel on automaatsed haldusaktid ja dokumendid lubatavad, on kehtestatud vastavalt rahandusministri 14.03.2019 määrusega nr 15 ja keskkonnaministri 20.06.2011 määrusega nr 34. Automaatseid haldusakte võib anda töötuskindlustuse seaduse § 23 lg 4 alusel ka Töötukassa, kellel „on oma eesmärgi saavutamiseks ja seaduses sätestatud ülesannete täitmiseks õigus anda haldusakte automatiseeritult isiku vahetu sekkumiseta, kui see on võimalik arvestades haldusakti andmise asjaolusid ja sisu.“112 Töötukassa veebilehel selgitatakse, et kui inimene esitab töötuna arvelevõtmise avalduse e-töötukassa kaudu, kontrollib menetluse infosüsteem isiku töötuna arvelevõtmise tingimustele vastavust riiklikes andmekogudes olevate andmete alusel ja kui täiendavat infot ei ole vaja juurde küsida, teeb automaatselt vastava otsuse. Otsusele lisatakse ka märge, et tegemist on isiku taotluse ja andmekogude andmete automatiseeritud töötlusel põhineva otsusega. Isikut teavitatakse samuti sellest, et tal on õigus saada selgitusi ning esitada vaie.113 Automaatne otsus toimub ka metsateatise menetluses. Metsaseaduse § 41 lg 81 sätestab, et kui kavandatud raie vastab õigusaktide 106 Maksukorralduse seaduse (MKS) § 462 lg 1 sätestab, et riiklike maksude maksuhaldur võib anda haldusakti ja dokumendi automatiseeritult, ilma maksuhalduri ametniku vahetu sekkumiseta. Riiklike maksude maksuhaldur võib automaatse haldusakti ja dokumendina anda korralduse deklaratsiooni esitamiseks ja selles esinevate puuduste kõrvaldamiseks; käibemaksukohustuslaste registris registreerimise ja kustutamise otsuse; käibemaksugrupina registreerimise ja registrist kustutamise otsuse; maksuvõla tasumise ajatamise otsuse ja automaatse haldusaktina antud maksuvõla tasumise ajatamise otsuse kehtetuks tunnistamise otsuse; intressinõude; enammakse tagastamise otsuse; sundtäitmise hoiatuse; krediidiasutustele edastatavad arestimisdokumendid; maksuteate; tõendi (rahandusministri 14.03.2019 määrus nr 15 „Maksu- ja Tolliameti e-teenuse keskkonnas elektroonilise asjaajamise tingimused ja kord, automaatselt antavate haldusaktide ja dokumentide loetelu ning riigi-, valla- ja linnaasutuste poolt elektrooniliselt esitatavate deklaratsioonide ja muude dokumentide nimekiri“ § 8). 107 Seletuskirjas selgitatakse, et arvutivõrgus luuakse haldusakt või dokument varasemalt MTA poolt IT-süsteemis kindlaks määratud tingimustel ja piirides, mitte taotleja suva järgi. Automatiseeritud töötlemisel hakatakse tegema otsuseid ning väljastama haldusakte etteantud kriteeriumide järgi, millele vastamisel tekib isikul võimalus saada taotluse esitamisel koheselt automaatselt genereeritud otsus. Juhul, kui isik ei vasta ette nähtud kriteeriumitele, hakkab taotlust menetlema maksuhalduri ametnik ning vastav otsus tehakse tavapärase haldusmenetluse käigus, millele raames analüüsitakse esitatud andmeid ja tõendeid. Sellisel juhul lõpeb menetlus ametniku poolt motiveeritud haldusakti väljastamisega. Maksukorralduse seaduse muutmise ja sellega seonduvalt teiste seaduste muutmise seaduse (675 SE, XIII Riigikogu) eelnõu seletuskiri. 108 Samas. 109 Samas, lk 36. 110 Keskkonnatasude seaduse § 336 lg 1 kohaselt võib Keskkonnaamet anda haldusakti ja dokumendi automatiseeritult, ilma maksuhalduri ametniku vahetu sekkumiseta, arvestades maksukorralduse seaduse § 462 lõikes 2 sätestatut. Keskkonnaamet võib automaatse haldusakti ja dokumendina anda korralduse keskkonnatasu deklaratsiooni esitamiseks; korralduse keskkonnatasu deklaratsioonis esinevate puuduste kõrvaldamiseks; ettekirjutuse maavara kaevandamise mahu aruande esitamiseks; väljavõtte, õiendi või tõendi Keskkonnaametile esitatud keskkonnatasu deklaratsiooni kohta (keskkonnaministri 20.06.2011 määrus nr 34 „Nõuded Keskkonnaametile elektroonilisel teel esitatavate dokumentide vormingu ja allkirjastamise kohta, elektroonilise teabevahetuse kohta ning automaatsete haldusaktide ja dokumentide loetelu“ § 7 1). 111 Seletuskiri. 112 Töötuskindlustuse seaduse § 23 lg 4. 113 Selgitus Töötukassa veebilehelt Millal teeb töötukassa Teie suhtes automaatse otsuse. 17 nõuetele, registreerib Keskkonnaamet selle metsaregistris. Kui kavandatav raie on õiguspärane ja riigil on vajalik teave olemas, lahendab metsateatise taotluse metsaregister 15 tööpäeva jooksul, tuginedes registriandmetele. Sellisel juhul on haldusmenetlus automaatne.114 Seega haldusaktide automatiseerimist saabki kaaluda seal, kus halduse kaalutlusruum on pea olematu ning otsuse saab langetada üksnes olemasolevate andmete kontrollimisel (näiteks üksi elavale pensionärile toetuse „automaatsel“ maksmisel,115 Sotsiaalkindlustusameti proaktiivsete toetuste „automaatsel“ maksmisel116). Automatiseeritud haldusakti andmisel seisneb probleem sarnaselt ülaltooduga selles, et algoritmi poolt tehtud otsus võib rikkuda erapooletuse põhimõtet, sisaldada kaalutlusvigu. Kui HMS-s sätestada tingimusteta üldvolitus automaatse haldusakti andmiseks117, siis võib see kaasa tuua PS § 3 lg 1 (seaduslikkuse põhimõte) ja § 14 (õigus menetlusele ja korraldusele) rikkumise. Igas valdkonnas (tegevusload, sotsiaaltoetused, maksundus, korrakaitse, sisseränne jne) tekivad intelligentsete süsteemide ulatuslikul rakendamisel spetsiifilised probleemid, mis vajavad eraldi otsustamist ja tasakaalustamist asjakohaste sisuliste ja menetluslike garantiidega.118 Ka isikuandmete kaitse üldmäärus lubab liikmesriigil sätestada automatiseeritud töötlusel põhinevaid üksikotsustusi liikmesriigi õigusega vaid siis, kui selles on sätestatud ka asjakohased meetmed andmesubjekti õiguste ja vabaduste ning õigustatud huvide kaitsmiseks.119 PS § 3 lg 1 ls-st 1 tulenevalt võib riigivõimu teostamisel algoritmist juhinduda vaid siis, kui see vastab igal rakendushetkel täpselt seadusele. Keerulise kaalutlus- või hindamisotsuse täielik delegeerimine algoritmile tähendaks jämedat kaalutlusviga HKMS § 158 lg 3 ls 1 mõttes (pädeva asutuse poolt kaalutlusõiguse teostamata jätmist). Algoritmi saaks rakendada aga abistava vahendina.120 PROBLEEM Automaatsete haldusaktide ja dokumentide andmist raskendab puuduv regulatsioon haldusmenetluse seaduses. Kui lubada aga üldvolitusena rakendada haldusaktide andmisel tehisintellekti, ei vastaks see põhiseaduse nõuetele. 2. Sihtrühm 1. Kõik isikud, kes võivad sattuda algoritmilise süsteemi adressaadiks. 2. Algoritmiliste süsteemide rakendajad. 3. Ettevõtjad teenusepakkujatena või arendajatena. 114 Õiguskantsleri 03.04.2018 kiri nr 6-1/180178/1801556 „Metsateatise menetlusse kaasamine“. 115 „Homme makstakse 79 370 inimesele välja üksi elava pensionäri toetus.“ Maaleht, 04.10.2018. Arvutivõrgus: https://maaleht.delfi.ee/tarbija/homme-makstakse-79-370-inimesele-valja-uksi-elava-pensionari-toetus?id=83900705. 116 https://www.sotsiaalkindlustusamet.ee/et/uudised/sotsiaalkindlustusamet-avas-esimese-proaktiivse-avaliku-teenuse. 117 Vrd ettepanek täiendada HMS-i § 51 lg-ga 1: „Haldusorgan võib anda haldusakti ja dokumendi automatiseeritult, ilma haldusorgani nimel tegutseva inimese vahetu sekkumiseta (edaspidi automaatne haldusakt ja dokument).“ T. Kerikmäe jt, Autonoomsete intelligentsete tehnoloogiate kasutamisega seotud küsimuste reguleerimiseks vajalike õigusloome probleemide tuvastamine ja lahendusettepanekute tegemine, III etapi aruanne (2019), lk 6-7. 118 Pilving, Mikiver (Kratt haldusorganiks: algoritmilised otsused ja haldusõiguse põhimõtted: https://aastaraamat.riigikohus.ee/kratt-haldusorganiks-algoritmilised-otsused-ja-haldusoiguse-pohimotted/.) 119 IKÜM art 22 lg 1 ja 2 punkt b. 120 Pilving, Mikiver, viide 117. 18  3. Eesmärk ja saavutatava olukorra kirjeldus Eestis rakendatakse algoritmilisi süsteeme põhiõigusi järgival viisil. Krati kasutuselevõtt toimub inimeste põhiõigusi tagades; loodud on regulatsioonid, mis aitavad kaasa nii EL valges raamatus kirjeldatud usaldusväärse tehisintellekti kriteeriumide, Euroopa Nõukogu soovituse121 kui ka riigi infopoliitika122 eesmärkide saavutamisele, sealhulgas:  „Samas on tagatud inimestele kontroll oma elu ja andmete privaatsuse üle ning inimestel on jätkuvalt kõrge usaldus e-riigi ja e-Eesti vastu.“ (lk 20).  „Eesti on hinnatud globaalne eestkõneleja infoühiskonna arengu teemadel, seistes hea selle eest, et samaaegselt oleks tagatud infoühiskonna kolm olulist sammast – info vaba liikumine, turvalisus ja privaatsus.“ (lk 20).  „Tagatud peab olema inimeste põhivabaduste ja -õiguste kaitse, isikuandmete ja identiteedi kaitse. Inimene on oma andmete omanik ning tal peab olema võimalus jälgida oma isikuandmete kasutamist.“ (lk 47). II. Hetkeolukord, uuringud ja analüüsid 4. Kehtiv regulatsioon, seotud strateegiad ja arengukavad 4.1. Regulatsioonid 1. Haldusmenetluse seadus (HMS). Haldusmenetluse seaduses puuduvad hetkel sätted automaatse haldusakti andmise, toimingu sooritamise või automatiseeritud menetlustoimingute kohta. 2. Korrakaitseseadus (KorS). Korrakaitseseaduses puuduvad hetkel sätted, mis lubaksid ohu ennetamiseks või ohu väljaselgitamiseks erinevaid andmekogusid sõeluda (massandmetöötlus). 3. Avaliku teabe seadus (AvTS). Avaliku teabe seadus ei reguleeri andmete ristkasutamist ega sätesta kohustust reguleerida andmekogu põhimääruses neid haldusorganeid, kes saavad andmekogule püsijuurdepääsu, ega andmete uuel eesmärgil töötlemise eesmärki. Samuti ei reguleeri avaliku teabe seadus andmeladude ja andmeaitade moodustamist ega kasutamist. 4.2. Strateegiad ja arengukavad 1. Riigikantselei ja Majandus- ja Kommunikatsiooniministeerium. Eesti tehisintellekti kasutuselevõtu eksperdirühma aruanne. Mai 2019. Arvutivõrgus: https://www.riigikantselei.ee/sites/default/files/riigikantselei/strateegiaburoo/eesti_tehisint ellekti_kasutuselevotu_eksperdiruhma_aruanne.pdf 2. Eesti riiklik tehisintellekti alane tegevuskava 2019-2021. Arvutivõrgus: https://www.mkm.ee/sites/default/files/eesti_kratikava_juuli2019.pdf. 3. Vabariigi Valitsus. Eesti infoühiskonna arengukava 2020. https://www.mkm.ee/sites/default/files/eesti_infouhiskonna_arengukava.pdf 5. Tehtud uuringud ja kasutatud muud allikad 121 Recommendation CM/Rec(2020)1 of the Committee of Ministers to member States on the human rights impacts of algorithmic systems (Adopted by the Committee of Ministers on 8 April 2020 at the 1373rd meeting of the Ministers’ Deputies), https://search.coe.int/cm/pages/result_details.aspx?objectid=09000016809e1154. 122 Koostamisel on ka uus „Digiriigi ja küberturvalisuse arengukava 2025“. 19 5.1. Uuringud 1. Tanel Kerikmäe, Tallinna Tehnikaülikool. Õigusanalüüsi kokkuvõte ja ettepanekud seadusemuudatusteks. Arvutivõrgus: https://www.kratid.ee/uritused. 5.2. Muud allikad Käesoleva VTK koostamisel on kasutatud ka järgmisi teadustöid ja -artikleid: 1. Lember, K. Tehisintellekti kasutamine haldusakti andmisel. Magistritöö. Tartu, 2019. Arvutivõrgus: https://dspace.ut.ee/bitstream/handle/10062/64057/lember_katliin.pdf?sequence=1&isAllo wed=y. 2. Pilving, Ivo; Mikiver, Monika. Kratt haldusorganiks: algoritmilised otsused ja haldusõiguse põhimõtted. Kohtute aastaraamat, 2019. Arvutivõrgus: https://aastaraamat.riigikohus.ee/kratt-haldusorganiks-algoritmilised-otsused-ja- haldusoiguse-pohimotted/. 3. Martini, Mario. Blackbox Algorithmus – Grundfragen einer Regulierung Künstlicher Intelligenz. – Berlin, Heidelberg: Springer Berlin Heidelberg, 1. Auflage, 2019. 4. Tupay, Paloma Krõõt. Õigusest eraelule kuni andmekaitse üldmääruseni ehk tundmatu õigus isikuandmete kaitsele. Juridica 2016/4, lk 227-240. 5. Tupay, Paloma Krõõt; Mikiver, Monika. E-riik ja põhiõigused. Juridica 2015/3, lk 163-176. 6. Ilus, Tiina. Andmesubjekti osaluse põhimõte Euroopa Nõukogu konventsioonide ning Euroopa Inimõiguste Kohtu lahendite valguses. Juridica 2005/8, lk 519-531. 7. Bull, Hans Peter. Über die rechtliche Einbindung der Technik // Der Staat (2019) Nr. 1, S. 57- 100. 8. Coglianese, Cary ; Lehr, David. Transparency and algorithmic governance // Administrative Law Review. Vol. 71 2019), issue 1, p. 1-56. 9. Beck, Wolfgang. Legal Tech und Künstliche Intelligenz // Die Öffentliche Verwaltung (2019) Nr. 16, S. 648-653 10. Galetta, Diana-Urania. Public administration in the era of database and information exchange networks: empowering administrative power or just better serving the citizens? // European Public Law. Vol. 25 (2019), issue 2, p. 171-181. 11. Golla, Sebastian J. In Würde vor Ampel und Algorithmus – Verfassungsrecht im technologischen Wandel // Die Öffentliche Verwaltung (2019) Nr. 17, S. 673-681. 12. Schröder, Meinhard. Neue Grundrechte für ein digitales Zeitalter? // Juristenzeitung (2019) Nr. 20, S. 953-959. 13. Schröder, Meinhard. Rahmenbedingungen der Digitalisierung der Verwaltung // Verwaltungsarchiv (2019) Nr. 3, S. 328-348. 14. Schliesky, Utz. Digitalisierung – Herausforderung für den demokratischen Verfassungsstaat // Neue Zeitschrift für Verwaltungsrecht (2019) Nr. 10, S. 693-701. 15. Zalnieriute, Monika; Bennett Moses, Lyria; Williams, George. The rule of law and automation of government decision‐making // The Modern Law Review. Vol. 82 (2019), issue 3, p. 425- 455. 16. Werner, Wibke. Schutz durch das Grundgesetz im Zeitalter der Digitalisierung // NJOZ 2019, S. 1041. 17. Bosman, Timo. Künstliche Intelligenz und die Zukunft des Datenschutzrechts // ZD-Aktuell 2019, 04365. 18. Schindler, Stephan. Künstliche Intelligenz und (Datenschutz-)Recht // ZD-Aktuell 2019, 06647. 19. Dettlig, H.-U., Krüger, S. Erste Schritte im Recht der Künstlichen Intelligenz // MMR 2019, 211. 20. Guggenberger, Leonid. Einsatz künstlicher Intelligenz in der Verwaltung // NVwZ 2019, 844. 20  21. Enders, Peter. Einsatz künstlicher Intelligenz bei juristischer Entscheidungsfindung // JA 2018, 721. 22. Berger, A. Der automatisierte Verwaltungsakt // NVwZ 2018, 1260. 23. Stoklas, Jonathan. Bessere Grenzkontrollen durch Künstliche Intelligenz // ZD-Aktuell 2018, 06363. 24. Herberger, Maximilian, „Künstliche Intelligenz“ und Recht // NJW 2018, 2825. 25. Herbert, Siân. Automation of government processes. University of Birmingham. 6 September 2019. Arvutivõrgus: https://gsdrc.org/wp- content/uploads/2019/10/661_Automation_of_Government_Processes.pdf. 26. Boyd, M., Wilson, N. Rapid Developments in Artificial Intelligence. How might the New Zealand government respond? Policy Quarterly – Volume 13, Issue 4 – November 2017. 27. Engin, Z.; Treleaven, P. Algorithmic Government: Automating Public Services and Supporting Civil Servants in using Data Science Technologies. The Computer Journal, Vol. 62 No. 3, 2019. 28. Barth, Thomas J.; Arnold, Eddy. Artificial Intelligence and Administrative Discretion: Implications for Public Administration. The American Review of Public Administration 1999; 29; 332. 29. Andrews, Leighton. Public administration, public leadership and the construction of public value in the age of the algorithm and ‘big data’. Public Administration. Volume 97, Issue 2. June 2019. 30. Pasquale, Frank. A Rule of Persons, Not Machines: The Limits of Legal Automation. (2018). Faculty Scholarship. 1612. https://digitalcommons.law.umaryland.edu/fac_pubs/1612. 6. Kaasatud osapooled Sisend krattide ja algoritmide rakendamisel tuvastatud probleemide kohta on koostatud erinevate allikate pinnalt. Võimalikke lahendusi on arutatud koos Majandus- ja Kommunikatsiooniministeeriumi ekspertidega. Erinevate osapoolte kaasamine toimub eelnõu väljatöötamise käigus. III. Probleemi võimalikud mitteregulatiivsed lahendused 7. Kaalutud võimalikud mitteregulatiivsed lahendused  Avalikkuse teavitamine EI  Rahastuse suurendamine EI  Mitte midagi tegemine ehk olemasoleva olukorra säilitamine EI  Senise regulatsiooni parem rakendamine EI 7.1. Kaalutud võimalike mitteregulatiivsete lahenduste võrdlev analüüs Eesmärki tagada Eesti kui põhiõiguste järgimisele tugineva e-riigi areng haldustegevuste automatiseerimise ja krattide kasutuselevõtu mõttes ei ole võimalik saavutada mitteregulatiivsete lahendustega. Põhiõiguste kolmikmõju põhimõttest123 lähtuvalt tuleb tagada põhiõiguste kaitse kõrge riskitasemega algoritmiliste süsteemide puhul ka eraõiguslikes suhetes. 7.2. Järeldus mitteregulatiivse lahenduse sobimatusest 123 Põhiõigute kolmikmõju kohta vt põhiseaduse kommentaar, § 19 p 17: https://pohiseadus.ee/index.php?sid=1&ptid=24&p=19. 21 Nagu eelnevalt probleemide kirjeldamise peatükist nähtus, toob mitteregulatiivne lahendus kaasa põhiõigusi rikkuva seisukorra. Praegu ei ole siiski andmeid selle kohta, et olemasolevate algoritmiliste süsteemide poolt toimuks inimeste põhiõiguste ulatuslik rikkumine, mistõttu on muudatused seotud võimalike tulevikuriskide maandamiseks, arvestades seejuures ka ülalpool kirjeldatud teiste riikide praktilisi kogemusi. IV. Probleemi võimalikud regulatiivsed lahendused 8. Välisriigid, mille regulatiivseid valikuid probleemi lahendamiseks on analüüsitud või on kavas seaduseelnõu koostamisel analüüsida (koos põhjendusega) Eeskätt EL ja EN seisukohad usaldusväärse tehisintellekti (ja algoritmiliste süsteemide) kohta.124 Kui mõni riik võtab vastu oma vastava seaduse (või seadusemuudatused), on kavas seda analüüsida, nt USA algoritmiliste süsteemide regulatsiooni eelnõu - Algorithmic Accountability Act of 2019125 (niivõrd kuivõrd see on ühilduv EL lähenemisega eetilisele tehisintellektile).126 Avalikus sektoris tehisintellekti kasutamine on niivõrd uus ja kiiresti arenev valdkond (EL valge raamat avaldati alles 19.02.2020), mistõttu eelnõu koostamisel on kavas analüüsida erinevate välisriikide vastavaid allikaid. 9. Regulatiivsete võimaluste kirjeldus Kavas on välja töötada eelnõu, milles tehakse põhiõigusi järgivaks algoritmiliste süsteemide rakendamiseks vajalikud muudatused õiguskorras. Eelnõu väljatöötamine algab pärast väljatöötamiskavatsusele saadud tagasiside analüüsimist. Kavas on välja töötada eraldiseisev algoritmiliste süsteemide regulatsioon. On kaalutud ka seda, kas regulatsioon sobituks mõnesse olemasolevasse seadusesse. Üksnes avalikku sektorit puudutavad seadused (nagu näiteks haldusmenetluse seadus, avaliku teabe seadus, avaliku teenistuse seadus) ei kuulu kohaldamisele erasektorile. Isikuandmete kaitse seaduse reguleerimisalasse ei kuulu võrdse kohtlemise tagamise küsimused ning see ei reguleeri ettevõtjate kui juriidiliste isikute andmete kasutamist. Et väljatöötamiskavatsus puudutab algoritmiliste süsteemide kui tööriista põhiõigustele vastavuse tagamist, ei näi õige ka vastavate sätete lisamine näiteks võrdse kohtlemise seadusesse. Seega peame praeguses analüüsistaadiumis vajalikuks uut eraldi seadust. Selle väljatöötamisel tuleb arvestada, et algoritmilistest süsteemidest tulenevad riskid on erinevad. Madala riskiga süsteemide suhtes ei tuleks kõiki kõnealuseid regulatsioone kohaldada. Kõrgema riskiga süsteemid õigustavad riigi suuremat sekkumist. Erinevalt inimesele alluvast määratletud parameetritega algoritmist muutuvad tehisintellekti parameetrid selle töö käigus, mistõttu vajavad tehisintellekti süsteemid olulist tähelepanu (inimjärelevalet) pidevalt oma toimimise käigus. Eelnevat arvesse võttes on eelnõu esialgsed põhipunktid alljärgnevad. Valdkond on uudne, mistõttu vajab mitmete põhipunktide konkreetsem sisu edasises töös eelnõu koostamisel täpsemat määratlemist, kaasates ka erinevaid eksperte ja osapooli. 124 Üks koondülevaateid eetilise tehisintellekti kohta antud juhistest: https://inventory.algorithmwatch.org/. 125 Vt K. Quezada Tavárez. The Algorithmic Accountability Act: is the US about to apply EU standards to algorithmic governance? https://www.law.kuleuven.be/citip/blog/the-algorithmic-accountability-act-is-the-us-about-to-apply-eu- standards-to-algorithmic-governance/. 126 https://www.law.kuleuven.be/citip/blog/the-algorithmic-accountability-act-is-the-us-about-to-apply-eu-standards-to- algorithmic-governance/. 22 Eelnõu kavand § 1. Eesmärk127  Tagada, et algoritmiliste süsteemide rakendamisel oleks tagatud läbipaistvus ning isikute põhiõigused.  Kehtestada kõrgendatud nõuded kõrge riskiga algoritmilistele süsteemidele, millega kaasneb oluline oht põhiõigustele. § 2. Mõisted  Algoritmiline süsteem128 - ….  Kõrge riskiga algoritmilise süsteemi129 all peetakse silmas: o Avalikke ülesandeid täitvate asutuste puhul eelkõige algoritmilisi süsteeme, millega rakendatakse profiilianalüüsi või mida rakendatakse otsuste tegemisel, millel on füüsilise või juriidilise isiku jaoks õiguslikud tagajärjed või mis samaväärselt mõjutavad teda oluliselt. o Erasektori puhul algoritmilised süsteemid, mida kasutatakse viisil, millel on üksikisiku või ettevõtja õiguste seisukohast õiguslikud või sellega samaväärselt olulised tagajärjed, märkimisväärse varalise või mittevaralise kahju oht; oht elule või tervisele või mille tagajärgi füüsilised või juriidilised isikud ei saa mõistlikkuse piires vältida.130 § 3. Üldised kohustused põhiõiguste tagamiseks (kõigile, mitte üksnes kõrge riskiga süsteemidele)  Kohustus tagada, et algoritmiline süsteem vastaks selle rakendamise igal hetkel kehtivale õigusele.  Kohustus tagada põhiõiguste järgimine, sealhulgas võrdse kohtlemise põhimõtte tagamine.131 127 EN soovitus A p 1: „To ensure that the human rights and fundamental freedoms of all individuals /---/ are effectively protected throughout the technological evolution, member States of the Council of Europe shall refrain from violating human rights through the use of algorithmic systems, and shall develop legislative and regulatory frameworks that foster an environment where all actors respect and promote human rights and seek to prevent possible infringements.“ 128 EN soovitus A p 2: „“algorithmic systems” are understood as applications that, often using mathematical optimisation techniques, perform one or more tasks such as gathering, combining, cleaning, sorting, classifying and inferring data, as well as selection, prioritisation, the making of recommendations and decision making. Relying on one or more algorithms to fulfill their requirements in the settings in which they are applied, algorithmic systems automate activities in a way that allows the creation of adaptive services at scale and in real time.“ 129 EN soovitus A p 11: „In this recommendation, the term “high risk” is applied when referring to the use of algorithmic systems in processes or decisions that can produce serious consequences for individuals or in situations where the lack of alternatives prompts a particularly high probability of infringement of human rights, including by introducing or amplifying distributive injustice.“ Ka EL tehisintellekti valge raamat soovitab riskipõhist lähenemist, pöörates eriti suurt tähelepanu kõrge riskitasemega tehisintellekti rakendustele, rõhutades seejuures, et „Kõrge riskitasemega tehisintellektirakenduse määratlus peaks olema selge ja hõlpsasti mõistetav ning kehtima kõigi asjaomaste osalejate puhul.“ https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_et.pdf lk 19. 130 Tehisintellekti valges raamatus tuuakse näidetena välja krediidiotsused, töötajate kandideerimisel ja töösuhtes kasutatavad rakendused, samuti inimeste eriti intensiivset jälgimist võimaldavad uued tehnoloogiad nagu näotuvastusfunktsionaalsus. 131 EN soovitus C punkt 1.1: Responsibility to respect human rights: Private sector actors engaged in the design, development, sale, deployment, implementation and servicing of algorithmic systems, whether in the public or private sphere, must exercise due diligence in respect of human rights. They have the responsibility to respect the internationally recognised human rights and fundamental freedoms of their customers and of other parties who are affected by their activities. This responsibility exists independently of States’ ability or willingness to fulfil their human rights obligations. As part of fulfilling this responsibility, private sector actors should take continuing, proactive and reactive steps to ensure that they do not cause or contribute to human rights abuses and that their actions, including their innovative processes, respect human rights. They should also be mindful of their responsibility towards society and the values of democratic society. Efforts to ensure human rights compliance should be documented. 23   Isikuandmete töötlemine tehisintellekti treenimise eesmärgil. Kohustus kohaldada seejuures meetmeid, mis aitavad ära hoida tehisintellekti rakendamisel toimuvat diskrimineerimist.132,133 § 4. Põhiõiguste mõjude hindamine (ainult kõrge riskiga süsteemidele)  Kui kavandatakse kõrge riskiga algoritmilise süsteemi rakendamist, tuleb hinnata selle mõjusid põhiõigustele. 134 o Kui tegemist on kõrge riskiga algoritmilise süsteemiga § 2 tähenduses, tuleb koostada kirjalik mõjuhinnang, milles määratletakse tuvastatud ohtude vältimiseks kavandatavad meetmed, tagatised ja mehhanismid, analoogselt või täiendavalt IKÜM art 35 (või vastavalt IKS § 38) sätestatud andmekaitsealase mõjuhinnangu regulatsiooniga. § 5. Läbipaistvuse tagamine135 (kõigile, kui see on asjakohane) 132 3.5 Testing on personal data: States should ensure that the evaluation and testing of algorithmic systems on the personal data of individuals are performed with diverse and sufficiently representative sample populations. Relevant demographic groups should be neither over- nor under-represented. States should also ensure that the staff involved in such activities has sufficiently diverse backgrounds to avoid deliberate or unintentional bias. Furthermore, they should ensure that the development of algorithmic systems is discontinued if testing or deployment involves the externalisation of risks or costs to specific individuals, groups, populations and their environments. Relevant legislative frameworks should disincentivise such externalisation. Special care should be taken in relation to testing in live environments. 133 Vt ka tehisintellekti valge raamat, lk 21. M.Martini pakub välja järgmised võimalused: 1) normeeritud standardandmekoosseisudega opereerimine, 2) analüüsitavate andmete ümberjagamine, 3) diskrimineerimise suhtes ohtliku andmekoosseisu sidumine kontekstiga, mis võimaldab täiendavat kontrollimist. 134 EN soovitus B punkt 5.2: „Human rights impact assessments: States should ensure that they, as well as any private actors engaged to work with them or on their behalf, regularly and consultatively conduct human rights impact assessments prior to public procurement, during development, at regular milestones, and throughout their context-specific deployment in order to identify the risks of rights-adverse outcomes. Confidentiality considerations or trade secrets should not inhibit the implementation of effective human rights impact assessments. Where private sector actors provide services that rely on algorithmic systems and that are considered essential in modern society for the effective enjoyment of human rights, member States should preserve the future viability of alternative solutions and ensure the continued access to such services by affected individuals and groups. For algorithmic systems carrying high risks to human rights, impact assessments should include an evaluation of the possible transformations that these systems may have on existing social, institutional or governance structures, and should contain clear recommendations on how to prevent or mitigate the high risks to human rights.“ 135 4.1 Levels of transparency: States should establish appropriate levels of transparency with regard to the public procurement, use, design and basic processing criteria and methods of algorithmic systems implemented by and for them, or by private sector actors. The legislative frameworks for intellectual property or trade secrets should not preclude such transparency, nor should States or private parties seek to exploit them for this purpose. Transparency levels should be as high as possible and proportionate to the severity of adverse human rights impacts, including ethics labels or seals for algorithmic systems to enable users to navigate between systems. The use of algorithmic systems in decision-making processes that carry high risks to human rights should be subject to particularly high standards as regards the explainability of processes and outputs. 4.2 Identifiability of algorithmic decision-making: States should ensure that all selection processes or decisions taken or aided by algorithmic systems that may significantly impact the exercise of human rights, whether in the public or private sphere, are identifiable and traceable as such at the initial interaction, in a clear and accessible manner. 4.3 Contestability: Affected individuals and groups should be afforded effective means to contest relevant determinations and decisions. As a necessary precondition, the existence, process, rationale, reasoning and possible outcome of algorithmic systems at individual and collective levels should be explained and clarified in a timely, impartial, easily-readable and accessible manner to individuals whose rights or legitimate interests may be affected, as well as to relevant public authorities. Contestation should include an opportunity to be heard, a thorough review of the decision and the possibility to obtain a non-automated decision. This right may not be waived, and should be affordable and easily enforceable before, during and after deployment, including through the provision of easily accessible contact points and hotlines. 2.1 Informational self-determination: States should ensure that all design, development and ongoing deployment of algorithmic systems provide an avenue for individuals to be informed in advance about the related data processing (including 24   Kui inimesega suhtleb inimsarnane algoritmil põhinev dialoogsüsteem, tuleb teda sellest eelnevalt teavitada.136  Kõrge riskitasemega algoritmilise süsteemi puhul tuleb eelnevalt teavitada algoritmi aluseks olevast otsustusmehhanismi loogikast, millised on isikuandmete töötlemise tähtsus ja võimalikud tagajärjed.137  Teavitamine peab hõlmama ka IKÜM art 22 lg-s 3 sätestatud kaitsemeetmeid (õigusest otsesele isiklikule kontaktile vastutava töötlejaga, et väljendada oma seisukohta ja vaidlustada otsus).  Võimalikud erandid.138 § 8. Kõrge riskiga algoritmilise süsteemi toimimisega kaasnevad kohustused139,140  Kõrge riskiga algoritmilise süsteemi puhul peab selle kasutaja tagama pideva inimjärelevalve, tagamaks, et iseõppiv algoritm ei muutuks töö käigus õigusvastaseks. Pideva inimjärelevalve all ei tule silmas pidada iga otsuse eelnevat läbivaatamist inimese poolt, vaid riskijuhtimissüsteeme, perioodilist teatud ajavahemiku takka toimuvat süsteemi valideerimist.  Kõrge riskiga algoritmilise süsteemi puudutavate teatud andmete säilitamise kohustused ja tähtaeg.141 its purposes and possible outcomes) and to control their data, including through interoperability. Deliberate efforts by individuals or groups to make themselves, their physical environment or their activities illegible to automation or other forms of machine reading or manipulation, including through obfuscation, should be recognised as a valid exercise of informational self-determination, subject to possible restrictions necessary in a democratic society and provided for by law. 136 „Kodanikke tuleks eraldi selgelt teavitada, kui nad suhtlevad tehisintellektisüsteemi, mitte inimesega. Ehkki ELi andmekaitsenormid sisaldavad juba praegu teatavaid sellekohaseid sätteid, võib eespool loetletud eesmärkide saavutamiseks olla vaja täiendavaid nõudeid. Sellisel juhul tuleks vältida tarbetut koormust. Niisiis ei ole sellist teavet vaja esitada näiteks juhul, kui kodanikul on kohe selge, et ta suhtleb tehisintellektisüsteemiga. Lisaks sellele on oluline, et esitatav teave oleks objektiivne, kokkuvõtlik ja hõlpsasti mõistetav. Teabe esitamise viis tuleks valida vastavalt selle esitamise kontekstile“. – Tehisintellekti valge raamat, lk 22. 137 Kui kohaldamisele kuulub IKÜM, on see profiilianalüüsi ja automaatsete otsuste osas reguleeritud. Vrd IKÜM art 13 lg 2 p f, art 14 lg 2 p g, art 15 lg 1 p h („teave artikli 22 lõigetes 1 ja 4 osutatud automatiseeritud otsuste, sealhulgas profiilianalüüsi tegemise kohta ning vähemalt nendel juhtudel sisuline teave kasutatava loogika ja selle kohta, millised on sellise isikuandmete töötlemise tähtsus ja prognoositavad tagajärjed andmesubjekti jaoks“). 138 Vrd näiteks Saksa maksuregulatsiooni, mille kohaselt maksujärelevalveasutuse kasutatava algoritmi täpsemaid parameetreid ei avaldata: „Einzelheiten der Risikomanagementsysteme dürfen nicht veröffentlicht werden, soweit dies die Gleichmäßigkeit und Gesetzmäßigkeit der Besteuerung gefährden könnte.“ (Abgabenordnung § 88 lg 5 lause 4). 139 B 1.2. 1.2. Ongoing review: Throughout the entire lifecycle of an algorithmic system, from the proposal stage through to the evaluation of effects, the human rights impacts of individual systems and their interaction with other technologies should be assessed regularly. This is necessary due to the speed and scale at which these systems function and the fast-evolving technological environment in which they operate. This should be done based on broad, effective consultations with those affected or likely to be affected. 140 B. 1.1. States should ensure the enforceability and enforcement of laws, including by demanding that relevant actors produce adequate documentation to verify legal compliance. 141 Tehisintellekti valge raamat, lk 21-22. Vrd nt: Kohustus säilitada täpne teave andmekogumi kohta, mida on kasutatud tehisintellektisüsteemide treenimiseks ja katsetamiseks, sealhulgas kogumi peamiste omaduste kirjeldus ja see, kuidas andmekogum valiti. Teatavatel põhjendatud juhtudel andmekogumid ise. Dokumendid, mis puudutavad programmeerimis- (näiteks dokumendid algoritmide kohta, sealhulgas eesmärk, mille saavutamiseks tegevus optimeeritakse, milline kaal on antud teatavatele parameetritele algetapis jne) ja treenimismeetodeid, protsesse ja tehnilisi vahendeid, mida on kasutatud tehisintellektisüsteemide ülesehituseks, katsetamiseks ja valideerimiseks – sealhulgas vajaduse korral ohutusega seotud dokumendid –, ja dokumendid selle kohta, kuidas on välditud kallutatust, mis võiks tingida keelatud diskrimineerimise. Logimise kohustus ja logide säilitamise kohustus. 25 § 9. Riiklik järelevalve142  Määratleda pädev riiklikku järelevalvet teostav haldusorgan, kes on pädev kaebusi lahendama.143  Sätestada riikliku järelevalve meetmete erisused ja algoritmilise süsteemi rakendaja kaasaaitamiskohustus. § 10. Sanktsioonid144  Kehtestatud nõuete rikkumise eest kaaluda sanktsioone. § 11. Haldusmenetluse seadusesse tehtavad muudatused  Automaatne haldusakt on lubatav, kui tegemist pole kaalutlusõiguse alusel antava haldusaktiga ja kui automaatse haldusakti andmise õigus on sätestatud eriseaduses.  Automaatne haldusakt ja dokument kinnitatakse omakäelise või e-allkirja asemel e-templiga e-identimise ja e-tehingute usaldusteenuste seaduses sätestatud tingimustel ja korras. E- templile õigusliku tähenduse omistamine reguleeritakse HMS-s.  Automaatse haldusakti ja dokumendi puhul peab adressaadile olema üheselt arusaadav, et tegemist on automaatse haldusakti või dokumendiga.  Erisused kättetoimetamise, vormistamise jmt seoses. Automaatse otsuse või profiilianalüüsi rakendamisel tehtud keelduva otsuse põhjendamise erisused (kohustus välja tuua, millise algoritmi parameeter tingis koormava haldusakti). Täiendavat analüüsi vajavad järgmised teemad  Eelnõus ei kavatseta reguleerida nn korrakaitseõiguse massandmetöötlust ja andmekogude küsimusi, kuivõrd need vajavad veel täiendavat analüüsi. 142 1.4 Institutional frameworks: States should identify and/or develop appropriate institutional and regulatory frameworks and standards that set general or sector-specific benchmarks and safeguards to ensure the compatibility of the design, development and ongoing deployment of algorithmic systems with human rights. Efforts should ensure that direct or indirect risks to human rights, including possible cumulative effects of distinct systems, are promptly identified and that adequate remedial action is initiated. States should invest in relevant expertise to be available in adequately resourced regulatory and supervisory authorities. They should further closely co-operate with independent authorities, equality bodies, national human rights institutions, universities, standard-setting organisations, operators of services, developers of algorithmic systems and relevant non-governmental organisations in various fields, such as, particularly, those engaged in defending human rights. 4.4 Consultation and adequate oversight: States should ensure that adequate oversight is maintained by appropriately resourced independent institutions over the number and type of contestations made by affected individuals or groups against certain algorithmic systems that are directly or indirectly implemented by or for them. They should ensure that the results not only lead to remedial action in specific cases but are also fed into the systems themselves to avoid repetition of the offending results, make improvements and possibly discontinue the introduction or ongoing deployment of certain systems due to the likelihood of negative human rights impacts. Information on these contestations and resulting follow-up action should be documented regularly and made publicly available. 143 5.3 Expertise and oversight: States should ensure that all human rights impact assessments related to high-risk algorithmic systems are submitted for independent expert review and inspection. Tiered processes should be identified or created where necessary for independent oversight. Human rights impact assessments conducted by or for States should be publicly accessible, have adequate expert input, and be effectively followed up. This may be supported by conducting dynamic testing methods and pre-release trials and by ensuring that potentially affected individuals and groups as well as relevant field experts are consulted and included as actors with real decision-making power, where appropriate, in the design, testing, and review phases. 144 B 1.1. Where public and private sector actors fail to discharge their legal duties, they should be held responsible. 26   Eraldi analüüsi vajab tehisintellekti rakendamine kriminaalmenetluses andmete töötlemisel.  Eraldi analüüsi vajab tehisintellekti rakendamine riigikaitses ja kaitsetööstuses, mis on usaldusväärse tehisintellekti puhul üks olulisemaid küsimusi. Tehisintellekti rakendamist nimetatud valdkondades ei käsitleta ka EL ja EN töörühmades vastava pädevuse puudumise tõttu.  Eraldi analüüsi vajab tsiviilõiguslik vastutus. Tehisintellektiga seoses võivad tõusetuda ka küsimused eraõiguslikust vastutusest. Kuivõrd aga on tõenäoline, et neid küsimusi hakatakse Euroopa Liidu tasandil arutama (praeguseks on Euroopa Komisjon viidanud selle vajalikkusele tehisintellekti puudutavas valges raamatus), ei ole neid käsitletud käesolevas VTK-s. 10. Regulatiivsete võimaluste põhiseadusega ning Euroopa Liidu ja rahvusvahelise õigusega määratud raamid Põhiseadusest tulenevad ülal peatükis 1.1 nimetatud õigusriigi ja demokraatia põhimõtted, seaduslikkuse põhimõte, võrdse kohtlemise põhimõte, aga ka põhiõigus hea haldusele, eraelu kaitsele, informatsioonilisele enesemääramisele jt asjakohased põhiõigused. Isikuandmete töötlemist avaliku võimu poolt reguleerib isikuandmete kaitse üldmäärus. EL ja rahvusvahelise õigusega määratud raamidele on eelnevalt juba viidatud. V. Regulatiivsete võimaluste mõjude eelanalüüs ja mõju olulisus 11. Kavandatavad muudatused ja nende mõjud Mõju avaliku võimu asutuste korraldusele Sihtrühm: ministeeriumid, ametid, inspektsioonid, kohalikud omavalitsused, aga ka muud avalikku võimu teostavad halduse kandjad (nt Töötukassa), kes rakendavad oma töös (või plaanivad hakata rakendama) algoritmisi süsteeme, sh tehisintellekti. Veebilehel www.kratid.ee on esitatud üle 50 rakendatava krati, kuid kõik nendest ei kujuta endast olulist mõju põhiõigustele. Algoritmiliste süsteemide rakendamine võib avaldada positiivset mõju, kui teatud standardseid tegevusi automatiseerides on võimalik rohkem tähelepanu pühendada põhjalikumat süvenemist nõudvatele küsimustele. See tõstab avaliku ülesande täitmise kvaliteeti. Avaliku võimu vestlusrobotid toovad avalikku võimu inimestele lähemale. Erinevate haldusaktide taotluste tähtaegadel silma peal hoidvad bürokratid võimaldavad saada soovijatel paremat teenust. Asutuste töökoormus võib ajutiselt tõusta seoses algoritmilise süsteemi viimisega seadusega kooskõlla. Nende süsteemide arv, mida tuleb uue seadusega kooskõlla viima hakata, ei ole esialgu veel teada. Samuti võib eelnõu väljatöötamise käigus veel muutuda arusaam, kuidas piiritleda kõrge riskitasemega süsteeme, millega kaasnevad kõrgendatud nõuded. Mõju majandusele: ettevõtluskeskkond ja ettevõtete tegevus Sihtrühm: erasektori andmetöötlejad, kes rakendavad kõrgema riskiga algoritmilisi süsteeme. Ka ettevõtluse sektoris loovad algoritmilised süsteemid efektiivsust juurde, kui need aitavad panna suurtes andmehulkades peituva teabe ettevõtja heaks tööle. Reeglid tõstavad usaldust tehisintellekti 27 rakenduste vastu, see aitab kasvatada vastavat turgu ning tõsta EL ühtsel digiturul konkurentsivõimet. Kõrgema riskiga algoritmilisi süsteeme rakendava ettevõtja puhul muutub selle teenuse kasutamine kallimaks, kuivõrd tagada tuleb süsteemi vastavus nõuetele ning iseõppivate süsteemide puhul korraldada neile perioodiline valideerimine. Juhul, kui Eesti nõuded erinevad teiste riikide nõuetest, võib see kaasa tuua siseturu killustumise ja konkurentsivõime langemise. Mõju süsteemide arendajatele Sihtrühm: algoritmiliste süsteemide arendajad/pakkujad. Kavandatav regulatsioon paneb süsteemide arendajatele ja pakkujatele suurema vastutuse ja kõrgemad nõuded süsteemide korrektsusele. See küll tõstab nende koormust, kuid sel juhul see tõstab ka pakutavate teenuste väärtust ja usaldusväärsust. Süsteemide arendajad peavad süsteemi välja töötama süvenenumalt ja kauem, kuid koostöös teiste asutuste ja ettevõtetega on võimalik parem süsteemide kontroll ja edasiarendamine, mistõttu jõuavad turule kontrollitumad ja efektiivsemad süsteemid. Mõju ühiskonnale üldiselt Sihtrühm: inimesed, kes puutuvad algoritmiliste süsteemidega kokku. Regulatsioonil on ühiskonnale laiem positiivne mõju toimingute kiiruse ja tõhususe aspektist. Töö, mis on tehnilisem ja lihtsam, on võimalik automatiseerida, mistõttu muutub asutuste töö ka kiiremaks. Ametnikud saavad keskenduda süvitsi keerulisemate olukordadega, muuhulgas kulub vähem aega lihtsamate toimingute tegemiseks, seetõttu saavad teatud menetlused ja toimingud märksa kiiremini valmis, st vastused jõuavad kiiremini inimesteni. Ühiskonna hoiak üldiselt muutub positiivsemaks, kui rutiinsemad töölõigud automatiseeritakse, ja mh nähakse, et süsteem toimib, on kiire, tõhus ja usaldusväärne. Inimesed, kelle andmeid võidakse nimetatud süsteemide poolt töödelda Sihtrühm: inimesed. Et näiteks tehisintellekti funktsionaalsusega näotuvastuskaamerate kasutamisel avaliku ruumi videovalves võivad olla puudutatud kõik vastavasse piirkonda sattuvad inimesed, võib asuda seisukohale, et algoritmiliste süsteemide rakendamine võib avaldada mõju kõigile inimestele. Kavandataval regulatsioonil on seejuures tervikuna positiivne mõju inimestele, kelle isikuandmeid töödeldakse – inimesed on teadlikud algoritmiliste süsteemide rakendamisest, paremini on tagatud nende andmete töötlemine, vigade vältimine nende suhtes hinnangute andmisel või otsuste langetamisel ning võimalik on ka pöörduda pädeva riigiasutuse poole järelevalve algatamiseks, kui on kahtlusi algoritmilise süsteemi korrektses toimimises. Usaldusväärse tehisintellekti tagamine suurendab inimeste valmisolekut kasutada tehisintellekti rakendusi (olla nõus nende kasutamisega endi suhtes) ja seega teenib see tehisintellekti rakenduste laiema kasutuselevõtu eesmärki. 12. Muudatuste koondmõju ettevõtete ja/või kodanike halduskoormusele 28 Algoritmilisi süsteeme arendavate või rakendavate isikute ja ettevõtete koormus kasvab, kui tuleb hakata järgima täiendavaid nõudeid. Kõrgemad nõuded puudutavad just keerulisemate süsteemide arendamist, kuna nende puhul on põhiõiguste riive võimalikkus kõrgem. Kavandatava regulatsiooni mõju peaks ülejäänud ulatuses suuresti kahandama halduskoormust, kuna erinevaid menetlusi on võimalik automatiseerida. Isikud, asutused ja ettevõtted, kes süsteeme rakendavad, peavad arvestama sellega, et kui tegu on keerulisemate süsteemide rakendamisega, tuleb kaasata lisajõude ehk järelvalveametnikke, kuid kokkuvõttes koormus haldusele siiski väheneb. 13. Muudatuste rakendamisega seotud riigi ja kohaliku omavalitsuse eeldatavad kulud ja tulud Automatiseeritud süsteemid võimaldavad muuta asutuste tööd efektiivsemaks ja vähem koormavamaks. Lihtsamate ja rutiinsemate menetluste tegemiseks on võimalik tööd automatiseerida, mille tagajärel ametnike töö muutub veidi lihtsamaks ja selle kõrvalt saab enam keskenduda komplitseeritud ülesannetele. Sellisel puhul riigi ja kohaliku omavalitsuse eeldatavad kulud ei suurene, pigem jäävad samaks või vähenevad, kuid konkreetseid kulusid ja tulusid saab kindlalt välja tuua alles praktika käigus. Kavandatav regulatsioon on suunatud põhiõiguste ja -vabaduste kaitsmisele ning süsteemide parendamisele, mistõttu regulatsioon koormab vähemal määral riigi ja kohaliku omavalitsuse ressursse. Kui keerukamate menetluste puhul süsteeme automatiseerida, tuleb rakendada inimjärelvalvet, et süsteemi kontrollida. 14. Edasine mõjude analüüs Justiitsministeerium jääb ootama tagasisidet ja ettepanekuid, mille pinnalt saab edasise mõjude analüüsi vajadust hinnata. VI. Kavandatav õiguslik regulatsioon ja selle väljatöötamise tegevuskava 15. Valitav lahendus Koostatakse uus seadus algoritmiliste süsteemide reguleerimiseks. 15.1. Töötatakse välja uus tervikseadus X 15.2. Muudatused tehakse senise seaduse struktuuris 16. Edasine kaasamise plaan Eelnõu koostamisel kaasatakse nii põhiõiguste kui ka algoritmiliste süsteemide asjatundjaid. 17. Eeldatav kontseptsiooni (HÕNTE § 1 lg 3) valmimise ja Kontseptsiooni ei ole kavas kooskõlastamisele saatmise aeg (kui järgmise sammuna koostada. koostatakse eelnõu kontseptsioon) 20. Eeldatav eelnõu avaliku konsultatsiooni ja 2021 esimene poolaasta kooskõlastamise aeg 21. Õigusakti eeldatav jõustumise aeg 2022 29 22. Vastutavate ametnike nimed ja kontaktandmed Monika Mikiver [email protected], telefon: 6 208 112 30  Haridus- ja Teadusministeerium Meie 17.08.2020 nr 8-1/4996 [email protected] Munga 18 50088, Tartu Algoritmiliste süsteemide mõjude reguleerimise väljatöötamise kavatsus („krati VTK“) Esitame ministeeriumitele kooskõlastamiseks ning Õiguskantsleri Kantseleile, soolise võrdõiguslikkuse ja võrdse kohtlemise volinikule, E-riigi Akadeemiale, Eesti Elektroonikatööstuse Liidule, Eesti Infotehnoloogia ja Telekommunikatsiooni Liidule, Eesti Inimõiguste Keskusele, Inimõiguste Instituudile, Eesti Kaubandus-Tööstuskojale, Tallinna Tehnikaülikoolile, Tallinna Ülikoolile ja Tartu Ülikoolile arvamuse avaldamiseks Algoritmiliste süsteemide mõjude reguleerimise väljatöötamise kavatsuse („krati VTK“). Ootame Teie tagasisidet kuni 30. septembrini 2020. Lugupidamisega (allkirjastatud digitaalselt) Raivo Aeg minister Lisaadressaadid: E-riigi Akadeemia Eesti Elektroonikatööstuse Liit Monika Mikiver 620 8112 [email protected] Suur-Ameerika 1 / 10122 Tallinn / +372 620 8100 / [email protected] / www.just.ee Registrikood 70000898