Kas tai? Eksperto įžvalgos

Dirbtinis intelektas Bendro duomenų apsaugos reglamento kontekste – problemų šaltinis ar jų sprendimo būdas?

Publikuota: 2017-09-08

Nuostatos, reglamentuojančios profiliavimą kaip specifinę asmens duomenų tvarkymo rūšį jau ir šiuo metu iš dalies yra įtvirtintos Duomenų apsaugos direktyvos 95/46/EB 15 straipsnyje, kurio nuostatos atitinkamai buvo perkeltos į nacionalinę teisę 28 Lietuvos Respublikos asmens duomenų teisinės apsaugos įstatymo (toliau – ADTAĮ) straipsnyje. Tačiau Direktyva ir ADTAĮ (kurioje tai vadinama „asmens savybių įvertinimu automatiniu būdu“) didesnį dėmesį skiria ne pačiam automatiniu būdu vykdomam sprendimų priėmimo procesui (kuris gali apimti ir profiliavimą), o sprendimui kaip jo rezultatui. Nuo 2018 metų gegužės 25 dienos pradedamas taikyti ES Bendrasis duomenų apsaugos reglamentas (BDAR) Reglamentas iš esmės griežtina ir konkretina reikalavimus. Koks yra Reglamento poveikis tobulėjančio ir praktikoje vis labiau plintančio dirbtinio intelekto (DI) naudojimui?

I. Dirbtinio intelekto naudojimas kaip problema BDAR kontekste

Reglamente nustatyta, jog „Duomenų subjektas turi teisę, kad jam nebūtų taikomas tik automatizuotu duomenų tvarkymu, įskaitant profiliavimą, grindžiamas sprendimas, dėl kurio jam kyla teisinės pasekmės arba kuris jam panašiu būdu daro didelį poveikį“. Visgi, tokia teisė turi išimčių ir nėra taikoma tada, jei sprendimas yra leidžiamas Sąjungos arba valstybės narės teisėje, yra būtinas siekiant sudaryti arba vykdyti sutartį tarp duomenų subjekto ir duomenų valdytojo arba yra pagrįstas aiškiu duomenų subjekto sutikimu. Paskutiniais dviem atvejais vis vien turės būti įgyvendinama duomenų subjekto teisė iš duomenų valdytojo reikalauti žmogaus įsikišimo, pareikšti savo požiūrį ir užginčyti sprendimą. Kartu turėtų būti vertinama ir duomenų valdytojo pareiga automatizuoto sprendimų priėmimo atveju duomenų subjektui pateikti prasmingą informaciją apie loginį sprendimo pagrindimą, taip pat tokio duomenų tvarkymo reikšmę ir numatomas pasekmes duomenų subjektui. Tai apibūdinama kaip teisė gauti automatinio sprendimo pagrindimą.

Anksčiau, kai automatiniams sprendimams priimti naudojamos DI sistemos buvo primityvios, atsekti, kaip vienoks ar kitos sprendimas buvo priimtas didesnių sunkumų nebuvo. Tačiau dabar tokios sistemos neretai yra tokios sudėtingos ir remiasi tokiais dideliais susijusių duomenų kiekiais, kad konkretaus sprendimo pagrindimo atsekti ir pateikti analizuojant DI veikimą žmonėms faktiškai neįmanoma. Tuo tarpu tokių metodų kaip gilusis mokymas (deep learning) veikimas apskritai negali būti paaiškinamas žmonėms suprantamu būdu, nes yra paremtas neuroniškojo tinklo (neural network - tinklo, atkartojančio neuronų tinklo savybes ir, atitinkamai, veikiančiu panašiu principu, kaip ir smegenys) pagrindu. Pripažįstama, kad nors DI gali būti labai efektyvus, paaiškinamumas nėra stiprioji DI savybė, kas lemia jo reputaciją kaip „juodosios dėžės“ (black box) technologijos. Taip yra ne vien dėl minėto naudojamų sistemų sudėtingumo, bet ir DI paremtus produktus kuriančių bendrovių nenoro atskleisti, kaip veikia jų algoritmai, siekiant apsaugoti juos nuo konkurentų kopijavimo.

Vienintele išeitimi šiuo atveju yra vadinamasis paaiškinamas dirbtinis intelektas (explainable artificial intelligence, XAI). Tai dar sudėtingesnis DI, kuris yra išmokomas ne tik priimti sprendimą, bet ir sugebėti pademonstruoti vidinę logiką, kuria remiantis toks sprendimas buvo priimtas. Kol kas tokių sistemų kūrimas dar pakankamai ankstyvoje stadijoje, tačiau egzistuoja progresas, kuris turėtų leisti ilgainiui išspręsti DI naudojimo automatinių sprendimų priėmimui paaiškinamumo problemą. Tiesa, kol kas paaiškinamumas ir DI priimamų sprendimų tikslumas iš esmės yra priešingai proporcingi ir neaišku, kaip greitai ši situacija pasikeis.

Google mokslinių tyrimų direktorius Peter Norvig pateikė įdomų požiūrį į paaiškinamo DI įgyvendinimo būdus. Jo teigimu, patys žmonės ne itin gerai sugeba paaiškinti savo sprendimų priėmimo procesus. Peter Norvig pabrėžė, kad psichologai yra nustatę, jog paprašius žmogaus paaiškinti, gaunamas atsakymas nėra sprendimo priėmimo procesas. Po sprendimo priėmimo pateiktas paaiškinimas sukuriamas ir gali neatspindėti iš tikro įvykusio proceso. Atitinkamai, DI paaiškinimą greičiausiai suformuluos pagal savo jau priimtą sprendimą, o ne bandys analizuoti ir į žmonėms suprantamą kalbą paversti iš tikro įvykusį sprendimo priėmimo procesą jo metu. Atsižvelgdamas į tai, Peter Norvig siūlo verčiau analizuoti didesnius sprendimų kiekius ieškant tendencingumų. Tiesa, būtina pastebėti, kad tai taip pat nėra idealus problemos sprendimo būdas BDAR kontekste, nes negalėtų pateikti atsakymo dėl konkretaus sprendimo priėmimo pagrindų.

BDAR yra sulaukęs kritikos dėl to, kad net ir toks reguliavimas kelia abejonių dėl duomenų subjektams suteikiamos apsaugos realumo. Straipsnio autorių vertinimu, BDAR suteiks asmenims informacijos apie tai, kad sprendimai priimami automatiškai ir sistemos funkcionalumą, tačiau nepateiks priimto sprendimo pagrindimo. Algoritmų paaiškinimas neturi tos pačios vertės kaip paaiškinimas kaip ir kodėl buvo priimtas konkretus sprendimas.

Kita specifinė problema, susijusi su DI ir kitomis panašiomis sistemomis yra galimybė, kad anonimiški duomenys gali būti paverčiami su konkrečiu asmeniu siejamais duomenimis. Tai, kad duomenys anksčiau buvo nuasmeninti, nereiškia, kad jie tokie ir išliks juos analizuojant DI. Be to, DI galėtų sukurti naujus asmens duomenis derindamas iki tols nesusijusius asmens duomenų rinkinius. Atitinkamai, įmonės turės stebėti, koks yra DI veiksmų su asmens duomenimis (ar nuasmenintais duomenimis) rezultatas.

II. Dirbtinis intelektas kaip priemonė palengvinti atitikties BDAR įgyvendinimą

Aptarus DI naudojimo rizikas, negalima nepaminėti ir to, kaip DI gali padėti įgyvendinti BDAR reikalavimus. Nemažai IT produktus kuriančių bendrovių, tokių kaip IBM, Veritas ir Microsoft siūlo DI pagrindu paremtas platformas, leidžiančias nustatyti, kokius duomenis kaupia įmonė, kur jie yra saugomi bendrovės tinkle, ir surūšiuoja juos tam, kad būtų lengviau juos valdyti bei įgyvendinti tokus BDAR reikalavimus kaip teisė būti pamirštam.

DI galėtų būti pasitelktas kaip viena iš techninių priemonių, leidžiančių įgyvendinti BDAR nustatytą pareigą užtikrinti pakankamą tvarkomų duomenų saugumą. Laiku ir efektyviai nustatydamas saugumo pažeidimą, DI gerokai palengvintų reagavimo į saugumo pažeidimus procedūras. DI gali automatiškai nustatyti paslėptas grėsmes nustatydamas nukrypimus nuo įprastinio tinklo veikimo ir tam net nereikėtų prieigos prie pačių duomenų, kurie yra siunčiami, taip įgyvendinant pritaikytosios duomenų apsaugos principą. DI pagrindu paremtus produktus teikiančių bendrovių teigimu, DI vykdoma analizė leistų tinkamai susidoroti su pareiga tam tikrais atvejais per 72 valandas pranešti nacionalinei priežiūros institucijai apie įvykusį duomenų saugumo pažeidimą.

Tokios platformos taip pat galėtų leisti suvaldyti minėtą riziką dėl naujų asmens duomenų atsiradimo, nes galėtų efektyviai sekti, kada ir kaip tokie duomenys atsiranda, atitinkamai atlikdamos audito funkciją.

DI gali reikšmingai padėti BDAR įgyvendinimo procese apimdamas ir prižiūrėdamas daug daugiau duomenų, nei galėtų bet koks žmogus. Visgi, tam tikro pobūdžio DI, ypač paremtas giliuoju mokymu, savo esme kelia grėsmę atitikčiai BDAR, o išimtinai juo paremti sprendimai, keliantys teisines ar kitokias didelį poveikį turinčios pasekmės, bent jau kol kas faktiškai negalės atitikti BDAR keliamų skaidrumo ir paaiškinamumo reikalavimų.

Rašyti komentarą

Rašyti komentarą

Gauk nemokamą TECHNOLOGIJŲ savaitraštį į savo el.pašto dėžutę:

Pasirinkite Jus dominančius NEMOKAMUS savaitraščius:















Svarbiausios dienos naujienos trumpai:



 
Kepsnys mėgintuvėlyje: mėsą jau augina ir mokslininkai

Tikėtina, kad žmonijos populiacija amžiaus pabaigoje pasieks 11 milijardų. Dėl to ūkininkai su laiku jaus vis...

Agroverslas
2018.03.31
Modifikuodavo „Blackberry“ telefonus ir pardavinėjo nusikaltėliams 8

JAV pareigūnai sulaikė ir po kelių dienų pateikė kaltinimus kanadiečiui Vincentui Ramosui, bendrovės „Phantom...

Technologijos
2018.03.31
Kinijos kosminė stotis krenta atgal į Žemę 5

Pirmoji Kinijos kosminė stotis  „Tiangong-1“ į Žemę turėtų nukristi tarp kovo 30 ir balandžio 1 d. Dalis...

Technologijos
2018.03.31
Naudojate „My Fitness Pal“ – pakeiskite prisijungimo duomenis 1

JAV kompanija „Under Armuor“, 2015 m. įsigijusi programėlę „My Fitness Pal“, praneša, kad nusikaltėliai...

Technologijos
2018.03.30
Naujas ICO rekordas: „Telegram“ pritraukė 1,7 mlrd. USD 3

Susirašinėjimo programėlę valdanti kompanija „Telegram“ viešo kriptovaliutos siūlymo (angl. initial coin...

Technologijos
2018.03.30
Verslo pirkimų Kinijoje ypatumai Premium

Kinija yra niuansų ir beprotiško verslumo šalis, kurioje „gamykla“ gali atsirasti per vieną dieną, o...

Technologijos
2018.03.30
„Skaitmeninius mokesčius“ maišo su žemėmis: esą pakenks pačiai ES Premium

Apyvartos mokestis technologijų milžinėms, vos daugiau nei prieš savaitę pristatytas Europos Komisijos (EK),...

Verslo aplinka
2018.03.30
Mobiliosios programėlės ir duomenų apsauga: kaip išvengti baudų Premium

Mobiliosios programėlės gali rinkti labai daug informacijos apie asmenį: jo sveikatą, buvimo vietą, finansus...

IRT specialistų algos Lietuvoje: kas ir kur uždirba daugiausiai 8

Naujas rinkos tyrimas rodo, kad informacinių ir ryšių technologijų (IRT) specialistų vidutinės algos...

Vadyba
2018.03.30
BDAR: kaip ruošiasi mobiliųjų programėlių valdytojai  Premium

Įmonės, prekėms ar paslaugoms parduoti naudojančios mobiliąsias programėles, sako, kad prisitaikyti prie...

Prancūzijos politikai atsiduoda į matematikos genijaus Cedrico Villani rankas 7

„Prancūzams nėra lygių, kai kalbama apie meilę, vyną ir... matematiką“, – įsitikinęs Cedricas Villani,...

Laisvalaikis
2018.03.29
JK įstatymų leidėjai viešina informatoriaus pateiktus įkalčius duomenų nutekinimo skandale 1

Jungtinės Karalystės (JK) įstatymų leidėjai ketvirtadienį paviešino rašytinius įrodymus, kuriuos pateikė...

Verslo aplinka
2018.03.29
„Biuro“ laikino įdarbinimo platformą siūlys ir latviams bei estams Premium

Įdarbinimo paslaugų bendrovė „Biuro“, šiemet paleidusi pirmąją Lietuvoje trumpalaikio darbo paieškos...

Technologijos
2018.03.29
Apdovanojo pažangiausius Lietuvos verslus 1

Ketvirtadienį „Žinių ekonomikos įmonės“ apdovanojimuose pažangiausia aukštųjų technologijų bendrove paskelbta...

Technologijos
2018.03.29
SEB hakatoną laimėjo seni IT vilkai – tai gerai ar blogai Premium

Pirmąjį SEB banko surengtą atvirosios bankininkystės inovacijų programavimo maratoną (hakatoną) laimėjo ne...

Technologijos
2018.03.29
Didžiausias fondas investuos į 100 bendrovių, vėliau dalį sujungs

Didžiausias rizikos kapitalo fondas „Vision Fund“ savo portfelyje planuoja turėti 100 bendrovių. Vėliau dalis...

Technologijos
2018.03.29
Biotechnologijų UAB „Froceth“ su švedais Lietuvoje augins kraujagysles

Lietuvos mokslininkai pradeda iki šiol ambicingiausią žmogaus audinių inžinerijos projektą Lietuvos...

Pramonė
2018.03.29
Perskaičiavo: iki 2020 m. Lietuvoje reikės 13.300 IRT specialistų 13

Per ateinančius 3 metus įmonėms papildomai reikės apie 13.300 įvairių informacinių ir ryšių technologijų...

Vadyba
2018.03.29
Susitarė dėl didžiausios pasaulyje saulės elektrinės statybų 2

Saudo Arabijoje planuojama statyti didžiausią pasaulyje 200 gigavatų saulės jėgainę. Į ją turėtų būti...

Technologijos
2018.03.29
Šildytuvas, kuris „kasa“ kriptovaliutas 1

Prancūzijos bendrovė „Quarnot Computing“ kūrybingai išsprendė šilumos, kurią skleidžia kompiuteriai,...

Technologijos
2018.03.29

Verslo žinių pasiūlymai

Siekdami pagerinti Jūsų naršymo kokybę, statistiniais ir rinkodaros tikslais šioje svetainėje naudojame slapukus (angl. „cookies“), kuriuos galite bet kada atšaukti.
Sutinku Plačiau