Kas tai? Eksperto įžvalgos

Dirbtinis intelektas Bendro duomenų apsaugos reglamento kontekste – problemų šaltinis ar jų sprendimo būdas?

Publikuota: 2017-09-08

Nuostatos, reglamentuojančios profiliavimą kaip specifinę asmens duomenų tvarkymo rūšį jau ir šiuo metu iš dalies yra įtvirtintos Duomenų apsaugos direktyvos 95/46/EB 15 straipsnyje, kurio nuostatos atitinkamai buvo perkeltos į nacionalinę teisę 28 Lietuvos Respublikos asmens duomenų teisinės apsaugos įstatymo (toliau – ADTAĮ) straipsnyje. Tačiau Direktyva ir ADTAĮ (kurioje tai vadinama „asmens savybių įvertinimu automatiniu būdu“) didesnį dėmesį skiria ne pačiam automatiniu būdu vykdomam sprendimų priėmimo procesui (kuris gali apimti ir profiliavimą), o sprendimui kaip jo rezultatui. Nuo 2018 metų gegužės 25 dienos pradedamas taikyti ES Bendrasis duomenų apsaugos reglamentas (BDAR) Reglamentas iš esmės griežtina ir konkretina reikalavimus. Koks yra Reglamento poveikis tobulėjančio ir praktikoje vis labiau plintančio dirbtinio intelekto (DI) naudojimui?

I. Dirbtinio intelekto naudojimas kaip problema BDAR kontekste

Reglamente nustatyta, jog „Duomenų subjektas turi teisę, kad jam nebūtų taikomas tik automatizuotu duomenų tvarkymu, įskaitant profiliavimą, grindžiamas sprendimas, dėl kurio jam kyla teisinės pasekmės arba kuris jam panašiu būdu daro didelį poveikį“. Visgi, tokia teisė turi išimčių ir nėra taikoma tada, jei sprendimas yra leidžiamas Sąjungos arba valstybės narės teisėje, yra būtinas siekiant sudaryti arba vykdyti sutartį tarp duomenų subjekto ir duomenų valdytojo arba yra pagrįstas aiškiu duomenų subjekto sutikimu. Paskutiniais dviem atvejais vis vien turės būti įgyvendinama duomenų subjekto teisė iš duomenų valdytojo reikalauti žmogaus įsikišimo, pareikšti savo požiūrį ir užginčyti sprendimą. Kartu turėtų būti vertinama ir duomenų valdytojo pareiga automatizuoto sprendimų priėmimo atveju duomenų subjektui pateikti prasmingą informaciją apie loginį sprendimo pagrindimą, taip pat tokio duomenų tvarkymo reikšmę ir numatomas pasekmes duomenų subjektui. Tai apibūdinama kaip teisė gauti automatinio sprendimo pagrindimą.

Anksčiau, kai automatiniams sprendimams priimti naudojamos DI sistemos buvo primityvios, atsekti, kaip vienoks ar kitos sprendimas buvo priimtas didesnių sunkumų nebuvo. Tačiau dabar tokios sistemos neretai yra tokios sudėtingos ir remiasi tokiais dideliais susijusių duomenų kiekiais, kad konkretaus sprendimo pagrindimo atsekti ir pateikti analizuojant DI veikimą žmonėms faktiškai neįmanoma. Tuo tarpu tokių metodų kaip gilusis mokymas (deep learning) veikimas apskritai negali būti paaiškinamas žmonėms suprantamu būdu, nes yra paremtas neuroniškojo tinklo (neural network - tinklo, atkartojančio neuronų tinklo savybes ir, atitinkamai, veikiančiu panašiu principu, kaip ir smegenys) pagrindu. Pripažįstama, kad nors DI gali būti labai efektyvus, paaiškinamumas nėra stiprioji DI savybė, kas lemia jo reputaciją kaip „juodosios dėžės“ (black box) technologijos. Taip yra ne vien dėl minėto naudojamų sistemų sudėtingumo, bet ir DI paremtus produktus kuriančių bendrovių nenoro atskleisti, kaip veikia jų algoritmai, siekiant apsaugoti juos nuo konkurentų kopijavimo.

Vienintele išeitimi šiuo atveju yra vadinamasis paaiškinamas dirbtinis intelektas (explainable artificial intelligence, XAI). Tai dar sudėtingesnis DI, kuris yra išmokomas ne tik priimti sprendimą, bet ir sugebėti pademonstruoti vidinę logiką, kuria remiantis toks sprendimas buvo priimtas. Kol kas tokių sistemų kūrimas dar pakankamai ankstyvoje stadijoje, tačiau egzistuoja progresas, kuris turėtų leisti ilgainiui išspręsti DI naudojimo automatinių sprendimų priėmimui paaiškinamumo problemą. Tiesa, kol kas paaiškinamumas ir DI priimamų sprendimų tikslumas iš esmės yra priešingai proporcingi ir neaišku, kaip greitai ši situacija pasikeis.

Google mokslinių tyrimų direktorius Peter Norvig pateikė įdomų požiūrį į paaiškinamo DI įgyvendinimo būdus. Jo teigimu, patys žmonės ne itin gerai sugeba paaiškinti savo sprendimų priėmimo procesus. Peter Norvig pabrėžė, kad psichologai yra nustatę, jog paprašius žmogaus paaiškinti, gaunamas atsakymas nėra sprendimo priėmimo procesas. Po sprendimo priėmimo pateiktas paaiškinimas sukuriamas ir gali neatspindėti iš tikro įvykusio proceso. Atitinkamai, DI paaiškinimą greičiausiai suformuluos pagal savo jau priimtą sprendimą, o ne bandys analizuoti ir į žmonėms suprantamą kalbą paversti iš tikro įvykusį sprendimo priėmimo procesą jo metu. Atsižvelgdamas į tai, Peter Norvig siūlo verčiau analizuoti didesnius sprendimų kiekius ieškant tendencingumų. Tiesa, būtina pastebėti, kad tai taip pat nėra idealus problemos sprendimo būdas BDAR kontekste, nes negalėtų pateikti atsakymo dėl konkretaus sprendimo priėmimo pagrindų.

BDAR yra sulaukęs kritikos dėl to, kad net ir toks reguliavimas kelia abejonių dėl duomenų subjektams suteikiamos apsaugos realumo. Straipsnio autorių vertinimu, BDAR suteiks asmenims informacijos apie tai, kad sprendimai priimami automatiškai ir sistemos funkcionalumą, tačiau nepateiks priimto sprendimo pagrindimo. Algoritmų paaiškinimas neturi tos pačios vertės kaip paaiškinimas kaip ir kodėl buvo priimtas konkretus sprendimas.

Kita specifinė problema, susijusi su DI ir kitomis panašiomis sistemomis yra galimybė, kad anonimiški duomenys gali būti paverčiami su konkrečiu asmeniu siejamais duomenimis. Tai, kad duomenys anksčiau buvo nuasmeninti, nereiškia, kad jie tokie ir išliks juos analizuojant DI. Be to, DI galėtų sukurti naujus asmens duomenis derindamas iki tols nesusijusius asmens duomenų rinkinius. Atitinkamai, įmonės turės stebėti, koks yra DI veiksmų su asmens duomenimis (ar nuasmenintais duomenimis) rezultatas.

II. Dirbtinis intelektas kaip priemonė palengvinti atitikties BDAR įgyvendinimą

Aptarus DI naudojimo rizikas, negalima nepaminėti ir to, kaip DI gali padėti įgyvendinti BDAR reikalavimus. Nemažai IT produktus kuriančių bendrovių, tokių kaip IBM, Veritas ir Microsoft siūlo DI pagrindu paremtas platformas, leidžiančias nustatyti, kokius duomenis kaupia įmonė, kur jie yra saugomi bendrovės tinkle, ir surūšiuoja juos tam, kad būtų lengviau juos valdyti bei įgyvendinti tokus BDAR reikalavimus kaip teisė būti pamirštam.

DI galėtų būti pasitelktas kaip viena iš techninių priemonių, leidžiančių įgyvendinti BDAR nustatytą pareigą užtikrinti pakankamą tvarkomų duomenų saugumą. Laiku ir efektyviai nustatydamas saugumo pažeidimą, DI gerokai palengvintų reagavimo į saugumo pažeidimus procedūras. DI gali automatiškai nustatyti paslėptas grėsmes nustatydamas nukrypimus nuo įprastinio tinklo veikimo ir tam net nereikėtų prieigos prie pačių duomenų, kurie yra siunčiami, taip įgyvendinant pritaikytosios duomenų apsaugos principą. DI pagrindu paremtus produktus teikiančių bendrovių teigimu, DI vykdoma analizė leistų tinkamai susidoroti su pareiga tam tikrais atvejais per 72 valandas pranešti nacionalinei priežiūros institucijai apie įvykusį duomenų saugumo pažeidimą.

Tokios platformos taip pat galėtų leisti suvaldyti minėtą riziką dėl naujų asmens duomenų atsiradimo, nes galėtų efektyviai sekti, kada ir kaip tokie duomenys atsiranda, atitinkamai atlikdamos audito funkciją.

DI gali reikšmingai padėti BDAR įgyvendinimo procese apimdamas ir prižiūrėdamas daug daugiau duomenų, nei galėtų bet koks žmogus. Visgi, tam tikro pobūdžio DI, ypač paremtas giliuoju mokymu, savo esme kelia grėsmę atitikčiai BDAR, o išimtinai juo paremti sprendimai, keliantys teisines ar kitokias didelį poveikį turinčios pasekmės, bent jau kol kas faktiškai negalės atitikti BDAR keliamų skaidrumo ir paaiškinamumo reikalavimų.

Rašyti komentarą

Rašyti komentarą

Gauk nemokamą TECHNOLOGIJŲ savaitraštį į savo el.pašto dėžutę:

Pasirinkite Jus dominančius NEMOKAMUS savaitraščius:















Svarbiausios dienos naujienos trumpai:



 
Liudvikas Andriulis. Olandiškas paveikslas 2

Olandas lėtai košia žodžius: „Tokios kiaulystės aš nesitikėjau. Turim daug klientų, bet nė vienas per visą...

Verslo klasė
2017.12.31
Išmaniuosiuose telefonuose – ir žmonės, ir reklama

Augantis išmaniųjų telefonų naudojimas sparčiais tempais augina ir mobiliąją reklamą. Ji 2017 m. pagal...

Rinkodara
2017.12.31
„Huawei Mate 10 Pro“ – puikus telefonas be vietos rinkoje Premium 1

2017 m. spalį vykau į Miuncheną, kad galėčiau išvysti naujuosius „Huawei“ flagmanus. Ten kinų bendrovė...

Verslo klasė
2017.12.30
2017 m. JAV milžinų apsipirkimai Europoje: domino švedai ir kompiuterinis matymas

JAV technologijų gigantės 2017 m. įsigijo bent kelioliką Europos bendrovių. Jos čia žvalgėsi ir talentų, ir...

Technologijos
2017.12.29
„SoftBank“ investuoja į „Uber“ su 30% nuolaida

Japonijos investicijų gigantės „SoftBank“ vedama investicijų grupė už maždaug 9 mlrd. USD įsigyja daugiau...

Rinkos
2017.12.29
GCAC vadovo interviu: apie kanapes, „blockchain“ ir duomenų centrą Lietuvoje Premium

Kitų metų pradžioje Vilniuje duris atversiančiame „blockchain“ technologijų centre kuriasi pirmoji įmonė –...

Technologijos
2017.12.29
„Brexit“: naktinis vaistų gamintojų košmaras virsta tikrove Premium 4

Jungtinės Karalystės (JK) farmacijos sektorius – vienas garsiausiai raginančių susitarti dėl kuo palankesnių...

Verslo aplinka
2017.12.29
„Apple“ dėl sulėtintų telefonų žada kompensacijas 23

Įvairiuose JAV teismuose pradėtos bent 8 bylos dėl technologijų milžinės „Apple“ sprendimo sulėtinti jos...

Technologijos
2017.12.28
 2018 m. tendencijos: leprekonų metai, kai išmokome traukti pinigus iš oro Premium 1

Tikriausiai teko matyti, kaip gatvės iliuzionistai arba išgalvoti literatūriniai veikėjai traukia monetas iš...

Verslo klasė
2017.12.28
Siekiama „Samsung“ vadovą įkalinti 12 metų 1

Pietų Korėjos prokurorai siekia, kad Jay Lee, technologijų kompanijos „Samsung“ valdybos pirmininko...

Technologijos
2017.12.28
„Apple“ vadovo premija už 2017 m. išaugo 74% 1

Timas Cookas, JAV technologijų bendrovės „Apple“ vadovas, už praėjusius finansinius metus gavo 74% didesnę...

Vadyba
2017.12.28
Duomenų verslas: kaip išaugti iš embriono stadijos 1

Lietuvos duomenų perdavimo ir saugojimo rinkoje šiuo metu susiklostė tokia situacija, kai vienose rankose...

Technologijos
2017.12.28
Lietuviai panaudojo „Uber“ modelį, mėgina bet ką pristatyti greičiau Premium 9

UAB „Miesto logistika“ pristatė programėlę, kuria naudodamiesi žmonės vieni kitiems gali pristatyti prekes.

Technologijos
2017.12.28
Nuo 2018 m. sausio 1 d. – 18 pelno mokesčio pakeitimų 3

Nuo 2018 m. įsigalioja visas pluoštas pelno mokesčių lengvatų investicijoms į atsinaujinimą, tyrimus, rizikos...

Finansai
2017.12.28
Startuolių ekosistemos skatinimas: darbai ūkio ministrui Premium 2

Reikia skatinti pradedančiųjų bendrovių kūrimąsi, supaprastinti migracijos politiką ir palengvinti...

Technologijos
2017.12.28
Planetos turtingiausieji 2017-aisiais praturtėjo 1 trln. JAV dolerių

Turtingiausi pasaulio žmonės 2017-aisiais tapo 1 trln. USD turtingesni. Jų turto prieaugis – keturiskart...

Verslo aplinka
2017.12.27
Apklausa: nerimas dėl netvarios NT rinkos raidos ir kibernetinių atakų

Kibernetinių išpuolių ir netvarios nekilnojamojo turto (NT) rinkos raidos rizikas finansų įstaigos nurodo...

Statyba ir NT
2017.12.27
Trintuvus glotnučiams pritaikys viešosioms erdvėms 1

Startuolis UAB „Millo Appliances“, sukūręs ir užpatentavęs personalinį vaisių ir daržovių trintuvą, dabar...

Pramonė
2017.12.27
Įspėja: be jūsų žinios galite būti išnaudojami kriptovaliutai generuoti 1

Ryšių reguliavimo tarnybos nacionalinis elektroninių ryšių tinklų ir informacijos saugumo incidentų tyrimo...

Technologijos
2017.12.27
Gyvatė užantyje, arba Vienos vagystės „Interneto vizijoje“ istorija Premium 4

Nuo socialinės inžinerijos atakų neapsaugotos net IT bendrovės. Tuo įsitikino Arvydas Štrausas, domenų...

Technologijos
2017.12.27

Verslo žinių pasiūlymai

Pažintinis žurnalas

Pažintinis žurnalas

Tiems, kas brangina savo laisvalaikį ir domisi rytojumi

Nepamirštamos kelionės laiku

Nepamirštamos kelionės laiku

Kas mėnesį laukia nauji įspūdžiai ir netikėti atradimai

NEMOKAMI specializuoti savaitraščiai

NEMOKAMI specializuoti savaitraščiai

Nepraleiskite savo srities naujienų

„Verslo žinių“ akademija

„Verslo žinių“ akademija

Išsamūs praktiniai mokymai ne didesnėse nei 14 dalyvių grupėse

Siekdami pagerinti Jūsų naršymo kokybę, statistiniais ir rinkodaros tikslais šioje svetainėje naudojame slapukus (angl. „cookies“), kuriuos galite bet kada atšaukti.
Sutinku Plačiau