Kas tai? Eksperto įžvalgos

Dirbtinis intelektas Bendro duomenų apsaugos reglamento kontekste – problemų šaltinis ar jų sprendimo būdas?

Publikuota: 2017-09-08

Nuostatos, reglamentuojančios profiliavimą kaip specifinę asmens duomenų tvarkymo rūšį jau ir šiuo metu iš dalies yra įtvirtintos Duomenų apsaugos direktyvos 95/46/EB 15 straipsnyje, kurio nuostatos atitinkamai buvo perkeltos į nacionalinę teisę 28 Lietuvos Respublikos asmens duomenų teisinės apsaugos įstatymo (toliau – ADTAĮ) straipsnyje. Tačiau Direktyva ir ADTAĮ (kurioje tai vadinama „asmens savybių įvertinimu automatiniu būdu“) didesnį dėmesį skiria ne pačiam automatiniu būdu vykdomam sprendimų priėmimo procesui (kuris gali apimti ir profiliavimą), o sprendimui kaip jo rezultatui. Nuo 2018 metų gegužės 25 dienos pradedamas taikyti ES Bendrasis duomenų apsaugos reglamentas (BDAR) Reglamentas iš esmės griežtina ir konkretina reikalavimus. Koks yra Reglamento poveikis tobulėjančio ir praktikoje vis labiau plintančio dirbtinio intelekto (DI) naudojimui?

I. Dirbtinio intelekto naudojimas kaip problema BDAR kontekste

Reglamente nustatyta, jog „Duomenų subjektas turi teisę, kad jam nebūtų taikomas tik automatizuotu duomenų tvarkymu, įskaitant profiliavimą, grindžiamas sprendimas, dėl kurio jam kyla teisinės pasekmės arba kuris jam panašiu būdu daro didelį poveikį“. Visgi, tokia teisė turi išimčių ir nėra taikoma tada, jei sprendimas yra leidžiamas Sąjungos arba valstybės narės teisėje, yra būtinas siekiant sudaryti arba vykdyti sutartį tarp duomenų subjekto ir duomenų valdytojo arba yra pagrįstas aiškiu duomenų subjekto sutikimu. Paskutiniais dviem atvejais vis vien turės būti įgyvendinama duomenų subjekto teisė iš duomenų valdytojo reikalauti žmogaus įsikišimo, pareikšti savo požiūrį ir užginčyti sprendimą. Kartu turėtų būti vertinama ir duomenų valdytojo pareiga automatizuoto sprendimų priėmimo atveju duomenų subjektui pateikti prasmingą informaciją apie loginį sprendimo pagrindimą, taip pat tokio duomenų tvarkymo reikšmę ir numatomas pasekmes duomenų subjektui. Tai apibūdinama kaip teisė gauti automatinio sprendimo pagrindimą.

Anksčiau, kai automatiniams sprendimams priimti naudojamos DI sistemos buvo primityvios, atsekti, kaip vienoks ar kitos sprendimas buvo priimtas didesnių sunkumų nebuvo. Tačiau dabar tokios sistemos neretai yra tokios sudėtingos ir remiasi tokiais dideliais susijusių duomenų kiekiais, kad konkretaus sprendimo pagrindimo atsekti ir pateikti analizuojant DI veikimą žmonėms faktiškai neįmanoma. Tuo tarpu tokių metodų kaip gilusis mokymas (deep learning) veikimas apskritai negali būti paaiškinamas žmonėms suprantamu būdu, nes yra paremtas neuroniškojo tinklo (neural network - tinklo, atkartojančio neuronų tinklo savybes ir, atitinkamai, veikiančiu panašiu principu, kaip ir smegenys) pagrindu. Pripažįstama, kad nors DI gali būti labai efektyvus, paaiškinamumas nėra stiprioji DI savybė, kas lemia jo reputaciją kaip „juodosios dėžės“ (black box) technologijos. Taip yra ne vien dėl minėto naudojamų sistemų sudėtingumo, bet ir DI paremtus produktus kuriančių bendrovių nenoro atskleisti, kaip veikia jų algoritmai, siekiant apsaugoti juos nuo konkurentų kopijavimo.

Vienintele išeitimi šiuo atveju yra vadinamasis paaiškinamas dirbtinis intelektas (explainable artificial intelligence, XAI). Tai dar sudėtingesnis DI, kuris yra išmokomas ne tik priimti sprendimą, bet ir sugebėti pademonstruoti vidinę logiką, kuria remiantis toks sprendimas buvo priimtas. Kol kas tokių sistemų kūrimas dar pakankamai ankstyvoje stadijoje, tačiau egzistuoja progresas, kuris turėtų leisti ilgainiui išspręsti DI naudojimo automatinių sprendimų priėmimui paaiškinamumo problemą. Tiesa, kol kas paaiškinamumas ir DI priimamų sprendimų tikslumas iš esmės yra priešingai proporcingi ir neaišku, kaip greitai ši situacija pasikeis.

Google mokslinių tyrimų direktorius Peter Norvig pateikė įdomų požiūrį į paaiškinamo DI įgyvendinimo būdus. Jo teigimu, patys žmonės ne itin gerai sugeba paaiškinti savo sprendimų priėmimo procesus. Peter Norvig pabrėžė, kad psichologai yra nustatę, jog paprašius žmogaus paaiškinti, gaunamas atsakymas nėra sprendimo priėmimo procesas. Po sprendimo priėmimo pateiktas paaiškinimas sukuriamas ir gali neatspindėti iš tikro įvykusio proceso. Atitinkamai, DI paaiškinimą greičiausiai suformuluos pagal savo jau priimtą sprendimą, o ne bandys analizuoti ir į žmonėms suprantamą kalbą paversti iš tikro įvykusį sprendimo priėmimo procesą jo metu. Atsižvelgdamas į tai, Peter Norvig siūlo verčiau analizuoti didesnius sprendimų kiekius ieškant tendencingumų. Tiesa, būtina pastebėti, kad tai taip pat nėra idealus problemos sprendimo būdas BDAR kontekste, nes negalėtų pateikti atsakymo dėl konkretaus sprendimo priėmimo pagrindų.

BDAR yra sulaukęs kritikos dėl to, kad net ir toks reguliavimas kelia abejonių dėl duomenų subjektams suteikiamos apsaugos realumo. Straipsnio autorių vertinimu, BDAR suteiks asmenims informacijos apie tai, kad sprendimai priimami automatiškai ir sistemos funkcionalumą, tačiau nepateiks priimto sprendimo pagrindimo. Algoritmų paaiškinimas neturi tos pačios vertės kaip paaiškinimas kaip ir kodėl buvo priimtas konkretus sprendimas.

Kita specifinė problema, susijusi su DI ir kitomis panašiomis sistemomis yra galimybė, kad anonimiški duomenys gali būti paverčiami su konkrečiu asmeniu siejamais duomenimis. Tai, kad duomenys anksčiau buvo nuasmeninti, nereiškia, kad jie tokie ir išliks juos analizuojant DI. Be to, DI galėtų sukurti naujus asmens duomenis derindamas iki tols nesusijusius asmens duomenų rinkinius. Atitinkamai, įmonės turės stebėti, koks yra DI veiksmų su asmens duomenimis (ar nuasmenintais duomenimis) rezultatas.

II. Dirbtinis intelektas kaip priemonė palengvinti atitikties BDAR įgyvendinimą

Aptarus DI naudojimo rizikas, negalima nepaminėti ir to, kaip DI gali padėti įgyvendinti BDAR reikalavimus. Nemažai IT produktus kuriančių bendrovių, tokių kaip IBM, Veritas ir Microsoft siūlo DI pagrindu paremtas platformas, leidžiančias nustatyti, kokius duomenis kaupia įmonė, kur jie yra saugomi bendrovės tinkle, ir surūšiuoja juos tam, kad būtų lengviau juos valdyti bei įgyvendinti tokus BDAR reikalavimus kaip teisė būti pamirštam.

DI galėtų būti pasitelktas kaip viena iš techninių priemonių, leidžiančių įgyvendinti BDAR nustatytą pareigą užtikrinti pakankamą tvarkomų duomenų saugumą. Laiku ir efektyviai nustatydamas saugumo pažeidimą, DI gerokai palengvintų reagavimo į saugumo pažeidimus procedūras. DI gali automatiškai nustatyti paslėptas grėsmes nustatydamas nukrypimus nuo įprastinio tinklo veikimo ir tam net nereikėtų prieigos prie pačių duomenų, kurie yra siunčiami, taip įgyvendinant pritaikytosios duomenų apsaugos principą. DI pagrindu paremtus produktus teikiančių bendrovių teigimu, DI vykdoma analizė leistų tinkamai susidoroti su pareiga tam tikrais atvejais per 72 valandas pranešti nacionalinei priežiūros institucijai apie įvykusį duomenų saugumo pažeidimą.

Tokios platformos taip pat galėtų leisti suvaldyti minėtą riziką dėl naujų asmens duomenų atsiradimo, nes galėtų efektyviai sekti, kada ir kaip tokie duomenys atsiranda, atitinkamai atlikdamos audito funkciją.

DI gali reikšmingai padėti BDAR įgyvendinimo procese apimdamas ir prižiūrėdamas daug daugiau duomenų, nei galėtų bet koks žmogus. Visgi, tam tikro pobūdžio DI, ypač paremtas giliuoju mokymu, savo esme kelia grėsmę atitikčiai BDAR, o išimtinai juo paremti sprendimai, keliantys teisines ar kitokias didelį poveikį turinčios pasekmės, bent jau kol kas faktiškai negalės atitikti BDAR keliamų skaidrumo ir paaiškinamumo reikalavimų.

Rašyti komentarą

Rašyti komentarą

Gauk nemokamą TECHNOLOGIJŲ savaitraštį į savo el.pašto dėžutę:

Pasirinkite Jus dominančius NEMOKAMUS savaitraščius:















Svarbiausios dienos naujienos trumpai:



 

10 didžiausių technologijų bendrovių

BendrovėApyvarta (tūkst. Eur)Pelnas (tūkst. Eur)Darbuotojų skaičius
Bitė Lietuva, UAB150.60611.005584
Blue Bridge, UAB21.8841.18689
Tele2, UAB177.58847.322112
Lietuvos radijo ir televizijos centras, AB19.120584349
Telia Lietuva, AB204.06538.6721.806
Atea, UAB53.151908358
Adform Lithuania, UAB20.0171.337497
Varle, UAB27.43051163
Huawei Technologies (Vilnius), UAB56.42042626
Western Union Processing Lithuania, UAB49.3744.4891.622
Lentelė sudaryta pagal „Verslo žinių“ publikuotus reitingus iš bendrovių, pateikusių duomenis Registrų centrui.
Vieta pagal augimą Bendrovė Augimas (2012-2015),% Apskritis
4 UAB „Visma Lietuva“ 1792,2% Vilniaus
18 UAB „DevBridge LT“ 950,1% Kauno
37 UAB „NFQ Technologies“ 658,9% Kauno
69 UAB „Oviosoft“ 500,1% Vilniaus
126 UAB „Autepra“ 357,8% Vilniaus

Verslo žinių pasiūlymai

„Verslo žinių“ akademija

„Verslo žinių“ akademija

Išsamūs praktiniai mokymai ne didesnėse nei 14 dalyvių grupėse

Pažintinis žurnalas

Pažintinis žurnalas

Tiems, kas brangina savo laisvalaikį ir domisi rytojumi

Nepamirštamos kelionės laiku

Nepamirštamos kelionės laiku

Kas mėnesį laukia nauji įspūdžiai ir netikėti atradimai

NEMOKAMI specializuoti savaitraščiai

NEMOKAMI specializuoti savaitraščiai

Nepraleiskite savo srities naujienų

Siekdami pagerinti Jūsų naršymo kokybę, statistiniais ir rinkodaros tikslais šioje svetainėje naudojame slapukus (angl. „cookies“), kuriuos galite bet kada atšaukti.
Sutinku Plačiau