Kas tai? Eksperto įžvalgos

Dirbtinis intelektas Bendro duomenų apsaugos reglamento kontekste – problemų šaltinis ar jų sprendimo būdas?

Publikuota: 2017-09-08

Nuostatos, reglamentuojančios profiliavimą kaip specifinę asmens duomenų tvarkymo rūšį jau ir šiuo metu iš dalies yra įtvirtintos Duomenų apsaugos direktyvos 95/46/EB 15 straipsnyje, kurio nuostatos atitinkamai buvo perkeltos į nacionalinę teisę 28 Lietuvos Respublikos asmens duomenų teisinės apsaugos įstatymo (toliau – ADTAĮ) straipsnyje. Tačiau Direktyva ir ADTAĮ (kurioje tai vadinama „asmens savybių įvertinimu automatiniu būdu“) didesnį dėmesį skiria ne pačiam automatiniu būdu vykdomam sprendimų priėmimo procesui (kuris gali apimti ir profiliavimą), o sprendimui kaip jo rezultatui. Nuo 2018 metų gegužės 25 dienos pradedamas taikyti ES Bendrasis duomenų apsaugos reglamentas (BDAR) Reglamentas iš esmės griežtina ir konkretina reikalavimus. Koks yra Reglamento poveikis tobulėjančio ir praktikoje vis labiau plintančio dirbtinio intelekto (DI) naudojimui?

I. Dirbtinio intelekto naudojimas kaip problema BDAR kontekste

Reglamente nustatyta, jog „Duomenų subjektas turi teisę, kad jam nebūtų taikomas tik automatizuotu duomenų tvarkymu, įskaitant profiliavimą, grindžiamas sprendimas, dėl kurio jam kyla teisinės pasekmės arba kuris jam panašiu būdu daro didelį poveikį“. Visgi, tokia teisė turi išimčių ir nėra taikoma tada, jei sprendimas yra leidžiamas Sąjungos arba valstybės narės teisėje, yra būtinas siekiant sudaryti arba vykdyti sutartį tarp duomenų subjekto ir duomenų valdytojo arba yra pagrįstas aiškiu duomenų subjekto sutikimu. Paskutiniais dviem atvejais vis vien turės būti įgyvendinama duomenų subjekto teisė iš duomenų valdytojo reikalauti žmogaus įsikišimo, pareikšti savo požiūrį ir užginčyti sprendimą. Kartu turėtų būti vertinama ir duomenų valdytojo pareiga automatizuoto sprendimų priėmimo atveju duomenų subjektui pateikti prasmingą informaciją apie loginį sprendimo pagrindimą, taip pat tokio duomenų tvarkymo reikšmę ir numatomas pasekmes duomenų subjektui. Tai apibūdinama kaip teisė gauti automatinio sprendimo pagrindimą.

Anksčiau, kai automatiniams sprendimams priimti naudojamos DI sistemos buvo primityvios, atsekti, kaip vienoks ar kitos sprendimas buvo priimtas didesnių sunkumų nebuvo. Tačiau dabar tokios sistemos neretai yra tokios sudėtingos ir remiasi tokiais dideliais susijusių duomenų kiekiais, kad konkretaus sprendimo pagrindimo atsekti ir pateikti analizuojant DI veikimą žmonėms faktiškai neįmanoma. Tuo tarpu tokių metodų kaip gilusis mokymas (deep learning) veikimas apskritai negali būti paaiškinamas žmonėms suprantamu būdu, nes yra paremtas neuroniškojo tinklo (neural network - tinklo, atkartojančio neuronų tinklo savybes ir, atitinkamai, veikiančiu panašiu principu, kaip ir smegenys) pagrindu. Pripažįstama, kad nors DI gali būti labai efektyvus, paaiškinamumas nėra stiprioji DI savybė, kas lemia jo reputaciją kaip „juodosios dėžės“ (black box) technologijos. Taip yra ne vien dėl minėto naudojamų sistemų sudėtingumo, bet ir DI paremtus produktus kuriančių bendrovių nenoro atskleisti, kaip veikia jų algoritmai, siekiant apsaugoti juos nuo konkurentų kopijavimo.

Vienintele išeitimi šiuo atveju yra vadinamasis paaiškinamas dirbtinis intelektas (explainable artificial intelligence, XAI). Tai dar sudėtingesnis DI, kuris yra išmokomas ne tik priimti sprendimą, bet ir sugebėti pademonstruoti vidinę logiką, kuria remiantis toks sprendimas buvo priimtas. Kol kas tokių sistemų kūrimas dar pakankamai ankstyvoje stadijoje, tačiau egzistuoja progresas, kuris turėtų leisti ilgainiui išspręsti DI naudojimo automatinių sprendimų priėmimui paaiškinamumo problemą. Tiesa, kol kas paaiškinamumas ir DI priimamų sprendimų tikslumas iš esmės yra priešingai proporcingi ir neaišku, kaip greitai ši situacija pasikeis.

Google mokslinių tyrimų direktorius Peter Norvig pateikė įdomų požiūrį į paaiškinamo DI įgyvendinimo būdus. Jo teigimu, patys žmonės ne itin gerai sugeba paaiškinti savo sprendimų priėmimo procesus. Peter Norvig pabrėžė, kad psichologai yra nustatę, jog paprašius žmogaus paaiškinti, gaunamas atsakymas nėra sprendimo priėmimo procesas. Po sprendimo priėmimo pateiktas paaiškinimas sukuriamas ir gali neatspindėti iš tikro įvykusio proceso. Atitinkamai, DI paaiškinimą greičiausiai suformuluos pagal savo jau priimtą sprendimą, o ne bandys analizuoti ir į žmonėms suprantamą kalbą paversti iš tikro įvykusį sprendimo priėmimo procesą jo metu. Atsižvelgdamas į tai, Peter Norvig siūlo verčiau analizuoti didesnius sprendimų kiekius ieškant tendencingumų. Tiesa, būtina pastebėti, kad tai taip pat nėra idealus problemos sprendimo būdas BDAR kontekste, nes negalėtų pateikti atsakymo dėl konkretaus sprendimo priėmimo pagrindų.

BDAR yra sulaukęs kritikos dėl to, kad net ir toks reguliavimas kelia abejonių dėl duomenų subjektams suteikiamos apsaugos realumo. Straipsnio autorių vertinimu, BDAR suteiks asmenims informacijos apie tai, kad sprendimai priimami automatiškai ir sistemos funkcionalumą, tačiau nepateiks priimto sprendimo pagrindimo. Algoritmų paaiškinimas neturi tos pačios vertės kaip paaiškinimas kaip ir kodėl buvo priimtas konkretus sprendimas.

Kita specifinė problema, susijusi su DI ir kitomis panašiomis sistemomis yra galimybė, kad anonimiški duomenys gali būti paverčiami su konkrečiu asmeniu siejamais duomenimis. Tai, kad duomenys anksčiau buvo nuasmeninti, nereiškia, kad jie tokie ir išliks juos analizuojant DI. Be to, DI galėtų sukurti naujus asmens duomenis derindamas iki tols nesusijusius asmens duomenų rinkinius. Atitinkamai, įmonės turės stebėti, koks yra DI veiksmų su asmens duomenimis (ar nuasmenintais duomenimis) rezultatas.

II. Dirbtinis intelektas kaip priemonė palengvinti atitikties BDAR įgyvendinimą

Aptarus DI naudojimo rizikas, negalima nepaminėti ir to, kaip DI gali padėti įgyvendinti BDAR reikalavimus. Nemažai IT produktus kuriančių bendrovių, tokių kaip IBM, Veritas ir Microsoft siūlo DI pagrindu paremtas platformas, leidžiančias nustatyti, kokius duomenis kaupia įmonė, kur jie yra saugomi bendrovės tinkle, ir surūšiuoja juos tam, kad būtų lengviau juos valdyti bei įgyvendinti tokus BDAR reikalavimus kaip teisė būti pamirštam.

DI galėtų būti pasitelktas kaip viena iš techninių priemonių, leidžiančių įgyvendinti BDAR nustatytą pareigą užtikrinti pakankamą tvarkomų duomenų saugumą. Laiku ir efektyviai nustatydamas saugumo pažeidimą, DI gerokai palengvintų reagavimo į saugumo pažeidimus procedūras. DI gali automatiškai nustatyti paslėptas grėsmes nustatydamas nukrypimus nuo įprastinio tinklo veikimo ir tam net nereikėtų prieigos prie pačių duomenų, kurie yra siunčiami, taip įgyvendinant pritaikytosios duomenų apsaugos principą. DI pagrindu paremtus produktus teikiančių bendrovių teigimu, DI vykdoma analizė leistų tinkamai susidoroti su pareiga tam tikrais atvejais per 72 valandas pranešti nacionalinei priežiūros institucijai apie įvykusį duomenų saugumo pažeidimą.

Tokios platformos taip pat galėtų leisti suvaldyti minėtą riziką dėl naujų asmens duomenų atsiradimo, nes galėtų efektyviai sekti, kada ir kaip tokie duomenys atsiranda, atitinkamai atlikdamos audito funkciją.

DI gali reikšmingai padėti BDAR įgyvendinimo procese apimdamas ir prižiūrėdamas daug daugiau duomenų, nei galėtų bet koks žmogus. Visgi, tam tikro pobūdžio DI, ypač paremtas giliuoju mokymu, savo esme kelia grėsmę atitikčiai BDAR, o išimtinai juo paremti sprendimai, keliantys teisines ar kitokias didelį poveikį turinčios pasekmės, bent jau kol kas faktiškai negalės atitikti BDAR keliamų skaidrumo ir paaiškinamumo reikalavimų.

Gauk nemokamą TECHNOLOGIJŲ savaitraštį į savo el.pašto dėžutę:

Pasirinkite Jus dominančius NEMOKAMUS savaitraščius:













Svarbiausios dienos naujienos trumpai:



 
Rašyti komentarą 0
Garso technikos paroda stebina lietuviškais gaminiais Premium

Lapkričio 22–24 d. Vilniuje, „Radisson Blu Hotel Lietuva“, rengiamoje IX tarptautinėje Hi-Fi garso technikos...

Laisvalaikis
2019.11.22
Seimas parlamentarams iš „Telios“ nupirko 180 „prekybos terminalų“ Premium 3

Beveik tris Seimo kadencijas atlaikiusius posėdžių salės „IBM ThinkPad X60“ kompiuterius „Telia“, kuri...

Paslaugos
2019.11.22
„Google“ griežtina politinės reklamos sąlygas Premium

JAV kompanija „Google“ nusprendė įvesti apribojimus tikslinei politinei reklamai – reklamdaviai nebegalės...

Verslo aplinka
2019.11.21
Biurų darbuotojus sportuoti skatinantis „OnePass“ pritraukė 160.000 Eur investiciją 1

Viena narystė – visi sporto klubai. Tokią idėją siekiantis įgyvendinti startuolis „OnePass“ (UAB „Sporto...

Paslaugos
2019.11.21
Lietuvos lazerių įmonės žengia gilyn į pramonės sektorių Premium 2

Pastarosiomis dienomis kelios Lietuvos lazerių bendrovės pranešė apie bebaigiamus pramoninių inovacijų...

Technologijos
2019.11.21
Vilniaus universitete bus dėstoma kibernetinė sauga

Vilniaus universitetas (VU), bendradarbiaudamas su Izraelio kibernetinio saugumo bendrove „Check Point“,...

Paslaugos
2019.11.20
„Alibaba“ Honkongo biržoje gali pritraukti iki 12,9 mlrd. USD

Kinijos elektroninės prekybos milžinė „Alibaba“ per akcijų platinimą Honkongo vertybinių popierių biržoje...

Rinkos
2019.11.20
Apžvalga: Lietuvos startuolių ekosistema auga sparčiau už latvių ir estų

Tarp 3 Baltijos šalių Lietuvoje rizikos kapitalo investicijų augimas yra didžiausias – Estiją lenkiame 47%, o...

Paslaugos
2019.11.20
„Plačiajuostis internetas“ nutraukė 20 mln. Eur vertės ryšio bokštų konkursus

Įsiteisėjus teismo sprendimui, viešoji įstaiga „Plačiajuostis internetas“ nutraukė tris daugiau nei 20...

Technologijos
2019.11.20
JAV kapitalo įmonės idėja – sukurti asmeninę sveikatos sistemą Premium

Prieš penkerius metus Lietuvoje įsteigta JAV programinės įrangos kūrėjos „Exadel Inc“ antrinė įmonė „Exadel...

Pramonė
2019.11.20
„Google“ įžengė į 150 mlrd. USD vertės vaizdo žaidimų rinką

Antradienį interneto milžinė „Google“ pristatė naują žaidimų transliavimo platformą „Stadia“, taip įkeldama...

Paslaugos
2019.11.19
I. Laursas kuria investavimo platfomą: siūlys tokenizuoti NT Premium 5

Verslininkas ir investuotojas Ilja Laursas kuria sutelktinio finansavimo platformą „Oz finance“, kuri, kaip...

Rinkos
2019.11.19
CRM sąsiuvinyje išmanios sistemos neatstos, bet reikia tvarkingų procesų Premium

Jeigu verslo organizacijos procesai nesutvarkyti, verslo valdymo sistema mažai kuo padės, todėl kuriantieji...

Gazelė
2019.11.19
Čekijos planuose – skaitmeninis mokestis „Google“ ir „Facebook“

Čekijos vyriausybė pritarė siūlymui įvesti 7% skaitmeninio verslo mokestį, kuriuo siekiama padidinti...

Rinkodara
2019.11.19
HP atmetė „Xerox“ įsigijimo pasiūlymą  Premium

Bendrovė HP (dalis buvusios „Hewlett Packard“), atmetė „Xerox“ pasiūlymą įsigyti kompaniją už 33,5 mlrd. USD...

Technologijos
2019.11.19
„Qoorio“ pritraukė 2 mln. Eur investiciją ir startuoja Jungtinėje Karalystėje

Lietuvių sukurta žinių dalijimosi platforma „Qoorio“ pritraukė 2 mln. Eur investiciją produkto vystymui ir...

Paslaugos
2019.11.18
Pasaulyje pirmaujančių FinTech inovatorių reitinge - vienintelė Lietuvos įmonė Verslo tribūna 4

Tarptautinė audito, mokesčių ir verslo konsultacijų bendrovė KPMG kartu su rizikos kapitalo investicijų fondu...

Finansai
2019.11.18
Blokų grandinė: finansų paslaugų sektorių prislėgė nusivylimas Premium 3

Blokų grandinės technologija turėjo išstumti bankus ir suteikti galimybę pasauliui „pačiam būti (savo)...

Technologijos
2019.11.17
„Amazon“ užginčijo „Microsoft“ laimėtą 10 mlrd. USD vertės kontraktą 1

„Amazon Web Services“ (AWS) pranešė užginčijusi sprendimą 10 mlrd. USD JAV Gynybos departamento viešųjų...

Technologijos
2019.11.15
Papildytosios realybės akiniai grįžta, bet tik į verslo sektorių Premium

Kartu su pirma „Google Glass“ versija prieš keletą metų vos nenumirusi papildytosios realybės akinių...

Technologijos
2019.11.14

Verslo žinių pasiūlymai

Šioje svetainėje naudojame slapukus (angl. „cookies“). Jie padeda atpažinti prisijungusius vartotojus, matuoti auditorijos dydį ir naršymo įpročius; taip mes galime keisti svetainę, kad ji būtų jums patogesnė.
Sutinku Plačiau