Kas tai? Eksperto įžvalgos

Dirbtinis intelektas Bendro duomenų apsaugos reglamento kontekste – problemų šaltinis ar jų sprendimo būdas?

Reklama publikuota: 2017-09-08
svg svg

Nuostatos, reglamentuojančios profiliavimą kaip specifinę asmens duomenų tvarkymo rūšį jau ir šiuo metu iš dalies yra įtvirtintos Duomenų apsaugos direktyvos 95/46/EB 15 straipsnyje, kurio nuostatos atitinkamai buvo perkeltos į nacionalinę teisę 28 Lietuvos Respublikos asmens duomenų teisinės apsaugos įstatymo (toliau – ADTAĮ) straipsnyje. Tačiau Direktyva ir ADTAĮ (kurioje tai vadinama „asmens savybių įvertinimu automatiniu būdu“) didesnį dėmesį skiria ne pačiam automatiniu būdu vykdomam sprendimų priėmimo procesui (kuris gali apimti ir profiliavimą), o sprendimui kaip jo rezultatui. Nuo 2018 metų gegužės 25 dienos pradedamas taikyti ES Bendrasis duomenų apsaugos reglamentas (BDAR) Reglamentas iš esmės griežtina ir konkretina reikalavimus. Koks yra Reglamento poveikis tobulėjančio ir praktikoje vis labiau plintančio dirbtinio intelekto (DI) naudojimui?

I. Dirbtinio intelekto naudojimas kaip problema BDAR kontekste

Reglamente nustatyta, jog „Duomenų subjektas turi teisę, kad jam nebūtų taikomas tik automatizuotu duomenų tvarkymu, įskaitant profiliavimą, grindžiamas sprendimas, dėl kurio jam kyla teisinės pasekmės arba kuris jam panašiu būdu daro didelį poveikį“. Visgi, tokia teisė turi išimčių ir nėra taikoma tada, jei sprendimas yra leidžiamas Sąjungos arba valstybės narės teisėje, yra būtinas siekiant sudaryti arba vykdyti sutartį tarp duomenų subjekto ir duomenų valdytojo arba yra pagrįstas aiškiu duomenų subjekto sutikimu. Paskutiniais dviem atvejais vis vien turės būti įgyvendinama duomenų subjekto teisė iš duomenų valdytojo reikalauti žmogaus įsikišimo, pareikšti savo požiūrį ir užginčyti sprendimą. Kartu turėtų būti vertinama ir duomenų valdytojo pareiga automatizuoto sprendimų priėmimo atveju duomenų subjektui pateikti prasmingą informaciją apie loginį sprendimo pagrindimą, taip pat tokio duomenų tvarkymo reikšmę ir numatomas pasekmes duomenų subjektui. Tai apibūdinama kaip teisė gauti automatinio sprendimo pagrindimą.

Anksčiau, kai automatiniams sprendimams priimti naudojamos DI sistemos buvo primityvios, atsekti, kaip vienoks ar kitos sprendimas buvo priimtas didesnių sunkumų nebuvo. Tačiau dabar tokios sistemos neretai yra tokios sudėtingos ir remiasi tokiais dideliais susijusių duomenų kiekiais, kad konkretaus sprendimo pagrindimo atsekti ir pateikti analizuojant DI veikimą žmonėms faktiškai neįmanoma. Tuo tarpu tokių metodų kaip gilusis mokymas (deep learning) veikimas apskritai negali būti paaiškinamas žmonėms suprantamu būdu, nes yra paremtas neuroniškojo tinklo (neural network - tinklo, atkartojančio neuronų tinklo savybes ir, atitinkamai, veikiančiu panašiu principu, kaip ir smegenys) pagrindu. Pripažįstama, kad nors DI gali būti labai efektyvus, paaiškinamumas nėra stiprioji DI savybė, kas lemia jo reputaciją kaip „juodosios dėžės“ (black box) technologijos. Taip yra ne vien dėl minėto naudojamų sistemų sudėtingumo, bet ir DI paremtus produktus kuriančių bendrovių nenoro atskleisti, kaip veikia jų algoritmai, siekiant apsaugoti juos nuo konkurentų kopijavimo.

Nemokami naujienlaiškiai į savo el. pašto dėžutę:













Svarbiausios dienos naujienos trumpai:



 

Vienintele išeitimi šiuo atveju yra vadinamasis paaiškinamas dirbtinis intelektas (explainable artificial intelligence, XAI). Tai dar sudėtingesnis DI, kuris yra išmokomas ne tik priimti sprendimą, bet ir sugebėti pademonstruoti vidinę logiką, kuria remiantis toks sprendimas buvo priimtas. Kol kas tokių sistemų kūrimas dar pakankamai ankstyvoje stadijoje, tačiau egzistuoja progresas, kuris turėtų leisti ilgainiui išspręsti DI naudojimo automatinių sprendimų priėmimui paaiškinamumo problemą. Tiesa, kol kas paaiškinamumas ir DI priimamų sprendimų tikslumas iš esmės yra priešingai proporcingi ir neaišku, kaip greitai ši situacija pasikeis.

Google mokslinių tyrimų direktorius Peter Norvig pateikė įdomų požiūrį į paaiškinamo DI įgyvendinimo būdus. Jo teigimu, patys žmonės ne itin gerai sugeba paaiškinti savo sprendimų priėmimo procesus. Peter Norvig pabrėžė, kad psichologai yra nustatę, jog paprašius žmogaus paaiškinti, gaunamas atsakymas nėra sprendimo priėmimo procesas. Po sprendimo priėmimo pateiktas paaiškinimas sukuriamas ir gali neatspindėti iš tikro įvykusio proceso. Atitinkamai, DI paaiškinimą greičiausiai suformuluos pagal savo jau priimtą sprendimą, o ne bandys analizuoti ir į žmonėms suprantamą kalbą paversti iš tikro įvykusį sprendimo priėmimo procesą jo metu. Atsižvelgdamas į tai, Peter Norvig siūlo verčiau analizuoti didesnius sprendimų kiekius ieškant tendencingumų. Tiesa, būtina pastebėti, kad tai taip pat nėra idealus problemos sprendimo būdas BDAR kontekste, nes negalėtų pateikti atsakymo dėl konkretaus sprendimo priėmimo pagrindų.

BDAR yra sulaukęs kritikos dėl to, kad net ir toks reguliavimas kelia abejonių dėl duomenų subjektams suteikiamos apsaugos realumo. Straipsnio autorių vertinimu, BDAR suteiks asmenims informacijos apie tai, kad sprendimai priimami automatiškai ir sistemos funkcionalumą, tačiau nepateiks priimto sprendimo pagrindimo. Algoritmų paaiškinimas neturi tos pačios vertės kaip paaiškinimas kaip ir kodėl buvo priimtas konkretus sprendimas.

Kita specifinė problema, susijusi su DI ir kitomis panašiomis sistemomis yra galimybė, kad anonimiški duomenys gali būti paverčiami su konkrečiu asmeniu siejamais duomenimis. Tai, kad duomenys anksčiau buvo nuasmeninti, nereiškia, kad jie tokie ir išliks juos analizuojant DI. Be to, DI galėtų sukurti naujus asmens duomenis derindamas iki tols nesusijusius asmens duomenų rinkinius. Atitinkamai, įmonės turės stebėti, koks yra DI veiksmų su asmens duomenimis (ar nuasmenintais duomenimis) rezultatas.

II. Dirbtinis intelektas kaip priemonė palengvinti atitikties BDAR įgyvendinimą

Aptarus DI naudojimo rizikas, negalima nepaminėti ir to, kaip DI gali padėti įgyvendinti BDAR reikalavimus. Nemažai IT produktus kuriančių bendrovių, tokių kaip IBM, Veritas ir Microsoft siūlo DI pagrindu paremtas platformas, leidžiančias nustatyti, kokius duomenis kaupia įmonė, kur jie yra saugomi bendrovės tinkle, ir surūšiuoja juos tam, kad būtų lengviau juos valdyti bei įgyvendinti tokus BDAR reikalavimus kaip teisė būti pamirštam.

DI galėtų būti pasitelktas kaip viena iš techninių priemonių, leidžiančių įgyvendinti BDAR nustatytą pareigą užtikrinti pakankamą tvarkomų duomenų saugumą. Laiku ir efektyviai nustatydamas saugumo pažeidimą, DI gerokai palengvintų reagavimo į saugumo pažeidimus procedūras. DI gali automatiškai nustatyti paslėptas grėsmes nustatydamas nukrypimus nuo įprastinio tinklo veikimo ir tam net nereikėtų prieigos prie pačių duomenų, kurie yra siunčiami, taip įgyvendinant pritaikytosios duomenų apsaugos principą. DI pagrindu paremtus produktus teikiančių bendrovių teigimu, DI vykdoma analizė leistų tinkamai susidoroti su pareiga tam tikrais atvejais per 72 valandas pranešti nacionalinei priežiūros institucijai apie įvykusį duomenų saugumo pažeidimą.

Tokios platformos taip pat galėtų leisti suvaldyti minėtą riziką dėl naujų asmens duomenų atsiradimo, nes galėtų efektyviai sekti, kada ir kaip tokie duomenys atsiranda, atitinkamai atlikdamos audito funkciją.

DI gali reikšmingai padėti BDAR įgyvendinimo procese apimdamas ir prižiūrėdamas daug daugiau duomenų, nei galėtų bet koks žmogus. Visgi, tam tikro pobūdžio DI, ypač paremtas giliuoju mokymu, savo esme kelia grėsmę atitikčiai BDAR, o išimtinai juo paremti sprendimai, keliantys teisines ar kitokias didelį poveikį turinčios pasekmės, bent jau kol kas faktiškai negalės atitikti BDAR keliamų skaidrumo ir paaiškinamumo reikalavimų.

Pasirinkite jus dominančias įmones ir temas – asmeniniu naujienlaiškiu informuosime iškart, kai jos bus minimos „Verslo žiniose“, „Sodros“, Registrų centro ir kt. šaltiniuose.

Specialistų trūksta, alga ne per didžiausia: stringa Kibernetinio saugumo centro vadovo paieška Premium

Krašto apsaugos ministerijai (KAM) kol kas sunkiai sekasi surasti naująjį Nacionalinio kibernetinio saugumo...

Inovacijos
05:45
JAV nusitaikė į Rusijos technologijų įmones, sankcionavo didžiausią lustų gamintoją 1

Jungtinės Valstijos ketvirtadienį paskelbė sankcijas kelioms Rusijos technologijų įmonėms, įskaitant...

Inovacijos
2022.03.31
Pasaulis gręžiasi nuo Rusijos IT bendrovių, jų įrangą vis dar naudoja Lietuvos įstaigos Premium 2

Iš Rusijos kilusios IT bendrovės, kaip „Kaspersky“ ar „Yandex“, pastarąjį mėnesį atsidūrė po Vakarų...

Inovacijos
2022.03.31
Lietuvos žaidimų industrija: iškart galėtume įdarbinti 100 darbuotojų

Žaidimų industrija Lietuvoje šiuo metu yra pajėgi plėstis dar ketvirtadaliu, tačiau susiduriama su talentų...

Inovacijos
2022.03.31
„Inbalance“ gavo 1,5 mln. Eur finansavimą, įrengs 640 elektromobilių įkrovimo stotelių

Investicijų bendrovės „I asset management“ fondas „NuCapital“‚ suteikė 1,5 mln. Eur paskolą, kurią per...

Automobiliai
2022.03.31
Po rekordinių metų startuoliams – investicijų štilis, bet laukiama kelių stambių sandorių Premium

Per pirmąjį metų ketvirtį penki Lietuvos startuoliai, remiantis viešai skelbtais duomenimis, pritraukė apie...

Inovacijos
2022.03.31
Po kibernetinės atakos „Rosaviacija“ bando surasti 65 TB ištrintų duomenų 4

Pasak pranešimų, strateginė Rusijos aviacijos agentūra prarado visus savo serveriuose laikytus duomenis,...

Logistika
2022.03.30
R. Rainys – apie kibernetinį saugumą, sąsajas tarp kriptovaliutų ir „ransomware“ bei „Yandex. Taxi“ Lietuvoje Premium 3

Rytis Rainys, kadenciją baigiantis Nacionalinio kibernetinio saugumo centro (NKSC) vadovas, sako, jog nuo...

Inovacijos
2022.03.30
Estijoje ketinama uždrausti „Yandex“

Estijos verslumo ir informacinių technologijų ministerija pranešė teiksianti vyriausybei siūlymą uždrausti...

Inovacijos
2022.03.30
VLK kibernetinį atsparumą stiprina bendradarbiaudama su „NRD Cyber Security“ Verslo tribūna

Valstybinė ligonių kasa prie Sveikatos apsaugos ministerijos (VLK) užtikrina sveikatos priežiūrą,...

2022.03.30
Ekspertai perspėja apie augantį kibernetinių atakų pavojų

Greta Rusijos vykdomos invazijos į Ukrainą, vyksta ir plataus masto informacinis karas, teigia tarptautinė...

Inovacijos
2022.03.29
„Fintech“ bendrovė „Woolsocks“ plečiasi Vilniuje

Nyderlandų kapitalo finansinių technologijų inovatorė „Woolsocks“ ketina plėsti Vilniaus komandą. Sukūrusi...

Inovacijos
2022.03.29
JK priveria kriptokioską: rizikos zonoje atsidūrė net „Revolut“ Premium 2

Jungtinėje Karalystėje, kaip ir didžiojoje dalyje pasaulio, kriptopaslaugos yra mažai arba visiškai...

Inovacijos
2022.03.29
JAV įtraukė „Kaspersky“ į grėsmių sąrašą

JAV reguliuotoja Rusijos kibernetinio saugumo programinės įrangos gamintoją „Kaspersky“ pripažino grėsme...

Inovacijos
2022.03.29
Startuolio savo noru nepaliko nė vienas darbuotojas: ką galima būtų pritaikyti ir kitoms organizacijoms Premium 3

Lietuviškas transporto užsakymų valdymo startuolis „GoRamp“ per pastaruosius kelerius metus užaugino komandą...

Vadyba
2022.03.28
RRT: elektroninių ryšių rinka per ketvirtį augo iki 195 mln. Eur

Lietuvos elektroninių ryšių rinka 2021 metų ketvirtąjį ketvirtį siekė 195 mln. Eur ir palyginti su trečiuoju,...

Inovacijos
2022.03.28
„Huawei“ skelbia pernai pasiekusi rekordinį pelną

Kinijos telekomunikacijų milžinė „Huawei“ pirmadienį pranešė apie rekordinį 2021 m. grynąjį pelną, pasiektą...

Inovacijos
2022.03.28
IT specialistų iš Baltarusijos ir Ukrainos viliones žada tik patvirtinus saugiklių sąrašą 2

Informacinių technologijų (IT) specialistų ir įmonių iš Rusijos ir Baltarusijos priėmimas Lietuvoje prasidės...

Inovacijos
2022.03.28
„Apple“ dėl infliacijos ir karo ruošiasi mažinti „iPhone“ ir „AirPod“ gamybą

Rizikos dėl karo Ukrainoje bei aukšta infliacija pradeda daryti įtaką elektroninės įrangos paklausai – JAV...

Inovacijos
2022.03.28
Lazerininkai „Optonas“ ruošiasi 4 mln. Eur investicijoms, Kinijos situacijoje mato galimybių Premium

Pagrindinė „Optono“ grupės bendrovė tuo pačiu pavadinimu skaičiuoja 13-us veiklos metus. Ji gamina...

Inovacijos
2022.03.28

Verslo žinių pasiūlymai

Šioje svetainėje naudojame slapukus (angl. „cookies“). Jie padeda atpažinti prisijungusius vartotojus, matuoti auditorijos dydį ir naršymo įpročius; taip mes galime keisti svetainę, kad ji būtų jums patogesnė.
Valdyti Sutinku