„Išmanios Lietuvos“ pranešėjas: daugelio atsakymų dar neturime, bet DI nereikia bijoti

Publikuota: 2019-10-11
Giedrius Buračas. Asmeninio archyvo nuotr.
Giedrius Buračas. Asmeninio archyvo nuotr.

Dr. Giedrius Buračas, biofizikas ir neurobiologas, vadovaujantis keliems JAV gynybos departamento Technologijų agentūros finansuojamiems dirbtinio intelekto (DI) projektams, nesutinka su Elonu Musku, Nicku Bostromu, Stephenu Hawkingu ir kitais garsiais šios technologijos kritikais. Jis tikina, kad DI nekelia grėsmės žmonijai, ir priduria, kad Holivudas šiai sričiai padarė didelę meškos paslaugą.

JAV gyvenantis ir dirbantis G. Buračas kitą savaitę viešės Lietuvoje ir dalyvaus spalio 15 d. vyksiančioje konferencijoje „Išmani Lietuva“. Kalifornijos universitete jis ilgai tyrė dėmesio mechanizmus, buvusio JAV kosmoso tyrimų agentūros NASA vadovo Danielio Goldino startuolyje kūrė balso atpažinimo algoritmus, vadovavo inžinerijos grupei kompiuterinės regos startuolyje. Dabar G. Buračas vadovauja JAV Gynybos departamento finansuojamiems trečios kartos DI projektams.

Su juo kalbamės apie naujausius pasiekimus DI srityje ir tai, kas mūsų laukia ateityje.

Ar keliai, kuriais dabar einame, technologijos, kurias naudojame, gali mus nuvesti iki to, ko, regis, daugelis tikisi ir laukia – sąmoningo bendrojo dirbtinio intelekto (angl. self-aware general purpose AI)? Ir kuris kelias, jūsų nuomone, yra geriausias?

DI vystymo kelių iš tikro yra nemažai ir vis atsiranda naujų. Tęsiant šią metaforą: DI kūrėjai nuolat tiesia naujus kelius ir pratęsia egzistuojančius. DI idėją iškėlė Alanas Turingas, vystydamas savo skaičiuojančių mašinų teoriją. Tai įvyko dar ketvirtajame praėjusio amžiaus dešimtmetyje. Maždaug 1980-aisiais gimusios simbolinės „rankdarbinės“ sistemos jau laikytos pirmąja DI banga. Dabar išpopuliarėjęs gilusis mokymas yra antrosios bangos, kuri paremta statistiniais mašinų mokymo metodais, kulminacija. Anot DARPA (JAV pažangių gynybos projektų agentūra – VŽ) direktoriaus Johno Launchbury, per pastaruosius porą metų pradėjo kilti ir trečioji banga, kurios tikslas yra DI algoritmai, galintys nuolat mokytis, neužmiršdami ankstesnių žinių, ir žinantys savo kompetenciją bei jos ribas (angl. competency-aware machne learning). Tokie algoritmai nesutrinka, nesusipainioja naujomis aplinkybėmis, susidūrę su naujais duomenimis ar situacijomis, nepasiduoda falsifikacijoms, kaip kad dabartiniai DI algoritmai. Trečiosios bangos algoritmai taip pat gali paaiškinti vartotojui savo žingsnius sprendimo priėmimo procese (angl. explainable AI).

Šitie visi keliai tiesiami labai sąmoningai: visi didžiojo penketo nariai – „Apple“, „Alphabet“, „Microsoft“, „Facebook“, „Amazon“ – taip pat Kinijos gigantas „Baidu“ ir gausybė kitų kompanijų kuria bei masiškai naudoja DI. Be to, JAV, Kinijos ir ES vyriausybės laiko DI prioritetine šaka. JAV agentūros yra paskelbusios begalę DI programų. DARPA yra bene pažangiausia šioje srityje, nes bando numatyti, kur pasaulis bus po 5 ar daugiau metų. Ji yra paskelbusi dešimtis programų, ir dauguma jų orientuotos būtent į trečios kartos DI kūrimą. Visgi tas kelių tiesimas yra evoliucinis dalykas, vykstantis palaipsniui, todėl nėra lengva numatyti, kaip ir kur jie nuvingiuos. 

Ar apskritai įmanoma sukurti sąmoningą DI? Juk mes patys ne iki galo suprantame, kaip atsirado ir veikia mūsų pačių sąmonė.

Sąmonė yra sudėtingas klausimas. Juo domiuosi ir tyrinėju jau per 30 metų. Teko daug bendrauti su nobelistu Franciu Cricku tais klausimais mūsų institute. Net turėjome pasikabinę plakatą „Consciousness Now“ (angl. sąmonė dabar), paimtą iš jo knygos šia tema. Yra daug sąmonės reiškinio lygių, nuo elementarių potyrių jautimo specifikos iki intencionalumo, savimonės ir vadinamosios proto teorijos (angl. theory of mind) – sugebėjimo nuspėti, ką mano kiti žmonės.

Priklausomai nuo konkretaus sąmonės aspekto, atsakymas bus skirtingas. Viena svarbiausių sąmonės funkcijų yra suvokti save (savimonė) tiek, kad galima būtų perduoti kitiems savo intencijas, ir suprasti kitų intencijas. Be šio sugebėjimo kooperacija tarp žmonių būtų neįmanoma.

Tokio lygio sąmonę ir savimonę yra įmanoma sukurti dirbtinėse sistemose.

Daug kas ginčijasi, ar sąmoningas DI apskritai turėtų būti šių tyrimų tikslas. Pvz., E. Muskas ir nemažai mokslininkų bei filosofų (pvz., Nickas Bostromas) sako, kad kol kas geriau nekurti tokio DI, nes dar nesame tam pasiruošę ir tai yra per daug pavojinga žmonijai. Ką jūs apie tai manote?

Sąmoningo DI mitą, kuris gali kelti egzistencijos grėsmę žmonijai, išpopuliarino fantastinių apysakų autoriai ir Holivudo filmai. Pabandykime paanalizuoti šį mitą. Ar sąmoningumas yra pakankama aukšto intelekto prielaida? Gyvūnai juk taip pat pasižymi sąmone. Tikriausiai kiekvienas šuns savininkas (tarp jų – ir aš) paliudys, kad jų keturkojai draugai yra sąmoningos būtybės. Tačiau vargu ar turime bijoti, kad šunys savo intelektu kelia grėsmę žmonijai. Taigi sąmoningumas yra nepakankama prielaida aukštam intelektui.

Kitas klausimas būtų: ar sąmoningumas yra būtina sąlyga aukštam intelektui? Šiuo metu tie, kurie tvirtina, kad taip ir yra, remiasi vieninteliu aukšto intelekto egzistavimo įrodymu: žmogumi, kuris yra sąmoningas. Tačiau tai nereiškia, kad sąmoningumas yra privaloma aukšto DI sąlyga.

E. Muskas įsivaizduoja, kad DI, kuris galėtų kelti grėsmę žmonijai, visai neturi būti antropomorfinis (žmogaus pavidalo, panašus į žmogų – VŽ) ar sąmoningas. Pakanka, kad toks DI turėtų dideles algoritmines, intelektines galias, kurias galėtų skirti tikslams siekti, ir kad jo optimizavimo ir atpildo funkcija verstų jį priimti sprendimus, kurie vienaip ar kitaip pažeidžia žmonių interesus. 

Ar sutinkate su E. Musku, kad turime tik vieną šansą sukurti sąmoningą DI, nes jei ką nors padarysime blogai, jis nesileis išjungiamas?

Nesutinku. Esu įsitikinęs, kad po kelerių metų patirsime rimtą nusivylimą DI galiomis, kaip tai visuomet įvyksta su visais perdėtais lūkesčiais, susijusiais su naujausiomis technologijas. Tai puikiai iliustruoja bendrovės „Gartner“ „Cycle of Hype“ grafikas.

Viena didžiausių to nusivylimo priežasčių bus atradimas, kad DI yra labai naivus, netgi kvailas toje srityje, kurioje žmonės yra stipriausi – socialinėje sferoje. Tai ilgoka diskusija, bet trumpai: socialiniai sprendimai, kuriuos žmonės daro dažnai nesąmoningai, ilgai bus nesuvokiami DI, ir dėl to DI nesulauks žmonių pasitikėjimo dar ilgai. Dėl to jis bus pažabotas. Vienintelis rimtas DI pavojus kyla iš „blogų veikėjų“, t. y. organizacijų ir valstybių, kurios sąmoningai gali panaudoti DI agresijai. 

Ar įmanoma sukurti bendrąjį dirbtinį intelektą (BDI, angl. Artificial General Intelligence), kuris nebūtų sąmoningas?

Atsakymas į šį klausimą priklauso tiek nuo BDI apibrėžimo, tiek nuo sąmonės apibrėžimo.

BDI dažnai tapatinamas su žmogiškuoju intelektu, kuris yra gana universalus, tačiau turi ir apribojimų, palyginti su tuo, ką šiais laikais gali daryti kompiuteriai.

Taigi, norėdami atsakyti į šį klausimą, turėtume tiksliau apibrėžti BDI. Ar BDI yra tas, kuris gali išmokti atlikti bet kokį uždavinį, kurį gali išmokti visi žmonės, pavyzdžiui, kalba, objektų atpažinimas ir manipuliavimas, orientavimasis aplinkoje, kiti proto uždaviniai? Ar BDI visgi yra tas, kuris gali išmokti daugiau, t. y. uždavinius, kuriuos gali išmokti atlikti tik profesionalai, savo sričių specialistai?

Žmonės sugaišta labai daug laiko, neretai 20 ar net daugiau metų, siekdami įgyti sugebėjimą atlikti labai specializuotus uždavinius, pavyzdžiui, neurochirurgai. Kita vertus, žmonės retai tampa gerais daugiau nei 2–3 profesijų specialistais. Be to, žmogaus intelektas yra ribotas ta prasme, kad skirtingi žmonės turi skirtingą intelekto profilį. Vieni yra žodžio meistrai, bet mažiau linkę į matematiką, kiti – atvirkščiai. Taigi jų intelektai šia prasme, galima sakyti, nėra bendrieji.

Tęsiant bandymus suprasti ir atsakyti į šį klausimą, sąmonės apibrėžimas taip pat yra reikšmingas. Jei kalbame apie savimonę, tai DARPA jau turi programą save suvokiančiam DI kurti. Tiesa, savimonė šiame kontekste tėra naudinga funkcija, kuri leidžia sistemai pačiai nustatyti, ar ji bus pajėgi išspręsti vienus ar kitus uždavinius. 

Mokslininkai ir verslininkai, įspėjantys apie DI pavojus, tarp jų ir S. Hawkingas, kol dar buvo gyvas, kaip argumentą pateikia vieną minties eksperimentą: kas bus, jei duosime DI užduotį gelbėti planetą ir jis apskaičiuos, kad didžiausią grėsmę planetai keliame mes? Ar manote, kad toks scenarijus tikėtinas?

Man tokie scenarijai yra kaip socialinių tinklų memai: įdomu apie tai pakalbėti, bet realiai toks DI superherojus ar superblogiukas yra nelabai realistiškas scenarijus. DI nėra asmuo, tai tik algoritmų rinkinys, ir tokie scenarijai bando DI antropomorfizuoti. Jeigu kas nors ir sukurs antropomorfiškus superrobotus su BDI, tas įkūnijimas juos ir ribos. Dėl įkūnijimo į robotą toks BDI bus lengvai sutramdomas.

Be to, tokie scenarijai pateikia gana nerealistiškas socialines ir politines prielaidas: kad atsiras koks nors konsensusas tarp žmonių ir valstybių, ką su tuo įasmenintu DI daryti. Alternatyva yra, kad tokį super DI valdo diktatorius, kuris daro su juo, ką nori.

Žmonija tuo ir yra įdomi bei atspari, kad joje yra begalė balsų, daugybė prieštaraujančių nuomonių. Todėl galima tikėtis, kad visada atsiras sveiko proto balsas toje balsų jūroje. 

Ar tiesa, kad BDI per kelias valandas ar dienas nuo jo sukūrimo gali tapti superintelektu?

Tikrai ne. Tai įdomi mintis, bet čia irgi daroma labai daug prielaidų. Pirmiausia, kad toks super DI turės armiją žmonių tarnų, kurie tenkins kiekvieną sistemos poreikį. Žmonių socialinėje sferoje, organizacijose yra begalė nutylėtų taisyklių, žinių, kurių DI, gyvenantis serverių fermoje, rydamas knygas ar vaizdo medžiagą, neperpras. Čia reiktų pakalbėti apie tai, kas yra supratimas ir žinios. Tai labai skiriasi nuo informacijos krūvos, ir DI turi priėjimą tik prie informacijos krūvos. Supratimas apie ką nors atsiranda, kai suvokiame, kaip pasiekti norimų tikslų naudojant gautas žinias. Taigi DI faktiškai turėtų ilgokai pagyventi tarp žmonių, kad įsisavintų, kaip daryti sprendimus ir veiksmus, kurie sukelia norimas pasekmes. 

Ar sutinkate su futurologu Raymondu Kurzweilu, kad vienintelis žmonijos kelias išlikti po to, kai bus sukurtas BDI, yra susilieti su mašinomis, nes kitu atveju tapsime per lėti, nereikšmingi ir nereikalingi?

Ir taip, ir ne. Manau, kad dauguma DI komentuotojų ir „pranašų“ pražiopso esminį faktą apie intelektą: nepaprastu intelektu pasižymi ne atskiri žmonės, o žmonių kolektyvai, organizacijos. Būtent jos kuria civilizaciją mūsų planetoje. Šiuo požiūriu atskirų žmonių intelektas yra, palyginti, menkas.

Visgi sutinku su minėtais teiginiais iš dalies, nes žmonės nuolat kuria mašinas savo darbui ir gyvenimui palengvinti. Mes jau seniai esame susilieję su savo automobiliais, kompiuteriais, telefonais. Greitai turėsime patogius egzoskeletus senatvei (ir fiziniam darbui – VŽ) palengvinti. Ir tam visai nereikia implantuoti į žmogaus kūną elektronikos.

Kita vertus, implantai yra geras sprendimas neįgaliesiems. Manau, kad situacija nesikeis iš dalies būtent dėl DI vystymosi: kam man implantuotis kokį nors minčių greitintuvą, jei galėsiu liepti savo BDI robotui tai atlikti?  

O ar sutinkate su teigiančiais, kad dėl DI reikės keisti viso pasaulio ekonomines, socialines ir politines sistemas, nes Vakarams įprasta demokratija ir kapitalizmas bus netinkami laikams, kai didžiąją dalį darbų nudirbs mašinos?

Be abejo, daug kas keisis ir politikoje, ir socioekonominėje sferoje. Tačiau esminės bendražmogiškos vertybės neturėtų keistis.

Manau, jog realistiškiausias scenarijus yra, kad DI įgis vis daugiau sugebėjimų bendradarbiauti su žmonėmis, ir nepasiųs žmonijos į amžinas atostogas, bet dalyvaus veiklose, bendradarbiaus. Yra nemažai įrodymų, kad būtent bendradarbiavimas net tarp vidutinių sugebėjimų žmonių su vidutiniais kompiuteriais yra daug efektyvesnis nei atskiras superkompiuteris ar vienišas genijus.

Rodos, Billas Gatesas yra sakęs, kad vis labiau įsigalint robotams, jei norime orios senatvės, reikėtų tuos robotus apmokestinti. Esą kaip dabar žmonės moka pajamų mokestį, taip įmonės turėtų mokėti kokį nors mokestį už robotus. Ar sutinkate su tuo?

Manau, kad išties reikės imtis priemonių, kad neatsirastų privilegijuotų kastų, valdančių super DI, kol kiti žmonės gyvens beprasmį, betikslį gyvenimą.

Išmani Lietuva

Su dr. Giedriumi Buraču galėsite susitikti ir galbūt padiskutuoti spalio 15 d., „Verslo žinių“ organizuojamoje konferencijoje „Išmani Lietuva“.

Šiemet konferencijos tema yra „5 kelionės platesniems horizontams“. Renginyje savo patirtimi ir įžvalgomis dalysis užsienio ir Lietuvos pranešėjai.

Konferencijos tikslas yra įkvėpti, praplėsti minčių horizontus ir sukelti pasididžiavimą išmanėjančia Lietuva bei jos šviesuliais.

Renginyje taip pat bus pristatyti ir apdovanoti 4 „Išmanios Lietuvos“ ambasadoriai: po vieną mokslo, technologijų, švietimo ir verslo srityse.

Šiemet „Išmani Lietuva“ turi socialinę misiją – „Verslo žinios“ kartu su projekto partneriais ir rėmėjais nori prisidėti prie jaunosios kartos ateities kūrimo. Dėl to į renginį nemokamai kviečiami 500 išmaniausių Lietuvos studentų.

Be to, visos lėšos, gautos už parduotus konferencijos bilietus, bus skirtos paremti programavimo ir kūrybinių technologijų akademijos „Bit and byte“ vykdomai mentorystės programai pradinių klasių mokytojams „Technologijų vedliai“. Šioje programoje dalyvaus 1.000 mokytojų visoje Lietuvoje, kurie mentorių padedami ugdys savo technologinius įgūdžius ir gaus prieigą prie klasėse pritaikomo technologinės kūrybos turinio.

Gauk nemokamą TECHNOLOGIJŲ savaitraštį į savo el.pašto dėžutę:

Pasirinkite Jus dominančius NEMOKAMUS savaitraščius:













Svarbiausios dienos naujienos trumpai:



 
Rašyti komentarą 0
Inovacijos keliuose: išmanioji sistema padės valdyti eismą ir sumažins aplinkos taršą Verslo tribūna

Nesunku pastebėti, kad augant žmonių populiacijai ir kylant pragyvenimo lygiui, didėja ir transporto...

Verslas „Google“ paieškoje: nuo „Ignitis“, „iPhone“ iki nuolaidų bei žaidimų

Populiariausios „Google“ paieškos verslo segmente rodo, kad lietuviai šiemet labiausiai domėjosi naujuoju...

Rinkodara
09:49
„HCL Technologies“ viceprezidentas: ir be „Barclays“ būtume žengę į Lietuvą Premium

Sudipas Lahiri, Lietuvoje biurą atidariusios „HCL Technologies“ viceprezidentas ir finansinių paslaugų...

„Telia Lietuva“ kuria naują padalinį ir pereina prie globalios veiklos modelio su grupe

„Telia Lietuva“ nuo 2020 m. sausio steigia naują Skaitmeninimo ir analitikos padalinį. Bendrovės valdyba taip...

Paslaugos
2019.12.11
Kauniečių startuolis sukūrė išmanųjį kuponą, atvėrusį daugelio klientų duris Premium

Verslas jau atsikando nekokybiškų programavimo paslaugų iš Azijos: tai, kad Kauno UAB „Aciety“ sukurta...

Gazelė
2019.12.11
Populiariausios „Google“ paieškos Lietuvoje: rinkimai, „Ignitis“ ir „Džokeris“

Metų pabaigoje tradiciškai „Google“ skelbia kasmetinių tendencingiausių 2019 m. užklausų sąrašą, kuriame...

Rinkodara
2019.12.11
Lietuvos bankas: centriniai bankai galėtų leisti ir skaitmenines valiutas 1

Centrinių bankų leidžiamos skaitmeninės valiutos galėtų tapti nauja centrinių bankų leidžiamų pinigų rūšimi...

Rinkos
2019.12.10
„Transcom“ 2020-uosius pasitinka su naujais vadovais ir klientais Premium

Kad viename seniausių kontaktų centrų Lietuvoje „Transcom Worldwide Vilnius“ keičiasi vadovai, VŽ skelbė...

Paslaugos
2019.12.10
Veiklą pradeda „Barclays“ darbuotojus perėmusios „HCL Technologies“ paslaugų centrai

Trečiadienį Lietuvoje oficialiai veiklą pradeda „Barclays“ darbuotojus perėmusios Indijos bendrovės „HCL...

Paslaugos
2019.12.10
Lietuvoje veikiančio „fintech“ startuolio apyvarta artėja prie 1 mlrd. Eur 2

Pernai veiklą pradėjusios Lietuvos finansinių paslaugų teikėjos UAB „ConnectPay“ klientų finansinių operacijų...

Rinkos
2019.12.09
Chirurginių operacijų komplikacijų riziką mažins pasitelkdami pažangias technologijas Verslo tribūna

2017 m. Londono Queen Mary universiteto atliktos mokslinės studijos duomenimis, kasmet po chirurgų peiliu dėl...

Technologijos
2019.12.09
Telecentras spurtuoja: transliuos IPTV aukštąja raiška Verslo tribūna

Dar  šiemet aukštos (HD) raiškos TV programas bus galima pradėti žiūrėti per belaidę išmaniąją televiziją...

Paslaugos
2019.12.09
„SpaceX“ į TKS atgabeno raumeningų pelių, kirminų ir išmanųjį robotą

Jungtinių Valstijų kosmoso bendrovė „SpaceX“ į Tarptautinę kosminę stotį (TKS) sekmadienį atgabeno ankstyvą...

Technologijos
2019.12.08
„Ericsson“ sutiko su 1 mlrd. USD bauda kyšininkavimo byloje 2

Švedijos telekomunikacijų kompanija „Ericsson“ sumokės per 1 mlrd. USD  baudų ir taip užbaigs JAV institucijų...

Rinkos
2019.12.07
Profesorė S. Jarmalaitė: vėžys nebėra mirtina liga Premium

Genetikos profesorė, biologijos mokslų daktarė Sonata Jarmalaitė, Nacionalinio vėžio instituto (VNI)...

Laisvalaikis
2019.12.07
„World Summit Awards“ finale – net šeši Lietuvos projektai

Jungtinių Tautų globojamo Pasaulio viršūnių apdovanojimų (angl. World Summit Awards 2019) konkurso pirmąjį...

Paslaugos
2019.12.07
„Revolut“ žengia pirmuosius žingsnius į pensijų kaupimo rinką 3

Jungtinės Karalystės startuolis „Revolut“, turintis lietuvišką bankinę licenciją, žengia pirmuosius žingsnius...

Rinkos
2019.12.06
JAV persekioja su Rusijos valdžia siejamus kibernetinius nusikaltėlius

Jungtinės Valstijos paskelbė persekiojančios Rusijos kibernetinių nusikaltėlių grupuotę, kurios...

Verslo aplinka
2019.12.06
Autonominių fabrikų dar teks palaukti – 5G diegimas Lietuvoje prasidės 2021 m. Premium 3

Gigabitinę spartą, nejuntamą vėlinimą ir kitus pranašumus žadantis 5G ryšys Lietuvoje bus pradėtas diegti po...

Paslaugos
2019.12.06
„Swedbank“ pradeda siūlyti „Apple Pay“ mokėjimus 6

„Swedbank“ privatiems klientams, turintiems bekontaktes „Mastercard“ korteles, atveria „Apple Pay“...

Paslaugos
2019.12.05

Verslo žinių pasiūlymai

Šioje svetainėje naudojame slapukus (angl. „cookies“). Jie padeda atpažinti prisijungusius vartotojus, matuoti auditorijos dydį ir naršymo įpročius; taip mes galime keisti svetainę, kad ji būtų jums patogesnė.
Sutinku Plačiau