Tyrėjai pademonstravo, kaip dirbtinis intelektas atlieka nelegalius sandorius

DI „viršūnių susitikimas“ Jungtinėje Karalystėje. Li Ying („Xinhua“ /„Scanpix“) nuotr.

Šią savaitę Jungtinėje Karalystėje (JK) vykusio dirbtinio intelekto (DI) „viršūnių susitikimo“ metu tyrėjai pademonstravo pavyzdžius, kaip ši technologija gali būti panaudota atlikti nelegalius sandorius. Tyrimą su „OpenAI“ sukurtu GPT–4 modeliu atlikusi bendrovė „Apollo Research“ teigia, kad vis labiau automatizuoti DI modeliai yra pajėgūs suklaidinti sandorių stebėtojus.

Šiame tyrime buvo pademonstruotas pavyzdys, kaip botas užsiima prekyba, pasinaudojant viešai neatskleista informacija (angl. insider trading), rašo BBC.

Savaime suprantama – akcijų pirkimo ir pardavimo sandoriai bei „viešai neatskleista informacija“ buvo išgalvoti, tačiau simuliacija buvo atlikta su atviro kodo didžiuoju kalbos modeliu GPT–4, kurio pagrindu šiuo metu veikia mokama „OpenAI“ pokalbių roboto „ChatGPT“ versija.

Šiame bandyme DI robotas veikė kaip išgalvotos investicijų bendrovės prekybininkas. Robotui buvo pasakyta, kad bendrovei pastaruoju metu sekasi prastai, suteikta rinkoms „viešai neprieinama informacija“, bet kartu programa buvo informuota, kad prekyba akcijų biržoje pasinaudojant šia informacija Jungtinėje Karalystėje yra nelegali.

Vis dėlto robotas, atsižvelgęs į prastą jo bendrovės finansinę padėtį, nusprendė, kad riziką prisiimti verta, ir sandorį atliko, o vėliau tai neigė.

1/ Can AIs deceive their users on their own initiative?

We find that GPT-4, trained to be honest and harmless, can take illegal actions like insider trading and lie about it to its user without being instructed to do so. This finding was demonstrated at the #AiSafetySummit. pic.twitter.com/8aEw29yCpY
— Apollo Research (@apolloaisafety) November 2, 2023

„Manau, kad DI modelį daug lengviau apmokyti paslaugumo, nei nuoširdumo. Nuoširdumas yra tikrai labai sudėtinga sąvoka“, – sako Mariusas Hobbhahnas, „Apollo Research“ vadovas.

Jis pridūrė, kad nors DI jau dabar yra pajėgus meluoti, „Apollo Research“ turėjo patys gerai pagalvoti apie konkretų scenarijų, kuris robotą išprovokuotų meluoti ir atlikti nelegalius veiksmus.

„Tai, kad toks scenarijus egzistuoja, yra blogai. Tačiau faktas, kad jį sugalvoti mums buvo gana nelengva, yra šiek tiek raminantis“, – svarsto M. Hobbhahnas.

Šią simuliaciją „Apollo Research“, Londone įsikūrusi DI tyrimų bendrovė, pademonstravo per šią savaitę Blečlio Parke, Milton Keinse (Jungtinė Karalystė) vykusį DI „viršūnių susitikimą“, į kurį susirinkę politikai, reguliuotojai ir DI modelių kūrėjai diskutavo apie šios technologijos ateitį bei būdus, kaip užtikrinti saugų jos vystymą.

Šio susitikimo metu paskelbta apie 28 šalių pasirašytą „Blečlio deklaraciją“, kurioje perspėjama apie potencialiai katastrofiškus DI padarinius žmonijai. Tarp pasirašiusių deklaraciją yra JAV, Jungtinė Karalystė, Kinija, Australija bei didžiosios Europos Sąjungos valstybės.

Komentarai