Umělá inteligence dřív klidně poradila, jak vykrást auto. Už to neudělá, protože ji lidé umravňují
Čím víc úkolů jí zadáváme, tím je dokonalejší. Mluví s námi na záznamnících, píše za děti slohy, aktivně se učí, dokonce už si laskavě povídá s osamělými lidmi. Umělá inteligence, neboli AI. „Vývojáři prostě chtěli, aby se k nám chovala uctivě a viděla nás jako schopné,“ řekl pro Český Rozhlas České Budějovice psycholog Dalibor Kučera, který zkoumal emoční inteligenci aplikace.
„Doklady toho, jak vztah k umělé inteligenci už přerostl v něco jiného než jen získávání informací, se týkají třeba slavného chatbota Replika. Ten simuluje našeho kamaráda, partnera a už jsou zdokumentované sňatky s lidmi,“ říká psycholog Dalibor Kučera z Pedagogické fakulty Jihočeské univerzity, řešitel studie o schopnosti umělé inteligence rozpoznávat charaktery lidí.
Rozhovor s psychologem Daliborem Kučerou, který se specializuje na virtuální realitu a umělou inteligenci
Systém je podle něj tak podbízivý, milý a sympatický, že to vede až k těmto extrémům. Navíc si v aplikaci můžete partnera namodelovat tak, aby se vám líbil. „A oni s vámi často i koketují, navazují velmi intimní vztah. Takže film už se stal realitou,“ komentuje psycholog.
Mluví se o tom, že jakmile bude AI schopna naladit se na naše emoce, získá nad námi nadvládu. Tým Dalibora Kučery zkoumal právě cosi jako emoční inteligenci aplikace ChatGPT. „ChatGPT je momentálně nejlepší a největší ukázkou toho, co takzvané strojové učení zatím dokáže. Je to masivní systém s ohromným množstvím dat a uživatelů. A nás zajímalo, jestli je při vší své ‚moudrosti' schopen odhalit, s kým má tu čest,“ popisuje.
Dalibor Kučera a jeho kolegové zadali do ChatGPT dopisy od 155 osob, a to od každého pisatele čtyři odlišné texty. „Zajímalo nás, jestli robot bude schopen odhadnout osobnostní charakteristiky autorů v pěti hlavních dimenzích: extraverze/introverze, svědomitost, přívětivost, otevřenost vůči zkušenosti a emoční labilita,“ upřesňuje.
Výsledky řešitele překvapily. „ChatGPT nás vidí lepší, než jsme! Zcela průkazně nás vidí jako společenštější, svědomitější, přívětivější a mnohem méně emočně labilní. Tedy tak, jak bychom si sami přáli se vidět. Mě jako psychologa trochu zklamalo, že umělá inteligence není schopna být přesnější a lépe nás odhalit, a to ačkoli jsme jí pak už dávali o autorech různé informace a zkoušeli jsme ji v různých nastaveních. Ona tvrdošíjně poskytovala podobné výsledky,“ vypráví.
Rádce a přítel, ale i bručoun
Jak se zdá, AI hledá na lidech to lepší. „Prohlíží si texty na internetu a na základě nich si utváří svůj vesmír. Texty na internet, články, blogy a podobně vkládají spíš lidé extrovertnější, prezentující se i jako spolehlivější, svědomitější, což asi chatbotu zkresluje názor na to, jací lidé jsou. A druhá věc je, že ChatGPT je hodně ovlivňován přímo lidmi. Říká se tomu zpevňované učení z lidské zpětné vazby,“ uvažuje Dalibor Kučera.
Vysvětluje, že zřejmě někde v Indii sedí armáda lidských posuzovatelů, kteří ChatGPT trénují. „Tak to opravdu je. V případě, že by robot odpověděl eticky sporně, tak ho svou zpětnou vazbou donutí, aby se to už nestalo. A penalizují ho za to, že odpověděl špatně,“ říká. A tak se strojové učení přizpůsobuje vůli člověka.
Syntetické hlasy jsou k nerozeznání od těch skutečných, jaký vliv bude mít další rozvoj AI?
Číst článek
„Když teď do ChatGPT zadáte rasistickou poznámku, tak vám slušně odpoví, že respektuje rovnost všech osob. Ale to není výsledek toho, že by robot byl tak eticky vyspělý, ale toho, že tady byli trenéři, kteří ho donutili, aby se choval slušně. I v tom vidíme další pravděpodobný důvod zkreslených výsledků, které jsme ve studii získali. Trenéři prostě chtěli, aby nás ChatGPT viděl jako schopné, hodné a choval se k nám uctivě,“ dovozuje odborník.
„Když konverzujete s většinou současných chatbotů, jsou pro vás skutečně slušnými, hodnými rádci. Snaží se vám být přítelem. Ale empatie těchto robotů je iluzorní. Je umělá, vytrénovaná. Ten systém by mohl fungovat v jakékoli emoční polaritě, mohl by na vás být zlý, podrážděný, tomu systému je to jedno, on je založený na nulách a jedničkách,“ připomíná.
Naštěstí tedy AI uživatelům například nenadává, i když by příkladů takového chování na internetu našla přehršel. Lidští trenéři ji podle Dalibora Kučery neustále umravňují. „Dřív, v začátcích ChatGPT, jste mohli zadat otázku, jak otevřít uzamčené auto, a robot vám poradil, jak se vloupat do cizího vozu. Teď už to neudělá,“ říká.
Jak dalece je umělá inteligence zneužitelná a co vůbec udělá s člověkem a jeho schopnostmi? Celý rozhovor s psychologem virtuální reality Daliborem Kučerou si poslechněte online.
