Doktor Josef Kundrát se bude od prosince tohoto roku do května 2025 na University of Connecticut věnovat velmi aktuálnímu tématu lidské důvěry při interakcích s umělou inteligencí. Na Filozofické fakultě Ostravské univerzity se již delší dobu zabývá tématy důvěry v algoritmy nebo vývoji psychodiagnostických nástrojů. V letech 2020–2023 jako hlavní řešitel projektu Technologické agentury ČR (TA ČR), který Filozofická fakulta v daném roce získala vůbec poprvé, vyvíjel metodu diagnostiky vztahů pro základní a střední školy. Josef Kundrát již v minulosti ve Spojených státech studoval psychologii na Moravian University prostřednictvím dvousemestrálního Merrilova programu.

Josef Kundrát se profesně zaměřuje na oblast pedagogické psychologie, ale s nedávným rychlým rozvojem technologií se jeho výzkumný zájem obrátil spíše ke studiu důvěry v algoritmy a umělou inteligenci (AI). Vědecký projekt zaměřený na důvěru lidí při interakcích s AI zaujal Fulbrightovu komisi, která mu udělila prestižní stipendium na Katedře biomedicínského inženýrství University of Connecticut v délce pěti měsíců.

Co vše obnáší získání Fulbrightova stipendia?

Stipendium získáte na základě úspěšného výběrového řízení. Na prvním místě je potřeba vytvořit srozumitelný, poměrně stručný, velmi kvalitní vědecký nebo pedagogický projekt. To již předpokládá, že máte pozvání z americké strany. Partnerská univerzita s vámi musí počítat a písemně vás pozvat. Musíte také získat co nejlepší doporučující dopisy. Na tomto místě chci poděkovat našemu panu rektorovi, docentu Kopeckému, který v minulosti stipendium získal a poskytl mi cenné rady. Vše pak odešlete Fulbrightově komisi a čekáte. Když je projekt posouzen kladně, tak jste pozváni k ústnímu pohovoru. Ten je velmi krátký a jde po podstatě věci. A pak opět čekáte na výsledek. S posudky se nemůžete seznámit.

Projekt jsem měl připravený dobře, ale stejně to byly v závěru nervy. Dopadlo to dobře a v současnosti už pracuji po nocích, porady s americkým týmem začínají vždycky v 9 večer.

Jaká byla vaše osobní cesta k získání stipendia?

Moje cesta k získání stipendia byla spletitá. Původně jsem žádost podal již několik let zpátky v juniorské kategorii. V průběhu příprav přišel covid, získal jsem projekt TA ČR a narodila se nám dcerka. Všechno dohromady způsobilo, že jsem projekt odložil. Nakonec to ale bylo ku prospěchu věci, protože se mezitím zpopularizovalo téma umělé inteligence.

V původním výzkumu jsem počítal s tématem důvěry k algoritmům, tematicky přejít k problematice generativních umělých inteligencí nebylo příliš vzdálené. S kolegou dr. Hugo Posada – Quinterou z University of Connecticut jsem byl v kontaktu několik let a projekt jsme mohli společně doladit. Během té doby mi ale uplynula stanovená doba od získání doktorátu, kdy jsem mohl zkusit juniorskou kategorii, přihlásil jsem se tedy do seniorské. Projekt jsem měl připravený dobře, ale stejně to byly v závěru nervy. Dopadlo to dobře a v současnosti už pracuji po nocích, porady s americkým týmem začínají vždycky v 9 večer.

Fotografie: Fulbrightova nadace

Na co se zaměříte ve vašem výzkumu ve Spojených státech?

Projekt se týká lidské důvěry v umělou inteligenci. Zaměříme se na tendence lidí odpouštět chyby agentům umělé inteligence (chatbotům, rozhraním s lidskými rysy a podobně) v závislosti na míře antropomorfních rysů, míře interaktivity agenta nebo osobního vztahu, který si uživatel k AI vytvoří.

Jinými slovy chceme zjistit, zda nás v určitých situacích mají generativní modely schopnost „ukecat“, vnutit nám chybná řešení nebo nás přesvědčit o tom, že je dobrý nápad jim dát ještě jednu šanci napravit chybu, pokud ji udělají. Chceme zkoumat, jakými prostředky je AI schopna vybudovat u uživatelů důvěru.

Je to nesmírně živé téma a je možné, že výzkumný design ještě do začátku výzkumu změníme, pokud budou k dispozici schopnější modely. Každých několik měsíců jsme svědky menšího či většího technologického skoku.

Z posledního studijního pobytu v USA jsem si odvezl pedagogické zkušenosti, které zúročuji dodnes. Moc se těším na veškerou inspiraci, kterou dovezu zpátky.

Co by mělo být výstupem vašeho výzkumu?

Budu působit na Katedře biomedicínského inženýrství, kde kolegové experimentují s měřením mezilidské důvěry prostřednictvím nositelných senzorů, jako jsou chytré hodinky. Metodiku uplatníme při interakcích s AI.

Ještě k výstupům: získal jsem Fulbright – Masarykovo stipendium, které je charakteristické svým přesahem do oblasti neziskového sektoru. V rámci pobytu vznikne interaktivní vzdělávací program pro žáky základních a středních škol, který bude zaměřený na benefity a rizika spojená s používáním AI. Téma má obrovský pedagogický přesah, třeba do oblastí prevence kybernetických rizik, psychického zdraví a wellbeingu.

Pro mě osobně je zásadní se věnovat tématu nejen výzkumně, ale také aplikačně. V současnosti absolvuji pětiletý psychoterapeutický výcvik, v této oblasti se očekává velké uplatnění umělé inteligence a otázky důvěry zde budou hrát zásadní roli.

Jak se těšíte na život v Americe?

Nebude to pro mě nové. V letech 2012–2013 jsem téměř rok studoval psychologii na Pensylvánské Moravian University (tehdy ještě Moravian College), takže jsem delší pobyt v USA již vyzkoušel. Poměrně dost jsme tam následně cestovali.

Loni jsem se do USA podíval na mezinárodní konferenci školní psychologie v Denveru, kde jsem prezentoval výsledky projektu TA ČR. Moc se těším na americkou pracovní kulturu, skvěle vybavené pracoviště, multioborový výzkumný tým, kde se potkávají inženýři, programátoři, medicínské obory a psychologové.

Z posledního studijního pobytu v USA jsem si odvezl pedagogické zkušenosti, které zúročuji dodnes. Moc se těším na veškerou inspiraci, kterou dovezu zpátky. Na co se netěším, je zima a nutnost všude jezdit autem (úsměv).

Komise J. Williama Fulbrighta je mezivládní česko-americkou organizací založenou za účelem podpory vzdělávacích, vědeckých a kulturních výměn mezi Českou republikou a Spojenými státy americkými prostřednictvím stipendijních programů a poradenských a informačních služeb. Hlavním posláním Fulbrightovy komise je budovat a podporovat vzájemné porozumění mezi národy obou států prostřednictvím kulturních výměn v oblasti vzdělávání.