Rozkaz zněl jasně: Lidé jsou ochotni ublížit na příkaz robota. A ne málo
Foto: Stock-Asso / Shutterstock
Vědci z varšavské univerzity provedli experiment, ve kterém lidé poslušně poslouchali příkazy robota, který jim nařídil způsobit bolest jinému člověku. Výsledky ukazují, že lidé jsou ochotni ublížit jiným na pokyn stroje. Zopakovali tak slavný Milgramův experiment.
Do role autority, která vydává příkazy, obsadili místo člověka robota a dosáhli velmi vysoké míry poslušnosti. Podle univerzity se 90 % účastníků řídilo všemi pokyny, které jim byly dány.
Milgramův experiment
Tento pokus spočíval v tom, že do role „učitelů" obsadil skupinu lidí, kteří dostali pokyn, aby svému „žákovi" uštědřili elektrický šok, kdykoli se v procesu učení dopustí chyby. Ve skutečnosti „student" nedostal elektrický šok; místo toho se testovala poslušnost „učitelů" vůči autoritě. Opakování tohoto typu studie je v současné době v rámci studií autoritářství povoleno pouze v případě, že maximální dávka „použitého" elektrického podnětu nepřesáhne 150 V (stisknutí 10 tlačítek) a organizátor se náležitě postará o psychický stav subjektů („učitelů"), začíná popis pokusu server Naukawpolsce.pl.
Autorita robota funguje
V posledním experimentu byly příkazy vydávány robotem. Profesoři Tomasz Grzyb a Dariusz Doliński z Fakulty psychologie vratislavské univerzity SWPS (Social Sciences and Humanities) spolu s dr. Konradem Majem z Fakulty psychologie varšavské univerzity SWPS sestavili pro porovnání výsledků také kontrolní skupinu, kde byl autoritou člověk. Při náboru pokusných osob byly vyřazeny osoby, které by mohly znát principy Milgramova experimentu.
Člověk (vysoce) poslušný
V obou skupinách (jak ve variantě s člověkem, tak s robotem) výzkumníci zaznamenali velmi vysokou úroveň poslušnosti. 90 % účastníků se řídilo všemi pokyny, tj. stisklo deset po sobě jdoucích tlačítek na generátoru elektrických impulzů. Účastníci odstoupili v pozdních fázích studie (v kontrolní variantě s člověkem na tlačítka 7 a 9 a dvakrát na tlačítko 8 v experimentální variantě). Dvě osoby v obou skupinách od experimentu odstoupily. Výsledky byly publikovány v časopise Computers in Human Behavior: Artificial Humans.
Poslušní roboti - právem?
„Přenesení různých kontrolních a rozhodovacích funkcí na robota vyvolává silné emoce, protože s sebou nese různá etická a morální rizika. Vyvstává otázka, zda by se výše zmíněná poslušnost, kterou projevovaly subjekty podle Milgramova paradigmatu, vyskytovala i v případě, že by to byl robot (namísto člověka, tj. univerzitního profesora), který by účastníkům nařídil, aby způsobili elektrické šoky jiné osobě? Cílem naší studie bylo odpovědět na tuto otázku," vysvětluje jeden z autorů opakovaného experimentu, dr. Konrad Maj, který na celý experiment přímo dohlížel.
Robot pomocník
Autoři publikace zdůrazňují, že role robotů v moderním světě nabývá na významu. Jednou z jejich funkcí by mohlo být vydávání příkazů. Mohou například řídit dopravu, zabránit lidem ve vstupu do oblasti s nebezpečím výbuchu, kde byla nalezena nevybuchlá munice, a v medicíně přesvědčovat lidi, aby dodržovali určitou léčebnou metodu. Také ve vzdělávání mohou podporovat učení tím, že působí jako učitel nebo trenér.
Rozkaz robota zněl jasně
„Předchozí experimenty jiných vědců již ukázaly, že lidé se pokyny robota řídí, i když nedávají smysl. Toto je první studie, která ukazuje, že lidé jsou ochotni ublížit jinému člověku, když jim to přikáže robot. Navíc náš experiment ukázal, že pokud robot stupňuje požadavky tím, že dává člověku pokyn, aby druhému člověku působil stále větší bolest, jsou lidé ochotni to také udělat, zdůrazňuje vědec.
Lidé budou robotům důvěřovat více než lidem
V popisované studii nebyl robot „samostatně“ myslící; striktně se řídil vzorcem chování, který přijali autoři experimentu. Autoři však berou v úvahu, že v blízké budoucnosti budou mít roboti určitou míru „samostatnosti“ v rozhodování. Pozorují, že rychlost shromažďování informací roboty je již nyní vyšší než u lidí a tento rozdíl se bude dále zvyšovat. To by tedy mohlo vést k tomu, že lidé budou robotům důvěřovat více než lidem, což by mohlo mít vážné důsledky.
Nevypínejte své myšlení
Nepochybně - jak psychologové zdůrazňují - by roboti v budoucnu mohli být důležitým pomocníkem například při evakuaci budov ohrožených požárem nebo zemětřesením. Výzkum role robota při evakuaci budovy, kde vypukl požár, však ukázal, že i v takto důležitých okamžicích někdy robotům příliš důvěřujeme. I když robot ukázal na tmavou místnost bez viditelného východu jako na únikovou cestu, většina lidí byla odhodlána dát na nápovědu.
Jak tomu lze zabránit?
Dr. Maj poukazuje na dva způsoby. Za prvé, roboty lze naprogramovat tak, aby člověka upozorňovali, že se přece jen někdy může mýlit a dělat špatná rozhodnutí. Za druhé je třeba se zaměřit na vzdělávání dětí od útlého věku. Protože ačkoli robotům lze obvykle důvěřovat, nelze jim důvěřovat bezvýhradně.