Etikátlan emberhez hasonló robotokat tervezni?

„Az emberi együttérzés általában élőkre terjed ki, és minél tudatosabbak, annál inkább együtt érzünk velük. Japán kutatók viszont 2015-ben egyértelműen bizonyították, hogy az ember empatikusan viszonyul látszólag szenvedő robotokhoz is. Agyszkenneléssel kimutatták, hogy emberek és emberkinézetű objektumok egyaránt ösztönösen empatikus reakciókat váltanak ki belőlünk.

Minél emberszerűbbé tesszük a chatbotokat, virtuális asszisztenseket és más gépeket, annál emberibb érzéseket táplálunk feléjük. Antropomorfizáljuk őket. Ha valami élőnek tűnik, természetünkből fakadón emberi szemmel nézzük. Akkor pedig különösen, ha a csevegőbotokhoz hasonlóan az öntudat illúzióját keltik. Ezért háborodtak fel sokan, amikor a YouTube videón belerúgtak a Boston Dynamics robotjába.

De ha humanizáljuk őket, ezzel párhuzamosan nem tárgyiasítjuk egyre inkább magunkat? Egyelőre nem világos, hogy az MI-hez való viszonyunk hogyan befolyásolja emberi kapcsolatainkat.

Az emberi együttérzés meghackelhető és veszélyes termékek fejlesztésére használható fel. Ezért terveznek emberi tulajdonságokkal rendelkező MI-ket, például társrobotokat. Azt akarják, hogy szeressük őket.

Az ember és nem ember közti interakciók gyors fejlődése két alapkérdést vet fel: hogyan kezelje a társadalom a valósághű MI-t? Mennyire valósághűnek tervezzenek vállalatok MI-tárgyakat, élményeket és chatbotokat?

A két kérdést együtt kell megválaszolni.”