Четене на роботи , от ShutterstockТази статия се основава на интервю в Science Friday и първоначално беше публикувани на PRI.org.
Роботите, както обяснява Марк Ридл, почти всички имат социопатични тенденции.
„Те безопасни ли са?“ пита Ридъл, професор по компютърни науки в Технологичния институт на Джорджия в Атланта, „Ще могат ли да ни навредят? И нямам предвид само по отношение на физическо увреждане или физическо насилие, но по отношение на нарушаване на вида на социалните хармонии по отношение на... съкращаване с нас или обиждане.'
Според Riedl, не е толкова много, че роботите са умишлено груби. Просто те се опитват да „супероптимизират“. Но ако роботите започнат да стават част от ежедневието ни, ще бъде ли възможно да ги научим да се държат?
„Искахме да се опитаме да научим агентите на социалните конвенции, социалните норми, с които всички сме израснали“, казва Ридъл. „Историите са чудесен начин, страхотна среда за предаване на социални ценности. Хората, които пишат и разказват истории, наистина не могат да не внушават... ценностите, които ценим, ценностите, които притежаваме, ценностите, които искаме да видим в добрите, честни граждани.“
Riedl и неговият екип експериментират с разказване на много прости истории с инструкции на роботи. В момента те се опитват да научат робот как да отиде до магазина и да вземе лекарство с рецепта.
„Все още сме на по-прост етап“, казва Ридъл. „Обработката на естествен език е много трудна. Разбирането на историята е трудно от гледна точка на разбирането какви са моралът и какви са ценностите и как се проявяват. Разказването на истории всъщност е много сложно нещо.
В крайна сметка обаче Ридъл се надява, че ще бъде възможно да се дадат на роботите цели библиотеки с истории.
„Представяме си да подадем цели набори от истории, които може да са създадени от цяла култура или цялото общество, в компютър и да го накараме да направи обратен инженеринг на стойностите. Така че това може да е всичко от историите, които виждаме по телевизията, във филмите, в книгите, които четем. Наистина нещо като популярната фантастика, която виждаме“, казва Ридл.
Той не се притеснява, че роботите могат да определят кое е правилно или грешно в една история – дали е по-добре да застанете на страната на героична фигура в историята или на антигерой.
„Това, в което изкуственият интелект е наистина добър, е да избира най-разпространените сигнали“, казва Ридъл. „Така че нещата, които то вижда отново и отново и отново… са нещата, които ще се издигнат и ще избухнат до върха. И това обикновено са ценностите, които културата и обществото ценят. Така че, въпреки че виждаме... антигерои, това все още е огромно малцинство от нещата, които цялото ни общество произвежда.