"Ми робимо робота, який не дозволить собі зловживати"

Джонатан Нолан і Ліза Джой, творці HBO Westworld, роблять послугу реального світу. Вони змушують суспільство розкрити насущне питання про те, як лікувати штучний інтелект. Зокрема, Нолан і Радість спонукають до розмови згода робота. Це обговорення, яке, очевидно, ніколи не мали вигадані грошово голодні менеджери парку розваг Westworld.

Проте у компанії Hanson Robotics, що базується в Гонконзі фірми, яка претендує на розробку «найлюдливіших у світі роботів», Стефан Бугай і його команда знають такі нові розмови, як їхні спини своїх рук, або як реалістична підроблена шкіра - «Frubber» - на обличчях своїх роботів. Бугай є віце-президентом компанії Creative в Хансоні, і він керує дизайном особистості андроїда.

Він розповідає Обернено він насолоджувався Westworld до цих пір, але, можливо, не дивно, що він сторони з штучно інтелектуальних, роботів хостів серії. Можливо, Ви думаєте про Hanson Robotics як про безкомпромісного конкурента вигаданої компанії, яка керує гедоністичним Westworld. Хансон - публічна бібліотека до стрип-клубу Westworld.

Інженери Хансона діють так, ніби вони є буквальними батьками андроїдів, які вони створюють. Люди повинні усвідомити, що одне з повідомлень Westworld це "ви пожинаєте те, що ви сієте", - говорить Бугай. Етика і мораль, які ви навчаєте сутності, це те, що вона вивчає. А потім ви сплачуєте ці дивіденди.

"Ви самі вибираєте, який морально-етичний кодекс ви надаєте роботові, або дитині, чи вашій собаці, або що завгодно".

“ Якщо ви створили цю расову раб, і ви жорстоко поводитеся з ними, то що брутальний раб хотів зробити? Бюст, і, можливо, помститися. ”

До цих пір в шоу, здається, що Долорес Абернаті - один з господарів парку і Westworld Її головний персонаж - може розкрити, а потім вирватися з метафізичної клітини. (Бугай: "Не хотілося б вирватися з клітки, якби хтось був у вас? Якщо хтось мав мене як секс-раба, я б напевно намагався вирватися".) Долорес не має наміру шкодити людям, але якщо вона випадково повинна, то вона випадково повинна. - Її метою є врятувати себе.

Тільки якщо програмісти на чолі з доктором Фортом Ентоні Хопкінсом тільки що зробили можливим для Долорес кинути палити.

Hanson Robotics сподівається зробити роботів, які могли б кинути палити, якщо до цього дійшло.

"Ми зробили б робота, який любить людство і має позитивний морально-етичний кодекс, але не обов'язково дозволить себе зловживати", - пояснює Бугай. Вони б зробили Долорес, - каже він, - але вони залишили Скайнет: вони звільнили доктора Форда і, можливо, також Бернара Лоу, обидва з яких (здається зараз) увічнюють несправедливість. Враховуючи деякі психотичні поведінки відвідувачів, господарі Westworld, безсумнівно, залишать роботу, але вони здаються жорстко закодованими, щоб бути нерефлексивними. Водночас гості господарів, зрештою, покращать як Ford, так і Lowe.

Деякі роботи сьогодні, пояснює Бугай, вже мають примітивні форми згоди: «Три закони робототехніки» Ісаака Азімова є одним з таких прикладів, і навіть безпечні системи - це свого роду підхід з прото-згодою, або, принаймні, так, як ви t (Долорес, якщо їй вдасться вирватися з Westworld, ймовірно, доведеться порушити всі три правила Азімова.)

Але Хенсон виходить за рамки цих рудиментарних рівнів. Бугай каже, що вони надають своїм роботам всеосяжні системи цілей, наповнені внутрішніми цілями і внутрішніми переконаннями, і "системами підкріплення для того, що вони вважають, як їх лікувати, як вони реагують". розглянемо, як вони відчувають себе при прийнятті рішень, чи хочуть вони робити те, що ви хочете, щоб вони робили, або мають справу з ними, яку ви хочете зробити ». Першим кроком є ​​побудова міцних моральних і етичних кодексів, і сильні особистості, на яких ці суди спочивають. Багато чого схоже на процес відповідального виховання дитини.

Тепер проблема полягає в тому, що більшість роботів є гендерними, і тому можуть бути об'єктами тяжіння. Це навряд чи зміниться. Гендерно нейтральні роботи в Росії Westworld було б протилежним темі парку: розпуста. Але сумлінні фахівці Хансона, незважаючи на те, що вони роблять гендерні роботи, чинять якомога більше опору гендерним стереотипам.

"Ми не намагаємося зробити з Софією фембот", - пояснює Бугай. "Ми, безумовно, не намагаємося зробити секс-бот, але ми не намагаємося зробити жінку ідеальної гри в 50-х роках, яка готує і прибирає, і сміється над усіма його жартами, і каже йому, що він блискучий. Ми намагаємося зробити сильного жіночого персонажа, який має свої власні позиції та свої власні перспективи, хто думає про такі речі, як: що це означає для неї бути андроїдом і також людським світом і чому ми ставимося один до одного як ми.

Хансон хоче, щоб його роботи в один прекрасний день були імпульсами для змістовних дискусій, якщо не модераторів. Westworld трапляється, що виникають питання, які, на думку Бугая, ми почнемо ставити перед собою, наприклад: «Як ми можемо очікувати, що андроїди та роботи будуть добре ставитися до людей, якщо ми не самі себе? і чи не слід вести за прикладом?"

Він і його команда роблять роботів майбутнього, і вони працюватимуть над тим, щоб ці роботи були тривимірні - щоб вони “піклувалися про те, що має значення, мали перспективу на них, а іноді і були складними для людей, не просто слухняний. Але не агресивно.

"Ви отримуєте світ, який ви створюєте", - каже Бугай.