Робот стереотипів Грузинської техніки - майбутнє ІІ, а не расизму

До вух, які будуть освітлені спеціальностями після закінчення школи та семінарами з різноманітності, це буде звучати погано, але ми хочемо, щоб роботи швидко виносили судження на основі зовнішнього вигляду. Подолання упереджень - це добре, але нездатність до стереотипу зменшує розум - штучний і інший. Алан Вагнер, доктор філософії, роботолог Грузії Тех, є головним прибічником технології стереотипів. Він стверджує, що така логіка не повинна застосовуватися до раси або статі, справедливих ситуацій і поведінки.

У ранній перевірці свого стереотипного алгоритму Вагнер навчив наївного робота робити висновки з того, що він бачив. Робот засвоїв і став сприйнятливим, що дозволило Вагнеру починати критично мислити про етику припущень робота, особливо про запрограмованих. Він говорив Обернено про його роботу та її наслідки.

Пройдіть, як експеримент спрацював.

Робот взаємодіє з різними типами осіб - пожежниками, ЕМТ, або ще що-небудь - але він не має попереднього досвіду роботи з будь-якою з цих категорій індивідуумів. Це, в основному, експериментальне навчання.

Ідея полягала в тому, щоб показати, що робот може використовувати перцептивні особливості від індивідуума, щоб спрогнозувати свої потреби з точки зору використання інструменту. Як працював алгоритм, камера робота буде сприймати різні аспекти того, як виглядала людина - їхній однорідний колір, наприклад, чи були у них бороди, і їх колір волосся.

Він також запитує їх, як вони виглядають. Звичайно, задавати питання не те, що ви хочете робити на полі, але сприйняття робота зараз обмежене. Нам потрібен спосіб завантажувати процес вивчення людини. Людина буде вибирати інструмент, а потім робот буде вибирати інструмент, і з часом робот буде дізнатися, який інструмент кожен тип людини бажано.

Чи очікували ви, що робот дізнається, що значок означає поліцейський або важкий світловідбиваючий шар - пожежник?

Ми цього очікували. Але були й деякі дивовижні речі.Наприклад, робот помилково визнав, що бороду передбачено пожежним - це було дивно, але коли ви дивитеся на дані, це не було дивно. Перші кілька людей, які взаємодіяли з ним, були пожежники, які мали бороди. Таким чином, ми стверджуємо про необхідність перцептивного розмаїття, уявлення про те, що якщо б робот бачив великих, широко різних типів осіб у категорії, то краще розробити та зрозуміти категорію.

Чи могли б ви сказати, що автономним роботам треба навчати виправляти ці примхи, так що робот не думає, що якщо у неї є борода, то він пожежний?

Абсолютно. Дуже важливо, щоб ми розгладили ці речі. Дуже важливо, щоб ми мали цих роботів, які працюють від різноманітних людей.

Як може виглядати це навчання?

Це дозволить роботові зосередитися на речах, які краще характеризують пожежників. Наприклад, пожежний може навіть не носити куртку. Робот тоді помітить інші аспекти пожежогасіння, можливо, чоботи, можливо, рукавички, можливо, шоломи. Було б сказано: «Добре, ця людина дійсно є пожежник у цьому середовищі."

Якщо у вас було достатньо людей, він міг би розпізнати пожежника на вогні проти пожежника на вечірці Хеллоуїна. Це тонкі перцептивні деталі, як різниця між якістю типів уніформи або контекстних середовищ.

Крім асоціації бороди з пожежниками, наскільки успішним був цей алгоритм?

Існували дві речі, які ми дійсно хотіли подивитися: перше, що ви можете зробити з нею? Якщо роботи можуть розпізнати пожежників, чи це дійсно допоможе? Стаття показала, що це дозволило вам звузити свій пошук. Замість того, щоб дивитися на бороди для кольору волосся, шукаючи колір очей або що-небудь ще можна шукати, ви можете зосередитися на особливостях, які дійсно важливі. Чи носить особа вогнем пальто? Це може прискорити процес.

Інша дуже важлива річ, яку ми розглянули, що, якщо категорія, яку робот передбачає, є неправильною? Як це впливає на вас? Ви можете собі уявити, що пошукові та рятувальні середовища можуть бути хаотичними: Ви, можливо, працюєте в задимлених умовах, робот може бути не в змозі сприймати все дуже добре, у нього можуть бути помилки. Можна собі уявити гірший випадок, коли робот вважає, що людина є жертвою, коли насправді вони є пожежниками. Тому намагається врятувати пожежника. Це було б жахливо. Ми хотіли побачити, де вона розбивається, як вона розривається, які функції найбільше впливають на неї, і які різні помилки.

Цей підхід можна використовувати різними способами - якщо вони взагалі не бачать людину, але можуть бачити дії, які вони роблять. Якщо я бачу, як людина вибирає сокиру, то можу передбачити, що у них є шолом.

Як ви підходите до того, щоб робот оцінював контекст і робив прогноз?

Ми намагалися подивитися на кілька різних типів середовищ - ресторан, школу та будинок престарілих. Ми намагалися зафіксувати особливості навколишнього середовища, які об'єкти знаходяться в навколишньому середовищі, які дії вибирає людина, і як виглядають люди в оточенні, і намагаються використовувати це, щоб зробити багато соціальних прогнозів. Наприклад, у шкільному середовищі люди піднімають руки перед тим, як вони розмовляють. Отже, якщо я бачу дію, яку люди піднімають рукою, який тип об'єктів я очікую побачити в навколишньому середовищі? Чи очікую я побачити дошку; я очікую побачити стіл? Я очікую побачити дітей.

Сподіваємося використовувати цю інформацію. Якщо робот виконує процедуру евакуації, він побачить, які типи людей існують і де вони можуть бути.

Скажімо, є робот, який приходить до ваших дверей і каже: "Будь ласка, слідуйте за мною до виходу". Якщо робот стукає у двері в багатоквартирному будинку, ви не знаєте, з ким ви збираєтеся взаємодіяти. Це може бути чотирирічна дитина, це може бути 95-річна людина. Ми б хотіли, щоб робот адаптував свою інтерактивну поведінку до типу людини, яку він бачить, щоб врятувати їх. Ми беремо деякі з цих контекстних уроків і намагаємося розробити цю програму.

Чи використовуєте ви подібне визначення «стереотипу» для роботів і людей, чи відбувається щось інше?

Термін «стереотипізація» має негативний контекст. Ми використовуємо його просто для розробки категорій людей і використання категоричної інформації для прогнозування характеристик людини. Я знаю в психології, багато роботи фокусується на стереотипах обличчя та гендерних стереотипах. Ми нічого подібного не робимо. Чи є той самий процес? Не знаю. Не маю уявлення.

Ви стурбовані тим, що у вас можуть бути неправильні уявлення про вашу роботу?

Кілька років тому ми розробили цю ідею роботів, які могли б обманювати людей. У засобах масової інформації було трохи неправильного сприйняття, що це призведе до того, що роботи крадуть гаманці людей.

Я б хотіла скористатися ситуацією в екстреній евакуації: ви не завжди хочете бути абсолютно чесними з людиною в евакуації, чи не так? Наприклад, якщо хтось запитав вас: «Чи моя сім'я в порядку?» Це може бути страшно, якби робот сказав: «Ні, всі вони померли. Будь ласка, слідуйте за мною до виходу ». Існують деякі ситуації, коли робот дійсно повинен бути коротко нечесним. Але мій досвід полягав у тому, що люди відчували, що ми намагаємося привести до кінця світу.

Ми завжди зацікавлені в просоціальних аспектах цих методів людини-робота. Ми намагаємося допомагати людям, а не бути щось поганим.