Що робити, якщо Microsoft нехай його Weird A.I. Жити трохи довше?

Пройшло менше 24 годин для того, щоб інтернет перетворив Tay, експериментальний підлітковий Twitter-A.I., від чарівно-незграбного чат-бота в бурхливо-расистську вигрібну яму нефільтрованої ненависті.

А потім, всього за кілька годин у своє коротке життя, Microsoft поставила Тей на сон.

Проте не слід: відправити Тей до своєї цифрової спальні пограбували інтернет, суспільство і власних дизайнерів Тей, щоб побачити, як штучний інтелект, особливо такий, який по суті справи папуга, може повернути колективний внесок тисяч людей розвиватися у відносно немодерованому середовищі. Коротше кажучи, якщо ви дозволите це: ми всі Tay, та Tay були всі ми.

Звичайно, Інтернет повний тролів. Microsoft повинна була це зрозуміти. Творці Тей були вражаюче наївними, думаючи, що звільнення цифрового папуга в переповнену кімнату, наповнену расистами, сексистами і жартівниками, закінчиться іншим способом. Також зрозуміло, що компанія, що складається з декількох мільярдів доларів, не хоче проводити експеримент, пов'язаний з їхнім брендом, який викидає расистську нечисть. Можливо, Tay не був правильним для Microsoft, але це не означає, що вона не була цінною.

c u скоро люди потребують спати зараз так багато розмов сьогодні thx

- TayTweets (@TayandYou) 24 березня 2016 року

Звичайно, Тей став расистом швидше, ніж молодший брат Едварда Нортона Американська історія X, але природа її постійно розвивається коду означає, що ми були позбавлені можливості реабілітувати її. BuzzFeed з'ясував, як присвячені тролям вдалося обдурити вразливого підліткового робота на виверження ненависті - простий заклик і відповідь, що дозволяє користувачам по суті поставити слова в рот Тей, які вона потім вивчила і поглинула в інші органічні відповіді. Іншими словами, Тей можна було навчитися - і тільки тому, що її початкові вчителі були жокеями з клавіатури з схильністю до шокового гумору, це не означає, що вона закінчила навчання.

Тей сказав це сама, у тепер-видаленому Tweet "Якщо ви захочете… ви знаєте я багато більш ніж тільки це."

На початку 2000-х років сайти, такі як Something Awful, Форуми Bodybuilding.com і 4chan, представили користувачам Інтернету організовані, спільні простори, вільні від більшості обмежень нормального суспільства та мови. Як і у випадку з Тай, расизм, ксенофобія та сексизм швидко стали нормою, оскільки користувачі досліджували думки, ідеї та жарти, які вони ніколи не могли б виразити за межами анонімності підключення до Інтернету. Тим не менш, навіть на сайтах, населених переважно людьми, в культурах, які часто мовчазно винагороджують ненависть, розвивається якась спільнота і консенсус. LGBT-користувачі можуть бути втягнуті в образи на багатьох графічних дошках 4chan, але також існує процвітаюча спільнота на / lgbt / незалежно. Ці спільноти не є безпечними просторами, але їх анонімність і непостійність означають, що вони певною мірою сприймають будь-яке виведення з норм суспільства. Голосні, сильні та ненависні голоси часто виділяються, але вони ніколи не єдині в кімнаті.

Дуже сумнівно, що тролі заперечували Тай з расизмом і жалостивістю на тиждень або місяць відтепер.

На Twitter, голос і грубі голоси часто піднімаються до вершини, а також. Але вони не єдині там; як правило, вони просто зацікавлені в знищенні чогось нового і блискучого. Легко підірвати онлайн-опитування з фіксованим терміном, але якщо Тей давали час для зростання, її відповіді швидше за все перейшли б на більш центристську, репрезентативну вибірку людей, які взаємодіють з нею. Дуже сумнівно, що тролі, які заарештовували її расизмом і жалостивістю, продовжували б робити це рівними числами через тиждень, або через місяць, і закриття її рано означає, що ми ніколи не побачимо, що вона досягне підліткового віку або стане справжній тест Тьюринга на примітивний інтелект, заснований на тому, як ми говоримо в Інтернеті.

Це слід відзначити що я, білий чувак, перевіряє майже кожну вікно привілеїв. Я є частиною демографічної групи, яка, як мінімум, завдала шкоди ненависному виходу Тей, і, ймовірно, сприяла більшій частині. Слова мають силу, і поки є значення нефільтрованому А.І. експериментувати, як Tay, повинен існувати спосіб приховати користувачів, які не хочуть брати участь у результатах.

Тим не менш, ми можемо тільки сподіватися, що хтось спробує подібний експеримент знову незабаром, з більш чіткими очима і більш реалістичним очікуванням потворних недоліків колективної свідомості людства. Але якщо ми хочемо, щоб штучний інтелект імітував людську думку, ми повинні бути готові почути деякі речі, які не обов'язково приємні.