Чому ми все ще довіряємо Amazon? Як великі гіганти технологій не можуть захистити суспільство

Можливо, компанія Amazon очікувала великої громадської уваги, коли оголосила про створення нової штаб-квартири - але, як і багато інших технологічних компаній, останнім часом вона, напевно, не передбачала, наскільки негативною буде відповідь. На вибраних територіях Амазонки Нью-Йорк і Вірджинія місцеві політики відмовлялися від обіцянок, що фінансуються платником податків. Журналісти по всьому політичному спектру роздумували про угоди - і соціальні медіа наповнювалися голосами нью-йоркців і віргіанців, які обіцяли опір.

Подібним чином, відкриття, що Facebook використовував антисемітські теорії змови, щоб підірвати легітимність його критиків, свідчать, що замість того, щоб змінюватися, Facebook хотів би піти в наступ. Навіть коли Amazon і Apple бачили свої фондові ринки на короткий термін до $ 1 трлн, керівники технологій були затягнуті до Конгресу, намагалися послідовно зайняти позицію на мові ненависті, потрапили в прикриття сексуальних порушень і побачили своїх співробітників, які протестували проти ділових угод.

У деяких колах це сприймається як втрата суспільної довіри до технологічних фірм, які обіцяли переробити світ - соціально, екологічно та політично - або принаймні так само розчаровані, як ці компанії змінили світ. Але технологічні компанії повинні зробити набагато більше, ніж повернути довіру громадськості; їм необхідно довести, що вони заслуговують на це - в першу чергу, коли вони поставлені в контексті історії технологічної критики та скептицизму, вони не були.

Дивлячись в сторону від проблем

Великі технологічні компанії використовували свої проекти в нечітко утопічному, позитивному звучанні, що затьмарює політику і державну політику, переступаючи партизанство і - зручно - уникаючи перевірки. Google нагадувала своїм працівникам: «Не будь злом». Facebook працював, щоб «зробити світ більш відкритим і пов'язаним». Хто може заперечити ці ідеали?

Вчені попереджали про небезпеку таких платформ, задовго до того, як багато їх засновників навіть народилися. У 1970 році соціальний критик і історик технології Льюїс Мамфорд прогнозував, що метою того, що він називає «комп'ютеризмом», буде «обробляти і обробляти нескінченну кількість даних, щоб розширити роль і забезпечити домінування енергетичної системи. Того ж року феноменальний мислитель Джо Фрімен попередив про незмінний розподіл енергії, який залишився в системах, які, здається, роблять всіх рівними.

Аналогічно, у 1976 році комп'ютерний вчений Джозеф Вайзенбаум передбачив, що в найближчі десятиліття люди опиняться в стані нещастя, оскільки вони все більше покладаються на непрозорі технічні системи. Незліченні аналогічні попередження були видані з тих пір, включаючи важливу нещодавню стипендію, таку як дослідження вченого Сафії Нобль про те, як Google шукає тираж расових і гендерних упереджень і заяв дослідника ЗМІ Сіви Вайдх'янтана про те, що «проблема з Facebook - Facebook».

Технологічні компанії є потужними і багатими, але їхні дні уникнення перевірки можуть закінчитися. Американська громадськість, здається, починає підозрювати, що технологічні гіганти були непідготовлені і, можливо, не бажали брати на себе відповідальність за інструменти, які вони розв'язали над світом.

Після президентських виборів у США 2016 року триває занепокоєння, що російські та інші уряди зарубіжних країн використовують будь-яку платформу соціальних медіа, щоб посіяти розбрат та невдоволення в суспільствах по всьому світу.

Facebook все ще не вирішив проблем конфіденційності даних і прозорості, що викликало скандал в Cambridge Analytica. Твіттер є кращим мегафоном для президента Дональда Трампа і домом для тривожної кількості насильницької мови ненависті. Майбутнє корпоративних офісів Amazon формується як багатогранна бійка серед виборних посадовців і людей, яких вони нібито представляють.

Це незнання чи наївність?

Розглядаючи нинішню ситуацію з історією критики технологій, важко не зробити висновок, що технологічні компанії заслуговують на кризи, з якими вони стикаються. Ці компанії просять людей довіряти їм свої листи, персональні дані, онлайн-історії пошуку та фінансову інформацію до того, що багато хто з цих компаній з гордістю рекламують, що вони знають людей краще, ніж вони знають. Вони просувають свої найновіші системи, включаючи «розумні динаміки» та «розумні камери», прагнучи забезпечити відстеження кожного моменту пробудження користувачів і сплячих моментів, що забезпечує більше даних у їхні алгоритми створення грошей.

Але, здавалося б, неминуче ці компанії продовжують демонструвати, наскільки вони недостойні довіри, пропускаючи дані, обмінюючись особистою інформацією, і не перешкоджаючи хакерству, оскільки вони повільно наповнюють світ тривожною техно-параноєю, гідною епізоду “Black Mirror”."

Відповіді фірм технологій на кожне нове одкровення відповідають стандартній моделі: після того, як виник скандал, компанія, що бере участь, висловлює тривогу, що все пішло не так, обіцяє розслідувати і обіцяє зробити краще в майбутньому. Деякий час - дні, тижні або навіть місяці - пізніше, компанія виявляє, що скандал був прямим результатом того, як система була розроблена, і виганяє розчаровану виконавчу владу, щоб виразити обурення від руйнівного використання поганих людей, знайдених для їхньої системи, не визнаючи, що проблема полягає в самій системі.

Сам Цукерберг повідомив Сенату США у квітні 2018 року, що скандал із Кембріджського Аналітика навчив його «ми несемо відповідальність за те, щоб не просто давати людям інструменти, а переконатися, що ці інструменти використовуються назавжди». у той час як створення багатомільярдної компанії.

Відновлення з лівого

Використання будь-якої технології - від ножа до комп'ютера - несе ризики, але з ростом розмірів і складності технологічних систем масштаби цих ризиків також збільшуються. Технологія корисна лише тоді, коли люди можуть безпечно користуватися нею, таким чином, коли переваги переважають небезпеки, і якщо вони можуть відчувати себе впевненими в тому, що вони розуміють і приймають потенційні ризики. Кілька років тому, Facebook, Twitter і Google могли виявитися для більшості людьми доброякісними способами спілкування, які принесли більше суспільства, ніж вони забрали. Але з кожним новим скандалом і невдалою реакцією все більше людей бачать, що ці компанії створюють серйозну небезпеку для суспільства.

Настільки ж спокусливо, як це може бути, щоб вказати на кнопку «вимкнено», але це непросте рішення. Технологічні гіганти стали частиною щоденного життя для сотень мільйонів людей. Висловлюючи думку про те, що люди просто кидають палити, це просто, але не усвідомлює, наскільки багато людей стали на цих платформах - і наскільки вони можуть відчувати себе в пастці, коли ситуація стає все більш нестерпною.

Як результат, люди купують книги про те, наскільки погано Amazon - замовляючи їх на Amazon. Вони здійснюють пошук Google за статтями про те, скільки інформації Google знає про кожного окремого користувача. Вони повідомляють про те, наскільки вони ненавидять Twitter і публікують у Facebook статті про останній скандал у Facebook.

Технологічні компанії можуть опинитися під владою все більш ускладненої бази користувачів, оскільки їхні платформи поширювали невдоволення все більше і більше, ніж це можливо в минулому. Або вони можуть вирішити кардинально змінити себе, розірвати себе, перетворити певний контроль на демократичні рішення своїх користувачів і взяти на себе відповідальність за шкоду, яку їхні платформи та продукти зробили світові. Поки що, однак, здається, що промисловість не вийшла за межі пропонованих виправдань, продовжуючи продовжувати займатися бізнесом як завжди. Сподіваюся, що це зміниться. Але якщо минуле є будь-яким керівництвом, це, ймовірно, не буде.

Ця стаття спочатку була опублікована на The Conversation Zachary Loeb. Читайте оригінальну статтю тут.