Мускус, Возняк, Хокінг, Інші генії протистоять автономному зброї

Впродовж десятиліть АК-47 була вбивчою машиною вибору в багатьох пильних куточках світу, оскільки вона дешева, довговічна і повсюдна. Ті ж самі фактори, стверджують підписанти відкритого листа, випущеного в понеділок від Інституту майбутнього життя, є причиною того, що автономне озброєння загрожує небезпекою. Але те, що відокремлює озброєння штучного інтелекту від Калашникова, полягає в тому, що автономна машина може «вибирати і залучати цілі без втручання людини» - що, в неправильних руках, може здійснювати злочини, набагато більші, ніж будь-яка нерозрахункова гвинтівка.

Сторони, які підписали контракт, вирішили для них роботу. Як люди, ми в цілому набагато краще реагуємо, ніж мислимо. Великі гравці не поспішають знижувати нашу ядерну зброю (і побудова автономних безпілотних літальних апаратів, на думку експертів, вимагатиме частки механізмів, які йдуть на створення ядерної ядерної зброї); в інших місцях наземні міни досі ведуть десятки років бою. Коли технологія стояла на шляху до революції у війні - будь то порох або морські дредноути або збагачений уран - майже ніколи ні була гонка озброєнь.

FLI робить відмінність між дронами, які ми зараз маємо, що дистанційно керовані людськими руками, і робот включений і залишив свої власні кровопролитні пристрої. Створення останнього призвело б до глобальної гонки озброєнь АІ, про що FLI стверджує, і як показує історія Калашникова, не закінчиться добре:

Це буде лише питанням часу, поки вони з'являться на чорному ринку і в руках терористів, диктаторів, які бажають краще контролювати своє населення, воєначальників, які бажають здійснити етнічні чистки, і т.д. Автономне зброя ідеально підходить для таких завдань, як вбивства, дестабілізація народів, підкоривши населення і вибірково вбиваючи конкретну етнічну групу. Тому ми вважаємо, що гонка озброєнь військового АІ не буде корисною для людства. Існує багато способів, якими ІІ може зробити поле бою безпечнішим для людей, особливо цивільних, без створення нових інструментів для вбивства людей.

Це якесь важке лайно. Та імена, що стоять за цим попередженням, не є вашою системою Skynet - вони є творцями, інженерами, вченими і філософами, які допомогли сформувати те, як наша технологія виглядає сьогодні. До складу таких назв входять: Стів Возняк від Apple, Яан Таллінн з Skype, фізик Гарвардського університету Ліза Рендалл, хто є дослідниками та роботодавцями АІ - у тому числі Стюарт Рассел, Барбара Дж., Стівен Хокінг.

Останнім часом Хокінг трохи пом'якшив песимістичний нахил, а також повторив свої прогнози про небезпеку зустрічі з позаземним життям. Він також буде відповідати на питання про цей лист і майбутнє технології на Reddit на цьому тижні - ми не зможемо контролювати ворожі інопланетяни, але ми можемо покласти “відповідальність на вчених на передній план цієї технології, щоб зберегти людський фактор. фронт і центр їх інновацій ».

Ви також можете додати своє ім'я до листа.