Як Новий центр UC Berkeley може запобігти A.I. Апокаліпсис

Каліфорнійський університет Берклі тільки що додав свою назву до зростаючого списку авторитетних установ, що працюють над тим, щоб запобігти злому штучному інтелекту руйнувати людство. Новий Центр штучного інтелекту, сумісний з людиною, оголошений у понеділок, має на меті забезпечити, щоб A.I. залишається корисним, а також виключає А.І. апокаліпсис.

Власний A.I. Берклі Експерт, професор Стюарт Рассел, очолює підприємство. Проект «Відкрита філантропія» надав Центру грант на 5,5 млн. Дол., А також інші. Кілька інших експертів з Берклі, Корнельського університету та Мічиганського університету будуть виконувати функції спів-головних дослідників.

Про це сказав професор Корнелла Барт Селман Обернено про Центр, A.I.s, що ми слід побоювання, і чому світ, ймовірно, не попрямував до пекла в ручній розетці - поки що.

Що ви сподіваєтеся досягти з Центром з сумісності з людиною A.I.?

Ці центри є відносно новим розвитком. Люди роблять інвестиції - Інститут майбутнього життя, наприклад, має інвестиції від Елона Маска, з Тесли - для вирішення питань, що стосуються майбутнього життя, і можливих загроз майбутньому життя і суспільства. Новий центр в Берклі - ще один приклад такого інституту.

Вона надихається зміною ролі штучного інтелекту та обчислень у нашому суспільстві. Ці технології переходять в наше суспільство і вплинуть на нас. Ці інститути повинні об'єднати дослідників для вивчення можливих негативних наслідків, або про те, як переконатися в відсутності негативних наслідків.

Сама назва Центру передбачає, що А.І. і людство невід'ємно несумісне. Це ваш погляд?

Це перша реакція людей, що ці речі можуть бути несумісними. Ми дійсно віримо, що з належними запобіжними заходами та відповідними керівними принципами та дослідженнями ми можемо дійсно вирівняти інтереси та переконатися, що ці технології є корисними. A.I. технологія має величезні позитивні сторони, і метою суспільства є переконатися, що ми залишаємося на позитивних сторонах. Дослідники інституту вважають, що це можливо.

Якби ви могли б прийняти перспективу судді, як би виглядав найбільш вірогідний сценарій кінця кінця світу, який викликав А.И.

Очевидним ризиком буде військовий розвиток штучного інтелекту, який може призвести до гонки озброєнь А. І. між країнами: автономне озброєння, автономні безпілотні літаки, які слідують своїм власним командам, розробленим різними країнами, які ворожі один до одного. Це найбільш конкретний ризик, який я бачу. Думаю, А.І. розроблені для самостійного водіння автомобілів, наприклад - для регулярних ролей в суспільстві - буде дуже корисним. Але військовий аспект є тривожним компонентом.

Чи це вже важка битва?

Країни фактично розглядають це питання. У певному сенсі це важка битва: військові просуваються до розвитку А.І. технології. Але були домовленості - наприклад, біологічна зброя - це, мабуть, найвідоміший випадок, коли країни на певному етапі вирішили, що це принесе користь усім країнам ні розвивати біологічну зброю у великих масштабах. Ми сподіваємося, що країни зрозуміють, що негативна сторона для всіх є занадто великою, щоб перейти до всебічної А.І. гонка озброєнь.

Якщо обидві сторони розроблять цю технологію, ніхто не попереду.

Чи є ще щось, що я повинен знати про Центр, або про злочинну А.І. загалом?

Важливо дати позитивну сторону. Легко підкреслити ризики - і, звичайно, це частково тому, що ці центри створені - але також важливо зазначити, що багато дослідників вважають, що цей ризик є керованим, і що переваги будуть величезними.

Ви вже дали перспективу кінця світу. Які потенційні позитивні результати використання A.I. про що ви дуже раді?

Позитивні сторони будуть суспільством, де нам допомагає ця технологія. Синхронні мовні переклади - між китайською та англійською, наприклад, - де люди можуть просто спілкуватися, як ніби вони говорять рідною мовою, один з одним у всьому світі. Догляд за літніми людьми: Люди можуть залишатися стільки, скільки вони хочуть у своєму будинку, тому що у них є робот-помічник, який допомагає їм жити самостійно.

Це, мабуть, матиме дуже сильний вплив на життя в цілому - що стосується зайнятості, і що ми визначаємо пріоритети.

Так. Дебати щодо зайнятості є своєрідною дискусією. Буде достатньо ресурсів для підтримки всіх, тому є питання про те, як ми гарантуємо, що всім буде вигідно ці зміни. Відбудеться повторна реалізація того, що означає працювати, яка робота люди будуть робити. Але в принципі, люди матимуть більше свободи і більше часу для того, щоб робити діяльність, яку вони люблять робити, тому що машини допомагатимуть з багатьма іншими, більш земними, роботи речі типу. Це займе деякий час, але ми вважаємо, що суспільство адаптується і повільно включить ці зміни.

Це інтерв'ю було відредаговано для ясності та стислості.