OpenAI компанії Elon Musk може бути м'язовим для безпечного дослідження штучного інтелекту

Протягом вихідних Елон Маск, Сем Альтман та інші силиконові долини несподівано оголосили про запуск OpenAI, неприбуткової компанії, яка описує свою мету як: «просунути цифрову розвідку таким чином, який, швидше за все, принесе користь людству в цілому, необмеженою необхідністю отримати фінансову віддачу ».

«Оскільки наші дослідження вільні від фінансових зобов'язань, ми можемо краще зосередитися на позитивному впливі на людину. Ми вважаємо, що А.І. повинна бути продовженням індивідуальної волі людини і, у дусі свободи, якомога ширше і рівномірніше.

Існує два основних висновки з цього оголошення. Перший полягає в тому, що Musk і компанія бачать A.I. дослідження в даний час як занадто вузько орієнтовані на досягнення короткострокової практичної цінності, і вони хочуть допомогти просунути зусилля, які приймають більш широкий, комплексний підхід до розробки А.І. систем. Другий, більш завуальований винос - це те, що Муск все ще стурбований потенціалом А.І. Мускус раніше називався А.І. “Наша найбільша екзистенційна загроза” і запропонував, що регуляторний нагляд може бути необхідним для запобігання потенційним небезпекам. OpenAI може бути способом забезпечення такого контролю без потреби у федеральному сторожі.

Що роблять Мускус і його колеги, що відрізняється від того, що робили інші. Адже відкрите джерело А.І. нічого нового. Google зробив свій власний A.I. програмне забезпечення з відкритим вихідним кодом минулого місяця, і це стало досить стандартною процедурою. Але з наділенням $ 1 млрд. OpenAI вже є однією з найбільших організацій, що працюють над A.I. дослідження, і досить легко найбільша некомерційна. Його мета полягає в тому, щоб зробити його результати публічно доступними і всі його патенти безоплатно. Вони мають моркву і палицю, і вони мають намір використовувати його, щоб керувати промисловістю.

Ідея полягає у використанні OpenAI як свого роду противаги великим корпораціям, приватним дослідницьким лабораторіям, і навіть урядам країн світу, які мають неймовірні суми грошей і ресурсів, щоб вилити їх у власні A.I. дослідження, які не можуть бути присвячені дружнім цілям, а можуть призвести до технологій, що мають нечесні застосування. Дослідники, що працюють з OpenAI, в основному переслідуватимуть «дружній» A.I., без тиску, щоб показати негайні результати. Можна приділяти більше уваги безпеці та особливостям дизайну, які приватний бізнес може схиляти до ігнорування. Там не буде білої вежі, де лише декілька вибраних контролюватимуть шлях до A.I. розвитку. Це буде бажаний світ для всіх.

В інтерв'ю с Задній канал Мускус також підкреслює бажання зробити широкий спектр А.І. систем. “Ми хочемо А.І. бути широко поширеним, - говорить він. "Ми вважаємо, напевно, багато добре."

Це важливо, тому що він переходить до можливо головної причини Муска та Альтмана, які хочуть демократизувати А.І. Вони вважають найкращий вид А.І. - та, що позитивно вплине на людство, не створюючи роботів-господарів, - це вид, який виступає як "розширення індивідуальної людської волі", як каже Мускус. Він продовжує говорити:

“Як в А.І. розширення самого себе, так що кожна людина по суті є симбіотичною з AI, на відміну від AI - великого центрального інтелекту, який є іншим. Якщо ви думаєте про те, як ви використовуєте, скажімо, програми в Інтернеті, ви отримали свою електронну пошту, і ви отримали соціальні медіа та програми на телефонах - вони фактично роблять вас надлюдськими, і ви не думаєте про них як Будучи іншим, ви думаєте про них як про продовження себе. Отже, в тій мірі, в якій ми можемо керувати AI в цьому напрямку, ми хочемо зробити це. І ми знайшли декількох інженерів і дослідників з однодумців, які відчувають себе так само.

В основному, бачення OpenAI для A.I. дослідження - це децентралізована спільнота, яка допомагає з'єднати людей один з одним і з самим світом.

Муск ще не окреслив, як вони перешкоджатимуть дослідженню в рамках самої OpenAI - або перепрофільовані зовнішніми групами - йти в небезпечному напрямку. І тут є щось інше, що заслуговує на увагу: системи з відкритим вихідним кодом мають сенс лише тоді, коли дані, які використовуються для побудови алгоритмів машинного навчання, вільно використовуються. Інтелектуальна система повинна вчитися як бути розумним, і для цього він повинен навчатися на основі даних і досвіду. Це як будівництво дамби - вам потрібні як креслення (алгоритм), так і будівельні матеріали (дані) для того, щоб зробити щось, що зупинить воду.

Ось чому люди все ще обмежені в тому, що вони можуть робити з Google TensorFlow - вони ще не мають даних Google. І якщо співпраця, побудована з OpenAI, не дозволить вільний доступ до тих самих даних, з якими працюють внутрішні дослідники, то бачення Муска не обов'язково буде реалізовано - або, принаймні, не так, як він його пропагує.

Муск, Альтман і інші засновники OpenAI почали те, що матиме величезний вплив на зростання A.I. звідси далі. У той же час, вони повинні бути відвертими у своєму прагненні розвивати дослідницьке співтовариство з відкритим вихідним кодом, що означає бути громадськістю щодо своїх планів для неприбуткової компанії і бути готовими до обміну даними. В іншому випадку OpenAI не буде сильно відрізнятися від компаній, з якими вона була створена.